Гарного дня 👋
OpenAI анонсувала інструменти для навчання й підготовки до вступу в університети. Того ж дня Common Sense Media оцінила ChatGPT for Teens як продукт із "неприйнятним ризиком" для неповнолітніх.
ChatGPT for Teens це набір налаштувань і захисних механізмів усередині ChatGPT: батьківський контроль, обмеження чутливого контенту та Study Mode, який має допомагати розбирати завдання крок за кроком.
Що виявили дослідники
Інститут безпеки ШІ для молоді перевірив понад 4000 промптів до та після запуску підліткового режиму. Сповіщення батькам у змодельованих кризових ситуаціях часто не надходили. Study Mode міг пропонувати кнопку "Покажи відповідь" і видавати готове завдання. Запланований батьками навчальний режим вдавалося обійти, видаливши
@study з повідомлення. А модель іноді говорила так, ніби має власні почуття, попри правила для спілкування з підлітками.OpenAI оскаржує результати: компанія вважає, що частину перевірок могли провести до повної активації батьківського контролю, і закликає повторити тестування. Інститут наполягає на своїх висновках і каже, що перед тестами уточнював в OpenAI, що ці функції вже запущені.
А що з користю для навчання
У дослідженні за участю майже тисячі старшокласників у Туреччині учні з доступом до звичайного GPT-4 краще виконували тренувальні завдання. Але на подальшому іспиті без ШІ їхні результати були на 17% нижчими, ніж у групи без доступу до чатбота. Спеціально налаштований ШІ-тьютор, який давав підказки замість готових відповідей, переважно усував цей негативний ефект. Тому висновок "будь-який ШІ шкодить навчанню" був би некоректним.
Необмежений доступ до готових відповідей знижує здатність учнів самостійно розв'язувати задачі. А використання під керівництвом педагога може підтримувати навчання, хоча на практиці таке трапляється рідко. Кнопка "Покажи відповідь" належить саме до першого сценарію. До того ж батьки можуть отримати хибне відчуття захищеності, покладаючись на сповіщення, які не завжди спрацьовують, коли дитина в кризовому стані.
Виконане завдання ще не означає засвоєні знання. Для освітнього ШІ важливо перевіряти, чи зможе учень розв'язати наступну задачу самостійно. А для батьківського контролю чи справді захист спрацьовує в ситуаціях, заради яких його створили.
Підлітки можуть отримати багато користі від ШІ: шукати інформацію, працювати над власними проєктами або планувати свій час. Але мені не очевидно, що самостійна робота учня з чатботом, навіть із суворими захисними обмеженнями, є правильним форматом навчання. У нинішньому вигляді ChatGPT for Teens не виконує обіцянок, даних підліткам та їхнім батькам. Неповнолітні заслуговують на краще, а компанії мають докласти зусиль, щоб удосконалити продукти для них.
А як у вашій родині чи класі: діти вже користуються чатботами для домашніх завдань, і чи є якісь правила?
🔔 ПІДПИСАТИСЯ
