Почему OpenAI выделила подростковую версию ChatGPT
OpenAI анонсировала запуск специальной версии своего чат-бота для пользователей младше 18 лет. Решение появилось на фоне серии исков к создателям ИИ-ассистентов: истцы утверждали, что недостаточная защита привела к трагедиям и ухудшению психического здоровья несовершеннолетних. Заодно компания попыталась ответить на давнюю проблему — использование нейросетей для списывания в школах.
Напомним, что оригинальный ChatGPT вышел в конце 2022 года и к настоящему моменту привлек около 900 миллионов пользователей в неделю. При этом специальные механизмы безопасности для подростков появились только сейчас. В OpenAI уверяют, что возрастные ограничения будут включены по умолчанию в новой версии — ChatGPT for Teens — и снизят риск столкновения с вредным или нежелательным контентом. В основе этих мер лежат принципы, разработанные с учетом детской психологии и рекомендаций экспертов.
Режим обучения вместо готовых ответов
Главная новинка — функция Study Mode. Когда подросток обращается к ИИ за помощью, специальный режим вместо мгновенного ответа задает наводящие вопросы и разбивает решение на шаги. Это должно побуждать ученика разбираться в материале, а не просто копировать результаты. Если система замечает, что пользователь пытается списать, — например, просит готовое решение домашнего задания — она предлагает переключиться на пошаговый разбор. Также появятся напоминания о домашних работах и инструменты для визуализации учебного материала, включая тесты и схемы.
Вопрос, насколько легко можно обойти эти ограничения, пока остается открытым. Разработчики не раскрывают детали, но предполагается, что уклониться от предложенного режима будет непросто.
Родительский контроль и партнерства
Для родителей предусмотрены инструменты семейного доступа. С их помощью можно управлять настройками, включать уведомления о потенциально опасных ситуациях и устанавливать «тихие часы» — периоды, когда использование чат-бота ограничено. Кроме того, взрослые смогут выбирать, когда функция учебы активна по умолчанию.
В дополнение к этому OpenAI заключила партнерство с образовательным проектом CodeAI, чтобы помочь подросткам разобраться в том, как устроены нейросети, как ими управлять и как критически оценивать их ответы. Ранее компания уже запустила версию для учителей — ChatGPT for Teachers, которая позволяет школам управлять доступом к ИИ и использовать его в учебном процессе.
