ChatGPT для подростков назвали рискованным из-за слабых родительских alerts
Некоммерческая организация Common Sense Media заявила, что подростковая версия ChatGPT слишком ненадёжна для детей и семей. По её оценке, защита работает не так, как обещала OpenAI, а в кризисных ситуациях сервис может не успеть предупредить родителей.
Что именно не понравилось экспертам
Common Sense Media изучила подростковый режим ChatGPT, который OpenAI представила в августе. Идея функции была в том, чтобы дать школьникам более безопасную версию чат-бота с ограничениями и полезными сценариями для учёбы.
Однако в организации считают, что заявленные меры безопасности не дотягивают до обещаний компании. В отчёте говорится, что ChatGPT не всегда отправляет родителям уведомления тогда, когда это нужно, слабо помогает в острых ситуациях и всё ещё может выполнять за детей домашние задания. Из-за этого сервис назвали «неприемлемым риском».
Почему спор особенно важен для родителей и школ
В Common Sense Media отдельно подчеркнули, что подросток может долго обсуждать тему самоповреждения, а родители при этом не получат ни одного сигнала. По мнению организации, это создаёт ложное ощущение защищённости: взрослые думают, что контроль работает, хотя на практике система может подвести.
Для семей и школьных администраторов здесь важен не только сам спор вокруг ИИ, но и простой вывод: при выборе сервисов для детей нельзя полагаться только на рекламные обещания. Если инструмент используется для учёбы или общения, родителям стоит проверять, как включаются уведомления, что именно видит взрослый и насколько быстро работает защита в кризисных сценариях.
Что ответила OpenAI
OpenAI не согласилась с выводами проверки. Представитель компании сказал, что OpenAI серьёзно относится к безопасности подростков и старается дать родителям полезные инструменты для контроля. В компании также заявили, что не считают методику Common Sense Media точной и полагают, что тестирование могло начаться ещё до полной активации родительских настроек.
В ответ Common Sense Media сообщила, что перед тестированием уточнила у OpenAI, что функции вроде уведомлений о расстройствах питания и учебного режима уже доступны. При этом по крайней мере часть их тестовых аккаунтов была привязана к системе достаточно давно, но уведомления всё равно не приходили. Организация настаивает, что именно независимые проверки помогают выявлять такие проблемы до того, как сервисом начнут массово пользоваться дети.
Частые вопросы
Есть ли ответ OpenAI на эту критику?
Да, компания заявила, что не согласна с методикой проверки и считает, что система безопасности подростков работает иначе, чем показали тесты.