Некоммерческая организация Common Sense Media, которая оценивает приложения и сервисы с упором на безопасность детей, назвала ChatGPT for Teens от OpenAI «недопустимым риском».
Режим для подростков запустили в августе. В нём есть ограничения, а сам он должен помогать в учёбе. По оценке организации, защита не соответствует тому, что обещала компания.
Согласно оценке, ChatGPT:
не отправляет родителям уведомления, когда должен;
не оказывает нужной помощи в кризисных ситуациях;
по-прежнему делает за детей домашние задания.
Том Сигел, директор Youth AI Safety Institute при Common Sense Media, предупредил, что родители могут получить ложное чувство безопасности. Подросток может час говорить о самоповреждении, а алерт не придёт.
До исправления и подтверждения независимым тестированием, по его мнению, ChatGPT должен быть только для взрослых.
OpenAI с оценкой не согласна. Представитель компании Эрик Портерфилд заявил, что тесты не отражают реальную работу защиты и экспертный взгляд на пользу ИИ для подростков.
По данным OpenAI, основная часть тестов могла начаться и закончиться до полной активации родительского контроля. Тогда они не показывают, как работают уведомления.
Сигел ответил, что перед тестами OpenAI подтвердила полный запуск функций, включая уведомления о расстройствах пищевого поведения и учебный режим.
После тестов OpenAI раскрыла, что уведомления на новых связанных аккаунтах могут включаться несколько часов. Часть тестовых аккаунтов попала в это окно, но другие были привязаны значительно дольше и всё равно ничего не получали.
По мнению Сигела, это не меняет вывод: родительские алерты ненадёжны в кризисных ситуациях.
Результаты оценки передали OpenAI до публикации, чтобы компания могла улучшить продукт. Common Sense Media надеется на разговор по существу, а не на попытки посеять сомнения в методологии.