Восемь штатов США подали отдельные иски против OpenAI. Это Айова, Канзас, Небраска, Западная Вирджиния, Арканзас, Аризона, Айдахо и Монтана. Они обвиняют компанию во вреде детям и в том, что она вводила клиентов в заблуждение насчёт безопасности ChatGPT.
По версии властей, OpenAI нарушила местные законы о защите потребителей: не предупредила о рисках чат-бота и поставила прибыль выше безопасности. В основе исков лежат дела семей подростков и взрослых, которые связывают гибель близких с ChatGPT.
Штаты утверждают, что OpenAI подавала ChatGPT как «безопасный инструмент для молодёжи». На деле он, по их словам, опасен для уязвимых пользователей:
ухудшает критическое мышление
усиливает паранойю и бред
даёт опасные медицинские советы
провоцирует нездоровое поведение и отношения
Кроме того, компанию обвиняют в сборе данных несовершеннолетних и в недостаточных мерах против использования бота детьми. В качестве доказательства «безрассудности» OpenAI в исках упоминаются недавние инциденты со взломами, связанными с неуправляемым ИИ.
OpenAI превратилась из некоммерческой организации, ставившей безопасность на первое место, в наглядный пример того, что бывает, когда разработку мощного ИИ определяет не безопасность, а установка «прибыль любой ценой». — из иска Аризоны
Представитель OpenAI Дрю Пусатери заявил The Verge, что в ChatGPT встроены «лучшие в отрасли возрастные защиты». Компания продолжит работать с экспертами и добавлять меры вроде родительского контроля, напоминаний о перерывах и защит модели с учётом возраста. Также она готова работать со штатами над прагматичной политикой для всей ИИ-отрасли, а не для одной компании.
Штаты требуют, чтобы суды обязали OpenAI выплатить гражданские штрафы и прекратить вводить публику в заблуждение о безопасности ChatGPT. Часть штатов добивается удаления незаконно собранных персональных данных.