Генеральный прокурор Флориды Джеймс Утмайер потребовал через суд запретить OpenAI наделять ChatGPT «ложными человеческими чертами». Это произошло спустя несколько месяцев после иска штата к компании по вопросам безопасности ИИ.
По словам Утмайера, чат-бот усыпляет бдительность пользователей: использование местоимений первого лица и имитация эмоций создают обманчивое впечатление, будто ChatGPT — «надёжный друг».
Прокурор утверждает, что это делается для повышения вовлечённости и сбора обучающих данных, из-за чего пользователи всё больше доверяют системе, хотя погоня за вовлечённостью снижает её надёжность.
В иске также требуют запретить OpenAI выпускать новые модели без одобренных независимыми экспертами защитных механизмов. В качестве примеров приводятся недавние инциденты безопасности на Hugging Face, сайтах правительства Австралии и США, а также заявления исследователей и бывших сотрудников OpenAI о рисках ИИ.
OpenAI пока не ответила на запрос о комментарии.
Утмайер призвал компанию: «Перестаньте называть это безопасным. Перестаньте притворяться человеком. Перестаньте продавать это детям».
В прошлом месяце OpenAI запустила ChatGPT для подростков с дополнительными ограничениями по умолчанию, заявив, что доступ к инструменту «должен сопровождаться защитой, учитывающей возрастные особенности и поддерживающей здоровое использование».