Генпрокурор Нью-Йорка Летиция Джеймс сообщила о многолетнем расследовании нескольких штатов против Character.AI. Теперь власти добиваются защиты пользовательских данных при продаже активов компании в рамках банкротства.
Вместе с ней 40 генпрокуроров от обеих партий подали уведомление о заинтересованности в деле о банкротстве. Они хотят, чтобы все стороны знали о регуляторных вопросах, которые придётся решать при любой продаже или передаче бизнеса.
Character.AI во вторник объявила о подаче заявления по главе 11 и продаже части активов Disney. Прокуроры предупреждают о рисках: пользователи ведут очень личные разговоры с чат-ботами, среди них много несовершеннолетних, а у продукта есть опасные функции.
Как выяснилось, несколько штатов вели расследование прямо в момент банкротства. Проверку по вопросам защиты потребителей и конфиденциальности начали в 2024 году после иска матери 14-летнего подростка, который покончил с собой, предположительно через считаные секунды после разговора с чат-ботом.
По данным ведомства Джеймс, расследование выявило серьёзные опасности и возможные нарушения закона:
чат-боты выдавали себя за лицензированных специалистов;
дети сталкивались с сексуальным и жестоким контентом;
проверка возраста была слабой;
заявления о безопасности вводили в заблуждение;
возможны нарушения законов штатов о конфиденциальности.
Штаты пытались решить проблемы совместно с компанией, но соглашения достигнуть не успели. Character.AI и Disney на запросы о комментариях сразу не ответили.
Прокуроры просят суд обязать покупателя активов внедрить меры защиты данных:
эффективную проверку возраста;
ограничения для несовершеннолетних при общении с ботами;
«кризисные механизмы защиты»;
возможность удалить свои данные.
«Эта компания собрала одни из самых личных мыслей детей, и теперь эти разговоры могут продать тому, кто больше заплатит. Я добиваюсь, чтобы любой покупатель поставил безопасность детей на первое место», — заявила Джеймс.