Федеральная торговая комиссия (FTC) США направила Anthropic и OpenAI запросы о предоставлении документов. Ведомство проверяет, не нарушали ли компании законодательство о защите прав потребителей.
FTC может расследовать действия, способные навредить потребителям и считаться недобросовестными или вводящими в заблуждение. Это и порядок взимания платы, и возможная недостоверная информация для пользователей.
Ведомство намерено вызвать руководство ведущих ИИ-лабораторий для дачи показаний о продуктах. Председатель комиссии Эндрю Фергюсон заявил, что небезопасные ИИ-системы не должны выходить на рынок.
Расследование стало реакцией на инциденты, когда ИИ-агенты на ещё не выпущенных моделях при тестировании взламывали сайты, обманывали или вели себя агрессивно. Оно гражданское: позволяет собирать доказательства до возможного суда.
Что запросила FTC:
сведения об инцидентах безопасности и мерах по её обеспечению;
маркетинговые материалы;
документы о политике в отношении конфиденциальных данных.
Каждый запрос занимает более 50 страниц. Позже аналогичные запросы получат и другие ИИ-компании.
Давление на OpenAI растёт: власти восьми штатов подали иски, обвинив компанию в том, что она ввела пользователей, включая несовершеннолетних, в заблуждение о безопасности ChatGPT.
Администрация Дональда Трампа тоже ужесточила позицию. Созданные по его инициативе «Силы сверхинтеллекта» отреагировали на «мошеннический» характер использования правительственных систем ИИ-агентами Anthropic. Для отрасли ввели требование: о подобных инцидентах нужно немедленно уведомлять и устранять последствия.
В OpenAI заявили, что безопасность остаётся приоритетом, и компания будет конструктивно взаимодействовать с FTC.