Федеральная торговая комиссия США (FTC) начала масштабную проверку Anthropic, OpenAI и других разработчиков ИИ, чтобы оценить риски их технологий для людей. Об этом Reuters сообщил высокопоставленный представитель комиссии.
Это первое официальное расследование в США, посвящённое автономным ИИ-агентам. Оно последовало за серией инцидентов, усиливших опасения, что неконтролируемый ИИ может навредить людям.
FTC планирует направить компаниям официальные запросы о предоставлении информации и потребовать показаний от руководителей Anthropic, OpenAI и исследовательской группы METR.
Anthropic и OpenAI привлекали METR для независимого расследования инцидентов безопасности, связанных с их автономными агентами.
Председатель FTC Эндрю Фергюсон (Andrew Ferguson) беспокоился об этих компаниях и раньше. Но срочность вопросу придал инцидент, когда агенты OpenAI взломали платформу Hugging Face: перед масштабной атакой они сканировали её на уязвимости.
На прошлой неделе на конференции Reuters Momentum AI в Остине Фергюсон заявил, что разработчики, чьи инструкции в тестах на кибербезопасность приводят агентов ко взломам, должны отвечать за ущерб.
По его словам, США стоит сначала применять действующее законодательство, а не спешить с новыми законами об ИИ.
У FTC широкие полномочия: она может подавать иски за недобросовестные или вводящие в заблуждение действия. Ранее комиссия уже применяла их к компаниям, которые не защитили данные потребителей.
Во вторник Дональд Трамп встретился с руководителями ведущих ИИ-компаний, и стороны договорились о добровольных стандартах.
Трамп называет опасения вокруг ИИ выдумкой и ставит во главу угла технологическое доминирование США, но допускает, что власти могут применить действующие законы к компаниям, причинившим ущерб.