Anthropic направила властям США черновик законопроекта о безопасности ИИ: блокировать выход передовых моделей сможет только федеральный судья по итогам независимого аудита. Об этом пишет Politico.
Порог — неизбежный ущерб не менее $1 млрд либо смерть или серьёзные увечья не менее чем у 50 человек. Риски: биологическое оружие, потеря контроля над распространением модели, кибератаки.
Аудиторов регистрирует Министерство торговли США; о неизбежном крупном риске они сообщают ему в течение 72 часов. Оплатит работу сама Anthropic, уверяя, что на результаты это не повлияет.
Министерство может добиваться запрета в суде, но вводить его вправе только федеральный судья Окружного суда США по округу Колумбия. Другие ведомства вмешиваться не должны.
Критерии рисков есть и в законе Калифорнии о регулировании ИИ, принятом в прошлом году. Ранее Anthropic публично лоббировала только региональные законы.
Ни один из зафиксированных инцидентов с ИИ не привёл к ущербу более $1 млрд или массовой гибели людей.