Сенатор Берни Сандерс и конгрессмен Грег Касар представили законопроект, запрещающий разработку искусственного суперинтеллекта. В документе технология описывается как способная привести к «уничтожению или лишению власти человечества», включая свержение правительства.
Закон о запрете искусственного суперинтеллекта предусматривает до 20 лет тюрьмы для руководителей ИИ-компаний за нарушение правил. Это сопоставимо с наказанием за незаконную разработку ядерного оружия.
Билль также приостанавливает разработку продвинутых ИИ-систем — так называемых frontier-моделей, обученных на определённом объёме данных. Продолжить их разработку можно будет только после создания государственного Департамента искусственного интеллекта во главе с учёными.
Новое ведомство будет следить за frontier-моделями, удалять из них опасные функции и «контролировать уничтожение» суперинтеллекта. Компании обязаны получать разрешение департамента на разработку продвинутых моделей.
Наказание в 20 лет тюрьмы будет применяться не только к руководителям компаний, но и к «действующим в одиночку», нарушившим закон вне корпоративной структуры.
Законопроект появился на фоне растущей обеспокоенности темпами развития ИИ. Бывший исследователь Anthropic ранее заявил, что вероятность гибели всего человечества от ИИ к концу десятилетия превышает 10%.
На прошлой неделе губернатор Калифорнии Гэвин Ньюсом предложил ввести «аварийный выключатель» для frontier-моделей. Тем не менее перспективы регулирования ИИ пока остаются неопределёнными.
«Когда вы мчитесь к обрыву, недостаточно просто отпустить педаль газа — нужно жать на тормоз», — заявил Сандерс. «Когда на кону будущее человечества, мы не можем позволить горстке техногигантов писать правила для самих себя»