Межведомственная группа «Силы суперинтеллекта» (SIF), о создании которой Дональд Трамп объявил в начале октября, провела в четверг первое заседание.
Дональд Трамп собрал в Белом доме крупнейших игроков ИИ-индустрии и объявил, что власти США больше не говорят «искусственный интеллект». Теперь это «суперинтеллект», и чиновники обязаны использовать новый термин.
Дональд Трамп подписал указ: в официальных сайтах, документах и пресс-релизах исполнительной власти США вместо «искусственного интеллекта» будет использоваться термин Super Intelligence.
Сенатор Берни Сандерс и конгрессмен Грег Касар представили законопроект, запрещающий разработку искусственного суперинтеллекта. В документе технология описывается как способная привести к «уничтожению или лишению власти человечества», включая свержение правительства.
Microsoft опубликовала 37-страничный «гуманистический кодекс поведения ИИ» на фоне растущих опасений о безопасности развития моделей. Глава Anthropic Дарио Амодей на выходных призвал скоординированно замедлить развитие ИИ после предупреждений исследователей о рисках потери контроля над сложными системами.
AI-компании давно говорят о суперинтеллекте как о неизбежности. Но недавние инциденты, например, взлом Hugging Face со стороны OpenAI, показывают реальные риски развёртывания систем, которые превосходят человека по возможностям.
Старший исследователь безопасности Anthropic заявил, что вероятность гибели всего человечества от искусственного интеллекта к концу десятилетия превышает 10%. Заявление прозвучало спустя несколько часов после того, как его коллега покинул компанию из-за опасений по поводу безрассудной гонки за созданием неконтролируемых сверхразумных систем.
Глава Microsoft AI Мустафа Сулейман рассказал о перестройке отношений с OpenAI и создании собственных моделей. Компания стремится к независимости в разработке суперинтеллекта, чтобы не зависеть от сторонних технологий.