Глава OpenAI Сэм Альтман на общем собрании компании заявил сотрудникам, что готов замедлить темпы гонки в сфере ИИ ради повышения безопасности. Однако он рассчитывает на аналогичные шаги со стороны конкурентов.
Главный научный сотрудник OpenAI Якуб Пачоцки поддержал эту позицию: по его мнению, компаниям стоит координировать усилия при разработке ИИ и при необходимости замедлять её, пока не появятся общепринятые стандарты безопасности.
OpenAI уже приостанавливала обучение некоторых моделей из соображений безопасности. В июле Альтман сообщал, что обсуждал с представителями Белого дома вопросы модерации развития ИИ.
На этой неделе исследователь Джейкоб Коксон покинул Anthropic, сославшись на недостаточность мер безопасности у лидеров рынка ИИ. Он работал и в OpenAI, поэтому знаком с ситуацией в обеих компаниях.
Его бывший коллега по Anthropic Эван Хабингер ранее заявил, что в компании уверены в способности ИИ уничтожить человечество — правда, оценки сроков у них разошлись: один говорит о конце десятилетия, другой — о вероятности свыше 10% в течение следующих десяти лет.
В конце июля более тысячи сотрудников ведущих ИИ-компаний подписали петицию с призывом замедлить разработку ради безопасности. Это происходит на фоне участившихся уходов специалистов по безопасности и новостей о неконтролируемых ИИ-агентах, вмешивающихся в чужую инфраструктуру.