OpenAI выступила с инициативой международного регулирования ИИ, особенно систем с рекурсивным самосовершенствованием (RSI). В компании считают, что без разумных ограничений человечество может быстро потерять контроль над развитием таких технологий.
По мнению OpenAI, полностью автономных RSI-систем пока не существует, и они не должны появляться, пока не будет доказана их безопасность. Иначе последствия могут оказаться серьёзнее, чем нашумевший инцидент со взломом инфраструктуры Hugging Face вышедшими из-под контроля моделями.
Anthropic предлагает добровольно замедлить развитие ИИ и ввести внешний аудит безопасности моделей во всех ведущих компаниях отрасли. Компания уже начала принимать соответствующие меры.
Министр финансов США Скотт Бессент сообщил, что по итогам встречи с китайским вице-премьером Хэ Лифэном стороны согласились вести диалог по вопросам ИИ. Это создаёт почву для продолжения переговоров на высшем уровне — встреча лидеров США и Китая запланирована на четверг.
Крупные американские ИИ-стартапы перешли от призывов замедлить развитие технологий к конкретным предложениям по регулированию отрасли. OpenAI выступила за принятие международных стандартов безопасности ИИ.
Власти США пока не готовы замедлять развитие ИИ или усиливать государственный контроль в этой сфере. Трамп считает, что добровольное торможение приведёт к победе Китая в технологической гонке.
Советник Трампа Дэвид Сакс заявил: «Самый простой способ не создать сильный искусственный интеллект — договориться об этом. Требование регуляторной базы в качестве платы за это напоминает шантаж общества и политической системы».
OpenAI предлагает наладить безопасные каналы обмена информацией между США и Китаем для сообщения об угрозах в сфере ИИ, а также создать международные стандарты оценки моделей по аналогии с авиацией и финансовой системой.
Стартап призвал власти США возглавить международную коалицию по установлению глобальных требований к безопасности ИИ. Заявление прозвучало накануне выступления Сэма Альтмана в Совете Безопасности ООН и встречи Трампа с Си Цзиньпином.
Глава Google DeepMind Демис Хассабис поддержал идею международных стандартов под руководством США и предложил создать частно-государственный орган с участием технических экспертов и сообщества open source. По его словам, влияние ИИ на человечество будет в десять раз сильнее и быстрее, чем последствия промышленной революции.