Пока президент Трамп готовится к встрече с CEO технологических и AI-компаний в Вашингтоне, конгрессмен Ро Ханна (демократ, Калифорния) призывает заключить договор между США и Китаем, чтобы не допустить бесконтрольного развития ИИ.
Ханна, ведущий демократ в комитете Палаты представителей по Китаю, направил письма директору национальной разведки США и китайским AI-компаниям — DeepSeek, Alibaba и Moonshot AI. Он спрашивает, готовы ли они к инциденту вроде летнего взлома Hugging Face агентами OpenAI.
«Интересы США и Китая расходятся по многим вопросам, но в этом конкретном случае человечеству невыгодно терять контроль над своей судьбой», — пишет Ханна директору Национальной разведки Джею Клейтону.
Он просит разведку оценить, насколько эффективно США смогут отреагировать, если AI-лаборатория потеряет контроль над своими системами — сценарий, который в последние месяцы становится всё более распространённым. Также он просит оценить подход китайского правительства к катастрофическим рискам ИИ.
В письмах китайским компаниям Ханна запрашивает документацию об их усилиях по достижению «суперинтеллекта» и рекурсивного самоулучшения (RSI) — этапа, когда ИИ-системы способны совершенствовать сами себя. Он также спрашивает о механизмах защиты, «аварийных выключателях» и готовности к внешним проверкам в случае заключения договора.
Шаг Ханны последовал за встречей председателя КНР Си Цзиньпина и Трампа в Белом доме на прошлой неделе. По его словам, оба лидера не осознают риски и срочность проблемы ИИ. Он также скептически относится к запланированной встрече Белого дома со спикером Палаты представителей Майком Джонсоном и техническими CEO, называя её «пиар-акцией».
«Почему мы должны доверять компаниям, которые заинтересованы в максимизации прибыли, устанавливать правила безопасности? Доверили бы вы фармацевтическим компаниям определять, какие лекарства безопасны?» — спрашивает Ханна.
В конечном счёте Ханна добивается договора между США и Китаем о запрете RSI и мониторинге передовых AI-лабораторий, но признаёт, что это маловероятно в ближайшее время. Сенатор Берни Сандерс также призывал к подобному соглашению, тогда как республиканцы скептичны насчёт готовности Китая соблюдать договорённости.
Трамп и его союзники в целом сопротивляются регулированию. Накануне встречи с Си он написал в Truth Social, что тема суперинтеллекта останется «как есть» — и что это также позиция Китая. При этом ведущие американские AI-компании сами призывали США координироваться с Китаем, чтобы замедлить темпы развития технологий.
Ханна признаёт, что китайские компании вряд ли ответят на его письмо полностью — ранее они проигнорировали похожий запрос вместе с OpenAI и Anthropic. Его цель — «пристыдить» их и вызвать дискуссию о безопасности ИИ в Китае.
«Нужно, чтобы дебаты вели технологи и инженеры, которые понимают суть проблемы, а не CEO с финансовой заинтересованностью и не политики без технической экспертизы», — заключает Ханна.