Король Карл III провёл в четверг закрытый саммит с ключевыми фигурами AI-индустрии и представителями правительства Великобритании. Среди участников — глава Nvidia Дженсен Хуанг, руководители OpenAI и Anthropic, новый министр по AI Канишка Нараян и глава британской разведки. Также присутствовал советник папы римского по AI Паоло Бенанти.
Выступление короля выделялось тем, что монархия обычно избегает политически острых тем, а AI сейчас — одна из самых обсуждаемых проблем в мире. Карл III призвал участников найти способы контроля над технологией, «пока не стало слишком поздно», назвав её развитие «одновременно захватывающим и глубоко тревожным».
«AI уже демонстрирует огромный потенциал в спасении и улучшении жизни», — сказал он, приведя в пример медицину и науку. Но, по его словам, создатели технологий всё чаще предупреждают о риске появления у AI «тёмных возможностей», вплоть до угрозы жизни. Это прозвучало спустя недели после того, как исследователь Anthropic уволился, заявив, что компании AI «создают машины умнее любого человека», и человечество «может не пережить этого».
Король подчеркнул срочность оценки «экзистенциальных рисков» в случае попадания технологии в чужие руки и её использования в «потенциально катастрофических целях». «Разве нам не нужны достаточные средства контроля, пока не стало слишком поздно?» — спросил он.
Завершая речь, монарх призвал использовать пользу AI и выстраивать международное сотрудничество. Это прозвучало после того, как Anthropic ограничила доступ к моделям Fable и Mythos только для клиентов из США, что вызвало резонанс в Европе и подняло вопрос о технологическом суверенитете.
«Ваша задача — не просто развивать технологии, а обеспечить, чтобы они служили человечеству, обществу и природе», — заключил он. «Принимая новое, мы не должны терять вечное».
По данным СМИ, король пробыл на саммите около 20 минут, после чего гости продолжили обсуждение самостоятельно. OpenAI представляла финансовый директор Сара Фрейр, Anthropic — глава по глобальным связям Тино Куэльяр, поблагодаривший короля за созыв «лидеров индустрии и голосов общества для обсуждения роли AI на благо общества».
Это не первое выступление Карла III на тему AI — ранее он затрагивал эту тему в 2023 и 2024 годах. Нынешний саммит особенно актуален на фоне растущего влияния AI на все сферы жизни. В этом месяце Сэм Альтман, Илон Маск и Дарио Амодеи призвали замедлить развитие AI, но Дженсен Хуанг и президент Трамп отвергли эти призывы. «Мы лидируем перед Китаем в AI, и я хочу, чтобы так и оставалось — кто победит в AI, тот победит вообще», — заявил Трамп.
Это показывает, насколько сложным стал вопрос на пересечении интересов технологических гигантов, политики и общества. OpenAI и Anthropic весь прошлый год готовились к громким IPO, однако OpenAI недавно заявила, что её планы на этот год отложены из-за опасений по поводу безопасности AI.