Бывший сотрудник Google DeepMind Билал Чугтай публично заявил об уходе из компании, объяснив это глубокой обеспокоенностью направлением развития искусственного интеллекта. По его словам, он лично наблюдал за процессом разработки ИИ и убеждён, что технология способна привести к гибели человечества.
В соцсетях X и LinkedIn Чугтай рассказал, что во время работы в Google занимался вопросами безопасности ИИ и согласованности его действий с человеческими целями. Google пока не прокомментировал заявление бывшего сотрудника.
Чугтай присоединился к растущему числу исследователей, обеспокоенных стремительным развитием несогласованных возможностей ИИ. Ранее разработчик Джейкоб Коксон, работавший в Anthropic и OpenAI, обвинил бывших работодателей в том, что они «мчатся к самосовершенствующемуся сверхразуму, играя с нашими жизнями».
Несколько дней назад гендиректор Anthropic Дарио Амодеи опубликовал эссе с призывом замедлить разработку передовых ИИ-моделей, чтобы избежать выхода технологии из-под контроля. Его поддержали Сэм Альтман из OpenAI и Илон Маск.
По словам Чугтая, у человечества остаётся всё меньше времени до момента, когда ИИ сможет нанести масштабный вред. Тем не менее он сохраняет оптимизм и считает, что безопасное развитие технологии всё ещё возможно.
Теперь Чугтай работает в некоммерческой организации BlueDot Impact, которая обучает специалистов из разных отраслей безопасному взаимодействию с искусственным интеллектом.