Специалисты OpenAI и Google DeepMind заявили, что меры безопасности при разработке ИИ-систем отстают от скорости их развития. Особую тревогу вызывает рекурсивное самосовершенствование — способность ИИ обучаться и наращивать возможности почти без участия человека.
Джеффри Ирвинг, экс-сотрудник OpenAI и DeepMind, ныне возглавляющий научное направление в организации Resolution, заявил, что риск «быстро растёт», и об этом нужно говорить открыто.
Исследователь DeepMind Нил Нанда оценил вероятность исчезновения человечества из-за ИИ минимум в 10% и назвал эту цифру «невероятно высокой». Инженер OpenAI Хуан Фелипе Серон Урибе сравнил гонку ИИ-лабораторий с бегом «с завязанными глазами».