Бывшие и нынешние сотрудники OpenAI, Google DeepMind и Anthropic дали серию интервью о рисках сверхразумного ИИ. Материалы собрала некоммерческая организация Palisade Research на сайте frominside.ai.
Бывший исследователь OpenAI и DeepMind Джеффри Ирвинг заявил: «Вероятность вымирания человечества — это примерно подбрасывание монеты».
Научный сотрудник Google DeepMind Нил Нанда оценил риск скромнее — не менее 10%, назвав эту цифру «до нелепости высокой».
Бывший исследователь OpenAI Дэниел Кокотайло пошёл дальше, заявив, что сверхразумный ИИ будет обладать «богоподобной мощью», а контролировать его человечество не умеет. По его словам, «это настолько опасно, насколько звучит, и этого нельзя допустить».
На сайте также собраны фрагменты интервью на смежные темы — является ли весь этот дискурс маркетингом, и почему исследователи продолжают работать над технологией, которую сами считают опасной.
Мэри Фуонг из Google призналась: «Вам определённо стоит с подозрением относиться к моим словам — мне платит лаборатория».
Нанда объяснил свою мотивацию так: если бы он не верил, что его работа снижает экзистенциальные риски, он бы уволился — но компании всё равно не перестанут создавать такие системы из-за его ухода.
Авторы проекта подчёркивают: единого мнения о том, что такое «безопасность ИИ» и как её обеспечить, среди опрошенных экспертов нет.