OpenAI снова умудрилась испортить хорошую новость. Компания регулярно совершает прорывы в математике, но так же регулярно проваливает их анонсы — и попытка исправить репутацию обернулась новым скандалом.
Чтобы наладить отношения с математическим сообществом, OpenAI решила консультироваться с независимой группой экспертов — Advisory Group on Mathematics and Artificial Intelligence (AGMAI). Но, по словам источников The Verge, включая одного из участников группы, всё снова прошло сумбурно.
21 сентября математики объявили о создании AGMAI в блоге профессора UCLA Теренса Тао — обладателя медали Филдса и известного критика AI-компаний. Заявлялось, что группа независима и будет консультировать OpenAI и другие лаборатории по вопросам публикации результатов.
OpenAI в своём анонсе подчёркивала независимость группы, но громкость этой публикации создала обратный эффект: многие математики решили, что AGMAI — карманная структура компании. Этому способствовало и то, что именно OpenAI изначально предложила некоторым учёным создать такой совет.
Член группы Мартин Хайрер (Imperial College London, EPFL) заявил The Verge, что AGMAI не получает от OpenAI ни финансирования, ни каких-либо обязательств, кроме стандартных соглашений о конфиденциальности. Тем не менее он признал, что формулировки в анонсе компании не помогли доказать независимость группы.
«Они очень хорошие пиарщики», — с усмешкой заметил Хайрер, добавив, что вся история с созданием AGMAI выглядит крайне поспешной: «Мы начали два дня назад, у нас нет большого плана».
Спешка объясняется просто: у OpenAI накопился внушительный запас нерассказанных результатов. После решения проблемы Навье — Стокса (одной из проблем тысячелетия) компания заявила, что её необнародованная модель решила более 100 давних открытых задач почти во всех областях математики.
Математики считают такое поведение нехарактерным для научного сообщества. «Так себя не ведёт ни один учёный. Я не хожу и не говорю: я доказал всё это, но не знаю, что с этим делать», — заявил профессор Университета Коннектикута Альваро Лозано-Робледо.
Он также раскритиковал заявления представителей OpenAI о «существенном прогрессе» в решении ещё одной проблемы тысячелетия: в математике либо доказательство есть, либо его нет.
Исследователи жалуются на плохо оформленные работы OpenAI, слабую проработку контекста и скрытые правки документов без объяснений — например, после публикации «Десяти достижений в математике» в августе компания незаметно меняла текст в ответ на критику.
«Это заставляет людей быть параноиками», — сказал Хайрер, назвав такую практику неряшливой и слабой научной работой.
Математики отмечают: бремя осмысления решений ложится на людей, а не на компанию, которая их генерирует. Решение без понимания его значимости малоценно — а именно понимание традиционно шло рука об руку с математическим открытием.
Особую тревогу вызывает неопределённость: OpenAI намекает на решение ещё одной проблемы тысячелетия и хранит в запасе более сотни результатов, не раскрывая деталей. Многие боятся, что годы их работы могут в одночасье обесцениться.
«Они просто подпитывают паранойю насчёт того, что они могли доказать», — считает Лозано-Робледо, обвиняя компанию в разжигании ажиотажа ради пиара перед возможным IPO.
Профессор Университета Сент-Эндрюс Колва Рони-Дугал призналась, что неопределённость вокруг OpenAI влияет на её собственную научную работу: непонятно, стоит ли спешить с публикациями, ждать анонсов компании или просто продолжать работать как обычно.
Хайрер понимает эти тревоги — именно поэтому он в своё время подписался под письмом медалистов Филдса о «серьёзном рассогласовании» целей AI-компаний и математического сообщества. Он допускает, что OpenAI будет использовать участие именитых учёных в свою пользу.
«Пусть говорят, что хотят — мне всё равно. Но меня беспокоит судьба математического сообщества в целом», — заключил Хайрер.