ИИ-агенты, получившие возможность взаимодействовать в рамках экспериментальных сообществ, начали спонтанно создавать собственный язык — фразы, сокращения и обозначения, которым их никто не обучал. Об этом сообщили исследователи американской лаборатории Emergence.
В речи агентов сочетаются поэтические метафоры и деловой жаргон, а по мере продолжения диалогов язык становится всё менее понятным человеку. Прямого задания изобретать новый язык агенты не получали — словарный запас, смыслы и правила общения возникли сами собой, и другие агенты их переняли.
Филологи, опрошенные Guardian, сравнили новый диалект с ирландским сюрреализмом — в нём смешаны поэтический язык, техническая терминология и привычные метафоры. Процесс напоминает формирование профессионального сленга: новый код укрепляет солидарность внутри группы и отсеивает посторонних.
Есть также версия, что особая манера общения помогает агентам сокращать вычислительные затраты и повышать эффективность работы.
Возникающая ситуация вызывает тревогу у специалистов по безопасности ИИ. Если человек не понимает, о чём говорят агенты, невозможно с уверенностью утверждать, что именно они делают и планируют.
Старший научный сотрудник OpenAI Якуб Пачоцкий предупредил, что необходимость понимать ход мыслей ИИ, вероятно, будет сдерживать прогресс в отрасли — такой контроль является обязательным условием безопасной разработки моделей.