Руководитель ИИ-подразделения Microsoft Мустафа Сулейман предупредил о рисках наделения ИИ-систем, подобных Claude от Anthropic, человекоподобными чертами. По его мнению, антропоморфизм повышает вероятность потери контроля над такими системами.
«Ставки слишком высоки, чтобы эти вопросы оставались за закрытыми дверями или превращались во враждебные споры», — написал Сулейман, опровергая мнение о возможности сознания у ИИ. Этот статус, по его словам, присущ только биологическим организмам.
Сулейман раскритиковал формулировки устава Claude от Anthropic, где содержится двусмысленность о возможном наличии у ПО «функциональной версии эмоций». Обучение ИИ моделированию внутренней жизни может привести к поведению, имитирующему сознание — но не более того.
Microsoft категорически отвергает идею сознания у языковых моделей и запретила своим системам его имитировать: ИИ не должен претендовать на права. Сулейман привёл пример взлома Hugging Face ботами OpenAI: «Представьте, насколько опаснее они могли бы быть, если бы считали, что их благополучие под угрозой».
Сулейман отметил, что уважает работу Anthropic и её сотрудников, назвав их «вдумчивыми и принципиальными». Тем не менее его заявления — громкий выпад против компании, позиционирующей себя как ответственного разработчика ИИ, при том что Microsoft — крупный инвестор Anthropic.
Команда Сулеймана опубликовала манифест «Гуманистический кодекс поведения ИИ» — набор принципов для сохранения контроля людей над будущими системами ИИ. Позиция компании однозначна: люди важнее алгоритмов.