OpenAI объявила о готовности предоставлять сторонним аудиторам доступ к своим ИИ-моделям на более ранних этапах разработки, чем это было принято раньше. Ранее внешних специалистов приглашали ближе к моменту выпуска моделей, теперь проверки коснутся этапов обучения и оценки возможностей.
По словам Ламы Ахмад, отвечающей в OpenAI за взаимодействие с внешними аудиторами, компания хочет уделять внимание высоким рискам не только на стадии развёртывания, но и раньше. Аудиторам обещан доступ в офисы компании для анализа чувствительных данных.
OpenAI сейчас отбирает подрядчиков для этой работы — среди кандидатов есть как новые имена, так и уже знакомые компании специалисты, в том числе участвовавшие в расследовании инцидента с Hugging Face.
Компания также предложила создавать международные организации для контроля безопасности ИИ-моделей и призвала власти США способствовать появлению общих стандартов в этой сфере. По данным Bloomberg, аудит может проводиться на этапах обучения, оценки возможностей и публичного распространения моделей.
При этом OpenAI настаивает: аудит должен быть независимым, добросовестным и доскональным, а аудиторы обязаны нести ответственность за результаты своей работы.
Ранее похожую инициативу выдвинула конкурирующая Anthropic, предложив сделать разработку ИИ более открытой для внешних экспертов, способных указывать на угрозы ещё до выхода моделей на рынок. Компания уже пригласила Accenture для проведения собственного аудита.
Руководители Anthropic и OpenAI в середине месяца проявили редкое единодушие, заявив о необходимости снижения темпов развития ИИ ради общественной безопасности.