Более 100 экспертов по оценке рисков ИИ подписали открытое письмо, предупреждающее об отсутствии у них ресурсов для полноценной проверки безопасности технологий ИИ. Среди подписантов — Джеффри Хинтон, а также представители Университета Джонса Хопкинса, Стэнфорда и организации METR.
Повод для обращения — предложение главы Anthropic Дарио Амодеи предоставить независимым специалистам доступ к внутренним процедурам безопасности и отчётам об инцидентах для аудита передовых моделей.
Президент консорциума AI Assessment Forum Конрад Стош пояснил CNBC, что коалиция не продвигает конкретный метод обеспечения безопасности разработки ИИ. Цель — установить базовые принципы и повысить стандартизацию работы независимых оценщиков.
По словам Стоша, сторонние эксперты не заменяют внутренние программы компаний по оценке безопасности. Специалистов с достаточной компетентностью и масштабом для такой работы пока крайне мало.
Предложение Амодеи подразумевает куда более широкий доступ, чем был у оценщиков ранее: к компьютерам компаний, сотрудникам, конфиденциальным данным и невыпущенным системам.
Авторы письма требуют от разработчиков базовых моделей обеспечить сторонним оценщикам научную объективность, прозрачность, независимость и защиту от возможных ответных мер со стороны оцениваемых компаний.
«Мы пытаемся продемонстрировать общую позицию по основным принципам и добиться того, чтобы независимый надзор стал эффективным инструментом управления рисками ИИ», — заявил Стош.