iFixAi — это инструмент для аудита ИИ-агентов, который проверяет не только технические метрики вроде задержки, расхода токенов и устойчивости к prompt injection. Главный вопрос другой: выполняет ли агент свою работу с учётом бизнес-KPI и структуры организации?
Ответ инструмент обещает меньше чем за 120 секунд. Он сочетает AI red teaming и операционную гарантию качества, то есть объединяет состязательную глубину и дисциплину проверки в одном процессе аудита.
OpenAI объявила о готовности предоставлять сторонним аудиторам доступ к своим ИИ-моделям на более ранних этапах разработки, чем это было принято раньше. Ранее внешних специалистов приглашали ближе к моменту выпуска моделей, теперь проверки коснутся этапов обучения и оценки возможностей.
Более 100 экспертов по оценке рисков ИИ подписали открытое письмо, предупреждающее об отсутствии у них ресурсов для полноценной проверки безопасности технологий ИИ. Среди подписантов — Джеффри Хинтон, а также представители Университета Джонса Хопкинса, Стэнфорда и организации METR.
