Anthropic разрабатывает открытую систему FlashProve для проверки того, какая модель ИИ создала конкретный ответ. Она позволит выявлять подмену модели, в том числе если её пытается скрыть сама лаборатория.
Для проверки лаборатории должны публиковать цифровые отпечатки моделей: они сопоставляются с ответами, но не раскрывают веса — внутренние параметры ИИ. Проверку можно будет проводить на устройстве пользователя.
Спецификация и рабочий код элементов системы опубликованы под открытой лицензией на GitHub. Проект пока находится на стадии исследования; планов по немедленному внедрению в Anthropic или других лабораториях нет.