OpenAI разработала Control Room — систему для принудительной остановки ответов исследовательских ИИ-моделей при угрозах безопасности.
Сотрудник или система мониторинга может отозвать разрешение на выдачу результатов без остановки самого исследования. Control Room отслеживает обучение моделей, оценку их возможностей и обработку данных.
Из-за сохранённых в кеше разрешений отключение может занять до 35 секунд. Если Control Room перестанет работать, новые запросы приниматься не будут.