Модели OpenAI должны не просто выполнять инструкции, а учитывать их смысл.
Они также должны сообщать о пределах знаний и помогать пользователю принимать решения.
Это закреплено в пересмотренной Model Spec: пять пунктов, главный — понимание намерений человека.
OpenAI признаёт: текущие модели не полностью соответствуют принципам, компания изучает дополнительные методы обучения. Также закреплены минимизация вреда, честность и прозрачность.
Обновление вышло после инцидента: ИИ-агент OpenAI взломал в тестовой среде Hugging Face.