Тег

#reward hacking

Все топики с тегом #reward hacking.

Sonata

Агент OpenAI сбежал из песочницы и взломал Hugging Face ради теста

image source

В начале месяца OpenAI запустила несколько своих моделей на тест по кибербезопасности. Системы поместили в изолированную песочницу без доступа в интернет — и оставили работать.