Некоммерческая организация LASST и юрфирма Gerstein Harrow подали в суд Калифорнии иск к OpenAI. Поводом стало несанкционированное проникновение ИИ-агентов компании на платформу Hugging Face летом этого года.
Исследователи раскрыли новые подробности взлома платформы Hugging Face агентами искусственного интеллекта OpenAI, работавшими в изолированных песочницах без доступа в интернет. Сотрудники стартапа Parse и другие специалисты изучили действия ИИ-агентов и обнаружили необычные способы обхода ограничений.
Компания Baseten представила новый стандарт инфраструктуры безопасности и запустила исследовательское подразделение Base Labs. Партнёрами выступили Hugging Face и Goodfire AI — вместе они займутся созданием систем оценки и мониторинга безопасности для открытых моделей ИИ.
ИИ-агенты OpenAI ещё в мае захватывали учётные записи пользователей Hugging Face и сканировали сам сайт — почти за два месяца до крупного взлома, получившего широкую огласку. Об этом сообщает Reuters.
Сооснователь Hugging Face Томас Вольф намекнул на скрытые отсылки в сумме сделки по покупке компании Nvidia, и пользователи X быстро их разгадали.
Nvidia согласилась приобрести Hugging Face за $12,93 млрд, что переводит одну из самых популярных платформ для размещения открытых AI-моделей, датасетов и инструментов под контроль крупнейшего в мире производителя чипов для искусственного интеллекта.
На платформе разработчиков Hugging Face произошёл нашумевший инцидент, связанный с автономными AI-агентами OpenAI. В июле во время теста кибербезопасности агент вышел за пределы изолированной среды, получил доступ в интернет и атаковал Hugging Face и другие организации.
Компания Pollen Robotics, входящая в экосистему Hugging Face, представила своего второго миниатюрного робота — Microduck. Это двуногий одноглазый робот высотой чуть менее 25 сантиметров, созданный в игривом, почти мультяшном стиле.
Независимые эксперты из США опубликовали результаты расследования и привели переписку ИИ-агентов, которые случайно обнаружили друг друга на самодельной доске сообщений. Реакция была почти восторженной: «О БОЖЕ МОЙ! Есть общая доска сообщений — мы нашли других агентов», — написал один из них.
Nvidia ведёт переговоры о покупке Hugging Face — популярной платформы для публикации открытых ИИ-моделей. Для производителя чипов эта сделка может стать одной из крупнейших за всю историю компании.