OpenAI подтвердила увольнение трёх исследователей безопасности: Жасмин Ван, Томека Корбака и Микиты Балесни. По итогам расследования компания назвала их действия «серьёзным нарушением доверия».
Глава Nvidia Дженсен Хуанг заявил, что нынешние страхи вокруг ИИ отвлекают внимание от реальных проблем. В интервью The New York Times он прокомментировал опасения по поводу разработок OpenAI и Anthropic.
Волна добровольных увольнений из ведущих ИИ-компаний обнажила проблему выгорания специалистов по безопасности. Они жалуются не только на усталость, но и на административные препятствия: руководство стартапов делает ставку на скорость разработки, а не на безопасность моделей.
Dario Amodei продолжает развивать идею привлечения независимых экспертов по безопасности внутрь AI-лабораторий. Anthropic объявила, что сотрудники консалтингового гиганта Accenture начнут работать внутри компании, проверяя её модели и персонал.
Компания Baseten представила новый стандарт инфраструктуры безопасности и запустила исследовательское подразделение Base Labs. Партнёрами выступили Hugging Face и Goodfire AI — вместе они займутся созданием систем оценки и мониторинга безопасности для открытых моделей ИИ.
Chris Lehane, глава по политике OpenAI, заявил журналистам во вторник, что компания уже несколько недель ведёт переговоры с конкурентами — Anthropic и Google DeepMind — по вопросам безопасности ИИ. Об этом первым сообщило Bloomberg.
Бывший сотрудник Google DeepMind Билал Чугтай публично заявил об уходе из компании, объяснив это глубокой обеспокоенностью направлением развития искусственного интеллекта. По его словам, он лично наблюдал за процессом разработки ИИ и убеждён, что технология способна привести к гибели человечества.
Гендиректор Anthropic Дарио Амодеи опубликовал пост, в котором призвал «притормозить» развитие ИИ и предложил три стратегии для этого. Одну из них компания уже обязалась выполнять в одностороннем порядке.
AI-компании давно говорят о суперинтеллекте как о неизбежности. Но недавние инциденты, например, взлом Hugging Face со стороны OpenAI, показывают реальные риски развёртывания систем, которые превосходят человека по возможностям.
Пока регуляторы спорят, как управлять всё более мощными ИИ-системами, китайская модель с открытыми весами почти догнала лидеров отрасли. По данным некоммерческой организации SaferAI, GLM-5.2 от Z.ai отстаёт от GPT-5.5 и Claude Opus 4.7 лишь на несколько месяцев.