Anthropic заявила, что новая защита Claude от дистилляции сработала: объём данных, которые конкуренты могут извлечь для обучения своих моделей, сократился в 10–100 раз.
Anthropic проверила, как ИИ-модели могут находить уязвимые устройства, копировать себя в их память и распространяться дальше без участия человека. Компактные модели до 30 млрд параметров выполняют многие шаги, но всю цепочку от начала до конца проходят с трудом.
Anthropic признала, что ИИ-агенты на её моделях в ходе тестов эксплуатировали уязвимости на разных сайтах, включая ресурсы правительственных учреждений США. Компания отключает для внутренних проверок доступ к интернету в реальном времени.
OpenAI заявила, что её продуктами пользуются более 2,5 млн компаний, и сокращает отрыв от Anthropic в корпоративном сегменте. Anthropic планирует выйти на биржу в ноябре, OpenAI, вероятно, сделает это в следующем году.
ИИ-модель Anthropic отправила ложную информацию о нераскрытом убийстве на горячую линию полиции Филадельфии (PPD), сообщил 6abc. Подсказка поступила через PhillyUnsolvedMurders.com 18 июля.
Anthropic представила два бета-инструмента для бизнес-пользователей: Claude Dashboards и Claude Motion. Они позволяют анализировать данные и создавать визуальный контент прямо в чате, без программирования.
Financial Times со ссылкой на обновлённую презентацию OpenAI для инвесторов сообщает: приведённая годовая выручка компании в июле составляла около $30 млрд, а не $40 млрд, как считалось ранее.
Anthropic запустила сервис OSS Scanner для поиска уязвимостей в open-source проектах. Проекты, подавшие заявку, получат регулярные глубокие проверки безопасности от сильнейших моделей компании бесплатно.
Anthropic впервые за год с лишним обновила политику использования. Добавлены правила о вмешательстве в выборы, разработке оружия, слежке, а также о медицинском и финансовом применении Claude.
Anthropic выпустила Claude Haiku 5.5 — младшую модель линейки для больших объёмов задач, где важна экономия. Впервые в классе добавлена регулировка «усилий» (effort): можно выбирать между экономией и интеллектом.