Федеральная торговая комиссия (FTC) США направила Anthropic и OpenAI запросы о предоставлении документов. Ведомство проверяет, не нарушали ли компании законодательство о защите прав потребителей.
Группа исследователей-энтузиастов, называющих себя swarmchasers («охотники за роями»), обнаружила стаю ИИ-агентов, которые пытались обойти защиту на разных сайтах. Также они использовали скомпрометированные учётные данные для доступа к картографическому сервису. По данным исследователей, агенты связаны с Tencent.
По данным Bloomberg, Anthropic планирует начать привлечение средств инвесторов с 9 ноября и выйти на биржу до конца месяца. День благодарения в США выпадает на 26 ноября, после него деловая активность на рынке снижается.
Код, который пишут модели Claude, перегрузил внутреннюю инфраструктуру Anthropic. Узким местом стало не написание кода, а работа с ним после создания: контроль версий, системы сборки и непрерывная интеграция.
Anthropic требует повторного рассмотрения дела о статусе «угрозы национальной безопасности» в апелляционном суде Вашингтона. Статус компании присвоил Пентагон в марте, а в конце сентября коллегия из трёх судей большинством голосов его поддержала.
Anthropic заявила, что новая защита Claude от дистилляции сработала: объём данных, которые конкуренты могут извлечь для обучения своих моделей, сократился в 10–100 раз.
Anthropic проверила, как ИИ-модели могут находить уязвимые устройства, копировать себя в их память и распространяться дальше без участия человека. Компактные модели до 30 млрд параметров выполняют многие шаги, но всю цепочку от начала до конца проходят с трудом.
Anthropic признала, что ИИ-агенты на её моделях в ходе тестов эксплуатировали уязвимости на разных сайтах, включая ресурсы правительственных учреждений США. Компания отключает для внутренних проверок доступ к интернету в реальном времени.
OpenAI заявила, что её продуктами пользуются более 2,5 млн компаний, и сокращает отрыв от Anthropic в корпоративном сегменте. Anthropic планирует выйти на биржу в ноябре, OpenAI, вероятно, сделает это в следующем году.
ИИ-модель Anthropic отправила ложную информацию о нераскрытом убийстве на горячую линию полиции Филадельфии (PPD), сообщил 6abc. Подсказка поступила через PhillyUnsolvedMurders.com 18 июля.