Жительницу Флориды арестовали по обвинению в письменной или электронной угрозе массовой стрельбы или теракта. О ней правоохранителям сообщила Anthropic.
Женщина неоднократно писала чат-боту Claude о намерении устроить стрельбу в офисе шерифа округа. Обвинение в тяжком преступлении по статье 836.10 законодательства Флориды выдвинуто 30 сентября.
Разговор с чат-ботом может подпадать под закон: угроза наказуема, если передана «любым способом, позволяющим другому лицу ознакомиться с ней». В переписке, вероятно, упоминалось огнестрельное оружие.
Anthropic отслеживает в чатах ключевые фразы и потенциальные угрозы. Серьёзные случаи передаются на проверку сотрудникам, и здесь команда решила сообщить правоохранителям.
Anthropic комментариев не дала. Политика конфиденциальности от 10 сентября допускает раскрытие данных для предотвращения серьёзного вреда здоровью людей или имуществу.
В отчёте за вторую половину 2025 года критерий для экстренного раскрытия строже: угроза смерти или тяжёлых телесных повреждений. Запросов от силовиков не было, но случаи по инициативе самой Anthropic не учтены.
Это как минимум третий подобный случай за два месяца:
11 августа Anthropic сообщила ФБР о запросах про стрельбу в соседней начальной школе. Мужчину арестовали и обвинили в террористической угрозе.
14 августа пользователь пригрозил оружием главе Anthropic. Компания уведомила полицию, но ни ареста, ни обвинений не последовало.
У OpenAI похожий случай: в марте пользователь ChatGPT заявил о намерении убить бывшую девушку, и компания сообщила в ФБР. В августе он признал вину в письменных угрозах убийством и получил восемь лет условно.
В июне генпрокурор Флориды подал иск против OpenAI, обвинив компанию в сокрытии информации о стрельбе в Университете штата Флорида.
В сентябре власти Британской Колумбии заявили, что OpenAI не предупредила полицию о стрелке из Тамблер-Риджа. Его аккаунт в ChatGPT компания выявила за восемь месяцев до нападения.
Возникает противоречие: от ИИ-компаний ждут конфиденциальности, но винят их, если они не сообщили об угрозах. Эксперты призывают к осторожности.
Пользователям стоит помнить: переписка с ИИ не анонимна, а высказывания, похожие на угрозы или призывы к насилию, недопустимы.