OpenAI обнаружила у своих моделей уязвимость к атакам типа «червь», названным «самовоспроизводящимися инъекциями в запросах». Теоретически они могут привести к массовому распространению вирусов, но на практике пока не применялись.
Норвежский специалист по анализу данных Хокон Молёй (Håkon Måløy) описал уязвимость в офисном помощнике Microsoft Copilot. В документ Word можно вписать скрытый запрос: ИИ выполняет его, меняет данные в файле и переносит инструкции в новые документы.
OpenAI представила Lockdown Mode — новый режим защиты от prompt injection атак. В нём отключается живой веб-сёрфинг, загрузка изображений, deep research и агентный режим.