ИИ упрощает подачу заявлений и жалоб, и государственные службы по всему миру фиксируют резкий рост числа обращений. В Великобритании жалобы в жилищный омбудсмен выросли более чем вдвое после появления ChatGPT — с 2600 в 2022 году до свыше 7000 в прошлом году. Американское бюро по защите прав потребителей финансовых услуг (CFPB) зафиксировало пятикратный рост жалоб за тот же период. Похожий скачок наблюдается в судебных исках в Бразилии и петициях в немецкий парламент.
Исследователь Крис Шмитц изучает этот феномен, который он называет "агентным наводнением". В докладе, который будет представлен на конференции по этике ИИ и обществу, он анализирует 84 случая подобного роста в 11 юрисдикциях и находит убедительные доказательства того, что ИИ-инструменты меняют способ взаимодействия людей с госуслугами.
Сложнее понять, что с этим делать. Часть новых заявок явно носит недобросовестный характер, но многие исходят от реальных заявителей, использующих ИИ для подачи претензий, которые иначе остались бы без внимания. Шмитц видит в этом не спам, а редкую возможность переосмыслить социальные услуги для эпохи ИИ.
Шмитц изучил сервисы — от заявлений на социальные пособия до судебных апелляций, — доступные через онлайн-платформы, которыми может воспользоваться ИИ-ассистент. По методологическим причинам его доклад не утверждает напрямую, что именно ИИ вызвал рост заявок. Но в большинстве из 84 случаев прослеживается одна и та же динамика: подача заявлений была стабильной до 2022 года, а затем начала ускоряться по мере распространения ИИ-технологий. Важно, что в большинстве случаев рост не замедляется — значит, тенденция, вероятно, продолжится.
По мнению Шмитца, легко проследить, как растущие возможности и доступность ИИ стимулируют увеличение числа обращений.
"Люди узнают, что так можно делать, и с каждым разом это становится проще... раньше нужно было собирать много контекста и точно формулировать запрос для ChatGPT 3.5, а теперь достаточно вставить текст письма или сфотографировать его в приложении Claude — и получить неплохой ответ с первого раза", — говорит он.
Рост объёма заявок напоминает ситуацию с bug bounty-сервисами в прошлом году, когда компании столкнулись с потоком низкокачественных отчётов, сгенерированных LLM. Отчёты редко содержали серьёзные уязвимости, но компании всё равно были обязаны их проверять, что отнимало значительные ресурсы. Государственные службы могут столкнуться с похожей проблемой, обрабатывая в пять раз больше заявок при прежнем бюджете.
Но, в отличие от bug bounty-программ, заваленных бесполезными отчётами, по словам Шмитца, большинство новых обращений в госслужбы исходят от реальных людей с законными претензиями.
"Подавляющее большинство случаев — это люди, которые имеют право на что-то, и они это заявляют", — сказал он изданию TechCrunch.
Если раньше эти люди не подавали заявления, причиной могла быть чрезмерная сложность самого процесса — в политической науке это называют административным бременем. Теперь, когда ИИ способен снять эту нагрузку, появляется шанс сделать многие услуги более удобными для взаимодействия с ИИ.
Это масштабная задача, к решению которой пока почти не приступали, но Шмитц видит в этом повод для оптимизма.
"Важная часть того, чтобы ИИ работал во благо, — это понимание, как должна выглядеть хорошая версия процесса. И каждый, кто пользовался ChatGPT для заполнения налоговой декларации, знает: есть хороший сценарий, где тебе действительно помогают", — говорит Шмитц. "Возможно, сейчас как раз время пересмотреть весь этот процесс от начала до конца".