Microsoft подписала соглашение о принципах безопасности и конфиденциальности ИИ в школах — спустя неделю после того, как два крупных школьных округа США запретили использование ИИ учениками.
Договорённость достигнута с Американской федерацией учителей (AFT) и её нью-йоркским отделением (UFT). Компания обязалась соблюдать десять принципов, которые школьные округа смогут закрепить в контрактах на юридическом уровне.
Среди условий: запрет на обучение моделей на данных учеников и педагогов, минимизация сбора данных, понятное разъяснение семьям принципов работы ИИ-инструментов, запрет на ИИ-компаньонов и обязательная проверка человеком «высокорисковых» решений.
Соглашение появилось после того, как Нью-Йорк и Лос-Анджелес ввели годичный запрет на ИИ-инструменты для многих учащихся, чтобы выработать правила использования. На фоне сопротивления родителей и части педагогов внедрению ИИ в школах Microsoft, похоже, готовится к похожим решениям в других округах.
С ноября школьные округа смогут добавлять эти условия в новые или уже действующие контракты без полного пересмотра договоров.
AFT ранее критиковала технологии в школах, но одновременно сотрудничает с ИТ-компаниями. В мае глава профсоюза Рэнди Вайнгартен призвала запретить экраны до третьего класса и «ИИ, обращённый к ученикам» — до средней школы. При этом AFT анонсировала создание учебного центра по ИИ для педагогов стоимостью $23 млн при участии Anthropic, Microsoft и OpenAI.
Комментируя новое соглашение, Вайнгартен назвала его условия «железобетонными» и отметила: "это необходимо, потому что никто другой, включая федеральное правительство, не взялся за настоящую работу". Она добавила: «Можно злиться всё сильнее, а можно действовать решительно — всё, что не является юридически обязывающим, это просто список пожеланий».