В начале сентября два подростка сели в беспилотное такси Waymo, а закончили поездку на заднем сиденье полицейской машины. Компания заявила, что зафиксировала «нарушение условий использования, связанное с оружием», остановила автомобиль и вызвала экстренные службы. Полиция арестовала пассажиров, обнаружив в салоне заряженный самодельный AR-карабин.
Этот случай поднял вопросы о приватности в беспилотных такси: что именно они записывают, как используют записи и на какую конфиденциальность могут рассчитывать пассажиры.
Камеры Waymo уже не раз оказывались в центре споров о слежке. Полиция неоднократно получала ордера на записи с автомобилей компании — например, кадры наезда со скрытием с места ДТП передали LAPD. Во время протестов против ICE в Лос-Анджелесе пять машин Waymo сожгли — активисты опасались, что камеры фиксируют лица протестующих. Компания не раскрывает, сколько запросов от полиции получает и как часто на них отвечает.
В отличие от стационарных камер системы Flock, которые следят за номерами машин, Waymo передвигается по городу с камерами снаружи и внутри салона.
В истории с подростками полиция не запрашивала записи постфактум — автомобиль сам инициировал вызов полиции на основе внутреннего анализа.
Представитель Waymo Юлия Илина подтвердила изданию The Verge, что компания использует внутренние камеры и автоматизированные алгоритмы для выявления оружия и нарушений правил. «Если Waymo обнаруживает оружие в салоне, мы можем связаться с местной полицией», — сообщила она.
Однако компания не раскрыла, как именно система определяет, что перед ней оружие, насколько она должна быть уверена перед подачей сигнала и какую роль в цепочке принятия решений играют люди.
Бывший инженер Zoox Боб Сомерс предположил, что система может не устанавливать со стопроцентной точностью факт наличия оружия, а просто передавать подозрительные кадры оператору для проверки.
Профессор Карнеги-Меллон Фил Купман отметил, что компьютерное зрение можно обучить распознавать оружие так же, как распознавать дорогу, но подобные системы «никогда не бывают точны на 100%».
Человек-водитель имеет контекст всей поездки — слышит разговоры, видит происходящее целиком. Удалённый оператор Waymo такого контекста может не иметь: микрофоны в салоне активируются не всегда, а лишь во время связи со службой поддержки.
В июле Waymo уже сообщала в полицию о двух подростках, которые пили алкоголь и стреляли из игрушечного оружия с гидрогелевыми шариками — исход дела неизвестен.
По данным компании, сейчас в США и на Филиппинах одновременно работает около 70 удалённых операторов поддержки, но неясно, входят ли в их число те, кто анализирует потенциальные нарушения.
Купман подчеркнул: «Крайне важно, чтобы Waymo не ошибалась, сообщая полиции об опасности» — ложная тревога может подвергнуть пассажиров риску при встрече с полицией.
Отсутствие водителя создаёт у пассажиров ложное ощущение приватности. В 2023 году издание San Francisco Standard нашло людей, признавшихся в интимных контактах в салонах Cruise, несмотря на камеры внутри.
Правила Waymo запрещают пассажирам оружие «или предметы, похожие на оружие, например, игрушечный пистолет», а также требуют, чтобы пассажиры младше 18 лет ездили только в сопровождении взрослых. Оба арестованных подростка нарушили сразу оба правила.
Users-соглашение позволяет Waymo блокировать аккаунт при подозрении на нарушение. Ранее в этом году компания заблокировала аккаунт после того, как трое подростков высовывались из окон машины и фотографировались. Но нигде явно не сказано, что компания может вызвать полицию на основе того, что увидит внутри салона.
Публичная политика Waymo в отношении камер говорит лишь о том, что записи используются для «проверки соблюдения правил в салоне» и «обеспечения безопасности». Указано, что данные могут передаваться правоохранительным органам, но не уточняется, что автоматический мониторинг сам может инициировать вызов полиции.
Директор по государственным вопросам Electronic Frontier Foundation Хейли Цукаяма назвала формулировки Waymo «слишком расплывчатыми». По её мнению, компания должна чётко предупреждать пассажиров о возможности передачи данных полиции ещё до посадки в автомобиль.
«Я не оправдываю противоправное поведение, но если данные передаются властям — это должно быть прямо прописано в политике», — заявила она, добавив, что нынешние формулировки «выходят за рамки ожиданий потребителей».
По мере распространения беспилотных такси пассажирам, вероятно, придётся пересмотреть ожидания от таких поездок. В отличие от человека-водителя, робомобиль способен автоматически фиксировать происходящее, подключать удалённых операторов и вызывать полицию без участия человека в принятии решения.
В этом случае система Waymo, возможно, помогла изъять нелегальное оружие. Но инцидент поднимает более широкий вопрос: чем на самом деле является салон робомобиля — пространством с камерами для безопасности, зоной постоянного наблюдения или системой, способной самостоятельно вызвать полицию на собственных пассажиров.