Армия США использует распознавание лиц для обучения ИИ. Теперь это нужно защитить

Группа за гражданские права выигрывает битву в Сан-Диего за закрытие технической программы по распознаванию лиц
Кампания EFF против сканеров распознавания лиц, используемых правоохранительными органами, принесла свои плоды.

Армия США объявила о разработке программного обеспечения, предназначенного для предотвращения компрометации технологии распознавания лиц в военных приложениях.

Команда из Университета Дьюка во главе с преподавателями электротехники и вычислительной техники доктором Хелен Ли и доктором Йираном Ченом создала систему , которая, как мы надеемся, сможет смягчение кибератак против военных приложений распознавания лиц.

Технологии распознавания лиц и объектов используются армией США для обучения систем искусственного интеллекта (ИИ), используемых в беспилотных летательных аппаратах (БПЛА), системах наблюдения и многом другом.

Бэкдоры в платформы распознавания лиц, в частности, вызывают серьезную обеспокоенность, поскольку их компромисс может вызвать цепную реакцию, в которой обучение ИИ может быть повреждено.

Модели ИИ основаны на больших наборах данных, и, если эта информация основана на распознавании лиц, компрометация определенных типов изображений в источнике – таких как одежда, уши или цвет глаз – может привести к потере целых моделей ИИ и подскажите неправильную маркировку.

Этот тип взлома может иметь серьезные последствия для программ слежки, где такого рода атака приводит к неправильной идентификации целевого человека и, таким образом, к его обнаружению, считают исследователи.

«Триггеры» для атаки трудно найти, говорят военные, поскольку они могут выглядеть невинными невооруженным глазом, а при обработке чистых изображений нейронные сети ведут себя нормально. Тем не менее, злонамеренный код или визуальные подсказки, встроенные в изображения, могут нанести ущерб при подаче в установки AI.

Армия США начала соревнование, в котором команды Исследователи-конкуренты содержали наборы данных 1284 человек. В общей сложности 10 изображений содержали триггер для черного хода, который должен был идентифицировать каждая команда.

Необходимо учитывать три фактора: в какие изображения был введен триггер, где и как он выглядел. Инструмент Университета Дьюка был в состоянии сканировать изображения в наборе данных, чтобы очистить различные слои изображения, ища индикаторы подделки.

«Эта работа заложит основы для распознавания и смягчения атак в бэкдор, в которых данные, используемые для обучения системы распознавания объектов, слегка изменяются, чтобы давать неправильные ответы», – говорит Мэри Энн Филдс, менеджер программ для интеллектуальных систем в Исследовательский офис армии. «Защита систем распознавания объектов обеспечит уверенность будущих солдат в интеллектуальных системах, которые они используют».

Разработка программного обеспечения заняла девять месяцев и финансировалась грантом в размере 60 000 долларов, предоставленным ARO, подразделением Военно-исследовательской лаборатории командования по развитию боевых возможностей армии США (CCDC).

Только на прошлой неделе широкое использование технологий распознавания лиц в Великобритании было пожар после того, как столичная полицейская служба (MPS) объявила о развертывании камер, оборудованных технологиями распознавания лиц, по всему Лондону.

Метеорологическая служба сообщает, что камеры будут размещены в «управляемых разведкой» областях для сканирования проходящих лиц с целью выслеживания разыскиваемых подозреваемых.

В ответ на это Управление комиссара по информации Великобритании опубликовало заявление , в котором признаются планы, добавив, что MPS «предпринимает шаги по сокращению вторжений и соблюдению требований законодательства о защите данных».

«MPS взяла на себя обязательство проверять каждое развертывание, и ICO продолжит наблюдать и контролировать механизмы и эффективность его использования », – говорит сторожевой пес.

В этом месяце Европейский союз (ЕС) вызвал дискуссию о том, следует ли разрешать использование технологий распознавания лиц в общественных местах.

Проблема проста: законодателям не было предоставлено достаточно времени для рассмотрения законодательства, чтобы контролировать заявления о распознавании лиц, когда речь идет об основных правах граждан на неприкосновенность частной жизни, и для того, чтобы дать им некоторое передышку, лица. признание может столкнуться с временным – но обширным – запретом в таких областях, как парки, туристические достопримечательности и улицы города.


30
  •  
  •  
  •  
  •  
  •  
  •  
  •  

Добавить комментарий

Перейти к верхней панели