Лента TH Новости Искусственный интеллект



Спаренный искусственный интеллект и угроза частной жизни

∴ 160

Одна голова хорошо, а две – лучше. Так почему бы не использовать этот принцип с ИИ?

1610

Большинство из нас, вероятно, настораживает мысль о том, что какой-то незнакомец узнает всё о нас, используя только фото из сети. Однако благодаря системам распознавания лиц, используемым сайтами социальных сетей, это опасение становится все реальнее. Недавно ученые решили провести исследование, объединив пару систем искусственного интеллекта (ИИ) друг против друга.

В Университете Торонто профессор Пархам Аараби и аспирант Авишек Бозе начали разработку двух нейронных сетей. Один агент ИИ использовал те же методы, что и существующие системы распознавания лиц, чтобы идентифицировать людей на фотографиях. Другая сеть пыталась помешать первому, слегка изменив элементы фотографий, которые использовались для идентификации людей.

Разрушительный ИИ может «атаковать» то, что ищет нейронная сеть для распознания лиц. Если поисковый ИИ ищет угол глаз, то оппозиционный ИИ регулирует угол глаз так, что они менее заметны. Это создает очень тонкие нарушения на фотографии, незаметные для человека. Но для детектора они достаточно значительны чтобы обмануть систему.Аспирант, Авишек Бозе.

Две сети беспрерывно конкурировали какое-то время. Каждый агент ИИ изучал то, что делал конкурент, и пытался компенсировать это. В конечном итоге родился алгоритм, который можно применять к фотографиям лиц, делая их недоступными для распознания, и при этом узнаваемыми для близких людей.

Аараби и Бозе проверили систему на существующем наборе данных, который состоит из фотографий более 600 лиц, охватывающих разные этнические группы, условия освещения и окружающую среду. Без применения алгоритма к этим изображениям система распознавания лиц могла точно идентифицировать почти 100 процентов людей. Однако, как только алгоритм был применен, этот показатель снизился до 0,5 процента.

Теперь можно надеяться, что алгоритм может быть интегрирован в некое приложение или веб-сайт, который люди, обеспокоенные вопросом конфиденциальности, могут использовать для обработки фотографий перед их публикацией.

Автор: Бен Коксворт
Переводчик: Филипп Дончев