Лента TH Новости Искусственный интеллект



Искусственный интеллект – расист?

∴ 305

Системы распознавания лиц становятся обыденностью. Но как на счет эффективности?

1344

Новое исследование было проведенное учеными Массачусетского технологического института и Стэнфордского университета. Ученые обнаружили, что три коммерческие программы анализа лиц продемонстрировали значительные ошибки. Речь идет об ошибках распознания лиц всех людей, кроме белых мужчин. Это обусловлено проблемой объемов данных. Ведь большинство пользователей систем обучения, это и есть белые мужчины.

Причина для исследования возникла несколько лет назад, когда Джой Буоламвини, будучи выпускницей MIT Media Lab, использовала коммерческую систему анализа лиц. В процессе работы женщина обнаружила, что система не работает должным образом, распознавая лица с более темной кожей. Для тестирования систем Буоламвини и её напарница Тимнит Гебру создали набор из 1200 изображений лиц, состоящий из равного количества мужчин и женщин разных цветов кожи.

В исследовании были протестированы три наиболее популярные системы распознавания лиц и половой принадлежности. Результат – любопытен. Количество ошибок для определения пола белых мужчин было менее одного процента. Но для темнокожих и женщин, уровень ошибок взлетел до 20-35%. Для очень темнокожих людей уровень ошибок составил 46% при попытке определить пол.

Проблемы, затронутые в этом исследовании, касаются не только потребительской ниши рынка. Стоит учитывать, что эти системы распознавания лиц используются правоохранительными органами и отделами здравоохранения.

Эта статья будет представлена на предстоящей конференции в Нью-Йорке на тему «Справедливость, подотчетность и прозрачность».

Филипп Дончев