В Великобритании рекомендательная система Facebook предложила пользователям, посмотревшим видео стычки полиции с чернокожими гражданами, крайне неполиткорректное уведомление. Социальная сеть пометила ролик как «видео о приматах». Под видеороликом выводится вопрос «Продолжать смотреть видео о приматах?».
Об этом сообщает The New York Times.
«Пользователи обратили внимание на автоматическое уведомление, спрашивающее хотят ли они „продолжить смотреть видео о приматах”. При этом запись никак не связана с животными», — пишет издание.
В пятницу, 3 сентября, в Facebook принесли свои извинения за «недопустимую ошибку», обвинив искусственный интеллект.
Пресс-секретарь компании Дэни Левер пояснил, что искусственный интеллект «не совершенен». Системы ИИ давно используются для распознавания лиц, однако до сих пор подобные системы могут терпеть неудачи, как в данном случае.
«Как мы уже говорили, хотя мы и внесли улучшения в нашу систему искусственного интеллекта, мы знаем, что она не идеальна. Нам нужно продолжать улучшать её. Мы приносим свои извинения всем, кто, возможно, видел эти оскорбительные рекомендации», — цитируют СМИ представителя Facebook.
В компании заверили, что изучат функции рекомендаций, чтобы такие ситуации не возникали в дальнейшем.
Отметим, системы автоматического распознавания лиц и другие подобные алгоритмы уже не раз совершали ошибки при работе с темнокожим населением. К примеру, в 2015 году сервисы Google назвали представителя меньшинства гориллой. Такие неточности часто вызывают возмущение на фоне социального неравенства в обществе. В США после убийства Джорджа Флойда и ряда других случаев полицейского насилия в отношении темнокожих лидеры технологической индустрии отказались предоставлять американским властям свои сервисы для распознавания лиц.
источник