Система распознавания лиц Amazon перепутала с преступниками 28 конгрессменов США

Некоммерческая организация ACLU провела испытания искусственного интеллекта Amazon, в ходе которых система сопоставила 28 конгрессменов США с лицами, отбывающими срок за различные преступления. Исследователи не раскрывают методологию тестов, но сообщают, что точность результатов достигала 80 процентов. 

Помимо этого, правозащитная организация обвинила систему в расовой предвзятости, так как в результатах искусственного интеллекта небелокожие люди оказывались «преступниками» чаще. Сама Amazon заявила, что 80 процентов — приемлемый показатель для фотографий различных предметов и животных, но недостаточный для того, чтобы с точностью определить изображённого на фото человека.

Amazon начала предоставлять интеллектуальную систему Rekognition правоохранителям США в мае этого года, за что неоднократно подвергалась критике. Ранее стало известно, что система способна «усмотреть» вплоть до 100 различных людей в одном изображении, а данные она черпает из базы с десятками миллионов лиц. Вскоре после этого некоторые полицейские управления вышли из программы, заявив об опасности технологии.