Нейросеть Uber увольняла водителей, "не узнавая" их лица

Октябрь 2021 года.
Больше полезного про нейросети — простым языком, каждый день в нашей группе ВКонтакте
Перейти во ВКонтакте →Проблема: компания Uber внедрила ИИ-систему проверки личности. Чтобы выйти на смену, таксисты делали селфи, а нейросеть от Microsoft сверяла их с базой.
Провал: из-за багов алгоритм не распознавал людей с тёмным оттенком кожи. Ошибку биометрии система автоматически пометила как "мошенничество" и без участия человека заблокировала десятки честных водителей.
Итог: профсоюзы через суд доказали расовую предвзятость ИИ. Uber обязали выплатить компенсации и вернуть людям аккаунты.
Пруфы: BBC News, The Guardian, Wired.
Доверяете ИИ свои биометрические данные?
Где почитать подробнее: Computer Weekly (англ.).