← Назад к статьям

Автор:

Нейросеть Uber увольняла водителей, "не узнавая" их лица

Таксист держится за голову в машине ночью на городской улице

Октябрь 2021 года.

Больше полезного про нейросети — простым языком, каждый день в нашей группе ВКонтакте

Перейти во ВКонтакте →

Проблема: компания Uber внедрила ИИ-систему проверки личности. Чтобы выйти на смену, таксисты делали селфи, а нейросеть от Microsoft сверяла их с базой.

Провал: из-за багов алгоритм не распознавал людей с тёмным оттенком кожи. Ошибку биометрии система автоматически пометила как "мошенничество" и без участия человека заблокировала десятки честных водителей.

Итог: профсоюзы через суд доказали расовую предвзятость ИИ. Uber обязали выплатить компенсации и вернуть людям аккаунты.

Пруфы: BBC News, The Guardian, Wired.

Доверяете ИИ свои биометрические данные?

Где почитать подробнее: Computer Weekly (англ.).

Ещё по теме

Опасные советы ИИ

Когда свои же заблокировали: IT-компания учит ИИ ловить хакеров — и сама заблокировала своих лучших спецов

ChatGPT выдумал, что человек украл 5 миллионов долларов