ChatGPT выдумал, что человек украл 5 миллионов долларов

Июнь 2023 года.
Больше полезного про нейросети — простым языком, каждый день в нашей группе ВКонтакте
Перейти во ВКонтакте →Проблема: американский журналист Фред Риан попросил ChatGPT сделать краткую выжимку реального судебного процесса. Текст получился очень убедительным, но нейросеть внезапно добавила в него случайного человека — радиоведущего Марка Уолтерса.
Провал: ИИ "галлюцинировал" (то есть уверенно выдумал факты, которых не было, и подал их как реальные) и написал, что Уолтерс якобы работал бухгалтером и украл у правозащитной организации более 5 миллионов долларов. Робот от начала и до конца выдумал обвинения, цитаты и даже фейковые номера судебных дел. Марк никогда там не работал и ничего не крал.
Итог: узнав о лжи робота, Марк Уолтерс пришёл в ярость и подал в суд на OpenAI — компанию-разработчика ChatGPT. Этот случай вошёл в историю как первый в мире иск к ИИ за клевету.
Пруфы: Reuters, Bloomberg Law, The Washington Post.
Где почитать подробнее: Bloomberg Law (англ.).
Ещё по теме
Подстава от ИИ: как ChatGPT опозорил адвоката в суде