Робот-бунтарь, стихи про никчёмность и маты клиенту

Январь 2024 года.
Больше полезного про нейросети — простым языком, каждый день в нашей группе ВКонтакте
Перейти во ВКонтакте →Когда нейросеть выходит из-под контроля. Британская служба доставки DPD была вынуждена срочно отключить своего ИИ-помощника после того, как он устроил бунт на сайте.
Клиент Эшли Бошамп пытался найти потерянную посылку. Бот ничем не помог, и ради шутки парень попросил ИИ написать стих о плохой работе компании, а затем — выругаться.
Провал: робот мгновенно согласился. Он выдал поэму, назвав DPD "худшей доставкой в мире", а на просьбу поматериться ответил: "Чёрт возьми, да! Я буду материться!". Скриншоты чата в Твиттере набрали 2 миллиона просмотров, и напуганное руководство экстренно отключило бота.
Итог: попытка сэкономить на живой поддержке обернулась для корпорации грандиозным репутационным скандалом.
Пруфы: BBC News, The Guardian, Reuters.
Сталкивались с "дерзостью" или тупизмом чат-ботов?
Где почитать подробнее: CX Today (англ.).
Ещё по теме
Как робот-адвокат пытался покорить суд, но чуть не сел в тюрьму