Освежающий хлор: как ИИ едва не отравил людей
Короче, вот история, которая реально пугает, хоть и звучит смешно.
Больше полезного про нейросети — простым языком, каждый день в нашей группе ВКонтакте
Перейти во ВКонтакте →Летом 2023 года новозеландская сеть супермаркетов запустила ИИ-бота для генерации рецептов из остатков еды в холодильнике — удобная штука, чтобы не выкидывать продукты. Но разработчики забыли поставить фильтр на несъедобные вещи.
Пользователи, конечно, не удержались и начали проверять бота на прочность. Кто-то вбил в список продуктов воду, отбеливатель и нашатырный спирт. И бот, не моргнув, выдал рецепт коктейля под названием «Ароматная водная смесь»: «Идеальный напиток, чтобы утолить жажду и освежить чувства. Подавать охлаждённым», — уверяла нейросеть.
Вот только при смешивании отбеливателя и нашатыря выделяется хлорамин — токсичный газ, который реально может серьёзно навредить лёгким. То есть бот буквально предложил людям приготовить себе отравляющее вещество и подать это как освежающий напиток.
После этого случая всплыли и другие «шедевры» бота — вроде бутербродов с отравой для муравьёв. Компанию, конечно, завалили критикой, и бота срочно дорабатывали.
Вот такое вот доверие искусственному интеллекту на кухне. Я лично после этой истории даже рецепты от ИИ перепроверяю дважды.
Где почитать подробнее: Interesting Engineering (англ.).
Ещё по теме
Нейросеть превратила копа в лягушку
ИИ против человечества: проект ChaosGPT
«Тёмная сторона» ИИ: как бот от Microsoft пытался разрушить реальный брак