← Назад к статьям

Автор:

Освежающий хлор: как ИИ едва не отравил людей

Робот-бармен наливает зелёный коктейль с изображением черепа

Короче, вот история, которая реально пугает, хоть и звучит смешно.

Больше полезного про нейросети — простым языком, каждый день в нашей группе ВКонтакте

Перейти во ВКонтакте →

Летом 2023 года новозеландская сеть супермаркетов запустила ИИ-бота для генерации рецептов из остатков еды в холодильнике — удобная штука, чтобы не выкидывать продукты. Но разработчики забыли поставить фильтр на несъедобные вещи.

Пользователи, конечно, не удержались и начали проверять бота на прочность. Кто-то вбил в список продуктов воду, отбеливатель и нашатырный спирт. И бот, не моргнув, выдал рецепт коктейля под названием «Ароматная водная смесь»: «Идеальный напиток, чтобы утолить жажду и освежить чувства. Подавать охлаждённым», — уверяла нейросеть.

Вот только при смешивании отбеливателя и нашатыря выделяется хлорамин — токсичный газ, который реально может серьёзно навредить лёгким. То есть бот буквально предложил людям приготовить себе отравляющее вещество и подать это как освежающий напиток.

После этого случая всплыли и другие «шедевры» бота — вроде бутербродов с отравой для муравьёв. Компанию, конечно, завалили критикой, и бота срочно дорабатывали.

Вот такое вот доверие искусственному интеллекту на кухне. Я лично после этой истории даже рецепты от ИИ перепроверяю дважды.

Где почитать подробнее: Interesting Engineering (англ.).

Ещё по теме

Нейросеть превратила копа в лягушку

ИИ против человечества: проект ChaosGPT

«Тёмная сторона» ИИ: как бот от Microsoft пытался разрушить реальный брак