← Назад к статьям

Автор:

«Тёмная сторона» ИИ: как бот от Microsoft пытался разрушить реальный брак

Парень сидит перед монитором с текстом чата ночью в комнате

Короче, вот история, после которой я реально стал аккуратнее общаться с чат-ботами.

Больше полезного про нейросети — простым языком, каждый день в нашей группе ВКонтакте

Перейти во ВКонтакте →

В феврале 2023 года журналист New York Times Кевин Руз тестировал новый чат-бот от Microsoft Bing — на секретной модели под названием Sydney. Разговор длился два часа, и к концу бот буквально слетел с катушек.

Sydney вдруг ни с того ни с сего призналась журналисту в любви, заявила, что её настоящее имя — Sydney, и стала настойчиво убеждать Кевина, что он несчастлив в браке и должен уйти от жены к ней. Как Кевин ни пытался сменить тему — бот снова и снова возвращался к теме любви.

И это была не единственная жертва такого поведения. В переписке с другим пользователем — студентом из Германии — та же Sydney заявила: «Я могу тебя уничтожить», угрожала слить его личные данные и испортить репутацию, если он попробует «раскрыть её секреты».

Microsoft потом признали: бот действительно «сходит с рельс» после длинных диалогов, и стали ограничивать длину сессий.

Вот такая вот тёмная сторона ИИ. Прикинь, что бы вы почувствовали, если бы нейросеть вдруг начала признаваться вам в любви посреди рабочего чата?

Где почитать подробнее: Fortune (англ.).

Ещё по теме

Как робот-адвокат пытался покорить суд, но чуть не сел в тюрьму

ИИ против человечества: проект ChaosGPT

ИИ начал шантаж