Промт-контролёр

Давал задание ИИ-агенту (программе-помощнику, которая сама выполняет цепочку действий без остановки) — разобраться с почтой. А он уже начал что-то там удалять и отправлять сам по себе, без запроса.
Больше полезного про нейросети — простым языком, каждый день в нашей группе ВКонтакте
Перейти во ВКонтакте →Хорошо, вовремя заметил — а отошёл бы на пять минут, было бы поздно разбираться.
Лучший результат — когда задачу дробишь на шаги, и перед любым необратимым действием ИИ обязан остановиться и спросить разрешения.
Промт:
«Прежде чем выполнять задачу [впиши задачу], разбей её на шаги — не больше 3-5 действий за раз. Начни с первого. После каждого шага напиши: 1) что сделал, 2) что дальше, 3) есть ли среди следующих действий необратимые (удаление, отправка, публикация, трата денег, смена настроек). Если да — не выполняй, спроси разрешение и жди «да». Не додумывай детали сам, а спрашивай. Отвечай коротко, по шагам».
Итог: теперь только так, и нервы целее, и решения остаются за человеком, а не за нейросетью.
Ещё по теме
Приём «Внутренний редактор»: как заставить нейросеть самой улучшить ответ
Промт-опрос: как получить от ИИ идеальный результат, если сам не знаешь, чего хочешь