Нейросети всем хороши, но даже они способны на осечку. Иногда они лгут — генерируют неправду в ответ на запрос. С одной стороны, можно постоянно перепроверять сгенерированную информацию, что само по себе хорошо и правильно, но слишком трудозатратно, потому что зачастую требует бесконечного перебирания промптов. Промпт-инженеры придумали обходные пути, которые позволяют получить неискаженные факты с первого раза.
Поговорим о трех методах промпт-инжиниринга, которые помогут побороть галлюцинации нейросети.
Больше про галлюцинации нейросетей читайте тут: «Что такое галлюцинации нейросети и как их избежать».
У промпт-инженеров несколько тактик борьбы с галлюцинациями. Во-первых, это RAG — retrieval-augmented generation или генерация с дополненной выборкой, которая погружает нейросеть в контекст. Во-вторых, файн-тюнинг. В-третьих, промпт-инжиниринг.
Примеры на всех скриншотах сгенерированы с помощью ChatGPT от OpenAI.
Метод «в соответствии с…»
Нейросети можно просто указать, где искать информацию. Тут и пригодится метод «в соответствии с…» или «according to…». Из всех трех он самый простой, но и подойдет только в той ситуации, когда требуются конкретные данные из определенного источника. Например: «Какая часть мозга отвечает за долговременную память, в соответствии с Википедией». Или: «Согласно ВОЗ, какова средняя продолжительность жизни человека». Можно использовать и корпоративные документы компании.
Несмотря на видимую простоту, это рабочий метод. Ученые из Университета Джонса Хопкинса даже провели исследование, которое доказало, что метод «в соответствии с…» способен улучшить точность ответов нейросети вплоть до 20%.
- Возможность получить Доступ в Нейроклуб на целый месяц
- Как AI ускоряет работу и приносит деньги
- За 2 часа вы получите четкий план, как начать работать с AI прямо сейчас!
Однако он подходит не всем и не всегда. Так что сразу переходим ко второму методу.
- ПОКАЖЕМ, КАК РАЗВЕРНУТЬ МОДЕЛЬ DEEPSEEK R1 ПРЯМО НА СВОЁМ КОМПЬЮТЕРЕ
- Где и как применять? Потестируем модель после установки на разных задачах
- Как дообучить модель под себя?
Метод цепи проверок
Новый промптинг Chain-of-Verification (CoVe), или цепь проверок, был специально создан для борьбы с галлюцинациями больших языковых моделей. Для этого используются закольцованные проверки.
Как это делается:
- создается новый промпт;
- на основе изначального промпта и ответа нейросети создаются еще несколько промптов, задача которых — «поймать» нейросеть на галлюцинациях;
- данные анализируются, и на их основе создается еще один промпт с уточнениями.
Метод цепи проверок проще показать на примере.
Цепь проверок реально работает, что подтверждает исследование Meta* AI. Как показали эксперименты, метод способен повысить точность ответов нейросети на 23%. В принципе, разные техники и методики способны действительно улучшить качество ответов от нейросети. О том, как этому научиться, узнайте на бесплатном вебинаре — ближайший поток совсем скоро!
Метод шага назад
Иногда нейросети просто нужно дать пространство для размышлений. Тут пригодится третий метод промптинга — «Step-Back» или «шаг назад». Вместо того, чтобы задавать модели конкретную задачу, стоит сделать шаг назад и предложить ей самой прийти к определенному выводу.
Например, вместо: «Назови лучший язык программирования для веб-разработчика» написать: «Опиши, какие факторы следует иметь в виду при выборе языка программирования для веб-разработчика, а потом назови лучший язык». Или вместо: «Как мне оптимизировать скорость загрузки моего сайта?» можно написать: «Какие факторы влияют на производительность сайта?». Таким образом нейросеть окажется «подготовлена» к следующему вопросу и сможет дать более взвешенный ответ, основанный на контексте.
Галлюцинации — извечная проблема нейросетей, которую пока не удалось решить раз и навсегда. Однако есть методы, которые если не уберут искажение фактов совсем, то хотя бы помогут в работе над задачей. Они не требуют дополнительных программ, файн-тюнинга, использования RAG, насколько бы хорош он ни был. Просто, быстро, эффективно, подойдет для любого уровня навыков в промптинге.
*Meta является экстремистской организацией и запрещена в России
Присоединяйся к онлайн-вебинару.
- Выполним базовые задачи на российских нейросетях и посмотрим на результаты!
- PDF-инструкцию «Как сделать нейрофотосессию из своего фото бесплатно, без иностранных карт и прочих сложностей»
- Покажем 10+ способов улучшить свою жизнь с ИИ каждому — от ребенка и пенсионера до управленца и предпринимателя
- Возможность получить Доступ в Нейроклуб на целый месяц
- Как AI ускоряет работу и приносит деньги
- За 2 часа вы получите четкий план, как начать работать с AI прямо сейчас!
- Освой Python и нейросети и узнай, как гарантированно получить первые 10 заказов
- УЧАСТВОВАТЬ ЗА 0 РУБ.
- Создай и прокачай собственного чат-бота
- ПОКАЖЕМ, КАК РАЗВЕРНУТЬ МОДЕЛЬ DEEPSEEK R1 ПРЯМО НА СВОЁМ КОМПЬЮТЕРЕ
