Нейросети всем хороши, но даже они способны на осечку. Иногда они лгут — генерируют неправду в ответ на запрос. С одной стороны, можно постоянно перепроверять сгенерированную информацию, что само по себе хорошо и правильно, но слишком трудозатратно, потому что зачастую требует бесконечного перебирания промптов. Промпт-инженеры придумали обходные пути, которые позволяют получить неискаженные факты с первого раза.
Поговорим о трех методах промпт-инжиниринга, которые помогут побороть галлюцинации нейросети.
Больше про галлюцинации нейросетей читайте тут: «Что такое галлюцинации нейросети и как их избежать».
У промпт-инженеров несколько тактик борьбы с галлюцинациями. Во-первых, это RAG — retrieval-augmented generation или генерация с дополненной выборкой, которая погружает нейросеть в контекст. Во-вторых, файн-тюнинг. В-третьих, промпт-инжиниринг.
Примеры на всех скриншотах сгенерированы с помощью ChatGPT от OpenAI.
Метод «в соответствии с…»
Нейросети можно просто указать, где искать информацию. Тут и пригодится метод «в соответствии с…» или «according to…». Из всех трех он самый простой, но и подойдет только в той ситуации, когда требуются конкретные данные из определенного источника. Например: «Какая часть мозга отвечает за долговременную память, в соответствии с Википедией». Или: «Согласно ВОЗ, какова средняя продолжительность жизни человека». Можно использовать и корпоративные документы компании.
Несмотря на видимую простоту, это рабочий метод. Ученые из Университета Джонса Хопкинса даже провели исследование, которое доказало, что метод «в соответствии с…» способен улучшить точность ответов нейросети вплоть до 20%.
- ТОП-подарки всем участникам лекции:Открытая лекция РЕГИСТРАЦИЯ пошаговая PDF-инструкция “Как сделать нейрофотосессию из своего фото бесплатно
- подборка из 3800+ нейросетей
- доступ в бот с безлимитным доступом к ChatGPT
- ТОП-подарки всем участникам лекции:Открытая лекция РЕГИСТРАЦИЯ пошаговая PDF-инструкция “Как сделать нейрофотосессию из своего фото бесплатно
- подборка из 3800+ нейросетей
- доступ в бот с безлимитным доступом к ChatGPT
Однако он подходит не всем и не всегда. Так что сразу переходим ко второму методу.
Метод цепи проверок
Новый промптинг Chain-of-Verification (CoVe), или цепь проверок, был специально создан для борьбы с галлюцинациями больших языковых моделей. Для этого используются закольцованные проверки.
Как это делается:
- создается новый промпт;
- на основе изначального промпта и ответа нейросети создаются еще несколько промптов, задача которых — «поймать» нейросеть на галлюцинациях;
- данные анализируются, и на их основе создается еще один промпт с уточнениями.
Метод цепи проверок проще показать на примере.
Цепь проверок реально работает, что подтверждает исследование Meta* AI. Как показали эксперименты, метод способен повысить точность ответов нейросети на 23%. В принципе, разные техники и методики способны действительно улучшить качество ответов от нейросети. О том, как этому научиться, узнайте на бесплатном вебинаре — ближайший поток совсем скоро!
Метод шага назад
Иногда нейросети просто нужно дать пространство для размышлений. Тут пригодится третий метод промптинга — «Step-Back» или «шаг назад». Вместо того, чтобы задавать модели конкретную задачу, стоит сделать шаг назад и предложить ей самой прийти к определенному выводу.
Например, вместо: «Назови лучший язык программирования для веб-разработчика» написать: «Опиши, какие факторы следует иметь в виду при выборе языка программирования для веб-разработчика, а потом назови лучший язык». Или вместо: «Как мне оптимизировать скорость загрузки моего сайта?» можно написать: «Какие факторы влияют на производительность сайта?». Таким образом нейросеть окажется «подготовлена» к следующему вопросу и сможет дать более взвешенный ответ, основанный на контексте.
Галлюцинации — извечная проблема нейросетей, которую пока не удалось решить раз и навсегда. Однако есть методы, которые если не уберут искажение фактов совсем, то хотя бы помогут в работе над задачей. Они не требуют дополнительных программ, файн-тюнинга, использования RAG, насколько бы хорош он ни был. Просто, быстро, эффективно, подойдет для любого уровня навыков в промптинге.
*Meta является экстремистской организацией и запрещена в России
- Пошаговая PDF-инструкция “Как сделать нейрофотосессию из своего фото бесплатно
- Подборка из 3800+ нейросетей
- Гайд “Как использовать ChatGPT для изучения любого из 50 языков
- Доступ в бот с безлимитным доступом к ChatGPT
- Как внедрение ИИ в бизнес-процессы помогает улучшить финансовые результаты компаний в 2025 году.
- Мы расскажем, кто такой промпт-инженер, чем он занимается и какие результаты можно ожидать от его работы.
- Также обсудим, где найти промпт-инженера, сколько стоят его услуги в России и за рубежом, и кто может стать промпт-инженером.
