Файн-тюнинг и промпт-инжиниринг: рассматриваем разные способы взаимодействия с нейросетью

И промпт-инжиниринг, и файн-тюнинг помогают получить от нейросети точный и релевантный результат. Есть еще один метод под названием Retrieval-Augmented Generation (RAG), но его мы обсудим в другой статье. Пока же остановимся на первых двух — в чем их сходства, в чем различия, как грамотно их использовать.

Файн-тюнинг vs промпт-инжиниринг

Файн-тюнинг — это буквально «тонкая настройка»‎. Допустим, у нас есть некая уже обученная модель, такая как GPT от OpenAI. Мы можем ее прокачать: обучить на конкретной информации, чтобы она максимально релевантно отвечала на вопросы по теме. Весьма востребована эта техника, например, в области здравоохранения, где обучение нейросети на медицинских картах пациентов позволяет генерировать персонализированные рекомендации и схемы лечения. Искусственный интеллект анализирует данные и может подходить к вопросу индивидуально.

У OpenAI есть специальные инструменты для файн-тюнинга. Можно использовать и сторонние программы, такие как Entry Point.

Промпт-инжиниринг — это написание особым образом составленных промптов для получения релевантной информации от нейросети. Дополнительные данные для этого не нужны — достаточно хорошо понимать, как «мыслят»‎ большие языковые модели, и как нужно к ним обращаться.

Методы составления промптов бывают разные. Больше мы писали о них тут: «Подходы к созданию промптов: zero-shot, one-shot, few-shot и chain-of-thought»‎.

Поскольку методики разные, вопроса об «или»‎ не стоит. И файн-тюнинг, и промпт-инжиниринг можно использовать для получения идеального результата от нейросети. В плане функционала и особенностей можно сказать, что файн-тюнинг чуть более энергозатратен — придется искать данные, пользоваться другими инструментами. Но для многих сфер он совершенно незаменим, в том числе для бизнеса.

промпт-инжиниринг не требует предварительной подготовки, но может занять уйму времени, особенно на этапе самообучения. Впрочем, всегда можно посетить бесплатный вебинар и получить столь нужную базу.

Примеры использования и сравнение моделей

Медицина — раздолье для файн-тюнинга и работы с промптами. Это идеальная сфера для экспериментов с нейросетями. Именно этим занималась компания Microsoft, а потом выпустила целое исследование под названием «Can Generalist Foundation Models Outcompete Special-Purpose Tuning? Case Study in Medicine»‎, что можно перевести как «Могут ли универсальные модели превзойти специализированный тюнинг? Пример из области медицины»‎.

В исследовании специалисты Microsoft провели эксперимент, в ходе которого противопоставили модель с файн-тюнингом Med-PaLM 2 от Google универсальной модели GPT-4, оснащенной фреймворком для промпт-инжиниринга MedPrompt.

Как оказалось, усиленная фреймворком GPT-4 модель превзошла Med-PaLM 2 на 12 пунктов. Она оказалась лучше в общих клинических знаниях, медицинской генетике, анатомии, биологии и медицине университетского уровня. Сравнялись модели только в области профессиональной медицины.

Другое исследование провели в Австралии — там тоже столкнули файн-тюнинг и промпт-инжиниринг. Исследование получило название «Fine-Tuning and Prompt Engineering for Large Language Models-based Code Review Automation»‎, что переводится как «Файн-тюнинг и промпт-инжиниринг для инструментов автоматизации кода на основе больших языковых моделей»‎. Целью эксперимента была оценка производительности больших языковых моделей (LLM) в рецензировании кода, сравнив два разных метода улучшения результатов. Использовались две LLM — GPT-3.5 и Magicoder. В промпт-инжиниринге специалисты применяли такие техники как zero-shot, few-shot и внедрение в промпт личности.

Результаты получились интересными: модель GPT-3.5 с файн-тюнингом оказалась эффективнее любых методов промпт-инжиниринга. Лучшим из промпт-инжиниринга оказался метод few-shots, а хуже всего показал себя метод внедрения в промпт личности — это когда при создании промпта пользователь пишет, например: «Представь, что ты — разработчик программного обеспечения»‎, и только после этого ставит задачу.

Что можно сказать в результате? Файн-тюнинг и промпт-инжиниринг друг друга не исключают — для достижения идеального результата можно использовать оба. В некоторых областях лучше работает первый, в других — второй. Если же размышлять о том, с чего начать, то ответом станет промпт-инжиниринг, потому что он не требует практически никаких дополнительных инструментов, только нейросеть и некоторое количество свободного времени.