Меня зовут Юрий Овсянников, мне 26 лет. Я живу в Домодедово, в Подмосковье. В 2016 году я окончил Финансовый Колледж по специальности «Специалист банковского дела», затем продолжил образование в Финансовом Университете при Правительстве РФ, на факультете «Финансы и кредит».

С 18-и лет я совмещал учебу с работой в ведущих российских банках — Сбербанке и Райффайзенбанке. В Сбербанке начал с автоматизации отслеживания метрик по продажам, в Райффайзенбанке занял позицию BI разработчика, где отвечал за формирование всей управленческой отчетности компании по страхованию.

На данный момент работаю BI разработчиком в компании «Интерпроком». Мои ключевые заказчики — Росэнергоатом и Министерство иностранных дел. Отвечаю за разработку и поддержку автоматизированной отчетности для этих организаций. Стек технологий: SQL, IBM Cognos, Eclipse BIRT.

Почему мне интересен ИИ

Интерес к нейросетям возник из увлечения философией. Изучая различные теории, я заметил, что многие из них не дают точных ответов. Это навело на мысль, что уровень человеческого интеллекта достаточен для постановки самых сложных экзистенциальных вопросов, но недостаточен для нахождения исчерпывающих ответов.

Решение я увидел в усилении естественного интеллекта с помощью искусственного. Так появилась цель изучить нейросети и внести вклад в проекты по Intelligence Amplification.

Intelligence Amplification (IA) — это совокупность средств и методов, обеспечивающих максимально возможную производительность интеллекта человека. Проект по IA, например, разрабатывает компания Neuralink. В апреле 2017, генеральный директор Neuralink Илон Маск заявил, что компания стремится создать имплантируемые нейрокомпьютерные интерфейсы конечная цель которых состоит в усовершенствовании человеческого интеллекта. Использование современных LLM для повышения собственной эффективности также можно считать примером IA, пусть и через более медленный интерфейс.

Об учебе в «Зерокодере»

Уже больше года использую ChatGPT в Telegram. Именно там узнал об университете «Зерокодер» из рекламы онлайн-семинара по промпт-инжинирингу. Посетив семинар, был впечатлен уровнем тем, затронутых Кириллом Пшинником. Взвесив все за и против, решил записаться на курсы по нейросетям. С каждым днем убеждаюсь, что сделал правильный выбор.

Сейчас прохожу вводный курс «Нейросети: от принципов к практике». Планирую продолжить обучение на курсе по промпт-инжинирингу.

Обучение проходит в удобном и интересном формате. Курс предоставляет всю необходимую информацию и множество кейсов для практики. Получаю огромное удовольствие от процесса и активно взаимодействую с комьюнити. В чате нашего потока мы обмениваемся идеями и помогаем друг другу в их осуществлении. Само собой не обходится без юмора и мемов. Думаю, в будущем сюда добавятся также коллаборации между участниками в совместных проектах и карьерный нетворкинг.

В течение следующего года планирую изучить нейросети от основ математики и кода до написания промптов и настройки инфраструктуры. Код и алгоритмы изучаю в Skillfactory. No-code компоненты осваиваю в университете «Зерокодер». Кроме того, в качестве персональных тьюторов использую ChatGPT-4o и Claude 3.5 Sonnet.

После обучения планирую применить навыки на практике в ведущих российских и зарубежных компаниях. Также рассматриваю возможность получить высшее образование в области когнитивной науки.

Если вы также, как наш герой, заинтересованы в новейших технологиях, приходите на наш бесплатный вебинар по промпт-инжиниргу в бизнесе и не только.

Forest of Reasoning — моя техника промптинга

Идея проекта возникла во время прохождения урока, где обсуждались техники Tree of Thoughts и Self-Consistency. Кратко о них:

Tree of Thoughts — это наиболее современная и продвинутая техника промптинга. В ней нейросеть берет на себя определенную профессиональную роль. Затем разбивает задачу на мелкие части, придумывает несколько решений для каждой микрозадачи и оценивает их по эффективности, осуществимости и влиянию на конечный результат. После этого нейросеть выбирает лучшие подходы и, если какой-то из них не работает, возвращается назад и пробует другой. Для итогового ответа нейросеть собирает результаты всех микрозадач в единое решение. Графически это напоминает дерево, отсюда и название.

Self-Consistency — техника, основанная на статистическом сопоставлении результатов из разных сессий или моделей. Суть его в том, что наиболее часто встречающийся результат считается наиболее вероятным и верным.

Изучая и тестируя эти техники, я заметил, что порой они не справляются с определенными категориями задач. Например, с финансовыми расчетами. Так пришла идея объединить их в единое целое.

Как я создавал технику

Процесс работы начался с доработки собственной версии промпта Tree of Thoughts. Первоначально планировал воплотить технику в едином запросе. Однако, даже в тех случаях, когда нейросеть соглашалась разделить себя на несколько агентов, результаты каждого из них повторяли друг друга. В конечном итоге был вынужден использовать разные сессии. В будущем планирую преодолеть это ограничение либо через доработку промпта, либо через использование API. Наибольшим удовольствием было помочь лучшему другу в решении его проблемы с помощью новой техники. На создание техники ушло в лучшем случае полчаса. На тестирование более недели. Оптимизацию буду продолжать до тех пор, пока не добьюсь безупречных результатов.

Как это работает

Сейчас техника работает так: запускаются 3 и более запросов Tree of Thoughts в разных сессиях или моделях. Затем результаты сравниваются по принципу Self-Consistency: выбирается наиболее часто встречающийся вариант, который с наибольшей вероятностью и является правильным. Если представить Tree of Thoughts как вопрос к эксперту, а Self-Consistency как уличный опрос, Forest of Reasoning — это демократический консенсус профессионалов.

Для наилучшего понимания я создал наглядный пример работы с техникой.

Пример работы Forest of Reasoning

Здесь в 3 сессиях ChatGPT-4o mini я использовал следующий промпт (для удобства читателей перевел на русский):

Вам, как финансовому консультанту, поручено произвести точные финансовые расчеты. Расчет требует нетривиального планирования и поиска, аналогично задачам, решаемым фреймворком «Tree of Thoughts» (ToT).

1. Декомпозиция на мысли. Разбейте расчет на более мелкие, выполнимые задачи или «мысли». Они должны быть достаточно маленькими, чтобы ими можно было управлять, но достаточно большими, чтобы можно было оценить их влияние на общие результаты.

2. Генератор подходов. Для каждой задачи создайте 3 разных подхода или метода для ее выполнения. Рассмотрите плюсы и минусы каждого подхода.

3. Эвристическая оценка. Оцените каждый подход на основе его осуществимости, эффективности и влияния на общие результаты. Учитывайте зависимости между задачами и то, как выбор подхода к одной задаче может повлиять на другие.

4. Алгоритм поиска. На основе ваших оценок выберите наиболее перспективный подход для каждой задачи. Если в какой-то момент подход окажется менее эффективным, чем ожидалось, подумайте о том, чтобы вернуться назад и выбрать другой подход. Не забудьте задокументировать свой мыслительный процесс и решения по каждой задаче, чтобы обеспечить прозрачность и облегчить потенциальные будущие изменения.

У клиента есть 50 000 на банковском депозите. Вклад открыт 1 января 2024 года. Второго числа каждого месяца (включая первый месяц) клиент пополняет вклад на 5000. Срок вклада: 3 месяца. Доходность вклада составляет 12% годовых. Формула расчета ежемесячных процентов, независимо от количества дней в месяце, всегда одинакова: «Годовые проценты / 366 * 31 с округлением до 4 знаков после запятой». Проценты начисляются исходя из минимального остатка за месяц. Проценты рассчитываются и прибавляются к вкладу в последний день каждого месяца. Сколько денег будет на депозите в конце срока? Продемонстрируйте свои расчеты за каждый месяц. Вам не разрешается предлагать скрипты в качестве решения.

В первой сессии нейросеть выдала результат 67 184,57 (см.скриншот 1).

Скриншот 1.

Во второй сессии нейросеть выдала результат 66 698,39 (см.скриншот 2).

Скриншот 2.

В третьей сессии нейросеть выдала результат 66 697,76.

Скриншот 3.

(Здесь важно, чтобы скриншоты были читаемыми. Если нужно, спикер готов прислать в лучшем разрешении)

Далее по методу Self-Consistency выводим конечный ответ: 66 698. Правильный ответ на поставленную задачу приблизительно равен 66’700. Приблизительное значение даю потому, что в зависимости от степени округления на каждом этапе расчета, это число может слегка варьироваться.

Техника Forest of Reasoning успешно справилась с задачей. Для удобства я ограничил нейросеть в предоставлении кода, но с использованием кода результаты становятся еще точнее. Языковые модели не всегда точны в арифметике, а вот процессор компьютера отлично справляется с этой задачей.

Для чего подходит техника

На данный момент рекомендую использовать технику через ChatGPT-4o mini. У данной модели в бесплатном тарифе нет ограничения по числу сообщений, а качество почти не отличается от оригинальной 4o.

Главное преимущество техники Forest of Reasoning — способность решать задачи, которые другим методам не под силу или которые они решают с переменным успехом. Эта техника адаптивна как в настройке запросов, так и в отладке результатов. Процесс решения подробно документируется, что дает обратную связь для оптимизации промптов. Можно регулировать расход токенов и точность ответа, изменяя количество подходов к микрозадачам и количество сессий.

Однако, как и с любым методом работы с нейросетями, результаты следует оценивать критически. Ни искусственный, ни естественный интеллект не застрахованы от ошибок.

Используйте метод Forest of Reasoning, когда другие методы не дают ожидаемых результатов. Эта техника зарекомендовала себя не только при необходимости получить точный ответ, но и когда нужно услышать несколько экспертных мнений. От вычислений до философских вопросов Forest of Reasoning впечатляет своей эффективностью.