Дообучение (fine-tuning) нейросетей: когда нужно и как

Промптинг — это управление моделью через инструкцию. Вы описываете роль, задаёте тон, приводите примеры прямо в запросе, и модель следует им, не меняясь внутри. Это самый быстрый и дешёвый способ: правки вносятся за минуты, ничего обучать не нужно. Большинство задач на старте закрываются именно грамотным промптом, и начинать почти всегда стоит с него.

RAG (retrieval-augmented generation) добавляет модели доступ к вашим знаниям. Перед ответом система находит релевантные фрагменты в вашей базе — документах, регламентах, каталоге — и передаёт их модели как контекст. Так решается проблема свежести и фактов: модель отвечает по вашим данным, а обновить их можно в любой момент, просто поправив базу, без всякого переобучения. RAG отвечает на вопрос «что модель знает».

Дообучение меняет саму модель. На наборе примеров «вход — правильный ответ» веса модели корректируются так, чтобы закрепить нужное поведение: стиль, формат, способ рассуждения, работу с узкой терминологией. Fine-tuning отвечает на вопрос «как модель себя ведёт». Это самый мощный, но и самый ресурсоёмкий из трёх инструментов, и в реальных проектах он чаще всего дополняет промптинг и RAG, а не заменяет их.

Fine-tuning окупается там, где нужное поведение невозможно или дорого воспроизвести промптом. Первый сценарий — устойчивый стиль и тон. Если модель должна отвечать голосом вашего бренда, выдерживать редакционные стандарты или манеру конкретного эксперта во всех ответах без исключения, длинный промпт с примерами работает нестабильно и раздувает стоимость каждого запроса. Дообучение закрепляет стиль в самой модели.

Второй сценарий — узкая доменная задача. Специфическая терминология, внутренняя классификация, отраслевые формулировки, которых нет в открытых данных, — всё это модель усваивает через дообучение на ваших примерах. Она начинает уверенно работать там, где базовая версия путается или отвечает общими словами.

Третий сценарий — строгие форматы ответов. Когда результат должен всегда соответствовать заданной структуре — конкретная разметка, схема полей, предсказуемая последовательность шагов, — fine-tuning делает соблюдение формата надёжным и снижает долю невалидных ответов. Это особенно важно, когда ответ модели идёт дальше в другую систему, а не читается человеком.

Важная оговорка: fine-tuning не учит модель новым фактам так, как это делает RAG, и не заменяет базу знаний. Если задача в том, чтобы модель отвечала по свежим документам, дообучение — неверный инструмент, здесь нужен RAG. Дообучение меняет поведение, а не наполняет модель актуальными данными.

Качество дообучения определяется не алгоритмом, а данными. Датасет для fine-tuning — это набор примеров «вход и эталонный ответ», показывающих модели, как именно вести себя в вашей задаче. Именно на этом этапе проект чаще всего выигрывается или проваливается: модель точно скопирует то поведение, которое вы ей покажете, включая ошибки и небрежность в примерах.

Работают три принципа. Качество важнее количества: несколько сотен выверенных, разнообразных примеров дают лучший результат, чем тысячи шумных и однотипных. Репрезентативность: примеры должны покрывать реальные ситуации, с которыми модель встретится в работе, включая пограничные случаи, а не только удобные. Единообразие: формат, стиль и логика во всех примерах согласованы, иначе модель усвоит противоречия.

Отдельная задача — очистка и разметка. Данные вычищают от дублей, ошибок и конфиденциальной информации, которая не должна попасть в веса модели, а затем приводят к единому формату. Часть примеров всегда откладывают в тестовую выборку — на ней потом проверяют качество, и эти примеры модель во время обучения не видит. Подготовка датасета обычно занимает больше времени, чем само обучение, и это нормально.

Классическое полное дообучение пересчитывает все веса модели. Для больших моделей это дорого: нужны серьёзные вычислительные ресурсы, много видеопамяти и времени, а на выходе получается полная копия модели под каждую задачу. Для большинства бизнес-проектов такой подход избыточен.

LoRA (low-rank adaptation) и родственные ей лёгкие методы решают эту проблему. Вместо правки всех весов они обучают небольшой набор дополнительных параметров — компактный «адаптер», который подключается к базовой модели и меняет её поведение. Обучается лишь малая доля параметров, поэтому требования к железу падают на порядок, обучение идёт быстрее, а результат по качеству для прикладных задач сопоставим с полным дообучением.

У такого подхода есть практичные следствия. Адаптеры весят немного, их легко хранить и версионировать, а под разные задачи можно держать несколько адаптеров к одной базовой модели и переключать их. Это удобно и дешевле в поддержке. Именно лёгкие методы сделали дообучение доступным для среднего бизнеса, а не только для крупных команд с большими вычислительными бюджетами.

Дообучать модель можно в облаке провайдера или локально, на своей инфраструктуре. Разница принципиальна прежде всего с точки зрения данных. Датасет для fine-tuning — это часто самое ценное и чувствительное, что есть у компании: переписки с клиентами, внутренние документы, экспертные наработки. При облачном дообучении эти данные уходят на внешние серверы, что для многих сценариев неприемлемо.

Локальное дообучение оставляет и данные, и итоговую модель внутри вашего контура. Это критично для медицины, финансов, юриспруденции и госсектора, а для российского бизнеса ещё и упрощает соблюдение 152-ФЗ: персональные данные не покидают периметр и обрабатываются на территории России. Лёгкие методы вроде LoRA делают локальное дообучение реалистичным — оно выполнимо на разумном оборудовании, а не только на дорогих кластерах.

Дополнительный плюс локального подхода — вы владеете результатом. Обученная модель или адаптер остаются вашим активом: их нельзя отключить извне, стоимость запросов не зависит от тарифов провайдера, а само поведение модели под вашу задачу становится частью инфраструктуры компании. HermesAI разворачивает дообучение локально на open-source и отечественных моделях, когда приватность и независимость выходят на первый план.

Главный технический риск дообучения — переобучение. Модель может слишком точно подстроиться под обучающие примеры и начать буквально их повторять, теряя способность обобщать и справляться с новыми, чуть иными запросами. Внешне на знакомых примерах всё выглядит отлично, а в реальной работе качество проседает. Смежный риск — деградация общих навыков: узко заточенная модель иногда хуже справляется с тем, что базовая версия делала легко.

Защита от этого — честная оценка на отложенной выборке. Качество проверяют на примерах, которые модель во время обучения не видела: так становится ясно, действительно ли она научилась решать задачу, а не запомнила ответы. Оценивают и целевое поведение — стиль, формат, точность в домене, — и то, что модель не потеряла общих способностей. Хорошая практика — сравнить дообученную модель с базовой на одинаковых задачах и убедиться, что стало лучше, а не просто иначе.

Отсюда практический вывод: fine-tuning — итеративный процесс, а не разовое действие. Обычно требуется несколько циклов «уточнили датасет — дообучили — измерили», прежде чем результат становится стабильным. Поэтому мы сразу закладываем метрики и тестовую выборку, а не оцениваем модель на глаз по нескольким удачным ответам.

Стоимость и сроки дообучения складываются в основном не из вычислений, а из подготовки данных. Само обучение с лёгкими методами часто занимает часы и стоит относительно недорого, тогда как сбор, очистка и разметка датасета, а также циклы оценки — это основная часть трудозатрат. Поэтому проекты сильно различаются по объёму: там, где качественные размеченные данные уже есть, всё идёт быстрее, а там, где датасет нужно собирать с нуля, — заметно дольше. Конкретные цифры имеют смысл только после оценки данных и задачи.

Правильный порядок действий экономит и время, и бюджет. Сначала проверяют, решается ли задача промптингом, — часто этого достаточно. Если нужны свежие факты и знания, добавляют RAG. И только когда требуется устойчивое изменение поведения — стиль, домен, формат, — переходят к дообучению. Такой путь от простого к сложному защищает от лишних затрат на fine-tuning там, где он не нужен.

HermesAI оказывает услугу «Обучение и дообучение моделей» под ключ: оцениваем, нужен ли fine-tuning в вашем случае или хватит промптинга и RAG, помогаем собрать и подготовить датасет, дообучаем локально или в облаке лёгкими методами вроде LoRA, честно измеряем качество и передаём результат как ваш актив. Подход подбираем под задачу, данные и бюджет, а не наоборот.