Содержание

Есть три основных способа адаптировать языковую модель под задачу: хорошо составленный промпт с инструкциями и примерами, RAG — подстановка в запрос найденных фрагментов из вашей базы знаний — и дообучение (fine-tuning) на собственных примерах. Почти всегда стоит начинать с промптов, знания о компании давать через RAG, а к дообучению переходить только когда нужно закрепить особый формат, стиль или поведение, которых не удаётся добиться иначе.

Разберём, что решает каждый подход, сколько он стоит и как выбрать.

Чем отличаются промпты, RAG и дообучение?

Подходы решают разные задачи. Промпт объясняет модели, что и как делать. RAG даёт ей знания, которых у неё нет. Дообучение меняет её поведение на уровне весов.

Подход Что решает Стоимость старта Обновление знаний Когда выбирать
Промпт-инжиниринг Инструкции, формат, тон, примеры Минимальная Правкой текста Всегда в начале
RAG Ответы по вашим документам и данным Средняя Добавлением документов Нужны актуальные факты компании
Дообучение Устойчивый стиль, формат, узкие навыки Высокая Новым обучением Промпты и RAG не дают нужного поведения

Когда хватает хорошего промпта?

Хорошего промпта хватает для большинства задач: классификации обращений, извлечения данных, генерации текстов по шаблону, ответов в заданном тоне. Современные модели хорошо следуют подробным инструкциям, особенно если показать несколько примеров правильного ответа.

Что входит в хороший промпт:

  1. Роль и контекст: кто пользователь, зачем нужен ответ.
  2. Чёткая задача и критерии хорошего результата.
  3. Формат ответа — лучше строгая схема для структурированного вывода.
  4. Несколько примеров входа и правильного выхода.
  5. Что делать в сложных случаях: отказаться, уточнить, оставить поле пустым.

Промпт — это код: его хранят в репозитории, версионируют и проверяют на наборе тестовых примеров. Подробнее — статья оценка качества LLM.

Гриф гитары со струнами крупным планом Фото: Unsplash

Когда нужен RAG?

RAG нужен, когда модель должна отвечать по вашим данным: документации, регламентам, базе знаний, каталогу. Перед каждым ответом система находит подходящие фрагменты и передаёт их модели вместе с вопросом. Знания обновляются добавлением документов, без обучения, а ответ можно сопроводить ссылками на источники.

  • ассистент поддержки по базе знаний и истории обращений;
  • поиск по внутренним документам и регламентам;
  • ответы по каталогу товаров с актуальными ценами и наличием;
  • ассистент для сотрудников по договорам и процедурам.

Как это устроить — статьи RAG: AI-ассистент по своим документам и векторные базы данных.

Когда дообучение действительно нужно?

Дообучение нужно, когда требуется устойчивое поведение, которого не удаётся добиться инструкциями: строгий специфичный формат на большом объёме запросов, особый стиль, узкая классификация с сотнями категорий или перенос качества большой модели на маленькую и дешёвую. Для добавления знаний дообучение подходит плохо: факты усваиваются ненадёжно и устаревают.

  • нужен один и тот же сложный формат на миллионах запросов, а промпт слишком длинный и дорогой;
  • требуется перенести поведение большой модели на маленькую, чтобы снизить стоимость и задержку;
  • узкая доменная задача, где у базовой модели не хватает качества даже с примерами;
  • есть тысячи качественных размеченных примеров и процесс их обновления.

Перед дообучением соберите набор тестовых примеров и измерьте, что получается с промптом и RAG, — иначе невозможно понять, дало ли обучение пользу.

Как выбрать подход?

Двигайтесь от простого к сложному и измеряйте качество на каждом шаге. Большинство продуктов останавливаются на промптах и RAG, а дообучение остаётся оптимизацией для зрелых сценариев с большим объёмом.

  1. Начните с лучшей доступной модели и подробного промпта.
  2. Соберите набор тестовых примеров и измерьте качество.
  3. Если не хватает знаний — добавьте RAG.
  4. Если не хватает стабильности формата или поведения — улучшите промпт и примеры.
  5. Если объём большой и нужно снизить стоимость — рассмотрите дообучение небольшой модели.

О стоимости — статья сколько стоит AI-функция, а об общих принципах — как встроить LLM в продукт.

Коротко

  • Промпт объясняет задачу, RAG даёт знания, дообучение меняет поведение модели.
  • Начинайте всегда с хорошего промпта и набора тестовых примеров.
  • Знания компании давайте через RAG — их легко обновлять и проверять по источникам.
  • Дообучение оправдано для устойчивого формата, узких задач и удешевления на больших объёмах.
  • Измеряйте качество на каждом шаге, иначе выбор будет вслепую.

Частые вопросы

  • Можно ли совмещать RAG и дообучение?

    Да. Дообучение задаёт стиль, формат и умение работать с найденными фрагментами, а RAG подставляет актуальные факты. Но к такой схеме переходят, только когда простые подходы исчерпаны.

  • Сколько примеров нужно для дообучения?

    Для настройки формата и стиля иногда хватает нескольких сотен качественных примеров, для сложных задач нужны тысячи. Качество и разнообразие примеров важнее их количества.

  • Не устареет ли дообученная модель?

    Устареет вместе с базовой моделью: когда выходят новые, более сильные версии, дообучение приходится повторять. Поэтому храните набор данных и процесс обучения так, чтобы их можно было запустить заново.