После появления больших языковых моделей (LLM) компании активно начали внедрять их в бизнес-процессы. Однако со временем стало понятно, что возможностей базовой LLM часто недостаточно для решения корпоративных задач. Чтобы модель работала с внутренними данными компании, соблюдала принятые правила и могла выполнять бизнес-процессы, нужно адаптировать ее.
В подобных проектах многие компании начинают искать информацию о RAG, ИИ-агентах или fine-tuning, как будто это альтернативные технологии. На практике они решают разные задачи.
Разберем, чем они отличаются и какое решение выбрать в зависимости от целей бизнеса.
RAG: когда модели нужен доступ к актуальным данным
RAG (Retrieval-Augmented Generation, генерация с дополнением поиска) — это метод работы с большой языковой моделью, при котором LLM получает доступ к внешнему источнику данных — базе знаний, документам, корпоративному хранилищу или поисковому индексу.
Принцип работы решения такой: когда сотрудник задает вопрос, система начинает поиск нужной информации во внешнем источнике данных. После этого найденные данные вместе с запросом передаются языковой модели, которая формирует ответ на основе актуального контекста.
Если появляется новая информация, ее достаточно обновить в источнике данных, так при следующем запросе система будет использовать актуальную версию документа.
Например, сотрудник спрашивает, сколько дней согласовывается командировка. Вместо общего ответа модель обращается к корпоративному регламенту и использует актуальные правила компании.
Внедрение RAG зачастую становится первым шагом к использованию ИИ в рабочих процессах.
Fine-tuning модели: когда требуется настроить ИИ под корпоративные правила
Fine-tuning модели — это дообучение готовой LLM на специализированных примерах,чтобы изменить ее поведение под конкретную задачу. Эффективность fine-tuning во многом зависит от качества обучающей выборки и тестирования модели после дообучения.
Представим, что банк хочет, чтобы ИИ одинаково оценивал кредитные заявки по внутренней методике независимо от формулировки запроса сотрудника. Тогда модель можно дообучить на примерах корректной оценки, чтобы она воспроизводила нужную логику без сложных промптов.
Если RAG помогает модели получать актуальную информацию, то fine-tuning помогает изменить ее поведение и сделать более предсказуемой. Но несмотря на популярность этой технологии, к fine-tuning прибегают значительно реже, чем принято думать. Часто бизнес-задачу удается решить с помощью RAG и качественного проектирования промптов.
ИИ-агенты: когда недостаточно просто отвечать на вопросы
ИИ-агент — это система, которая после получения задачиможет самостоятельно выполнять последовательность действий для достижения результата.
ИИ-агент использует LLM для принятия решений и взаимодействует с внешними сервисами и системами: API, базами данных, CRM, ERP, почтовыми сервисами, календарем, файловыми хранилищами и другими корпоративными системами.
Поэтому при разработке ИИ-агентов особое внимание уделяют информационной безопасности, разграничению прав доступа и контролю выполняемых действий.
ИИ-агенты значительно ускоряют ручные процессы и становятся частью проектов по автоматизации бизнеса.
Например, если руководителю нужен отчет по продажам за месяц, агент может самостоятельно получить данные из CRM, сформировать документ и отправить его ответственному сотруднику.
Вместо того чтобы самостоятельно собирать информацию в нескольких системах и выполнять цепочку однотипных действий, сотрудник получает уже готовый результат.
Как соотносятся эти подходы
RAG, fine-tuning и ИИ-агенты работают на разных уровнях системы, решают разные задачи и не заменяют друг друга. Во многих проектах их используют совместно, чтобы получить решение, соответствующее бизнес-требованиям.
RAG — это слой доступа к данным, то есть то, с какой информацией работает модель в момент запроса.
Fine-tuning — это слой поведения модели, который определяет, как она интерпретирует запросы и формирует ответы.
ИИ-агенты — это слой выполнения действий, который позволяет системе не только отвечать, но и взаимодействовать с внешними сервисами и выполнять операции в бизнес-процессах.
Разберем, какой подход дает максимальный эффект в разных сценариях.
Как выбрать архитектурный подход
Архитектуру обычно определяет команда, которая занимается разработкой и внедрением решения. В зависимости от масштаба проекта она может быть in-house, полностью аутсорсинговой или гибридной, когда к внутренней команде подключаются внешние специалисты.
От того, насколько грамотно выбрана архитектура, зависят стоимость внедрения, сроки реализации и потенциальный бизнес-эффект ИИ-проекта. Чтобы не ошибиться, достаточно последовательно ответить на четыре вопроса.
1 вопрос. Что должна делать система? Это может быть:
- ответ на вопрос;
- анализ или классификация данных;
- выполненное действие;
- комплексный результат, который объединяет поиск информации и выполнение операций.
2 вопрос. Какие данные нужны для ее работы?Если система должна работать с регламентами, инструкциями, базой знаний, договорами или другими документами, которые регулярно обновляются, потребуется механизм доступа к этим данным. Для решения такой задачи обычно используют RAG.
3 вопрос. Должна ли система работать по правилам, принятым в компании?Например, одинаково классифицировать обращения, применять внутренние методики анализа, использовать единые критерии оценки или воспроизводить определенную логику принятия решений.
Если да, то имеет смысл рассматривать fine-tuning. После дообучения модель начинает устойчиво воспроизводить нужные правила и закономерности без необходимости подробно описывать их в каждом запросе.
4 вопрос. Должна ли система выполнять действия?
Если после получения информации требуется создать заявку, обновить запись в CRM, сформировать документ, отправить уведомление или запустить бизнес-процесс, наиболее вероятно, что потребуется ИИ-агент.
После ответа на предыдущие вопросы обычно становится понятно, какой подход нужен, формируется концепция будущего решения и определяется дальнейший план разработки.
Выбор архитектуры. Если системе достаточно искать информацию в документах — подойдет RAG. Если важно, чтобы модель стабильно следовала внутренним правилам, используют fine-tuning. Когда же системе необходимо взаимодействовать с CRM, ERP или другими сервисами и выполнять действия без участия пользователя, подключают ИИ-агента.
Во многих проектах используют гибридную архитектуру, которая сочетает несколько подходов.
Представим внутреннего помощника для сотрудников банка. Он должен отвечать на вопросы по актуальным регламентам, использовать корпоративные стандарты коммуникации и при необходимости создавать заявки в рабочих системах.
В этой ситуациисистема получает доступ к корпоративным документам через RAG, использует fine-tuning для соблюдения внутренних правил работы и взаимодействует с CRM, ERP и другими системами через агентный слой. Сотруднику не нужно вручную выполнять рутинные действия, все шаги выполняются в рамках одного запроса.
Вывод
RAG, fine-tuning и ИИ-агенты не конкурируют друг с другом. Они решают разные задачи и нередко используются вместе в рамках одной системы. Поэтому главный вопрос не «какую технологию выбрать», а «какой подход лучше всего решит конкретную бизнес-задачу».
В Aiston мы начинаем именно с анализа бизнес-процесса. Только после этого определяем, где достаточно RAG, когда действительно нужен fine-tuning, а в каких случаях максимальный эффект дает агентная или гибридная архитектура.