Клиент

Федеральный ритейлер (NDA)

Задача

Создать и настроить в контуре компании ИИ-агента, который собирает и обрабатывает отзывы покупателей:

• выстроить сквозную систему, чтобы подгружать отзывы из внутренних и внешних источников;
• разработать ИИ-агента, который выбирает полезные отзывы и создает краткий конспект главных мыслей;
• развернуть инфраструктуру Flexar в контуре компании.

Решение

Внедрили платформу Flexar и запустили на ее базе ИИ-агента для анализа отзывов.

Flexar помогает автоматизировать бизнес-процессы с помощью ИИ-агентов, больших языковых моделей (LLM) и генерации с дополнительным извлечением данных (RAG, когда ИИ формирует ответ по знаниям компании и дает ссылки на источники).

ИИ-агента разработали под требования заказчика. Агент использует несколько больших языковых моделей. Под каждую задачу мы подобрали наименее ресурсозатратную модель с достаточным уровнем качества.

Flexar поддерживает локальное размещение (on-premise). Мы развернули платформу на собственных серверах ритейлера и подключили ее к внутренним системам компании.

Как работает система

Агент получает список отзывов по товару на входе и на выходе выдает краткое резюме для карточки товара с ключевыми мыслями и черновыми тегами. Он проходит несколько этапов:

• отсекает шум, то есть случайные символы, эмодзи
и другие неинформативные комментарии;
• извлекает смыслы: что именно человек хотел
сказать о вкусе, аромате или сценарии;
• группирует смыслы;
• сохраняет их в векторной базе данных;
• формирует резюме по кластерам;
• собирает итоговый краткий обзор.

Как устроена обработка данных

Обработку данных разделили на две части. Сначала агент получает отзывы из базы ритейлера, пропускает их через большую языковую модель и формирует первичное резюме.

Затем подключаются отзывы из внешних источников. Они позволяют расширить выборку и сделать итоговый текст более репрезентативным.

Какие модели использует ИИ-агент

При проектировании архитектуры мы подобрали для каждой роли свою модель — достаточно точную, но без лишних затрат. Тяжелая модель работает только на ключевом этапе, остальные задачи выполняют более легкие. Это помогает держать баланс между качеством и стоимостью.

Сначала легкий классификатор проверяет тексты на токсичность. Затем модель эмбеддингов группирует похожие мысли. В финале мощная большая языковая модель делает итоговое обобщение по заданным правилам.

Какие модели использует ИИ-агент

Результаты анализа и черновые теги попадают во внутреннюю базу бэкенда. Дальше карточки обновляются по бизнес-логике ритейлера.

ИИ-обработка встроена в существующую инфраструктуру и периметр информационной безопасности компании. Это снижает риск утечек данных.

Запуск и контроль качества

После развертывания Flexar в инфраструктуре ритейлера подключили ИИ-агента к реальному потоку отзывов. Команда поэтапно наращивает долю трафика, следит за качеством, скоростью отклика, нагрузкой на инфраструктуру и фактической стоимостью обработки.