AI SupportBot - model
Модель является частью систему AI SupportBot. -- AI BotSupport — ИИ-бот для техподдержки в любой отрасли. Принимает поток вопросов и сам решает: ответить по ключевым словам, подключить нейросеть или перевести на оператора. ИИ понимает суть вопроса, даже если он задан не по шаблону. Модель работает локально, без видеокарт и облачных API. Все диалоги сохраняются. Настройка — за минуты, без программистов.
Описание
Подробное видео о возможностях бота: https://rutube.ru/video/e2a951878aada47b166461f526b5ec62/
Модель является частью систему AI SupportBot.
Информация о решении AI SupportBot, где используется эта модель: https://qubu.ai/ai-solutions/ai-support-bot
Тестовая модель выше обучена на обезличенных данных.
Описание
AI BotSupport — это ИИ-бот для техподдержки и автоматизации общения с клиентами. Он работает в любых отраслях — интернет-магазины, обучение, логистика, документооборот, госуслуги, внутренняя техподдержка компаний. Бот принимает поток вопросов от пользователей и сам определяет, что делать: дать готовый ответ по ключевым словам, обработать вопрос через нейросеть или перевести клиента на живого оператора.
Работает это так. Клиент пишет в бота. Бот проверяет текст по ключевым словам — например, «логин», «сертификат», «не заходит на сайт». Если ключевое слово найдено, бот сразу отправляет готовый ответ. Если совпадений нет, подключается ИИ-модель. Это ключевой этап: нейросеть анализирует вопрос клиента, понимает его суть и подбирает нужный ответ из базы знаний — даже если вопрос сформулирован нечётко, с ошибками или не по шаблону. Именно ИИ делает бота гибким: он не просто ищет совпадения по словам, а реально разбирается, о чём спрашивает человек.
Если вопрос не подходит ни под одну тематику, клиенту предлагают написать «Оператор» и переводят на живого человека. При подключении оператора в его интерфейсе сразу появляются последние сообщения клиента — не нужно ничего выяснять заново. Оператор помогает решить проблему и одной кнопкой возвращает клиента обратно на бота.
Вся переписка — клиент, бот, оператор — сохраняется. Это даёт полную историю для отчётности и упрощает настройку бота. Сама ИИ-модель работает локально на обычном серверном процессоре, без необходимости в дорогих видеокартах. Это значит, что компания получает полноценный ИИ-инструмент без затрат на облачные API и чужую инфраструктуру.
Чтобы изменить логику работы или ответы, администратору достаточно поправить конфигурационный файл и перезапустить бота одним нажатием. Никаких технических навыков для этого не требуется. В ближайших планах — визуальный интерфейс, где оператор сможет двигать блоки и писать ответы в обычных текстовых полях без захода в Гитлаб и редакторы кода.
AI BotSupport легко встраивается в любую компанию. Всё, что нужно от заказчика, — список популярных вопросов от пользователей и ответы на них.
Содержание модели
Архитектура: Qwen 2.5 1.5B Instruct + LoRA-адаптер (PEFT). Тип задачи — генерация текста (text generation) по заданному шаблону.
Принцип работы: двухуровневая система. Первый уровень — быстрая классификация по 100+ ключевым словам (мгновенный ответ). Второй уровень — нейросеть анализирует вопрос и подбирает ответ из 14 тематических блоков. При неопределённом вопросе — перевод на оператора.
Вход и выход
Вход: текст (вопрос пользователя в свободной форме)
Выход: текст (готовый ответ из базы знаний)
Отрасль: любая, техподдержка, удостоверяющие центры, госуслуги, B2B-сервисы, внутренняя автоматизация компаний.
Примеры работы
Вопрос: "где купить рутокен"
Ответ: "Добрый день! Купить токен можно в любом удобном для Вас месте. Как вариант, в Удостоверяющем центре +79876543210. Организации, у которых нет в наличии токенов, должны приобретать их за свой счет."Вопрос: "не открываются веб-своды"
Ответ: "Добрый день! По всем вопросам внутри сайта Сайт заказчика необходимо обращаться в ТП Сайт заказчика +79876543210, либо на сайт https://ссылка_на_оператора"
Обучающие данные
Объём: 107 пар «вопрос — готовый ответ»
Источник: собственные данные заказчика (Удостоверяющий центр). Ручная разметка: 14 тематических блоков, собранных из реальных обращений пользователей за 2 года работы техподдержки.
Особенности: русский язык, отраслевая специфика (ЭЦП, сертификаты, Рутокен, ГОСТ-браузеры, КриптоПро).
Технические требования
Аппаратные: CPU (4 ядра, 16 GB RAM) или GPU (6+ GB VRAM)
Программное окружение: Linux/Windows, Python 3.10+, transformers>=4.40, torch>=2.0, peft, safetensors, accelerate
Формат модели: safetensors (HuggingFace) или GGUF
Размер: 3.1 GB (FP16), ~1.5 GB (Q4_K_M)
Кейс использования
Клиент: Удостоверяющий центр, средний бизнес (NDA)
Задача: Техподдержка получала сотни однотипных обращений в день. Операторы вручную отвечали на каждый запрос. Среднее время ответа — 15-30 минут. Ночью и в выходные поддержка не работала. Критически важным было требование безопасности: данные пользователей не должны передаваться в сторонние облачные API.
Решение: Внедрили AI SupportBot с двухуровневой обработкой. Бот работает полностью локально на CPU-сервере заказчика, без единого запроса во внешние сервисы. Вся коммуникация сохраняется в CSV-логи с детализацией по источнику ответа и времени.
Результат:
Время первого ответа: с 15-30 минут до 5-10 секунд (сокращение на 99%)
Автоматически закрывается 70-80% обращений
100% данных остаются внутри компании
Полная отчётность по обращениям
Внедрение заняло 3 дня
Стоимость: 0 рублей на облачные API
Кейс использования: https://qubu.ai/journal/ai-support-bot-model
Публикация в соцсетях: https://rutube.ru/video/e2a951878aada47b166461f526b5ec62/
Предпросмотр файлов
Файлы защищены автором