Интеллектуальный тьютор на основе открытых больших языковых моделей для СПО

🎓 Интеллектуальный AI-тьютор для СПО

🤖 Специализированная языковая модель для автоматизации учебного контента в среднем профессиональном образовании

📋 Содержание

• 📌 О проекте и проблематике

• ⚙️ Техническое решение

• 🏗️ Архитектура и API

• 📚 Методология обучения (QLoRA)

• 📊 Датасет

• 🚀 Ключевые возможности

• 📈 Ожидаемые результаты

• 🛠️ Стек технологий

1. О проекте и проблематике

Интеллектуальный тьютор — AI-система, предназначенная для автоматизации создания учебного контента и персонализации обучения в среднем профессиональном образовании (СПО, специальность 15.02.14 «Оснащение средств автоматизации»). Проект решает критический дисбаланс между объёмом теоретического материала и ограниченным аудиторным временем, отведённым на практическую отработку навыков.

🔑 Ключевые проблемы СПО, которые решает система:

• Перегрузка преподавателей — до 5–7 часов в неделю тратится на повторяющиеся консультации по одним и тем же темам (основы автоматики, датчики, ПЛК, SCADA-системы)

• Сложности студентов — 67 лекций по двум дисциплинам («Измерительные системы» и «Промышленная автоматизация») содержат большой объём специализированной терминологии, которую студентам сложно усваивать самостоятельно

• Ограниченность аудиторного времени — недостаточное количество часов для отработки практических компетенций; аудиторное время уходит на теорию

• Дисбаланс теории и практики — смещение фокуса на теоретическую подготовку снижает качество практических навыков выпускников

2. Техническое решение

Система развёртывается на собственном сервере учебного заведения с использованием открытой языковой модели. Это обеспечивает полный контроль над данными, независимость от внешних API и безопасность персональной информации студентов.

3. Архитектура и API

Сервис реализован как BentoML-микросервис (service.py) и предоставляет четыре REST API-эндпоинта для взаимодействия с моделью:

4. Методология обучения (QLoRA)

Дообучение модели проводится по методу QLoRA (Quantized Low-Rank Adaptation), который позволяет эффективно адаптировать большие языковые модели на ограниченных GPU-ресурсах:

• 4-bit квантизация (NF4) — базовая модель загружается в 4-битном формате, снижая потребление VRAM с ~48 ГБ до ~14 ГБ

• LoRA-адаптеры (rank r = 4–32) — обучаются только низкоранговые матрицы дополнения по 7 модулям (q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj), что составляет ~0,5–1% от всех параметров модели

• LoRA alpha = 8–64 — масштабирование адаптеров в зависимости от режима обучения

• Double Quantization — дополнительное сжатие квантованных констант (bfloat16 compute dtype) для экономии памяти

• Контекстная длина — инференс: 8 192 токена; обучение: до 2 048 токенов

• Three-stage strategy — debug (1 epoch, 10 steps, r=4) → light (2 epochs, r=8) → full (3 epochs, r=32)

5. Датасет

Для дообучения подготовлен специализированный датасет из лекционных материалов специальности 15.02.14 ГБПОУ РО «Сальский индустриальный техникум» (СИТ):

📐 Разбиение на выборки

6. Ключевые возможности

📘 Генерация учебного контента

На основе текста лекции система автоматически создаёт:

• Структурированные конспекты — ключевые тезисы, термины и определения в маркированном формате

• Тесты для самопроверки — вопросы с 4 вариантами ответов (A/B/C/D), 3 уровня сложности

• Объяснения по запросу — детальная расшифровка терминов и понятий из лекции

• Диалоговый режим — многоходовой разговор для углублённого изучения темы

🌐 Интеграция с Moodle (ЭОС)

• Единая точка входа для студентов и преподавателей

• Отправка лекционного текста к AI-тьютору и получение результата

• Отслеживание активности использования

• Единообразный интерфейс без необходимости обучения новым инструментам

♿ Поддержка инклюзивного образования

• Настраиваемый размер шрифта и интерфейс

• Альтернативные форматы вывода (текст, структурированный конспект)

• Возможность многократного обращения за объяснением без ограничений

• Индивидуальный темп изучения материала

7. Ожидаемые результаты внедрения

8. Стек технологий

📦 Дообучение (fine-tuning)

Расчёт стоимости QLoRA дообучения Mistral Small 24B на Qubu (актуально на 16.05.2026)

💰 Баланс аккаунта: 133 токена

⚙️ Требования к VRAM для 24B QLoRA:

• 4-битная модель: ~15 ГБ

• LoRA-адаптеры + оптимизатор + активации: ~6–9 ГБ

• Итого минимум: 20–21 ГБ, рекомендуется 24+ ГБ

🖥️ Подходящие GPU и стоимость:

⏱️ Реалистичная оценка времени: 4–9 часов (включая загрузку модели, отладку, 5 эпох обучения, валидацию).

💵 Стоимость по сценариям:

• Минимальный (RTX A5000, 4 ч): 112 токенов — остаток 21 токен (0 запаса)

• Рекомендуемый (A40, 5 ч): 225 токенов — дефицит -92 токена

• Быстрый (RTX 4090, 3 ч): 213 токенов — дефицит -80 токенов

⚠️ Вывод: При балансе 133 токенов дообучение 24B модели невозможно — даже минимальный сценарий не оставляет резерва на ошибки и перезапуски. Для полного цикла (подбор гиперпараметров, обучение, валидация, развёртывание) требуется 500–1000 токенов.

👥 Авторы: Команда — ГБПОУ РО «Сальский индустриальный техникум» (СИТ) Бардаков Д.Н.

Новость о проекте на сайте техникума

📜 Лицензия: Apache 2.0 | 🌐 Язык: Русский | 📅 Год: 2026