Qubu как платформа: модели, мощности и API

1. Что такое Qubu и почему это не «ещё один ChatGPT»

На рынке есть два типа AI-продуктов:

Qubu — это второй тип.

Мы не просто показываем чат с нейросетью. Мы даём возможность:

1. Просматривать каталог моделей — от больших языковых моделей до моделей для распознавания изображений, генерации видео, аудио.

2. Запускать инференс на наших мощностях — вы платите только за время работы модели.

3. Интегрировать модели через API — ваш сайт или приложение может обращаться к Qubu как к «движку».

2. Архитектура: как устроен «инференс на мощностях Qubu»

Когда вы запускаете модель через Qubu, происходит следующее:

[Ваш запрос] → [API Qubu] → [Очередь задач] → [GPU-кластер Qubu] → [Результат] → [Вам]

Компоненты платформы:

3. Ключевые понятия, которые нужно знать

Модель — это файл с весами нейросети (например, llama-3-70b.Q4_K_M.gguf). Сама по себе она ничего не делает. Её нужно «загрузить» в память GPU и подать на вход данные. Это называется инференс.

Инференс (Inference) — процесс получения ответа от модели. Вы даёте модели запрос («Напиши письмо клиенту»), она вычисляет ответ. Стоимость инференса зависит от:

• Размера модели (чем больше, тем дороже)

• Длительности запроса (количество токенов)

• Времени работы GPU

API (Application Programming Interface) — способ для вашего кода «поговорить» с Qubu. Вместо того чтобы заходить в браузер и нажимать кнопки, ваш сервер отправляет HTTP-запрос и получает JSON-ответ.

4. Роли пользователей на платформе Qubu

5. Тарификация: за что мы платим

Qubu работает по модели pay-as-you-go (платишь за фактическое использование).

Важно: Вы платите только за фактическое использование. Не нужно покупать «пакеты» или «сервер наперед».

Итог урока: Qubu — это не «ещё один чат». Это инфраструктура, которая даёт вам доступ к AI-мощностям через простой API и веб-интерфейс.