Kronos-mini: Модель для финансового моделирования временных рядов

Kronos: Фундаментальная модель для языка финансовых рынков

Kronos — это первая открытая фундаментальная модель для анализа финансовых свечей (K-линий), обученная на данных более чем 45 мировых бирж. Она разработана для обработки уникальных, сильно зашумленных характеристик финансовых данных.

Введение

Kronos — это семейство фундаментальных моделей только с декодером, предварительно обученных специально для «языка» финансовых рынков — последовательностей K-линий. Она использует новую двухэтапную структуру:

1. Специализированный токенизатор сначала квантует непрерывные, многомерные данные K-линий (OHLCV) в иерархические дискретные токены.
2. Большой, авторегрессивный трансформер затем предварительно обучается на этих токенах, что позволяет ему служить унифицированной моделью для различных количественных задач.

Успех парадигмы крупномасштабного предварительного обучения, примером которой являются большие языковые модели (LLM), вдохновил на разработку фундаментальных моделей временных рядов (TSFM). Kronos устраняет существующие ограничения, вводя специализированный токенизатор, который дискретизирует непрерывную рыночную информацию в последовательности токенов, сохраняя как динамику цен, так и паттерны торговой активности. Мы предварительно обучаем Kronos с использованием авторегрессивной цели на массивном многорыночном корпусе, содержащем более 12 миллиардов записей K-линий с 45 мировых бирж, что позволяет модели изучать тонкие временные и межактивные представления. Kronos превосходно справляется в условиях нулевой выборки с разнообразными финансовыми задачами, включая прогнозирование ценовых рядов, прогнозирование волатильности и генерацию синтетических данных.

Применение

Модель Kronos-mini может быть использована для широкого спектра задач в финансовой сфере, включая:

• Прогнозирование ценовых движений активов.
• Прогнозирование волатильности рынков.
• Генерация синтетических данных финансовых временных рядов для тестирования стратегий.
• Анализ паттернов торговой активности.

Как обучена модель

Kronos-mini является частью семейства моделей Kronos, предварительно обученных на огромном корпусе финансовых данных:

• Тип модели: Декодер-only трансформер.
• Данные: Более 12 миллиардов записей K-линий с 45 мировых бирж.
• Механизм токенизации: Специализированный токенизатор квантует данные OHLCV (открытие, максимум, минимум, закрытие, объем) в иерархические дискретные токены.
• Задача предварительного обучения: Авторегрессивное прогнозирование на последовательностях токенов.
• Общая цель: Изучение нюансов временных и кросс-активных представлений финансовых рынков.

Доступные модели

Мы выпускаем семейство предварительно обученных моделей с различной мощностью для удовлетворения различных вычислительных и прикладных потребностей. Все модели легко доступны на Hugging Face Hub.

Пример использования (псевдокод)

from transformers import AutoModel, AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("NeoQuasar/Kronos-mini")
model = AutoModel.from_pretrained("NeoQuasar/Kronos-mini")

# Приготовьте входные K-линии (OHLCV)
kline_data = [...]

# Токенизация и прогнозирование
inputs = tokenizer(kline_data, return_tensors="pt")
outputs = model(**inputs)
predictions = outputs.logits

Ссылки

NeoQuasar/Kronos-mini