Устройство и практика LLM: от базы NLP до AI-агентов

Мы рады приветствовать вас на курсе, созданном на базе лекций МГУ. В рамках этого цикла мы перестанем относиться к искусственному интеллекту как к «магическому черному ящику». Наша главная цель — дать вам глубокое, системное понимание того, как устроены современные большие языковые модели изнутри, как они мыслят и как заставить их решать именно ваши задачи.

В этом курсе мы органично соединяем фундаментальную теорию и суровую инженерную практику. Мы начнем с исторических основ: как алгоритмы учились понимать смысл слов и улавливать контекст. Затем мы плавно перейдем к детальному разбору внутренней «анатомии» современных нейросетей. Вы узнаете, почему механизм многоголового внимания совершил настоящую революцию на рынке, как ИИ умудряется проглатывать и запоминать целые книги за раз и зачем крупные корпорации разделяют свои языковые модели на узкоспециализированные подсети (так называемые «Смеси экспертов»). Мы даже примерим на себя роль нейробиологов, пытаясь расшифровать отдельные нейроны и мысли искусственного интеллекта.

Вторая половина нашего обучения будет полностью сфокусирована на прикладных навыках. Допустим, у вас есть классная нейросеть с открытым исходным кодом, но у вас нет огромного бюджета на закупку серверов. Мы покажем, как с помощью современных методов эффективного дообучения «заточить» эту модель конкретно под ваши задачи на простых видеокартах. Вы освоите продвинутые техники общения с ИИ — как ставить ему роли, как заставлять его разбивать сложные задачи на логические шаги проверки.

Вершиной нашего практического трека станет создание AI-агентов. Мы отойдем от формата текстового чата и перейдем к проектированию автономных систем. Агент — это умный алгоритм, который сам решает, когда ему нужно заглянуть в вашу базу данных, когда сделать поисковый запрос в Google, а когда передать написанный текст агенту-критику на перепроверку.

Чему вы научитесь на курсе:

• Понимать принципы работы трансформеров — базовой архитектуры в основе ChatGPT, Midjourney и других мировых моделей корпорации.

• Разбираться, как нейросети читают текст: как они разбивают слова на фрагменты слогов, как учитывают порядок слов в предложении и избавляются от проблемы перегрузки памяти.

• Эффективно дообучать современные модели под специфические рабочие задачи так, чтобы не тратить десятки тысяч долларов на аренду гигантских суперкомпьютеров.

• Проектировать сложную логику работы (промпт-инжиниринг): от базовых запросов к алгоритмам поэтапного рассуждения ИИ вслух.

• Создавать и настраивать автономные мультиагентные системы — цифровых сотрудников, которые умеют пользоваться интернетом, таблицами и внешними программами.

• Понимать тренды ближайшего будущего: почему в мире заканчиваются текстовые данные, созданные людьми, и как современные нейросети учатся решать олимпиадную математику методом проб и ошибок.

Этот курс станет отличным трамплином для разработчиков, ML-инженеров и аналитиков данных, которые хотят перейти от простого использования сторонних API к созданию собственных сложных продуктов на базе генеративного искусственного интеллекта. Ждем вас на занятиях!