Learnly
← К каталогу
Текстовый курс 11 глав 76 уроков AI-тесты

LLM Course

Курс "LLM Course" от LearnPath посвящен разработке и настройке модели LLM (Language Model), обучению на собственном датасете, токенизации текста и созданию адаптеров под конкретные задачи. Это практический курс, который включает 76 уроков на продвинутом уровне с использованием PyTorch и Hugging Face Transformers. Научитесь применять современные методы языковой модели до обучения и адаптации существующих моделей для конкретных задач, а также публикации своих моделей. Примеры кода и практические занятия помогут закрепить теоретические знания.

Начать без регистрации

Что внутри

  1. 01

    0. Установка

    1 уроков
    • Введение
  2. 02

    1. Трансформеры

    10 уроков
    • Введение
    • Обработка естественного языка
    • Трансформеры: на что они способны?
    • Как работают трансформеры?
    • Модели-кодировщики
    • Модели-декодировщики
    • Модели "seq2seq
    • Предвзятости и ограничения
    • Итоги
    • Тест в конце главы
  3. 03

    2. Использование Transformers

    8 уроков
    • Введение
    • За конвейером
    • Модели
    • Токенизаторы
    • Обработка множественных последовательностей
    • Собираем все воедино
    • Базовое использование завершено!
    • Тест в конце главы
  4. 04

    3. Fine-tuning предобученной модели

    6 уроков
    • Введение
    • Предобработка данных
    • Fine-tuning модели с использованием Trainer API
    • Полное обучение модели
    • Fine-tuning, итоги!
    • Тест в конце главы
  5. 05

    4. Hugging Face Hub

    6 уроков
    • Hugging Face Hub
    • Использование предобученных моделей
    • Публикация предобученных моделей в общий доступ
    • Создание карточки модели
    • Первая часть завершена!
    • Тест в конце главы
  6. 06

    5. Библиотека Datasets

    7 уроков
    • Введение
    • Что делать, если моего датасета на нет на Hub?
    • Препарируем Datasets
    • Big data? Datasets спешат на помощь!
    • Семантический поиск с помощью FAISS
    • Datasets, итоги!
    • Тест в конце главы
  7. 07

    6. Бибилиотека Tokenizers

    11 уроков
    • Введение
    • Обучение нового токенизатора на основе старого
    • Особые возможности быстрых токенизаторов
    • Быстрые токенизаторы в QA конвейере
    • Нормализация и предварительная токенизация
    • Токенизация Byte-Pair Encoding
    • Токенизация WordPiece
    • Токенизация Unigram
    • Создание токенизатора, блок за блоком
    • Токенизаторы, проверка!
    • Тест в конце главы
  8. 08

    7. Основные задачи NLP

    9 уроков
    • Введение
    • Классификация токенов
    • Дообучение модели маскированного языкового моделирования
    • Перевод
    • Суммаризация
    • Обучение каузальной языковой модели с нуля
    • Ответы на вопросы
    • Освоение NLP
    • Тест в конце главы
  9. 09

    8. Как попросить о помощи

    8 уроков
    • Введение
    • Что делать, если возникла ошибка
    • Обращение за помощью на форумах
    • Отладка обучения
    • Отладка обучения
    • Как написать хорошее сообщение об ошибке (issue)
    • Часть 2 завершена!
    • Тест в конце главы
  10. 10

    9. Создание и распространение демо

    9 уроков
    • Введение в Gradio
    • Создание вашего первого демо
    • Понимание класса Interface
    • Делимся демонстрациями с другими
    • Интеграция с Hugging Face Hub
    • Расширенные возможности Interface
    • Введение в Gradio Blocks
    • Gradio, проверка!
    • Тест в конце главы
  11. 11

    Глоссарий

    1 уроков
    • Глоссарий

Готов начать?

Курс открывается в учебной среде. После регистрации прогресс сохраняется.

Начать без регистрации