← К каталогу
Текстовый курс 11 глав 76 уроков AI-тесты
LLM Course
Курс "LLM Course" от LearnPath посвящен разработке и настройке модели LLM (Language Model), обучению на собственном датасете, токенизации текста и созданию адаптеров под конкретные задачи. Это практический курс, который включает 76 уроков на продвинутом уровне с использованием PyTorch и Hugging Face Transformers. Научитесь применять современные методы языковой модели до обучения и адаптации существующих моделей для конкретных задач, а также публикации своих моделей. Примеры кода и практические занятия помогут закрепить теоретические знания.
Что внутри
- 01
0. Установка
1 уроков- Введение
- 02
1. Трансформеры
10 уроков- Введение
- Обработка естественного языка
- Трансформеры: на что они способны?
- Как работают трансформеры?
- Модели-кодировщики
- Модели-декодировщики
- Модели "seq2seq
- Предвзятости и ограничения
- Итоги
- Тест в конце главы
- 03
2. Использование Transformers
8 уроков- Введение
- За конвейером
- Модели
- Токенизаторы
- Обработка множественных последовательностей
- Собираем все воедино
- Базовое использование завершено!
- Тест в конце главы
- 04
3. Fine-tuning предобученной модели
6 уроков- Введение
- Предобработка данных
- Fine-tuning модели с использованием Trainer API
- Полное обучение модели
- Fine-tuning, итоги!
- Тест в конце главы
- 05
4. Hugging Face Hub
6 уроков- Hugging Face Hub
- Использование предобученных моделей
- Публикация предобученных моделей в общий доступ
- Создание карточки модели
- Первая часть завершена!
- Тест в конце главы
- 06
5. Библиотека Datasets
7 уроков- Введение
- Что делать, если моего датасета на нет на Hub?
- Препарируем Datasets
- Big data? Datasets спешат на помощь!
- Семантический поиск с помощью FAISS
- Datasets, итоги!
- Тест в конце главы
- 07
6. Бибилиотека Tokenizers
11 уроков- Введение
- Обучение нового токенизатора на основе старого
- Особые возможности быстрых токенизаторов
- Быстрые токенизаторы в QA конвейере
- Нормализация и предварительная токенизация
- Токенизация Byte-Pair Encoding
- Токенизация WordPiece
- Токенизация Unigram
- Создание токенизатора, блок за блоком
- Токенизаторы, проверка!
- Тест в конце главы
- 08
7. Основные задачи NLP
9 уроков- Введение
- Классификация токенов
- Дообучение модели маскированного языкового моделирования
- Перевод
- Суммаризация
- Обучение каузальной языковой модели с нуля
- Ответы на вопросы
- Освоение NLP
- Тест в конце главы
- 09
8. Как попросить о помощи
8 уроков- Введение
- Что делать, если возникла ошибка
- Обращение за помощью на форумах
- Отладка обучения
- Отладка обучения
- Как написать хорошее сообщение об ошибке (issue)
- Часть 2 завершена!
- Тест в конце главы
- 10
9. Создание и распространение демо
9 уроков- Введение в Gradio
- Создание вашего первого демо
- Понимание класса Interface
- Делимся демонстрациями с другими
- Интеграция с Hugging Face Hub
- Расширенные возможности Interface
- Введение в Gradio Blocks
- Gradio, проверка!
- Тест в конце главы
- 11
Глоссарий
1 уроков- Глоссарий
Готов начать?
Курс открывается в учебной среде. После регистрации прогресс сохраняется.