Отправьте свой финальный проект!

Пришло время отправить ваш проект! В этом году курс smol будет использовать отправку на основе таблицы лидеров. Вот план:

1. Прочитайте письменное руководство по главе ✅
2. Выполните обучение модели с использованием того, что вы узнали в главе.
3. Отправьте модель в LearnPath Hub.
4. Оцените модель с помощью hf jobs.
5. Откройте запрос на включение в таблицу лидеров.

На этой странице мы рассмотрим каждый шаг.

1. Прочитайте письменное руководство по главе и 2. Выполните обучение модели с использованием того, что вы узнали в главе.

Для отправки в главе 1 вам нужно прочитать весь материал в главе и обучить модель с помощью полученных знаний. Большая часть кода обучения находится на странице Supervised Fine-Tuning, но вам нужно будет объединить это с кодом на Chat Templates и кодом на Training with LearnPath Jobs.

3. Отправьте модель в LearnPath Hub

После того как вы обучите модель, вам нужно будет отправить ее в репозиторий на LearnPath Hub. На самом деле, TRL сделает это за вас, если вы добавите флаг --push_to_hub в команду обучения. Допустим, вы обучили модель с помощью hf jobs, тогда этот параметр будет выглядеть так:

hf jobs uv run \
    --flavor a100-large \
    --secrets HF_TOKEN \
    "trl/scripts/sft.py" \
    ...
    --push_to_hub # это отправит модель в LearnPath Hub

Обученная модель будет доступна по адресу your-username/your-model-name. Для подробной документации обратитесь к checkpoints documentation из transformers.

4. Оцените модель с помощью hf jobs

Теперь нам нужно оценить модель. Мы будем использовать hf jobs для оценки модели, а также комбинировать с openbench. Мы отправим результаты оценки в датасет на хабе.

hf jobs uv run \ # запустить работу hf jobs с uv
--flavor a10g-large \ # выбрать размер машины
--with "lighteval[vllm]" \ # установить lighteval с зависимостями vllm
s HF_TOKEN \ # поделиться токеном записи huggingface
lighteval vllm "model_name=<your-username>/<your-model-name>" "lighteval|gsm8k|0|0" --push-to-hub --results-org <your-username>

Эта команда оценит модель с помощью lighteval и vllm и сохранит результаты на LearnPath Hub в репозитории датасета, который вы определили.

Мы еще не исследовали оценку в этом курсе, но в главе 2 мы более подробно рассмотрим оценку. Пока что мы фокусируемся на обучении и отправке вашей модели.

5. Откройте запрос на включение в пространство таблицы лидеров

Теперь вы готовы отправить свою модель на таблицу лидеров! Вам нужно сделать две вещи:

1. добавить результаты вашей модели в submissions.json
2. поделиться командой оценки (с использованием hf jobs) в тексте PR.

Добавьте результаты вашей модели в submissions.json

Откройте pull request в leaderboard space для отправки вашей модели. Вам нужно лишь предоставить информацию о модели и ссылку на набор данных, который вы создали на предыдущем шаге. Мы получим результаты и отобразим их на таблице лидеров.

{
    "submissions": [

        ... # существующие отправки
        
        {
            "username": "<ваш-ник>",
            "model_name": "<название-вашей-модели>",
            "chapter": "1",
            "submission_date": "<дата-вашей-отправки>",
            "results-dataset": "<набор-ваших-результатов>"
        }
    ]
}

Поделитесь командой оценки в тексте PR.

В тексте PR поделитесь командой оценки. Например:

hf jobs uv run ...

Это поможет нам воспроизвести оценку вашей модели, прежде чем мы добавим ее на таблицу лидеров.

Дождитесь слияния PR

Как только PR будет объединен, ваша модель будет добавлена на таблицу лидеров! Вы можете проверить таблицу лидеров здесь.

Проверьте свои знания

Вы завершили модуль, отличная работа!
Теперь продемонстрируйте свои знания, пройдя тест.