Теперь собрать собственную reasoning-модель может практически любой желающий.
Себастьян Рашка выпустил полностью бесплатный курс и открыл исходный код всех материалов.
На примере небольшой модели Qwen3-0.6B он показывает, как на самом деле обучаются reasoning-модели и из каких этапов складывается этот процесс.
В ходе курса можно разобраться, как:
• научить модель искать разные пути решения одной задачи;
• автоматически проверять правильность полученных ответов;
• улучшать её поведение с помощью обучения по вознаграждению и GRPO;
• наблюдать за тем, как модель порой находит способы обойти саму систему вознаграждений;
• обучать более компактную модель на данных рассуждений DeepSeek-R1.
Весь код можно запускать самостоятельно, наблюдая за ходом обучения и постепенно замечая, как меняется поведение модели.
При этом начинать с самого нуля не придётся, так как в качестве исходной точки используется уже готовая небольшая модель, а не фундаментальная модель, которую пришлось бы обучать с нуля.
Если вам давно хотелось понять, как устроены модели вроде DeepSeek-R1, этот курс даёт редкую возможность не просто прочитать об этом, а пройти весь путь собственными руками.