推論モデルをゼロから学ぶ11時間の動画講座
原題: Sebastian Raschka's from-scratch video course on building reasoning models
なぜ重要か
推論モデルが標準化する中、実装レベルの理解を持つエンジニアの希少価値は高まっており、この種の実践的教材の需要は業界全体で増している。
機械学習研究者のSebastian Raschka博士は2026年10月24日、推論モデルをPythonとPyTorchでゼロから実装する全8本・計11時間超の動画講座を公開した。評価・推論時スケーリング・強化学習・蒸留を網羅し、ベースモデルにはQwen3の小型モデルを使用。昨年公開の「Coding LLMs from the Ground Up」の続編に位置づけられるが、前作の視聴は必須ではない。
Raschka博士はSubstackの技術誌「Ahead of AI」で約2年にわたり推論モデルを取り上げてきた。今回の動画講座はその集大成で、既存の書籍「Build A Reasoning Model (From Scratch)」の映像版として制作された。
講座の構成は全8本。事前学習済みのQwen3小型モデルを出発点に、推論時スケーリング（inference-time scaling）、検証可能な報酬を用いた強化学習（RLVR）、そして蒸留（distillation）を順に実装する。コーディングを中心に据えた設計で、理論の理解より「実際に動かして学ぶ」アプローチを貫く。
Raschka博士は推論モデルとエージェントの関係についても整理している。推論モデルは従来のLLMに追加のポストトレーニングを施した「エンジン」であり、エージェントハーネスはそのエンジンを活用するための外部フレームワークだと説明する。コンテキスト管理やツールアクセスを担うのがハーネス側で、推論モデル自体はその中核部品にすぎない。
現行世代のLLMはほぼすべてが推論モデルか推論モードを備えており、数学やコードだけでなく汎用的な問題解決にも応用が広がっている。博士は「仕組みを本当に理解するにはゼロから実装するのが最善」と述べ、既製のライブラリに頼らない学習を推奨している。
講座は現在Substack上で公開中。博士は短期の休暇を取ったのち、来月からLLMリサーチの定期更新を再開する予定だと告知した。