Stanford CS336: Kursus Pembuatan Language Model dari Nol
Judul asli: CS336: Language Modeling from Scratch
Mengapa Ini Penting
Kursus praktis ini menjawab kebutuhan industri akan talenta AI yang memahami implementasi language model
Stanford meluncurkan kursus CS336 yang mengajarkan mahasiswa membangun language model lengkap dari awal, mulai dari pengumpulan data hingga deployment. Kursus 5 unit ini dipimpin Tatsunori Hashimoto dan Percy Liang.
Stanford University mengumumkan kursus CS336 'Language Modeling from Scratch' untuk semester musim semi 2026. Kursus ini dirancang memberikan pemahaman komprehensif tentang language model dengan membimbing mahasiswa membangun sistem sendiri dari nol. Program yang dipimpin Tatsunori Hashimoto dan Percy Liang ini mencakup pengumpulan dan pembersihan data untuk pre-training, konstruksi model transformer, pelatihan model, dan evaluasi sebelum deployment. Kursus 5 unit ini memerlukan profisiensi Python tinggi dan pengalaman deep learning, dengan penugasan implementasi yang jauh lebih ekstensif dibanding kelas AI lainnya. Mahasiswa akan mengimplementasikan semua komponen termasuk tokenizer, arsitektur model, dan optimizer untuk melatih model Transformer standar.