- คอร์สการพัฒนาโครงข่ายประสาทเทียมที่สร้างโดย Andrej Karpathy อดีตหัวหน้าฝ่าย AI ของ Tesla
- เริ่มตั้งแต่พื้นฐานของ backpropagation ไปจนถึงการพัฒนาโครงข่ายประสาทเทียมเชิงลึกสมัยใหม่อย่าง GPT
- โมเดลภาษาเป็นสื่อการเรียนรู้ deep learning ที่ยอดเยี่ยม แม้ภายหลังจะขยายไปสู่ด้านอย่าง computer vision เนื้อหาส่วนใหญ่ที่เรียนก็สามารถนำไปใช้ได้ทันที
Syllabus
- (2h25m) บทนำสู่โครงข่ายประสาทเทียมและ backpropagation แบบอธิบายละเอียด: สร้าง micrograd
- (1h57m) บทนำสู่ language modeling แบบอธิบายละเอียด: สร้าง makemore
- (1h15m) สร้าง makemore ตอนที่ 2: MLP
- (1h55m) สร้าง makemore ตอนที่ 3: Activations & Gradients, BatchNorm
- (1h55m) สร้าง makemore ตอนที่ 4: ก้าวสู่การเป็นนินจาแห่ง Backprop
- (56m) สร้าง makemore ตอนที่ 5: สร้าง WaveNet
- (1h56m) มาสร้าง GPT กัน: ตั้งแต่ศูนย์ ด้วยโค้ด แบบอธิบายละเอียด
2 ความคิดเห็น
ครับ
สัปดาห์ก่อนผมแค่โพสต์ลิงก์นี้ Let's build GPT - มาลองสร้าง GPT ตั้งแต่พื้นฐานกัน [วิดีโอ YouTube] เท่านั้น
แต่ดูเหมือนว่านี่เป็นเพียงส่วนหนึ่งของคอร์สทั้งหมดครับ