- มหาวิทยาลัยคาร์เนกีเมลลอน (CMU) เปิดสอนรายวิชานี้ในฐานะคอร์สเบื้องต้นที่ว่าด้วย หลักการทำงานของระบบปัญญาประดิษฐ์สมัยใหม่
- เน้นที่ แมชชีนเลิร์นนิงและโมเดลภาษาขนาดใหญ่ (LLM) โดยเรียนรู้เทคโนโลยีพื้นฐานของระบบอย่าง ChatGPT, Gemini และ Claude
- ผู้เรียนจะได้เรียนรู้ การเรียนรู้แบบมีผู้สอนพื้นฐาน, โครงข่ายประสาท, ทรานส์ฟอร์เมอร์, การฝึกหลังขั้นต้น (post-training) และสามารถลงมือสร้าง LLM แบบโอเพนซอร์สได้ด้วยตนเอง
- เวอร์ชันออนไลน์ เปิดให้เรียนฟรี โดยจะเผยแพร่วิดีโอการสอนและการบ้านตามกำหนดที่ช้ากว่าชั้นเรียน CMU 2 สัปดาห์
- อนุญาตให้ใช้เครื่องมือ AI ได้ แต่แนะนำให้เขียนงานส่งฉบับสุดท้ายด้วยตนเอง ซึ่งเป็นนโยบายเพื่อช่วยเพิ่มความเข้าใจในการเรียนรู้
ภาพรวมรายวิชา
- รายวิชานี้มุ่งเน้น ปัญญาประดิษฐ์ (AI) ในความหมายสมัยใหม่ โดยเน้นที่ แมชชีนเลิร์นนิงและโมเดลภาษาขนาดใหญ่ (LLM)
- ครอบคลุมเทคโนโลยีพื้นฐานของระบบอย่าง ChatGPT, Gemini และ Claude
- การนำ LLM ไปใช้งานในระดับพื้นฐานประกอบด้วยเทคนิคและโครงสร้างด้านแมชชีนเลิร์นนิงเพียงไม่กี่อย่าง และสามารถเขียนได้ด้วยโค้ดเพียงไม่กี่ร้อยบรรทัด
- ผู้เรียนจะได้เข้าใจหลักการพื้นฐานของ การเรียนรู้แบบมีผู้สอน, LLM และการฝึกหลังขั้นต้น (post-training) และสามารถ สร้าง AI แชตบอตได้ด้วยตนเอง
- หัวข้อหลักที่ครอบคลุมมีดังนี้
- ประวัติย่อของ AI
- การเรียนรู้แบบมีผู้สอน: โมเดลเชิงเส้น, ฟังก์ชันการสูญเสีย, การหาค่าเหมาะที่สุด, โครงข่ายประสาท
- โมเดลภาษาขนาดใหญ่: self-attention, ทรานส์ฟอร์เมอร์, โทเคนไนเซอร์, การอนุมานอย่างมีประสิทธิภาพ
- การฝึกหลังขั้นต้น: การปรับจูนแบบมีผู้สอน, การจัดแนวและการจูนตามคำสั่ง, โมเดลการให้เหตุผล, ความปลอดภัยและความมั่นคงปลอดภัย
หลักสูตรออนไลน์
- มี เวอร์ชันออนไลน์ฟรี เปิดพร้อมกับชั้นเรียน CMU โดยให้เนื้อหาที่ ล่าช้ากว่าตารางเรียนของ CMU 2 สัปดาห์
- รวมวิดีโอการสอน, การบ้าน (ระบบ mugrade), Colab notebook เป็นต้น
- เวอร์ชันออนไลน์ไม่มีควิซ, สอบกลางภาค และสอบปลายภาค
- สามารถรับการแจ้งเตือนทางอีเมลเมื่อมีการเผยแพร่บทเรียนและการบ้านได้ผ่าน Enroll here
- TA, ชั่วโมงให้คำปรึกษา และการให้คะแนน มีเฉพาะในชั้นเรียน CMU เท่านั้น
การประเมินผลและข้อกำหนดเบื้องต้น
- สัดส่วนคะแนน
- การบ้านและการเขียนโปรแกรม 20%
- ควิซการบ้าน 40%
- สอบกลางภาคและปลายภาค 40% (กลางภาคแต่ละครั้ง 10%, ปลายภาค 20%)
- รายวิชาพื้นฐานที่จำเป็น
- การเขียนโปรแกรม: ต้องมีความชำนาญด้านการเขียนโปรแกรมเชิงวัตถุด้วย Python (15-112 หรือ 15-122)
- คณิตศาสตร์: แคลคูลัสพื้นฐานที่รวมการหาอนุพันธ์ (21-111 หรือ 21-120) และแนะนำให้มีพื้นฐานพีชคณิตเชิงเส้นกับความน่าจะเป็น
การบ้านและการเขียนโปรแกรม
- การบ้านหลักมีเป้าหมายให้ ค่อย ๆ สร้าง AI แชตบอตขึ้นมาเอง
- ส่งผ่านระบบ mugrade และมีเวอร์ชัน Colab กับ Marimo notebook ให้ใช้งาน
- การบ้านบางส่วนต่อยอดจากผลลัพธ์ของการบ้านก่อนหน้า
- รายการการบ้าน
- HW0: พื้นฐานการให้คะแนนอัตโนมัติและการเขียนโปรแกรม
- HW1: พีชคณิตเชิงเส้นและ PyTorch
- HW2: การหาอนุพันธ์อัตโนมัติและการฝึกโมเดลเชิงเส้น
- HW3: การฝึกโครงข่ายประสาท
- HW4: การสร้างทรานส์ฟอร์เมอร์
- HW5: การสร้าง LLM แบบขั้นต่ำ
- HW6: การปรับจูนแบบมีผู้สอนและการฝึกแชตบอต
- HW7: การเรียนรู้แบบเสริมกำลัง
- หลังการบ้านแต่ละชิ้นจะมี ควิซ 15 นาที โดยออกข้อสอบจากโค้ดหรือแนวคิดของการบ้านนั้น
การสอบและตารางการสอน
- ประกอบด้วย สอบกลางภาค 2 ครั้ง และสอบปลายภาค 1 ครั้ง โดยทั้งหมดเป็นการสอบออฟไลน์แบบปิด
- กลางภาค 1: การเรียนรู้แบบมีผู้สอน
- กลางภาค 2: โมเดลภาษาขนาดใหญ่
- ปลายภาค: ประเมินแบบสะสม (ให้น้ำหนักกับช่วงครึ่งหลังมากกว่า)
- ตารางการสอนจะอัปเดตระหว่างภาคการศึกษา และเวอร์ชันออนไลน์จะเผยแพร่หลังจากนั้น 2 สัปดาห์
- ตัวอย่าง: 1/12 ‘ประวัติ AI’, 1/28 ‘โมเดลเชิงเส้น’, 2/16 ‘สอบกลางภาค 1’, 3/18 ‘สอบกลางภาค 2’, 4/20 ‘กำหนดส่ง HW7’ เป็นต้น
นโยบายการใช้เครื่องมือ AI
- อนุญาตให้ใช้ผู้ช่วย AI: สามารถใช้เครื่องมือ AI เป็นข้อมูลอ้างอิงระหว่างทำการบ้านและเขียนโปรแกรมได้
- อย่างไรก็ตาม ขอแนะนำอย่างยิ่งให้เขียนงานส่งฉบับสุดท้ายด้วยตนเอง
- ในการประเมินระหว่างเรียน (ควิซและการสอบ) ห้ามใช้ AI และเอกสารภายนอก
- จุดประสงค์ของนโยบายนี้คือเพื่อเพิ่มประสิทธิภาพในการเรียนรู้
- AI มีประโยชน์ในการช่วยการเรียนรู้ แต่การพึ่งพามากเกินไปอาจทำให้ความเข้าใจลดลง
- นักศึกษาที่แก้การบ้านด้วยตนเองมักทำผลงานได้ดีกว่าในควิซและการสอบ
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
เมื่อดู นโยบาย ของวิชา AI นี้ จะอนุญาตให้ใช้ผู้ช่วย AI ในงานมอบหมายหรือการบ้านเขียนโปรแกรมได้ แต่แนะนำให้ เขียนฉบับส่งสุดท้ายด้วยตัวเอง
สำหรับควิซหรือการสอบในชั้นเรียน ห้ามใช้ AI หรือเอกสารภายนอก
เหตุผลคือ AI มีประโยชน์ในฐานะเครื่องมือช่วยเรียน แต่การพึ่งพามากเกินไปอาจขัดขวางการเรียนรู้
มีหลักฐานเชิงประสบการณ์ว่านักศึกษาที่แก้ปัญหาด้วยตนเองทำผลงานในการสอบได้ดีกว่ามาก
แก่นสำคัญคือแม้จะรู้ว่านักศึกษายังไงก็ใช้ AI กันอยู่แล้ว แต่ก็เชื่อใน ความตั้งใจเรียนและการพัฒนาตัวเอง
ฉันเคยช่วยสอนวิชาคล้ายกันมาก่อน ถ้ามี AI ช่วยดีบักได้ นักศึกษาก็น่าจะครอบคลุมเนื้อหาได้มากขึ้นและโฟกัสกับส่วนที่น่าสนใจอย่าง การเขียน CUDA implementation ได้
วิชาใหม่ครั้งนี้ดูน่าสนใจมากจริง ๆ และศาสตราจารย์ Zico ก็เป็นอาจารย์ที่ยอดเยี่ยม
ใช้ AI เพื่อเพิ่มความเร็วในการทำความเข้าใจ และสุดท้ายก็ ประเมินผลโดยไม่มี AI ซึ่งดีต่อการทำให้การเรียนแน่นขึ้น
ตอนนั้นรู้สึกว่าไม่ยุติธรรม แต่พอมาคิดตอนนี้กลับเห็นว่าเป็นวิธีที่ยุติธรรมมาก
ดูเป็นแนวทางที่เหมาะกับยุคนี้มากกว่า
ผู้สอนวิชานี้เป็นกรรมการบอร์ดของ OpenAI
บทความที่เกี่ยวข้อง: Zico Kolter joins OpenAI’s board of directors
น่าเสียดายที่คำว่า ‘modern AI’ ดูเหมือนจะหมายถึงแค่ LLM
AI สมัยใหม่จริง ๆ ครอบคลุม ขอบเขตที่กว้างกว่านั้นมาก ฉันเห็นแค่ชื่อวิชาก็หวังว่าจะได้เห็นโมเดล SOTA ที่หลากหลายกว่านี้
ถึงอย่างนั้น วิชาของ CMU โดยทั่วไปก็มักยอดเยี่ยมอยู่แล้ว ดังนั้นก็น่าจะเป็นคอร์สที่ดี
ถ้ามีสื่อการสอนที่ครอบคลุมสาขาอื่นด้วย ฉันสนใจมาก
ฉันเริ่มเรียนด้วยเวอร์ชันฟรีมาตั้งแต่ไม่กี่วันก่อน และต้องบอกว่า ระบบการบ้านยอดเยี่ยมมาก
สามารถรันการทดสอบบนเครื่องตัวเองได้โดยตรง ทำให้เรียนรู้ได้ดีกว่าการนั่งฟังอย่างเดียวมาก
แนะนำเต็ม 10/10
ทำบนคอมพิวเตอร์ส่วนตัวได้เลยหรือมีสิทธิ์เข้าถึงคลัสเตอร์ให้ด้วย
สงสัยว่าวิชานี้เป็นคอร์สที่ดีไหม
หรือมี คอร์สอื่นที่แนะนำ สำหรับการเรียนรู้หลักการทำงานของ LLM อย่างเป็นระบบหรือไม่
อยากถามคนที่ติดตามเรียนและทำการบ้านทุกชิ้นจริง ๆ
ในความเป็นจริงต้องทุ่มเวลา กี่ชั่วโมงต่อสัปดาห์ ถึงจะเรียนจบได้
กำลังรอให้มี Postmodern AI ออกมา
น่าเสียดายที่ไม่มีเนื้อหาเกี่ยวกับ symbolic reasoning
หวังว่าจะมีการ ตีพิมพ์ตำราเรียน ให้อ่านควบคู่กับวิดีโอสอน
ถ้าออกมาเมื่อไรฉันจะซื้อทันที
ดีใจที่ได้เห็น การกลับมาของ Lisp และ Prolog
แต่ถึงอย่างนั้น Lisp และ Prolog ก็ยังมีประโยชน์อยู่เสมอ
ถ้าจะเขียน neural network ตั้งแต่ต้น C ก็เหมาะดี และถ้าใช้ Python เชื่อมซับซิสเต็มเข้าด้วยกัน ก็เพียงพอจะสร้างระบบที่ซับซ้อนได้
พวกมันยังคงอยู่มาโดยตลอดแบบเงียบ ๆ ใน พื้นที่เฉพาะของตัวเอง