แนะนำการเรียนรู้ทางสถิติด้วย Python
(statlearning.com)- ในสถานการณ์ที่ขนาดของการเก็บรวบรวมข้อมูลเพิ่มขึ้นเรื่อย ๆ An Introduction to Statistical Learning นำเสนอการเรียนรู้ทางสถิติในฐานะเครื่องมือเบื้องต้นเชิงปฏิบัติสำหรับทำความเข้าใจข้อมูล
- มุ่งเน้นที่ คำอธิบายที่กว้างและมีความเป็นเทคนิคน้อยกว่า มากกว่าคณิตศาสตร์ที่ซับซ้อน โดยเหมาะกับผู้อ่านที่ต้องการเรียนรู้เครื่องมือวิเคราะห์ข้อมูลสมัยใหม่
- ฉบับประยุกต์ใช้กับ R ต่อเนื่องจากฉบับที่ 1 ในปี 2013 และฉบับที่ 2 ในปี 2021 ส่วน ฉบับ Python (ISLP) ตีพิมพ์ในปี 2023
- แต่ละฉบับเชื่อมโยงแนวคิดของแต่ละบทเข้ากับโค้ด R หรือ Python ผ่าน แล็บฝึกปฏิบัติ ท้ายบท
- มีลิงก์สำหรับดาวน์โหลด PDF และลิงก์สั่งซื้อ เพื่อให้ผู้เริ่มต้นเลือกเอกสารที่ต้องการได้จาก R ฉบับที่ 1, R ฉบับที่ 2 หรือฉบับ Python
จุดเน้นของหนังสือปูพื้นการเรียนรู้ทางสถิติ
- An Introduction to Statistical Learning ตั้งอยู่บนบริบทที่ขนาดและขอบเขตของการเก็บรวบรวมข้อมูลเพิ่มขึ้นอย่างต่อเนื่องในแทบทุกสาขา
- การเรียนรู้ทางสถิติถูกนำเสนอในฐานะ ชุดเครื่องมือ ที่จำเป็นสำหรับผู้ที่ต้องการทำความเข้าใจข้อมูล
- ครอบคลุมหัวข้อสำคัญอย่างกว้างขวาง พร้อมลดระดับความยากทางเทคนิคลง ทำให้ผู้อ่านที่ต้องการใช้เครื่องมือวิเคราะห์ข้อมูลสมัยใหม่เข้าถึงได้ง่าย
ฉบับ แบบฝึกปฏิบัติ และเอกสาร
- ฉบับต่าง ๆ แบ่งเป็นสาย R และ Python
- ISLR ฉบับที่ 1 เป็นฉบับสำหรับ R ตีพิมพ์ในปี 2013
- ISLR ฉบับที่ 2 ตีพิมพ์ในปี 2021
- ISLP เป็นฉบับ Python ตีพิมพ์ในปี 2023
- ISLR ได้รับการแปลเป็นภาษาจีน อิตาลี ญี่ปุ่น เกาหลี มองโกเลีย รัสเซีย และเวียดนาม
- ท้ายแต่ละบทมี แล็บ ที่แสดงแนวคิดของบทนั้นด้วย R หรือ Python
- หัวข้อที่ครอบคลุมในหนังสือมีดังนี้
- การเรียนรู้ทางสถิติคืออะไร
- การถดถอย
- การจัดประเภท
- วิธีการสุ่มตัวอย่างซ้ำ
- การเลือกแบบจำลองเชิงเส้นและการทำให้เป็นระเบียบ
- วิธีการที่ก้าวข้ามความเป็นเชิงเส้น
- วิธีการแบบอิงต้นไม้
- ซัพพอร์ตเวกเตอร์แมชชีน
- การเรียนรู้เชิงลึก
- การวิเคราะห์การรอดชีวิต
- การเรียนรู้แบบไม่มีผู้สอน
- การทดสอบหลายสมมติฐาน
- เอกสาร PDF มีให้ผ่านลิงก์ต่อไปนี้
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
อาจจะออกนอกประเด็นไปหน่อย แต่ สัดส่วนระหว่างจำนวนโหวตแนะนำกับจำนวนคอมเมนต์ น่าสนใจมาก
บทความเกี่ยวกับ ChatGPT ปกติมักมีคอมเมนต์เป็นร้อย ๆ แต่ที่นี่จนถึงตอนนี้มีโหวตแนะนำ 100 ครั้งกับคอมเมนต์แค่ 7 อันเท่านั้น
หนังสือดูดี และดูจากผู้เขียนแล้วก็น่าจะดีแทบจะแน่นอน เลยคิดว่าจะซื้อ แต่สัดส่วนนี้เหมือนสะท้อนสภาพปัจจุบันของ “ML/AI/วิทยาศาสตร์ข้อมูล” อยู่เหมือนกัน ทำให้เกิดความคิดแบบประชด ๆ ว่าคนจำนวนมากที่สนใจกระแส AI ยังไม่ได้ลองจับแนวคิดพื้นฐานมากนัก และไม่ได้เข้าใจคณิตศาสตร์/สถิติที่อยู่เบื้องหลังอย่างลึกซึ้ง
เพิ่มเติมคือ ผมเองก็ไม่ได้คอมเมนต์อะไรที่มีสาระเกี่ยวกับหัวข้อลิงก์นี้เหมือนกัน
https://github.com/melling/ISLR
ยังมีคอร์ส edX ที่ผู้เขียนทำไว้ด้วย: https://www.edx.org/course/statistical-learning
หนังสือแบบนี้เป็นหัวใจสำคัญในการเริ่มต้นแมชชีนเลิร์นนิง/AI และเล่มนี้ก็ดีเป็นพิเศษ ผมเองก็เริ่มเรียนแมชชีนเลิร์นนิงจากหนังสือเล่มนี้
ตอนนี้ AI มีความร้อนแรงเกินจริงอย่างมาก และน่าจะกลายเป็นเหมือนฟองสบู่ดอตคอม ต่างจาก Crypto ตรงที่ AI มีการใช้งานจริงอยู่แล้ว และคำพูดนี้ยังเป็นจริงแม้ไม่นับผลิตภัณฑ์ LLM ด้วย เพียงแต่ก็มีทั้งการโฆษณาเกินจริงและความคาดหวังปนความหวังอยู่มาก เมื่อฟองสบู่แตก คนจำนวนมากคงเจ็บตัว ถึงอย่างนั้น ในระยะสั้นก็ยังจะมีคนที่ทำเงินจริงได้ต่อไป และพวกที่ผมรู้จักซึ่งช่วยโหมกระแสก็เข้าใจเรื่องนี้ดี
ถึงอย่างไร AI ก็จะยังอยู่ต่อไป และแม้หลังฟองสบู่แตก การใช้งาน AI จริง ๆ ก็จะยังคงอยู่รอบตัวเรา
ผมเข้าใจความรู้สึกนั้น แต่ในการใช้งานแมชชีนเลิร์นนิงจำนวนมาก การ เรียกใช้ ChatGPT API มักเป็นแนวทางที่ดีกว่าการสร้างโมเดลเอง 100 เท่า ดังนั้นอาจไม่จำเป็นต้องเข้าใจคณิตศาสตร์จริง ๆ ก็ได้
ตัวอย่างเช่น ผมกำลังทำแอปคำนวณโภชนาการด้วย AI และใช้การเรียกฟังก์ชันของ ChatGPT ถ้าเพิ่มฟิลด์อย่างอีโมจิอาหารเข้าไป อาหารอะไรก็ตามจะถูกจัดหมวดหมู่เป็นอีโมจิที่เหมาะสมโดยอัตโนมัติ จะทำอะไรแบบนี้ได้โดยไม่ต้องรู้อะไรเลยเกี่ยวกับ gradient descent หรือคุณสมบัติพื้นฐาน
เป็นแบบนี้มาตั้งแต่หลายปีก่อน และในสภาพแวดล้อมการทำงานส่วนใหญ่ส่งผลเสีย ผมไม่อิจฉานักวิทยาศาสตร์ข้อมูลในภาคปฏิบัติที่ต้องคอยจัดการความคาดหวังเลย
บน HN แทบจะมีแต่ความร้อนแรงเกินจริง และมี วิทยาศาสตร์ ไม่มากนัก ความมั่นใจสูงแต่หลักฐานอ่อน ชอบอ้างอิงเปเปอร์ แต่ดูเหมือนอ่านแค่บทคัดย่อแล้วพลาดนัยสำคัญ โดยเฉพาะในสาขาที่หากระบุข้อจำกัดไว้ก็เสี่ยงถูกปฏิเสธมากขึ้น และบางครั้ง reviewer ก็แค่คัดลอกส่วนนั้นกลับมาแล้วจบด้วยคำว่าขอบคุณสำหรับความพยายาม
วงวิชาการดีกว่านิดหน่อย แต่โดยรวมก็มีนักวิจัยจำนวนมากที่พื้นฐานคณิตศาสตร์ไม่แน่น แม้แต่ในมหาวิทยาลัยหรือสถาบันวิจัยชั้นนำ ผมก็รู้จักหรือเคยเจอคนที่ไม่รู้ความแตกต่างระหว่าง likelihood กับ probability มีคนที่ไม่เข้าใจ probability density ด้วย และบางคนถึงกับทำงานกับ diffusion model อยู่ อย่างไรก็ตาม นักวิจัยที่โดดเด่นที่สุดโดยมากมีความสามารถเหล่านี้ เพียงแต่พวกเขาไม่ได้ออกเปเปอร์เร็วขนาดนั้น และงานของพวกเขาอาจไม่เป็นที่นิยมเท่า
ตอนนี้งานวิจัยจำนวนมากเอนเอียงไปที่ การจูนพารามิเตอร์และการทุ่มทรัพยากรประมวลผล ผมยอมรับว่าการจูนจำเป็น แต่ต้องพูดตามตรงว่านั่นไม่ใช่นวัตกรรมระดับสูง และยากที่จะพิสูจน์ว่าโมเดล/สถาปัตยกรรมหนึ่งดีกว่าอีกแบบ หากไม่ได้จูนอีกแบบในระดับเดียวกัน กระแสแบบนี้กลายเป็นกำแพงขวางงานวิจัยประเภทอื่น ๆ ผมเลยพูดเรื่องนี้อยู่บ้าง
สรุปคือค่อนข้างตรงเลย ในแมชชีนเลิร์นนิง/AI โดยเฉพาะบน HN มีสัญญาณรบกวนเยอะมาก
เพิ่มเติม ผมแนะนำ Statistical Rethinking ของ Richard McElreath (https://xcelab.net/rm/statistical-rethinking/) อ่านสนุกกว่า ISLR และยังแนะนำสถิติเบย์เซียนด้วย (เลกเชอร์มีบน YouTube เช่นกัน) ผมยังแนะนำ Regression and Other Stories ของ Gelman (https://avehtari.github.io/ROS-Examples/) ด้วย
หนังสือเล่มนี้เป็นฉบับอัปเดตของตำรายอดนิยมมากที่เดิมใช้ R ศาสตราจารย์ Hastie และ Tibshirani เป็นนักการศึกษาชั้นนำในสาขา statistical learning
Stanford Online ก็มีวิดีโอเลกเชอร์ที่เดินตามโน้ตชุดนี้ด้วย ถ้าต้องการเรียนด้านทฤษฎีของแมชชีนเลิร์นนิงแบบคลาสสิก ขอแนะนำอย่างยิ่ง
สามารถดาวน์โหลดหนังสือทั้งเล่มอย่างถูกกฎหมายได้ที่นี่ [pdf]: https://hastie.su.domains/ISLP/ISLP_website.pdf
ISL เป็นตำราเกริ่นนำที่ดีที่สุดสำหรับวิธีแมชชีนเลิร์นนิงแบบคลาสสิก เน้นทฤษฎี แต่ก็เข้าถึงได้ง่ายพอสำหรับนักศึกษากลุ่มกว้างที่มีพื้นฐานสถิติ พีชคณิตเชิงเส้น และการเขียนโค้ด
ตอนสอนด้วย Python การที่ตัวอย่างมีเฉพาะ R ทำให้ไม่สะดวก ตอนนี้ถ้าเปลี่ยนเป็นชุด Jupyter Notebook แล้วแจกผ่านที่อย่าง Colab ได้ก็คงดี
บางคนอาจเรียกมันว่าแมชชีนเลิร์นนิง “แบบคลาสสิก” แต่สำหรับผม วิธีที่มีพารามิเตอร์น้อย เหล่านั้นมีประโยชน์มากในหลายกรณี และตีความได้ง่ายกว่า RNN มาก
ตั้งใจจะลองเปรียบเทียบ lab zero ของทั้งสองเวอร์ชัน
ผมดูแล็บ Python แค่ผ่าน ๆ ไม่กี่นาที แต่เท่าที่จำแล็บ R ได้ มันดูซับซ้อนและยาวกว่ามาก
ผมรู้ว่าใน HN มักบ่นกันบ่อยว่า R ยากและชวนสับสน แต่ผมมองว่า R เป็นภาษาที่ง่ายกว่าสำหรับผู้เริ่มต้นหรือคนสายสถิติที่จะเริ่มทำงานด้านสถิติ
ถ้าดูจากกลุ่มเป้าหมายที่แต่ละภาษาตั้งใจออกแบบมา ก็ไม่น่าแปลกใจ ผมคิดว่าควรยอมรับทั้งสองภาษา แล้วใช้ภาษาที่เหมาะกับงานที่อยู่ตรงหน้ามากกว่า
โดยส่วนตัวแล้ว ผมชอบ Pattern Recognition and Machine Learning ของ Bishop หรือ Probabilistic Machine Learning: An Introduction ของ Murphy มากกว่า
เพราะอย่างนั้นผมจึงคิดว่าการที่ ISLA ถูกแปลเป็นเรื่องที่มีความหมายมาก สำหรับนักศึกษาที่เรียนโมเดลแมชชีนเลิร์นนิง/สถิติมาเพียงพอแล้ว การย้ายโมเดลเชิงคณิตศาสตร์ไปเป็นโมเดลเชิงคำนวณควรทำได้ค่อนข้างง่าย ดังนั้นโค้ดจึงไม่จำเป็นเสมอไป ตั้งแต่แรก หากทำแบบนั้นไม่ได้ ก็อาจถือว่ายังไม่เข้าใจโมเดลเหล่านี้
ผมอยากเพิ่ม Elements of Statistical Learning ของผู้เขียน ISL(R/P) ด้วย ผมอ่าน ISL, ESL, Bishop แล้ว และเริ่มอ่าน Murphy แต่ยังอ่านไม่จบ ไม่มีเหตุผลพิเศษ แค่ยุ่งขึ้นแล้วหลุดไปเฉย ๆ หนังสือเหล่านี้เล่มไหนก็ตาม แนะนำอย่างยิ่ง
ในกรณีแบบนี้ Bishop ยังน่าแนะนำไหม หรือมัน เชิงทฤษฎี เกินไปหรือเปล่า
Nonparametric Statistics for the Behavioral Sciences, Second Edition ของ Sidney Siegel, N. John Castellan, Jr., ISBN 0-07-057357-3, McGraw-Hill, New York, 1988 ก็น่าพิจารณา
“ไม่อิงพารามิเตอร์” หมายถึงไม่ตั้งสมมติฐานเรื่องการแจกแจงความน่าจะเป็นที่อิงพารามิเตอร์ กล่าวคืออาจเรียกว่าเป็นแบบไม่ขึ้นกับการแจกแจงก็ได้
ตัวอย่างเช่นสามารถดูแผนการสุ่มตัวอย่างซ้ำได้ สมมติฐานมีน้อยมาก เรียบง่ายจริง ๆ ค่อนข้างฉลาด และมีประโยชน์โดยรวม โดยเฉพาะอย่างยิ่งเหมาะกับการคำนวณ นอกจากนี้ยังใช้ การสุ่มตัวอย่างซ้ำ เพื่อดึงข้อมูลจากข้อมูลทดสอบ “A-B” ให้ได้มากขึ้นได้ด้วย
ถ้าจะฝืนแยกความต่าง ก็อาจพูดได้ว่า ISLR เน้นการพยากรณ์มากกว่าการอนุมานหรือการทดสอบสมมติฐาน
ผมชอบซีรีส์ YouTube ที่ออกมาพร้อมกับหนังสือเวอร์ชันก่อนหน้านี้มาก: https://www.youtube.com/watch?v=5N9V07EIfIg&list=PLOg0ngHtcq...
ดูได้แม้ไม่มีหนังสือ และจะข้ามส่วนเขียนโค้ดก็ได้ มีอินไซต์ที่ไม่มีในหนังสือด้วย และเป็นการผสมผสานที่ยอดเยี่ยมระหว่างความสามารถทางเทคนิคมหาศาลกับความสามารถในการอธิบายแนวคิดอย่างกระชับ
สำหรับผมมันค่อนข้างเยิ่นเย้อ ถ้า Landau ยังมีชีวิตอยู่และมาเขียนหนังสือแบบนี้ใหม่ คงสั้นกว่านี้มาก จะทำแบบนั้นด้วย LLM ได้ไหมนะ?