ปฏิทรรศน์ของซิมป์สัน
(en.wikipedia.org)- ปฏิทรรศน์ของซิมป์สัน คือปรากฏการณ์ทางความน่าจะเป็นและสถิติที่แนวโน้มซึ่งเห็นได้ในกลุ่มย่อยหายไปหรือกลับทิศเมื่อรวมข้อมูลเข้าด้วยกัน ทำให้การตัดสินจากข้อมูลรวมเพียงอย่างเดียวอาจบิดเบือนอย่างมาก
- หากตีความข้อมูลความถี่เป็นเหตุและผลโดยตรง จะพลาด ตัวแปรกวน ได้ง่าย และเป็นปัญหาเป็นพิเศษในสถิติด้านสังคมศาสตร์และการแพทย์
- กรณีการรับเข้าบัณฑิตวิทยาลัยของ UC Berkeley, การรักษานิ่วในไต และค่าเฉลี่ยการตีในเบสบอลอาชีพ แสดงให้เห็นว่าการเปรียบเทียบในกลุ่มย่อยกับการเปรียบเทียบแบบรวมทั้งหมดอาจนำไปสู่ข้อสรุปที่ต่างกันได้
- การกลับทิศของอัตราส่วนอธิบายได้จากมุมมองเวกเตอร์ด้วย และข้อจำกัดสำคัญคือยากที่จะตัดสินจากตารางเพียงอย่างเดียวว่าควรแบ่งข้อมูลหรือรวมข้อมูล
- การตีความที่ถูกต้องต้องอาศัยโมเดลเชิงสาเหตุ เช่น back-door criterion ของ Pearl และ do-calculus โดยการเข้าใจกระบวนการสร้างข้อมูลสำคัญกว่าการรวมข้อมูลแบบง่าย ๆ
ปรากฏการณ์และชื่อเรียก
- ปฏิทรรศน์ของซิมป์สัน คือปรากฏการณ์ที่แนวโน้มซึ่งปรากฏในข้อมูลหลายกลุ่มหายไปหรือเปลี่ยนไปในทางตรงกันข้ามเมื่อรวมกลุ่มเข้าด้วยกัน
- เป็นอันตรายเป็นพิเศษเมื่อให้ การตีความเชิงสาเหตุ กับข้อมูลความถี่มากเกินไป และต้องจัดการตัวแปรกวนกับความสัมพันธ์เชิงสาเหตุอย่างเหมาะสมในการทำแบบจำลองทางสถิติ
- ใช้เป็นกรณีตัวอย่างสำคัญที่แสดงให้เห็นว่าการใช้สถิติผิดวิธีสามารถสร้างผลลัพธ์ที่ผิดพลาดได้อย่างไร
- Edward H. Simpson อธิบายปรากฏการณ์นี้ไว้ในบทความทางเทคนิคเมื่อปี 1951 ส่วน Karl Pearson กล่าวถึงผลลักษณะคล้ายกันก่อนหน้านั้นในปี 1899 และ Udny Yule ในปี 1903
- ชื่อ
Simpson's paradoxถูกนำมาใช้โดย Colin R. Blyth ในปี 1972 - ชื่ออื่น ๆ ได้แก่ Simpson's reversal, Yule–Simpson effect, amalgamation paradox, reversal paradox
กรณีการรับเข้าบัณฑิตวิทยาลัยของ UC Berkeley
- ข้อมูลการรับเข้าบัณฑิตวิทยาลัยของ University of California, Berkeley ในฤดูใบไม้ร่วงปี 1973 เมื่อดูตามภาพรวมทั้งหมด ผู้สมัครชายมีโอกาสได้รับเข้ามากกว่าผู้สมัครหญิง และความแตกต่างนั้นมากพอที่จะมองว่าเป็นเรื่องบังเอิญได้ยาก
- จากผู้สมัครทั้งหมด 12,763 คน อัตราการรับเข้าอยู่ที่ 41%
- ผู้ชาย 8,442 คนมีอัตราการรับเข้า 44%
- ผู้หญิง 4,321 คนมีอัตราการรับเข้า 35%
- เมื่อพิจารณาข้อมูลรายภาควิชา รูปแบบที่ปรากฏต่างจากภาพรวมทั้งหมด
- ผู้หญิงมีแนวโน้มสมัครเข้าภาควิชาที่แข่งขันสูงกว่าและมีอัตราการรับเข้าต่ำกว่ามากกว่า
- ผู้ชายมีแนวโน้มสมัครเข้าภาควิชาที่แข่งขันต่ำกว่าและมีอัตราการรับเข้าสูงกว่ามากกว่า
- ข้อมูลรวมและข้อมูลที่ปรับแล้วแสดง อคติขนาดเล็กแต่มีนัยสำคัญทางสถิติที่เป็นประโยชน์ต่อผู้หญิง
- จากทั้งหมด 85 ภาควิชา มี 4 ภาควิชาที่แสดงอคติอย่างมีนัยสำคัญซึ่งไม่เป็นประโยชน์ต่อผู้หญิง และมี 6 ภาควิชาที่แสดงอคติอย่างมีนัยสำคัญซึ่งไม่เป็นประโยชน์ต่อผู้ชาย
- ข้อสรุปไม่ได้อิงจากจำนวนภาควิชาที่มีอคติเอง แต่อิงจากผลการรับเข้าแยกตามเพศของทุกภาควิชา โดยถ่วงน้ำหนักด้วยอัตราการถูกปฏิเสธตามจำนวนผู้สมัครทั้งหมดของแต่ละภาควิชา
กรณีการรักษานิ่วในไต
- ในงานวิจัยทางการแพทย์จริง พบปฏิทรรศน์ของซิมป์สันเมื่อเปรียบเทียบอัตราความสำเร็จของการรักษา นิ่วในไต แบบ A และ B
- Treatment A รวมถึงหัตถการผ่าตัดแบบเปิด
- Treatment B รวมถึงหัตถการผ่าตัดแบบปิด
- เมื่อดูแยกตามขนาดนิ่ว Treatment A มีอัตราความสำเร็จสูงกว่า
- นิ่วขนาดเล็ก: A คือ 93%
(81/87), B คือ 87%(234/270) - นิ่วขนาดใหญ่: A คือ 73%
(192/263), B คือ 69%(55/80)
- นิ่วขนาดเล็ก: A คือ 93%
- เมื่อรวมขนาดนิ่วเข้าด้วยกัน Treatment B กลับมีอัตราความสำเร็จสูงกว่า
- โดยรวม: A คือ 78%
(273/350), B คือ 83%(289/350)
- โดยรวม: A คือ 78%
- การกลับทิศเกิดขึ้นเพราะการเลือกการรักษาและความยากของกรณีทำงานร่วมกัน
- แพทย์มีแนวโน้มใช้ Treatment A ซึ่งดีกว่าสำหรับนิ่วขนาดใหญ่ และใช้ Treatment B ซึ่งด้อยกว่าโดยเปรียบเทียบกับนิ่วขนาดเล็กมากกว่า
- ขนาดของนิ่วส่งผลต่ออัตราความสำเร็จอย่างมาก ทำให้ความรุนแรงของกรณีมีอิทธิพลต่ออัตรารวมมากกว่าการเลือกวิธีรักษา
- เหตุที่ Treatment B ซึ่งมีประสิทธิผลน้อยกว่าดูเหมือนมีประสิทธิผลมากกว่า เป็นเพราะถูกใช้บ่อยกว่าในกรณีนิ่วขนาดเล็กที่รักษาง่าย
- Jaynes มองว่า Treatment A ดีกว่า Treatment B อย่างชัดเจน แต่ ขนาดนิ่วในไต เป็นตัวแปรที่สำคัญกว่า
กรณีค่าเฉลี่ยการตีในเบสบอลอาชีพ
- ปฏิทรรศน์ของซิมป์สันอาจปรากฏใน ค่าเฉลี่ยการตี ของนักเบสบอลอาชีพได้เช่นกัน
- ผู้เล่นคนหนึ่งอาจมีค่าเฉลี่ยการตีสูงกว่าผู้เล่นอีกคนในแต่ละปีหลายปี แต่เมื่อรวมทุกปีเข้าด้วยกันกลับมีค่าเฉลี่ยการตีต่ำกว่า
- Ken Ross แสดงสิ่งนี้ด้วยค่าเฉลี่ยการตีของ Derek Jeter และ David Justice ในปี 1995 และ 1996
- 1995: Jeter คือ
12/48,.250; Justice คือ104/411,.253 - 1996: Jeter คือ
183/582,.314; Justice คือ45/140,.321 - รวม: Jeter คือ
195/630,.310; Justice คือ149/551,.270
- 1995: Jeter คือ
- Justice มีค่าเฉลี่ยการตีสูงกว่า Jeter ในแต่ละปีทั้งสองปี แต่เมื่อรวมสองฤดูกาล Jeter กลับทำค่าเฉลี่ยการตีได้สูงกว่า
- ตามคำกล่าวของ Ross ปรากฏการณ์แบบนี้อาจพบได้ประมาณปีละครั้งในบรรดาคู่ผู้เล่นที่เป็นไปได้
การกลับทิศของอัตราส่วนเมื่อมองด้วยเวกเตอร์
- ปฏิทรรศน์ของซิมป์สันสามารถอธิบายได้ด้วย ปริภูมิเวกเตอร์ 2 มิติ
- อัตราความสำเร็จ
p/qหรือความสำเร็จ/ความพยายามสามารถแทนด้วยเวกเตอร์ที่มีความชันp/q - เมื่อรวมอัตราส่วนสองค่า จะเขียนได้เป็นผลรวมเวกเตอร์ตามกฎสี่เหลี่ยมด้านขนาน และความชันของผลรวมนั้นคืออัตราความสำเร็จที่รวมแล้ว
- ในการเปรียบเทียบรายกรณี แม้ความชันของเวกเตอร์หนึ่งจะน้อยกว่าอีกเวกเตอร์หนึ่ง แต่ความชันของผลลัพธ์เมื่อรวมสองเวกเตอร์เข้าด้วยกันอาจกลับสูงกว่าได้
- เพื่อให้การกลับทิศเช่นนี้เกิดขึ้นได้ บางส่วนของเวกเตอร์ฝั่งหนึ่งต้องมีความชันมากกว่าบางส่วนของเวกเตอร์อีกฝั่ง และเวกเตอร์เหล่านั้นมักยาวกว่า จึงครอบงำการเปรียบเทียบโดยรวม
สหสัมพันธ์และการตีความเชิงสาเหตุ
- การกลับทิศแบบซิมป์สันสามารถเกิดขึ้นใน สหสัมพันธ์ ได้เช่นกัน
- ตัวแปรสองตัวอาจมีสหสัมพันธ์เชิงบวกในภาพรวม แต่เมื่อพิจารณาตัวแปรกวนที่ซ่อนอยู่แล้ว จริง ๆ อาจมีสหสัมพันธ์เชิงลบ
- ในตัวอย่างทางเศรษฐศาสตร์ หากดูเฉพาะข้อมูลรวมทั้งหมด อุปสงค์ดูเหมือนมีสหสัมพันธ์เชิงบวกกับราคา แต่เมื่อพิจารณาตัวแปรเวลา จะเห็นสหสัมพันธ์เชิงลบที่คาดไว้ในหลายช่วงเวลา
- หากละเลยผลของเวลาและพล็อตเพียงอุปสงค์กับราคา สหสัมพันธ์จะกลับเป็นค่าบวก
- ปฏิทรรศน์ของซิมป์สันแสดงให้เห็นว่าสัญชาตญาณที่ว่าการกลับเครื่องหมายเป็นไปไม่ได้ ไม่ได้เกิดจากตรรกะคลาสสิกหรือการคำนวณความน่าจะเป็นเพียงอย่างเดียว
- รูปแบบจำกัดของ sure-thing principle ของ Savage สามารถอนุมานได้จาก do-calculus ของ Pearl
- หากการกระทำ A เพิ่มความน่าจะเป็นของเหตุการณ์ B ในแต่ละกลุ่มย่อย การกระทำนั้นก็ควรเพิ่มความน่าจะเป็นของ B ในกลุ่มรวมด้วย ตราบใดที่การกระทำนั้นไม่เปลี่ยนการกระจายของกลุ่มย่อย
- Pavlides และ Perlman เสนอข้อพิสูจน์ว่าปฏิทรรศน์ของซิมป์สันเกิดขึ้นด้วยความน่าจะเป็น
1/60พอดีในตาราง2 × 2 × 2แบบสุ่มที่เป็นไปตามการแจกแจงสม่ำเสมอ - ในงานวิจัยของ Kock ความน่าจะเป็นที่ปฏิทรรศน์ของซิมป์สันจะเกิดขึ้นแบบสุ่มในโมเดลเส้นทางที่มีตัวแปรทำนายสองตัวและตัวแปรเกณฑ์หนึ่งตัวอยู่ที่ประมาณ
12.8%หรือสูงกว่าเล็กน้อยกว่า 1 ครั้งต่อโมเดลเส้นทาง 8 แบบ
ปฏิทรรศน์ที่สองของ Simpson และกราฟเชิงสาเหตุ
- บทความปี 1951 ของ Simpson ยังมีปฏิทรรศน์ที่สองซึ่งไม่ค่อยเป็นที่รู้จักรวมอยู่ด้วย
- ในกรณีนี้ ไม่ได้มีการตีความที่สมเหตุสมผลสำหรับข้อมูลที่แยกส่วนเสมอไปเหมือนกรณีนิ่วในไต แต่ข้อมูลที่รวมแล้วอาจเป็นการตีความที่ถูกต้อง
- ควรใช้ข้อมูลที่แบ่งแยกหรือข้อมูลที่รวมแล้วขึ้นอยู่กับ กระบวนการ ที่สร้างข้อมูลนั้น
- ดังนั้น การสังเกตตารางเพียงอย่างเดียวไม่สามารถตัดสินการตีความที่ถูกต้องได้เสมอไป
- Judea Pearl แสดงให้เห็นว่า หากข้อมูลที่แบ่งแยกจะแสดงความสัมพันธ์เชิงสาเหตุที่ถูกต้องระหว่างตัวแปร
XและYตัวแปรที่ใช้แบ่งต้องเป็นไปตามเงื่อนไขทางกราฟที่เรียกว่า back-door criterion- ต้องปิดกั้นเส้นทางลวงทั้งหมดระหว่าง
XและY - ตัวแปรที่ใช้แบ่งใด ๆ ต้องไม่ได้รับอิทธิพลจาก
X
- ต้องปิดกั้นเส้นทางลวงทั้งหมดระหว่าง
- เกณฑ์นี้ให้แนวทางแก้แบบอัลกอริทึมสำหรับปฏิทรรศน์ที่สองของ Simpson และอธิบายว่ากราฟที่แตกต่างกันซึ่งสอดคล้องกับข้อมูลเดียวกันอาจต้องการ back-door criterion ที่ต่างกัน
- หากชุดโควาเรียต
Zเป็นไปตาม back-door criterion สูตรการปรับจะให้ผลเชิงสาเหตุที่ถูกต้องของXต่อY - หากไม่มีชุดดังกล่าว ก็สามารถใช้ do-calculus ของ Pearl เพื่อหาวิธีอื่นในการประมาณผลเชิงสาเหตุได้
- ความสมบูรณ์ของ do-calculus สามารถมองได้ว่าเป็นคำตอบที่สมบูรณ์ต่อปฏิทรรศน์ของซิมป์สัน
ข้อวิจารณ์และนัยเชิงปฏิบัติ
- ข้อวิจารณ์หนึ่งคือ ปฏิทรรศน์ของซิมป์สันอาจไม่ใช่ปฏิทรรศน์จริง ๆ แต่เป็นผลจากการไม่ได้สะท้อน ตัวแปรกวน อย่างเหมาะสม หรือไม่ได้พิจารณาความสัมพันธ์เชิงสาเหตุระหว่างตัวแปร
- การมุ่งสนใจที่ตัวปฏิทรรศน์เองอาจเบี่ยงเบนความสนใจจากปัญหาทางสถิติที่สำคัญกว่า
- อีกข้อวิจารณ์คือ สิ่งที่ดูเหมือนปฏิทรรศน์ของซิมป์สันอาจเป็นผลจากวิธีแบ่งชั้นหรือจัดกลุ่มข้อมูล
- หากแบ่งชั้นข้อมูลต่างออกไปหรือพิจารณาตัวแปรกวนอื่น ปรากฏการณ์อาจหายไปหรือเปลี่ยนเป็นตรงกันข้ามได้
- ตัวอย่างของ Simpson เน้นปรากฏการณ์ noncollapsibility ที่อัตราส่วนสูงของกลุ่มย่อยเมื่อรวมกันแล้วไม่ได้กลายเป็นค่าเฉลี่ยแบบง่าย ๆ
- ถึงอย่างนั้น ปฏิทรรศน์ของซิมป์สันยังคงเป็นหัวข้อที่มีการศึกษาและถกเถียงกันต่อเนื่องในสถิติและการวิเคราะห์ข้อมูล และยังคงเป็นกรณีตัวอย่างของกับดักในการตีความข้อมูลแบบง่าย ๆ
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
เคยเจอด้วยตัวเองตอนทำงานเป็นนักวิเคราะห์ข้อมูลที่ The Hut Group นานมาแล้ว
ทีมการตลาดบอกว่าตลอดทั้งปี สัดส่วนค่าใช้จ่ายการตลาดเทียบกับรายได้ลดลงในทุกกลุ่มสินค้า แต่พอสิ้นปีผู้บริหารกลับตกใจเมื่อเห็นว่าต้นทุนรวมต่อยอดขายเพิ่มจาก 10% เป็นเกือบ 20% หรือแทบจะเท่าตัว
พอตรวจสอบตามคำขอของทีมการเงินก็พบว่าตัวเลขของทีมการตลาดถูกต้อง และสัดส่วนค่าใช้จ่ายการตลาดของกลุ่มเกม·ความงาม·โภชนาการก็ลดลงทั้งหมด จากประมาณ 15%→10%, 30%→25%, 50%→30% ตามลำดับ
แต่ สัดส่วนผสมของกลุ่มสินค้า เปลี่ยนไปมาก โดยกลุ่มโภชนาการขยายจากราว 10% ของยอดขายรวมไปเกือบ 50% และเพราะหมวดที่มีสัดส่วนต้นทุนสูงสุดโตขึ้น สัดส่วนค่าใช้จ่ายการตลาดรวมจึงเพิ่มขึ้น
สรุปคือประสิทธิภาพการขายของแต่ละหมวดดีขึ้น แต่ตัวชี้วัดรวมกลับแย่ลง และผมก็ได้งานสนุก ๆ คืออธิบาย Yule-Simpson paradox ให้ฝ่ายบัญชีฟัง
มีเคสชื่อดังของ Google ที่วิศวกรเครือข่ายคนหนึ่งไปที่อินโดนีเซียหรือที่คล้าย ๆ กัน เห็นว่าบริการช้ามาก พอถามคนในพื้นที่ ทุกคนก็ตอบว่า “ก็เป็นแบบนี้มาตลอด”
เครือข่ายมือถือท้องถิ่นช้า และลิงก์ไฟเบอร์ที่ออกนอกเกาะก็อิ่มตัวเต็มที่ พอกลับสำนักงานใหญ่จึงทำ optimization เพื่อลดขนาด payload และ deploy เวอร์ชันที่ลดขนาดดาวน์โหลดลงครึ่งหนึ่ง แต่ค่า latency เฉลี่ยและ p95 กลับเพิ่มขึ้นเสียอย่างนั้น
เหตุผลที่การเปลี่ยนแปลงซึ่งดีอย่างเป็นรูปธรรมกลับดูแย่ เป็นเพราะผู้ใช้ที่ประสบการณ์ดีขึ้นมากเริ่มใช้งานบริการมากขึ้นอย่างชัดเจน
ถึงภาระด้านแบนด์วิดท์จะลดลง แต่ network latency ไปถึงดาต้าเซ็นเตอร์ก็ยังสูงกว่าผู้ใช้ในสหรัฐฯ และเมื่อบริการที่ “แย่น้อยลง” ถูกใช้มากขึ้น ก็เลยดันตัวชี้วัดรวมให้สูงขึ้น
บ่อยครั้งที่คนมองแค่ telemetry ของคำขอบางชิ้น แล้วไม่ได้สร้างแบบจำลองระบบทั้งหมดให้เพียงพอ หรือไปควบคุมตัวแปรผิดตัวจนสรุปผลคลาดเคลื่อน
ที่แย่สุดคือ การโยนความรับผิดแบบวนลูป ที่ Simpson paradox สร้างขึ้น เช่น ทีมแอปโทษว่าเซิร์ฟเวอร์ regression ส่วนทีมเซิร์ฟเวอร์ก็โทษทีมแอป ทั้งที่บางครั้งแค่รอบการปล่อยของเซิร์ฟเวอร์กับแอปบังเอิญตรงกันมากเกินไป
แม้แต่ในชุดข้อมูลของเล่นแบบ “คลาสสิก” อย่าง Iris ก็เห็นได้: https://github.com/DataForScience/Causality/blob/master/1.2%...
มันหมายความว่าทีมการตลาด optimize จนเกินไปจนความต้องการสินค้าที่ไม่ใช่โภชนาการลดลงหรือเปล่า หรือหมายความว่าถ้าเอาสินค้าโภชนาการออกจากพอร์ต ทั้งประสิทธิภาพรายสินค้าและประสิทธิภาพรวมจะดีขึ้น หรือจริง ๆ แล้วหมายความว่าตัวชี้วัดแบบนี้ไม่พอ จึงควรดูการเปลี่ยนแปลงเชิงปริมาณรวมแทนการดูสัดส่วน
ไม่ได้เรียนสถิติมาโดยตรง แต่ในสายที่ทำแบบจำลองผลทางชีววิทยา มักรับมือปัญหาแบบนี้ด้วยวิธีดังกล่าว
ตัวอย่าง: https://www.pymc.io/projects/examples/en/latest/generalized_...
แต่การตลาดก็มักเลือกความเป็นบวกมากกว่าความเป็นกลาง และมีแนวโน้มจะคัดเฉพาะข้อเท็จจริงที่สนับสนุนสิ่งที่ตัวเองทำ
คำพูดของ Jordan Ellenberg ดีมากจริง ๆ
ที่เรียกว่า paradox ก็เพราะมันขัดกับสัญชาตญาณแรกและ ดูเหมือน ขัดแย้ง ไม่ได้แปลว่าจะต้องขัดแย้งจริงเสมอไป
ที่จริงพาราด็อกซ์ที่มีชื่อเรียกจำนวนมากก็มักมีโอกาสสูงที่จะกลายเป็นสิ่งที่ไม่ได้ขัดแย้งจริง เพราะสิ่งที่ดูผิดและผิดจริงก็มักไม่น่าสนใจพอจะตั้งชื่อไว้จดจำ
เหมือนจะพูดถึง quantum mechanics แต่ก็ไม่ได้สะท้อน quantum mechanics หรือเจตจำนงเสรีได้อย่างถูกต้องนัก และสำนัก Epicurean เองก็คงไม่ได้รู้จัก quantum mechanics อยู่แล้ว
ถ้ามีแหล่งเกริ่นนำดี ๆ ที่พูดถึงสิ่งเหล่านี้ร่วมกันและอธิบายว่ามันเกี่ยวกับ การคิดแบบหลายความเป็นไปได้ อย่างไร ก็น่าอ่านมาก
อย่างแรก แสงมี มวลเป็น 0 พอดี และมีเพียงอนุภาคที่ไม่มีมวลเท่านั้นที่เคลื่อนที่ด้วยความเร็วแสงได้อย่างพอดี และได้เฉพาะที่ความเร็วนั้นเท่านั้น
อย่างที่สอง มันตกหล่นเรื่อง wave-particle duality ของแสงไป ซึ่งก็คล้ายกับคำอธิบาย Simpson paradox ที่ว่าเป็น “สองวิธีที่ต่างกันในการมองข้อมูลชุดเดียวกัน” และถ้าขาดจุดนี้ไป ก็จะเข้าใจทั้งแสงและพฤติกรรมของระบบสถิติที่กำลังสังเกตได้ไม่ครบถ้วน
เมื่อนานมาแล้วตอนสอนสถิติเบื้องต้น เคยใช้ ราคาที่อยู่อาศัย เป็นตัวอย่างที่ดีของ Simpson’s paradox
ให้นักศึกษาลองสำรวจข้อมูลจริงในการฝึกคำนวณ ซึ่งตอนนั้นเป็นข้อมูลการซื้อขายบ้านในสหรัฐปี 2008 ดังนั้นตอนนี้ก็เป็นข้อมูลที่เก่าราว 15 ปีแล้ว
ตอนนั้นราคาขายเฉลี่ยของบ้านเดี่ยวที่ไม่มีเครื่องปรับอากาศส่วนกลางสูงกว่าบ้านที่มี
แต่เมื่อแยกตามรัฐ ความสัมพันธ์กลับตรงกันข้ามในทุกรัฐ คือบ้านที่มีเครื่องปรับอากาศส่วนกลางแพงกว่าบ้านที่ไม่มี
สาเหตุหลักที่ทำให้ค่าเฉลี่ยทั้งประเทศออกมาว่าบ้านที่ไม่มีเครื่องปรับอากาศส่วนกลางมีราคาสูงกว่า ก็คือใน แคลิฟอร์เนียซึ่งบ้านแพง มีบ้านที่ไม่มีเครื่องปรับอากาศส่วนกลางอยู่มาก
ในกรณีนี้ ค่าเฉลี่ยทั้งประเทศไม่ได้สำคัญนัก แต่สิ่งสำคัญคือบ้านของฉัน ถนนของฉัน และย่านของฉัน
ในทางกลับกัน สำหรับเรื่องอย่างการตลาด สถิติที่สำคัญก่อนคือกำไรสุทธิรวม แล้วค่อยเจาะปัจจัยต่าง ๆ โดยจะมองสัดส่วนของธุรกิจก่อนต้นทุนการตลาด
ในตัวอย่างเครือข่าย เป้าหมายไม่ใช่ความเร็วหรือ latency แต่เป็น การใช้งาน/throughput
ถ้าเลือกสถิติผิดตั้งแต่แรก ก็จะนำไปสู่ข้อสรุปที่ผิด
https://en.wikipedia.org/wiki/Berkson%27s_paradox ก็ควรรู้ไว้เช่นกัน
มีหลายทางที่ความผิดพลาดจะแทรกเข้ามาได้เมื่อกลุ่มตัวอย่างถูกสร้างขึ้นอย่างมีอคติ
ผลกระทบทั้งสองอย่างนี้ช่วยอธิบายการตัดสินใจโง่ ๆ จำนวนมากที่ออกมาจากกระบวนการแบบ “ขับเคลื่อนด้วยข้อมูล”
เป็นเรื่องปกติที่ข้อมูลจะชี้ไปในทางตรงข้ามกับความจริงโดยสิ้นเชิง
ถ้าไม่เข้าใจปัจจัยเชิงเหตุและผลที่ทำงานอยู่จริง ความรู้ที่ได้ก็จะจำกัดมาก ไม่ว่าข้อมูลจะมีมากแค่ไหน หรือจะลองแยกดูด้วยวิธีทางสถิติกี่แบบก็ตาม
ตัวอย่างเช่น ในกรณี UC Berkeley ที่อยู่ในบทความเรื่อง Simpson’s paradox ข้อมูลแทบไม่ได้บอกอะไรที่มีประโยชน์เกี่ยวกับ “อคติ” ที่ผู้คนควรแก้ไขเพื่อทำให้กระบวนการรับเข้าเป็นธรรมมากขึ้น
ถ้าไม่มีบริบทอย่างเช่นว่ากระบวนการรับเข้าถูกควบคุมหลัก ๆ ในระดับภาควิชา หรือในระดับมหาวิทยาลัยทั้งแห่ง เราก็ไม่รู้ด้วยซ้ำว่าควรไปมองหาอคติที่เป็นไปได้จากตรงไหน
แอนิเมชันสั้น ๆ ในหน้า Wikipedia เป็นตัวอย่างชั้นยอดของคำที่ว่า ภาพหนึ่งภาพมีค่าพันคำ
[https://en.wikipedia.org/wiki/File:Simpsons_paradox_-_animat...](https://en.wikipedia.org/wiki/File:Simpsons_paradox_-_animation.gif)
Lord’s paradox เกี่ยวข้องอย่างใกล้ชิดกับ Simpson’s paradox และในเชิงภาพเข้าใจง่ายกว่าเล็กน้อย: https://repository-images.githubusercontent.com/597130499/46...
ลองนึกภาพว่าแกนนอนคือขนาดยาของยา และแกนตั้งคือผลตอบสนองอย่างเวลานอน
ถ้ามองการตอบสนองของ Lisa จะเห็นชัดว่าเมื่อเพิ่มขนาดยา การนอนกลับลดลง และของ Bart ก็เช่นกัน
แต่ถ้าทำ linear regression กับข้อมูลทั้งหมด จะได้ผลเหมือนเส้นสีแดงว่าพอเพิ่มขนาดยาแล้วการนอนเพิ่มขึ้น ซึ่งเป็นข้อสรุปที่ผิด
จนไม่นานมานี้ผมยังไม่รู้เลยว่า Simpson’s paradox เป็นบทเรียนเรื่อง การอนุมานเชิงสาเหตุ
ถ้าใช้กระบวนทัศน์ที่ถูกต้อง ความขัดแย้งนี้ก็จะหายไป
บทความที่ดีกว่าอยู่ที่นี่: https://plato.stanford.edu/entries/paradox-simpson/
ตอนเห็นครั้งแรกนึกว่าเป็นตอนใน The Simpsons ที่ Mr. Burns มี “โรคจำนวนมหาศาลหลากหลายชนิดจนหักล้างกันเอง”
คำอธิบายอยู่ที่นี่: https://simpsons.fandom.com/wiki/Three_Stooges_Syndrome
ความคล้ายกันนั้นน่าทึ่งมาก แต่เมื่อคิดถึงความอัจฉริยะของทีมเขียนบท The Simpsons ช่วงปลายยุค 90 ก็มีโอกาสสูงว่าอาจตั้งใจ
https://en.wikipedia.org/wiki/Hickam's_dictum
[0] https://www.independent.co.uk/arts-entertainment/tv/news/the...
ตอนอ่านตัวอย่างที่บอกว่าการรับเข้าเรียนของ UC Berkeley ดูเหมือนจะมีอคติทางเพศ ก็เจอข้อความนี้
“ผู้หญิงมีแนวโน้มสมัครเข้าสาขาที่แข่งขันสูงกว่าและมีอัตราการรับต่ำกว่า และเป็นเช่นนั้นแม้ในหมู่ผู้สมัครที่มีคุณสมบัติเหมาะสม ตัวอย่างเช่น สาขาภาษาอังกฤษ ตรงกันข้าม ผู้ชายมีแนวโน้มสมัครเข้าสาขาที่แข่งขันน้อยกว่าและมีอัตราการรับสูงกว่า เช่น วิศวกรรม”
รู้สึกแปลกใจเพราะตรงข้ามกับที่คาดไว้
ผมคิดมาตลอดว่าภาษาอังกฤษกับสายศิลปะโดยรวมคงเข้าได้ง่ายกว่า STEM มาก แต่ในออสเตรเลียก็ให้ความรู้สึกแบบนั้น
คำว่า “เข้า” ตรงนี้หมายถึงการเข้ามหาวิทยาลัย ไม่ใช่เข้าสู่อุตสาหกรรม
ข้อมูลนี้เป็นข้อมูลการสมัคร ระดับบัณฑิตศึกษา
วิศวกรรมมีเงินทุนมากกว่ามาก และนักศึกษาจำนวนไม่น้อยที่ไปต่อปริญญาเอกด้านวิศวกรรมไม่ได้จ่ายค่าเล่าเรียนเอง
มนุษยศาสตร์มีเงินทุนน้อยมาก และนักศึกษาส่วนใหญ่ก็ไม่อยากจ่ายเงินก้อนใหญ่เพื่อเรียนปริญญาเอกด้านมนุษยศาสตร์ ดังนั้นภาควิชาจึงจำกัดจำนวนรับอย่างเข้มงวด
เพราะงั้นถ้าคุณมีความสามารถเพียงพอ การเข้าปริญญาเอกวิศวกรรมก็ง่ายกว่า
เพื่อนที่เรียนวิศวกรรมด้วยกันคนหนึ่งหมดศรัทธาแล้วอยากไปสายวารสารศาสตร์ จึงสมัครย้ายไปโปรแกรม Communications ของมหาวิทยาลัย แต่การแข่งขันสูงมาก รับไม่ถึง 10 คนต่อปี สุดท้ายก็ไม่ผ่าน
แต่จะมองความแข่งขันจากอัตราการรับคือ จำนวนผู้ผ่านการคัดเลือก / จำนวนผู้สมัคร ก็ได้เหมือนกัน
ถ้าสาขาที่ได้รับความนิยมมากมีสัดส่วนผู้สมัครที่ได้ ATAR สูงต่ำอย่างไม่สมดุล ผมคิดว่าตัวชี้วัดสองแบบนี้ก็สามารถเป็นจริงพร้อมกันได้
ดูเหมือนคำตอบคือ สิ่งที่เห็นตรงนี้คืออัตราการรับ = จำนวนคนที่รับ / จำนวนผู้สมัคร ซึ่งไม่เท่ากับความยากโดยรวมในเชิงแนวคิด
คนที่จะสมัครบัณฑิตศึกษาคณิตศาสตร์มักมีแค่คนที่ได้ผลการเรียนดีในปริญญาตรีคณิตศาสตร์ หรือคนจากสาขา STEM อื่นที่เรียนวิชาคณิตศาสตร์เชิงทฤษฎีมาพอสมควร
ส่วนสายศิลปะดึงดูดผู้สมัครจากพื้นฐานที่กว้างกว่า และก็น่าจะมีคนย้ายจาก STEM ไปสาขาอื่นมากกว่าย้ายกลับในทิศทางตรงข้ามด้วย
การเชื่อว่าตัวเองเขียนเรื่องสั้นได้ยอดเยี่ยมนั้นทำได้ง่าย แม้คนอื่นอาจไม่เห็นด้วย แต่ถ้าบทพิสูจน์คณิตศาสตร์ผิดอย่างเป็นวัตถุวิสัย จะโน้มน้าวตัวเองว่ามันถูกได้ยากกว่า
เพราะอย่างนั้น การคัดกรองตัวเอง ฝั่งผู้สมัครจึงเกิดน้อยกว่า และทำให้อัตราการรับต่ำลง
วิศวกรรมมักจะยากกว่าในเชิงคุณภาพที่จะเข้า ส่วนมนุษยศาสตร์มักจะยากกว่าในเชิงปริมาณ
ภาพประกอบนั้นอธิบายได้ดีมากจนไม่จำเป็นต้องไปอ่านวิกิ
แค่ดูอันนั้นก็เข้าใจได้ทันที