ทุกสิ่งล้วนมีความสัมพันธ์กัน (2014–23)
(gwern.net)- ใน สังคมศาสตร์และชีววิทยาศาสตร์ มี ความสัมพันธ์ อยู่ในระดับหนึ่งระหว่างตัวแปรเกือบทั้งหมด
- ปรากฏการณ์นี้ไม่ใช่แค่เรื่องบังเอิญหรือความผิดพลาดทางสถิติ แต่เป็นข้อเท็จจริงที่เกิดจาก ปัจจัยทางพันธุกรรมและสิ่งแวดล้อมที่ซับซ้อนและพัวพันกัน
- ยิ่งขนาดตัวอย่างใหญ่ขึ้น ความสัมพันธ์ที่มีนัยสำคัญ ก็จะปรากฏในคู่ตัวแปรส่วนใหญ่ และนักวิจัยจะหันไปสนใจรูปแบบของความสัมพันธ์เองมากกว่าความสัมพันธ์รายคู่
- ‘Crud factor’ หมายถึง การที่มีความสัมพันธ์ขนาดเล็กอยู่ในคู่ตัวแปรเกือบทุกคู่ และเพียงแค่เลือกทฤษฎีใดก็ได้กับคู่ตัวแปรใดก็ได้ ก็มีโอกาสสูงที่จะได้ผลลัพธ์ที่มีนัยสำคัญ
- ในสถานการณ์เช่นนี้ ความหมายของ ระดับนัยสำคัญแบบดั้งเดิม (0.05) จะอ่อนลง และต้องใช้ความระมัดระวังในการตีความสถิติทางสังคมศาสตร์
ภาพรวมและภูมิหลัง
- ในจิตวิทยาและสังคมวิทยา มีการยอมรับกันอย่างกว้างขวางต่อข้ออ้างที่ว่า “ทุกสิ่งล้วนมีความสัมพันธ์กันอยู่บ้าง”
- ลักษณะเฉพาะบางอย่างถูกกำหนดโดย ปัจจัยทางพันธุกรรมและสิ่งแวดล้อม หลายด้าน และปัจจัยเหล่านี้เองก็มีความสัมพันธ์กันภายใน
- ดังนั้น ในทางปฏิบัติ ตัวแปรแทบทุกอย่างที่วัดได้จึงมี ความเชื่อมโยงกัน อยู่ในระดับหนึ่ง
“Crud Factor” และการค้นพบทางสถิติ
- “Crud factor” คือคำที่ใช้เรียก ปรากฏการณ์ที่มีความสัมพันธ์ขนาดเล็กอยู่เสมอแม้กระทั่งระหว่างคู่ตัวแปรที่สุ่มมา ในงานวิจัยสังคมศาสตร์ (และชีววิทยาศาสตร์บางส่วน)
- ในข้อมูลขนาดใหญ่จากนักเรียนมัธยมปลายในมินนิโซตา 57,000 คนเมื่อปี 1966 ผลการวิเคราะห์ตารางไขว้ (crosstabulation) 105 ชุดระหว่างตัวแปรหลากหลาย เช่น ครอบครัว การศึกษา งานอดิเรก อาชีพ และศาสนา พบว่าทั้งหมดมีนัยสำคัญทางสถิติ
- 96% ของทั้งหมดมีค่า p<10⁻⁶ ซึ่งต่ำมากจนแทบตัดความเป็นไปได้ว่าเป็นเรื่องบังเอิญออกไปได้
- เมื่่อขยายจำนวนตัวแปรเป็น 45 ตัว จะได้ทั้งหมด 990 ชุดผสม และ 92% ของชุดเหล่านี้มีนัยสำคัญทางสถิติ
- ค่ามัธยฐาน (median) ของจำนวนความสัมพันธ์ที่มีนัยสำคัญระหว่างตัวแปรหนึ่งกับตัวแปรอื่นทั้งหมดคือ 41 จาก 44 ตัว
ตัวอย่างระหว่างตัวแปรจริง
- ความสัมพันธ์ของคะแนน MCAT กับจำนวนพี่น้อง ลำดับการเกิด เพศ แผนอาชีพ ความชอบทางศาสนา ฯลฯ ก็พบว่า ล้วนมีนัยสำคัญทางสถิติสูง
- ตัวอย่าง: นักเรียนหญิงได้คะแนนสูงกว่านักเรียนชาย คะแนนมีแนวโน้มลดลงเมื่อจำนวนพี่น้องมากขึ้น ลูกคนโต/ลูกคนเดียวฉลาดกว่าลูกคนเล็ก และยังมีความแตกต่างชัดเจนระหว่างกลุ่มศาสนาต่าง ๆ เป็นต้น
- แม้แต่ใน 5 นิกายโปรเตสแตนต์หลัก ก็ยังพบ นัยสำคัญสูง ในความสัมพันธ์กับตัวแปรหลายตัว
- ตัวอย่าง: ลูกคนเดียวมีโอกาสเป็น Presbyterian เกือบ 2 เท่าของ Baptist รวมถึงความแตกต่างด้านความชอบโรงเรียนและความหวังด้านอาชีพตามนิกาย เป็นต้น
กรณีของข้อคำถาม MMPI
- จากข้อคำถาม 550 ข้อของ MMPI (แบบทดสอบบุคลิกภาพ) มี 507 ข้อ (92%) ที่แสดง ความแตกต่างอย่างมีนัยสำคัญตามเพศ
- บางข้อสามารถอธิบายความแตกต่างของแนวโน้มได้อย่างชัดเจน แต่ข้ออื่น ๆ มีเหตุผลที่ซับซ้อนหรืออธิบายไม่ได้
- ผลลัพธ์เช่นนี้เกิดขึ้นในการศึกษาขนาดใหญ่ที่มีจำนวนตัวอย่างมาก จึง ไม่ใช่ความผิดพลาดทางสถิติ (type I error) แต่เป็นปรากฏการณ์ที่มีอยู่จริง
ความสัมพันธ์ในสังคมศาสตร์และข้อจำกัดของการตรวจสอบทฤษฎี
- แม้จะสุ่มจับคู่ทฤษฎีกับคู่ตัวแปรแบบใดก็ได้ หากความสัมพันธ์เฉลี่ย (crud factor) อยู่ที่ระดับ 0.30 ก็มีความเป็นไปได้ว่า ในทางปฏิบัติจะพบความแตกต่างที่มีนัยสำคัญประมาณหนึ่งในสามครั้ง
- ปรากฏการณ์นี้เกิดบ่อยกว่าระดับนัยสำคัญ (0.05) ที่โดยทั่วไปถือว่ามีความหมายในสังคมศาสตร์มาก
- เพราะแม้แต่คู่ตัวแปรที่นักวิจัยไม่ได้คาดการณ์ตามทฤษฎี ก็ยังเผยให้เห็นความสัมพันธ์ได้ง่าย จึง ยากที่จะใช้เพียงนัยสำคัญทางสถิติมาสนับสนุนความเป็นเหตุเป็นผลที่แท้จริง
- สาเหตุที่ซับซ้อน (ยีน/สิ่งแวดล้อม) และความอุดมสมบูรณ์ของข้อมูลเชิงสังเกตทำให้เกิดความสัมพันธ์หลายทิศทางเช่นนี้
ข้อสรุปเชิงปฏิบัติ
- เมื่อตีความข้อมูลสังคมศาสตร์และตรวจสอบทฤษฎี จำเป็นต้องคำนึงถึง “ความสัมพันธ์ที่ธรรมดาแต่มีอยู่จริง” ที่เกิดจาก ‘crud factor’ อยู่เสมอ
- แทนที่จะเชื่อมั่นอย่างไม่มีเงื่อนไขในสถิติระดับนัยสำคัญ (เช่น p<0.05) ควรมุ่งความสนใจไปที่ ความเป็นเหตุเป็นผลที่แท้จริงระหว่างตัวแปร และการตีความรูปแบบให้มากขึ้น
- ดังคำกล่าวของ Thorndike ที่ว่า “สิ่งดี ๆ มักมาด้วยกัน” ในโลกจริงนั้น มีหลายสิ่งมากเกินไปที่พัวพันกันอยู่
1 ความคิดเห็น
ความคิดเห็นบน Hacker News
พูดถึงหนึ่งในเรื่องที่ทำให้ฉันขัดใจมากที่สุดเรื่องหนึ่ง
ผู้คนมักเข้าใจผิดว่าวลี "มีนัยสำคัญทางสถิติ(statistically significant)" หมายถึง "น่าสนใจ/มีความหมาย"
พอพบความแตกต่างที่วัดได้ ก็รับเอาไปว่าเป็นสิ่งที่สถิติบอกว่า 'สำคัญ' ซึ่งเป็นวิธีคิดที่ผิด
ที่จริงแล้ว การทดสอบนัยสำคัญบอกได้เพียงความน่าจะเป็นที่ความแตกต่างที่สังเกตได้จะเป็น 'การวัดที่ดี'
กล่าวคือ เราจะพูดได้ด้วยระดับความเชื่อมั่นหนึ่งว่า "ความแตกต่างนั้นมีอยู่จริง"
ส่วนความแตกต่างที่วัดได้นั้น 'มีความหมาย' ในเชิงคุณค่าหรือไม่ เป็นอีกคำถามหนึ่ง ซึ่งโดยมากพิจารณาจากขนาดของความแตกต่างที่วัดได้
ฟังดูเหมือนเรื่องที่ชัดเจนมาก แต่เป็นความผิดพลาดที่พบได้บ่อยมากทั้งในภาคอุตสาหกรรมและหลายสาขาวิทยาศาสตร์
ตัวอย่างเช่น "มาตรการนี้ทำให้ [ตัวชี้วัด] เปลี่ยนไปที่ p<0.001 โห มีนัยสำคัญมาก! ขนาดการเปลี่ยนแปลงคือ 0.000001%"
ในกรณีแบบนี้ ต้องกลับมาคิดใหม่ว่ามัน 'มีความหมาย' จริงหรือไม่
แต่สำหรับตัวอย่างนั้น อยากเสริมอีกนิด
p-value ที่เล็กมากไม่ได้หมายถึงผลที่ 'มีความหมาย' เสมอไป แต่ก็ไม่ได้ไม่เกี่ยวกับขนาดผลเลย
ตัว p-value เองได้มาจาก (ขนาดผล)/(noise/รากที่สองของขนาดตัวอย่าง)
กล่าวคือ ค่าสถิติทดสอบที่ใหญ่กว่าจะหมายถึง p-value ที่เล็กลง
p-value ที่เล็กมากมักมาจากผลที่ใหญ่ หรือไม่ก็ขนาดตัวอย่าง (n) ที่ใหญ่มหาศาล
ดังนั้นจะได้ p<0.001 จากผลกระทบจิ๋วมาก ๆ ก็ต้องมี N ใหญ่มากจริง ๆ
แต่ในงานวิจัยโลกจริง ถ้าได้ p<0.001 ก็มักมีโอกาสสูงที่ผลนั้นจะใหญ่จริงด้วย เพราะข้อจำกัดด้านจำนวนตัวอย่าง
บอกว่านัยสำคัญทางสถิติเป็นส่วนที่น่าสนใจน้อยที่สุดของผลลัพธ์ และเน้นว่าควรอธิบายผลด้วยขนาดผลกระทบ
ไม่ใช่แค่ถามว่าการแทรกแซงมีผลหรือไม่ แต่ต้องสนใจด้วยว่าได้ผล 'มากแค่ไหน'
– Gene V. Glass
แต่แทนที่จะเรียกว่าเป็นแค่ 'pet peeve' ฉันมองว่าเป็นความเข้าใจสถิติแบบผิดเพี้ยนอย่างรุนแรง
ความเข้าใจผิดแบบนี้ โดยเฉพาะในสื่อสุขภาพ/เวลเนสยอดนิยม อาจนำไปสู่ข้อสรุปที่ผิดพลาดได้
งานวิจัยด้านสุขภาพและโภชนาการมักถูกรายงานว่ามีนัยสำคัญทางสถิติ แต่ผลจริงแทบไม่มีนัยสำคัญในทางปฏิบัติ
คนจึงไปเปลี่ยนชีวิตและพฤติกรรมครั้งใหญ่เพียงเพราะเชื่อผลวิจัยเหล่านี้ ทั้งที่จริงไม่มีเหตุผลพอ
ที่แย่กว่านั้นคือกรณีที่ไม่ได้กำหนดสมมติฐานที่จะตรวจสอบไว้ล่วงหน้า แล้วค่อยไปรื้อข้อมูลเก่าเพื่อหาแต่ความสัมพันธ์ที่ 'มีนัยสำคัญทางสถิติ'
เขาเสนอว่าควรมองนัยสำคัญเป็นการอัปเดตความน่าจะเป็น
คือการทดสอบหนึ่งครั้ง (หรืองานวิจัยหนึ่งชิ้น) อัปเดตความน่าจะเป็นได้ X% ดังนั้นการตัดสินว่าอะไร 'มีความหมาย' มักต้องการการทดลองมากกว่านั้น
เป็นบทความสไตล์ "rationalist" แบบฉบับจริง ๆ
ด้านหนึ่งมีข้อสังเกตที่ถูกต้องเกี่ยวกับปรากฏการณ์ทางสถิติ แต่ก็แทรกถ้อยคำการเมืองประหลาด ๆ ไว้อีกด้าน
ประโยคตัวอย่าง: "ข้อพิจารณาทางทฤษฎีและเชิงประจักษ์ทำให้เกิดข้อสงสัยต่อการอนุมานเชิงสาเหตุเกี่ยวกับ 'อคติของอัลกอริทึม' หรือ 'กลุ่มที่ได้รับการคุ้มครอง': การไม่ตัดออกอาจไม่พึงประสงค์ อาจเป็นไปไม่ได้ หรืออาจไม่มีความหมาย"
เป็นประโยคที่แปลกมาก โผล่มาแบบไม่มีบริบทอธิบายเลย
เหมือนกำลังอ้างว่าพอมีตัวแปรแฝงที่กำหนดความเป็นอาชญากร ก็เลยใช้ "is_black" ใน black box(โมเดลทัณฑ์บน) ได้ ซึ่งฉันว่ามั่วมาก
ความจริงความสนใจต่อวิธีทำงานของโมเดลเป็นปัญหาที่ลึกกว่าการตีความสถิติอีก
ถ้ากระบวนการเลือกโมเดลมีอิสระมากเกินไป ก็ออกแบบให้ได้ผลลัพธ์แบบไหนก็ได้
ตัวอย่างเช่น ถ้าในโมเดลทัณฑ์บนมีตัวแปรอย่าง "likes_hiphop" อยู่ด้วย ก็ต้องตรวจว่าทำไมมันถึงอยู่ตรงนั้น และมันเป็น 'โมเดลที่ดีที่สุด' จริงหรือไม่
สุดท้ายแล้ว ข้อเท็จจริงที่ว่าตัวแปรต่าง ๆ ในปรากฏการณ์ทางสังคมมีความสัมพันธ์กันมาก ก็เตือนว่าโมเดลใด ๆ ก็ตามอาจเป็นผลผลิตทางการเมืองอย่างน้อยบางส่วน
วลี "ข้อพิจารณาทางทฤษฎีและเชิงประจักษ์" หมายถึงสิ่งที่อภิปรายไว้ก่อนหน้า
กล่าวคือ เพราะทุกอย่างสัมพันธ์ถึงกัน การเห็นความสัมพันธ์จึงไม่ได้ทำให้เรามั่นใจได้ว่าสิ่งนั้นมีความหมายโดยเนื้อแท้
นักสังคมศาสตร์สร้างโมเดลซับซ้อน สังเกตตัวแปรจำนวนมาก และพบความสัมพันธ์ที่ดูสนับสนุนสมมติฐานของตน แต่ผู้เขียนชี้ว่าความสัมพันธ์แบบนี้หาได้ทั่วไป จึงเป็นหลักฐานจริงที่ค่อนข้างอ่อน
และก็ไม่อาจฟันธงได้ด้วยว่าโมเดลใช้ตัวแปรอย่าง "is_black" จริง
เพียงเพราะ black box บางตัวให้ผลลัพธ์ที่เสียเปรียบกับคนผิวดำ ก็ไม่ได้แปลว่ามีตัวแปร "is_black" อยู่จริง
โดยเฉพาะในหัวข้ออย่างพันธุกรรมหรือ IQ เรามักเห็นพวกเขาสรุปผลจากงานวิจัยและข้อมูลที่หลักฐานอ่อนมาก
ฉันคิดว่าการทำโมเดลในสังคมศาสตร์จำเป็นต้องมีพื้นฐานทางทฤษฎี แต่ก็สงสัยว่า TFA(บทความต้นทาง) จะยึดจุดยืนแบบเดียวกันกับประเด็นการเมืองบางเรื่องหรือไม่
เช่น ถ้าเป็นการใช้ตัวแปร "is_white" ในการจ้างงานขององค์กรเพื่อกลุ่มชนส่วนน้อย เขาจะพูดเหมือนกันไหม
เป็นสไตล์ที่ชอบสร้างบรรยากาศว่าตัวเองฉลาด แล้วโยนข้อคาดเดาที่ไร้หลักฐานออกมาราวกับเป็นข้อเท็จจริง
ยิ่งชวนแปลกใจที่ชุมชน scaling/AI ดูจะชื่นชอบ gwern กันเป็นพิเศษ
เสียดายที่บทความนี้ไม่ได้อ้างถึงคำคมจาก The Hitchhiker's Guide to the Galaxy
มันทำให้นึกถึงใจความประมาณว่า "เพราะสสารทุกอย่างในจักรวาลส่งอิทธิพลถึงกันไม่ทางใดก็ทางหนึ่ง ในทางทฤษฎีจึงอาจอนุมานจักรวาลทั้งหมด ดวงอาทิตย์ ดาวเคราะห์ วงโคจร ตลอดจนประวัติศาสตร์สังคมและเศรษฐกิจทั้งหมดได้จากการมองแค่เค้กนางฟ้าชิ้นเดียว"
T_zero ที่ต่างกันอาจเชื่อมไปสู่ T_current(สภาพปัจจุบัน) เดียวกันได้ และแม้องค์ประกอบทางกายภาพจะเหมือนกัน แต่สถานะ "จักรวาล-เค้ก" ก่อนหน้านั้นอาจต่างกันได้
อีกทั้งยังเป็นการสมมติว่าระบบเป็นแบบกำหนดแน่นอนโดยสมบูรณ์เท่านั้น
ลิงก์คำอธิบายที่เกี่ยวข้อง
แต่ก่อนผู้คนก็เปิดเผยความจริงของโลกได้โดยไม่ต้องมีสถิติ
จริงอยู่ว่าสถิติกลายเป็นเครื่องมือที่มีประโยชน์หลังจากมันเกิดขึ้น แต่พอวิธีแบบนี้ถูกใช้พร่ำเพรื่อ ปัญหาที่เกิดขึ้นก็คือความโง่ถูกห่อให้ดูเหมือนความฉลาด
เพราะงั้นข้อสังเกตเรื่อง 'noise ของความสัมพันธ์' ครั้งนี้ก็มีค่าพอให้ตั้งคำถาม
เหนือสิ่งอื่นใด ต้องมีตรรกะและความรู้พื้นฐานของโดเมนก่อน
ฉันคิดว่าการเอาแต่นับตัวเลขอย่างเดียวอาจนำไปสู่ความเข้าใจผิดได้
ตรรกะเพียงอย่างเดียวไม่สามารถทำให้เราเรียนรู้ความรู้ใหม่ได้
ตรรกะมีหน้าที่อธิบายสิ่งที่เรารู้อยู่แล้วใหม่เท่านั้น ส่วนความรู้พื้นฐานต้องอาศัยประสบการณ์หรือการทดลอง
และเพราะการสังเกตโลกจริงไม่เคยสมบูรณ์แบบ การตีความเชิงสถิติจึงจำเป็น
ก่อนมีสถิติ สิ่งที่เกิดขึ้นคือ (a) คนรวยนั่งคิดเรื่องโลกอย่างลึกซึ้ง, (b) คนมีคาริสมาประกาศสอนตามที่ตัวเองต้องการ, (c) คนฉลาดเดาถูกบ้างเป็นครั้งคราว
พอสถิติเกิดขึ้น ใคร ๆ ก็สามารถตัดสินถูกผิดจากผลลัพธ์ได้ จึงไม่ใช่อาณาเขตของชนชั้นนำอีกต่อไป
แน่นอนว่าข้อดีอย่างหนึ่งของการอนุมานทางสถิติคือ 'การเปรียบเทียบกัน(intercomparison)' ซึ่งทำให้สรุปจากความแตกต่างได้แม้จะไม่เข้าใจกระบวนการเองทั้งหมด
แต่เพราะแบบนั้นเอง มันจึงถูกบิดเบือนผลหรือถูกตีความผิดได้ง่ายขึ้นด้วย
วิดีโอที่เกี่ยวข้อง
นอกเรื่องจากหัวข้อนิดหน่อย แต่ฉันรู้สึกว่าบล็อกนี้สวยมาก
ทั้ง drop cap, คอมเมนต์อินไลน์ที่เห็นทางขวาของหน้าจอ, แถบแสดงความคืบหน้า ฯลฯ ทำให้รู้สึกถึงความรักที่มีต่อโปรเจ็กต์นี้
บทความนี้ยาวมหาศาลจริง ๆ
มันทำให้ฉันอยากเขียนบทความจริงจังแบบนั้นได้บ้าง
พอไปดูงานเขียนอื่นของผู้เขียนก็รู้สึกว่าเขาผลิตงานออกมาไม่หยุดเหมือนเครื่องจักรจริง ๆ
แน่นอนว่าถ้ามีคนสนับสนุนด้านการเงินก็ยิ่งดี
ข้อถกเถียงแบบนี้มีมาหลายสิบปีแล้ว
การไม่สูญเสียมุมมองเชิงวิพากษ์เป็นเรื่องสำคัญ
แต่โดยส่วนตัว ยิ่งต้องรับมือกับตรรกะแบบนี้ในงานมากเท่าไร ก็ยิ่งรู้สึกว่ามันไม่ค่อยมีประโยชน์และค่อนข้างกลวง
'crud' มีอยู่ในรูปแบบต่าง ๆ เหมือนคลื่นไมโครเวฟพื้นหลังของจักรวาลเชิงสถิติ และแทนที่จะปัดทิ้งว่าไม่มีความหมาย บางครั้งมันก็สำคัญจริง
บางครั้งความเชื่อมโยงระหว่างตัวแปรอธิบายได้ไม่ง่ายนัก แต่อาจเป็นกุญแจสำคัญต่อการเข้าใจตัวแปรกวนแฝงที่ต้องควบคุม
มันไม่ได้สัมพันธ์กันเสมอไป และก็มีกรณีที่ความสัมพันธ์เป็นศูนย์จริง ๆ
การกำหนดว่าอะไรคือ 'ขนาดผลที่ไม่เป็นศูนย์และมีความหมาย' ก็เป็นเรื่องตามอำเภอใจและอัตวิสัยมาก
น่าจะมีกรอบคิดที่มีประสิทธิผลกว่านี้สำหรับมองปรากฏการณ์นี้
Correlated. มีตัวอย่างอื่นอีกไหม?<i>Everything Is Correlated</i> - การสนทนาเก่า
นี่จึงเป็นเหตุผลว่าทำไมวิทยาศาสตร์เชิงทดลองจึงต่างจากงานวิจัยเชิงสังเกต
การวิเคราะห์ทางสถิติทำได้เพียงให้เหตุผลว่าเราควรเชื่อสมมติฐานหนึ่งมากขึ้น และต้องมีแนวทางเชิงทดลองจริงมาช่วยเสริม
ตัวอย่างในบล็อกส่วนใหญ่เป็นกรณีในแพทยศาสตร์ สังคมศาสตร์ และพฤติกรรมศาสตร์ ที่ทำการทดลองควบคุมอย่างเหมาะสมได้ยาก หรือมีจำนวนตัวอย่างน้อยเกินกว่าจะระบุเหตุและผลได้ชัดเจน
แน่นอนว่าความล้มเหลวด้านการออกแบบนั้นแก้ด้วยการวิเคราะห์ไม่ได้ (You can’t fix by analysis what you bungled by design - ที่มา) แต่ก็อย่างน้อยเป็นทิศทางที่ช่วยลดอคติได้
เกี่ยวกับข้อความที่อ้างว่า “สิ่งนี้ทำให้ความหมายของการทดสอบนัยสำคัญพร่าเลือนลง; มันเป็นเพียงการคำนวณความน่าจะเป็นของข้อมูลอย่างแม่นยำมากในสถานการณ์ที่เรารู้อยู่แล้วล่วงหน้า a priori(โดยหลักก่อนประสบการณ์) ว่าเป็นเท็จ”
ฉันคิดว่าการยอมรับว่าโมเดลถูกทำให้ง่ายลงและพูดอย่างเคร่งครัดแล้วเป็นเท็จ เพื่อให้ไปถึงผลลัพธ์ที่มีความหมาย เป็นเรื่องปกติมาก
เช่น กฎของนิวตัน การวิเคราะห์วงจรไฟฟ้า ก็เป็นไปได้เพราะการทำให้เรียบง่าย และในวงการธนาคารก็เคยคำนวณ 1 ปีเป็น 360 วันด้วย
ในทางปฏิบัติมันก็ใช้ได้ดี เลยสงสัยว่าฉันพลาดอะไรไปหรือเปล่า
ในแง่นี้ ถ้ามองงานวิจัยว่าเป็นการแสวงหาความจริง นี่คือภาวะกลืนไม่เข้าคายไม่ออกที่ร้ายแรง
(เช่น การคำนวณยอดชำระสำหรับช่วงเวลาที่น้อยกว่า 1 เดือน)
พูดอีกอย่างคือ ไอน์สไตน์เป็นเวอร์ชันที่ทำให้นิวตันแม่นขึ้น
เหมือนกับที่ทฤษฎีสัมพัทธภาพพิเศษลู่เข้าเป็นกลศาสตร์แบบนิวตันเมื่ออยู่ในขีดจำกัดความเร็วต่ำ
ในทางปฏิบัติแล้ว ในสถิติไม่มีคำว่า 'เท็จ' มีแต่ต้องตีความว่า "มีโอกาส x% ที่จะไม่จริง"
ถ้าอยากให้ x ต่ำลง ก็ต้อง 'ทำสถิติให้หนักขึ้น' และการเพิ่มจำนวนตัวอย่าง (N) คือวิธีที่แน่นอนที่สุด
จุดที่บทความทำพลาดอย่างสิ้นเชิงคือมันบอกเป็นนัยว่า ถ้า N ใหญ่พอ ก็ปฏิบัติต่อจริง/เท็จแบบสัมบูรณ์ได้
เพราะมันจะไปถึงระดับความน่าจะเป็นประมาณว่า 'ต่อให้สร้างจักรวาลขึ้นมาล้านครั้งก็อาจเกิดขึ้นแค่ครั้งเดียว'
แต่ในโลกจริง สังคมศาสตร์ แพทยศาสตร์ เศรษฐศาสตร์ และสาขาส่วนใหญ่กลับทำงานกับ N ที่เล็กมาก ปัญหาทางสถิติจึงใหญ่โดยหลีกเลี่ยงไม่ได้
เลยพยายาม 'ทำสถิติให้หนักขึ้น' แต่ในความเป็นจริงกลับเพิ่ม N ไม่ได้ แล้วไปปรับแต่งตัวเลข หรือเพิ่ม N นิดหน่อยแล้วอ้างว่าแก้ปัญหาแล้ว