- ผู้ดำเนินการสาขา Post Office ในสหราชอาณาจักรต้องรับภาระยอดขาดบัญชีที่ไม่มีอยู่จริงเพราะข้อผิดพลาดของ ระบบบัญชี Horizon ที่ Fujitsu สร้างขึ้น และระหว่างปี 1999–2015 มีผู้คนหลายร้อยคนต้องเผชิญกับคำพิพากษาว่ามีความผิด การล้มละลาย การถูกจำคุก และชื่อเสียงเสียหาย
- Horizon ถูกนำมาใช้ในปี 1999 เพื่อแทนที่ระบบบัญชีแบบกระดาษ แต่ในหลายสาขามันแสดง ยอดขาดบัญชีปลอม หลักหลายพันถึงหลายหมื่นปอนด์ และยังมีกรณีที่เมื่อส่งการคำนวณเดิมอีกครั้ง จำนวนเงินกลับเพิ่มขึ้น
- โครงสร้างสัญญาทำให้ผู้ดำเนินการสาขาต้องรับผิดชอบความสูญเสียตามสัญญาเอง และ Post Office ยังตอบผู้ที่ยกปัญหาขึ้นมาว่า “มีแค่คุณ” หรือขัดขวางการเข้าถึงที่จำเป็นต่อการพิสูจน์ความบริสุทธิ์ของตน จนยิ่งเพิ่มความเสียหาย
- ในคดีแพ่งที่มีผู้ยื่นฟ้องมากกว่า 500 คนในปี 2019 ศาลยอมรับว่า Horizon มี บั๊ก ข้อผิดพลาด และความบกพร่อง และ Post Office ได้จ่ายค่าชดเชยไปแล้วมากกว่า 138 ล้านปอนด์ แต่จากคำพิพากษาลงโทษ 700 คดี มีเพียง 93 คดีเท่านั้นที่ถูกเพิกถอน
- หลังละครของ ITV เรื่อง “Mr Bates vs The Post Office” กระแสสังคมปะทุขึ้นอย่างรุนแรง รัฐบาลจึงเริ่มผลักดันกฎหมายเพื่อเพิกถอนคำพิพากษา ขณะที่ความรับผิดชอบด้านค่าชดเชยและความรับผิดทางอาญาของ Fujitsu ยังอยู่ระหว่างการสอบสวน
ความผิดพลาดทางตุลาการครั้งใหญ่จากบั๊กของ Horizon
- sub-postmaster ซึ่งเป็นผู้ดำเนินการสาขา Post Office ในสหราชอาณาจักร ต้องเผชิญกับโทษทางอาญา การล้มละลาย และชื่อเสียงเสียหายจากยอดขาดบัญชีที่ Horizon แสดงขึ้นระหว่างปี 1999–2015
- รัฐบาลสหราชอาณาจักรเป็นเจ้าของ Post Office และจัดให้คดีนี้เป็นหนึ่งใน ความผิดพลาดทางตุลาการ ครั้งใหญ่ที่สุดในประวัติศาสตร์อังกฤษ
- ความเสียหายลุกลามไปถึงผู้คนหลายพันคน โดย 700 คนในนั้นถูกตัดสินว่ามีความผิดทางอาญา และบางคนถูกจำคุก
- Horizon ถูกสร้างโดย Fujitsu จากญี่ปุ่น และนำมาใช้ในปี 1999 เพื่อแทนที่ระบบบัญชีแบบกระดาษ
- ตั้งแต่ไม่นานหลังเริ่มใช้งาน ผู้จัดการสาขาต่างร้องเรียนว่าซอฟต์แวร์ทำให้เหมือนมีเงินหายจากบัญชีของ Post Office ไปหลายพันปอนด์
ยอดขาดบัญชีที่ไม่มีอยู่จริงกลายเป็นอาชญากรรมส่วนบุคคล
- Jo Hamilton เล่าว่าในปี 2003 ขณะบริหารที่ทำการไปรษณีย์ในหมู่บ้านเล็ก ๆ ทางตอนใต้ของอังกฤษ คอมพิวเตอร์ Horizon แสดงยอดขาดบัญชี 2,000 ปอนด์ และเมื่อคำนวณเดิมซ้ำ จำนวนเงินกลับเพิ่มเป็นสองเท่าต่อหน้าต่อตา
- Hamilton ต้องรีไฟแนนซ์บ้านเพื่ออุดยอดขาดบัญชีที่ไม่มีอยู่จริง และเมื่อ Post Office ฟ้องเธอในปี 2007 ในข้อหาลักทรัพย์และทำบัญชีเท็จ ยอดขาดบัญชีก็พุ่งไปถึง 36,000 ปอนด์
- แม้จะยอมรับข้อหาทำบัญชีเท็จเพื่อแลกกับการถอนข้อหาลักทรัพย์ แต่กระบวนการนั้นเป็นประสบการณ์ที่ทำลายชีวิต Hamilton
- Wendy Buffrey ก็ประสบเหตุคล้ายกันในปี 2008 โดยทุกครั้งที่ส่งการคำนวณเดิมอีกครั้ง ยอดขาดบัญชีที่ Horizon อธิบายไม่ได้ก็เพิ่มเป็นสองเท่า
- ผู้สอบสวนของ Post Office บอก Buffrey ว่ามีแค่เธอคนเดียวที่เจอปัญหานี้
- Buffrey คิดว่าตนต้องรับผิดชอบต่อยอด 36,000 ปอนด์ จึงใช้บัตรเครดิตจนเต็มวงเงินเพื่อนำเงิน 10,000 ปอนด์เข้าบัญชี
- ทนายในเวลานั้นบอกว่าหากยืนยันความบริสุทธิ์ มีโอกาสสูงที่จะถูกตัดสินจำคุก 3 ปี และ Buffrey จึงยอมรับข้อหาทำบัญชีเท็จเพื่อแลกกับการถอนข้อหาลักทรัพย์
- หลังจากนั้น Buffrey ระบุว่าเธอมีอาการปวดเรื้อรังจาก fibromyalgia ที่เกิดจากความเครียด
สัญญาและวิธีสอบสวนที่เสียเปรียบผู้ดำเนินการสาขา
- สัญญาของ Post Office มีลักษณะใกล้เคียงแฟรนไชส์ และผู้ดำเนินการสาขาต้องรับผิดชอบต่อ ความเสียหายทางการเงิน ที่เกิดขึ้นในสาขาของตนเอง
- ผู้ดำเนินการบางรายที่สัญญาสิ้นสุดแล้ว ถูกผู้สอบสวนของ Post Office ขัดขวางไม่ให้เข้าถึงสถานประกอบการ จึงยากที่จะหาหลักฐานมาพิสูจน์ความบริสุทธิ์
- ทุกครั้งที่ Hamilton โทรหา Horizon helpline เจ้าหน้าที่ก็ตอบว่าเธอเป็นคนเดียวที่เจอปัญหาระบบ
- ทนายความ Neil Hudgell กล่าวว่าเขาได้รับฟังโดยตรงเกี่ยวกับ sub-postmaster และครอบครัวที่ถูกกล่าวหาอย่างเท็จ หรือฆ่าตัวตายหลังสูญเสียธุรกิจและชื่อเสียง
- ภรรยาของ Martin Griffith ระบุในคำให้การของผู้เสียหายว่า หลัง Post Office ตัดสินใจยกเลิกสัญญา สามีของเธอเข้าสู่ภาวะซึมเศร้าอย่างรุนแรงและเดินตัดหน้ารถบัส
- Griffith เคยยืมเงินพ่อแม่เพื่ออุดยอดขาดบัญชี และต่อมายังประสบเหตุปล้นสาขาอีกด้วย
แม้ชนะคดี แต่ค่าชดเชยและการเพิกถอนคำพิพากษายังล่าช้า
- ในปี 2019 คดี แพ่ง ที่ sub-postmaster มากกว่า 500 คนยื่นฟ้อง มีคำตัดสินว่า Horizon มี “bugs, errors and defects”
- Post Office ระบุว่าจนถึงขณะนี้ได้จ่ายค่าชดเชยไปแล้วมากกว่า 138 ล้านปอนด์ และมีจุดยืนว่าต้องการแก้ไขความผิดในอดีต รวมถึงสนับสนุนการล้มล้างคำพิพากษาที่ผิดพลาด
- หลังชัยชนะทางกฎหมายในปี 2019 มี sub-postmaster รายอื่นออกมาเพิ่มเติมว่า Horizon แสดงยอดขาดบัญชีที่ผิดพลาด
- จาก 700 คนที่ถูกตัดสินว่ามีความผิด จนถึงตอนนี้มีเพียง 93 คนเท่านั้นที่ได้รับการยืนยันว่าไม่มีความผิด รวมถึง Hamilton และ Buffrey
- จนถึงตอนนี้มีผู้ยื่นขอ ค่าชดเชย มากกว่า 2,700 คน แต่ sub-postmaster จำนวนมากยังเห็นว่าค่าชดเชยที่ได้รับไม่เพียงพอ และเรียกร้องให้ผู้เกี่ยวข้องรับผิดชอบ
การสอบสวนของตำรวจและขอบเขตความรับผิดของ Fujitsu
- ตำรวจนครบาลลอนดอนเริ่มการสอบสวนทางอาญาในปี 2020 เกี่ยวกับความเป็นไปได้ที่ Post Office อาจก่อ ความผิดฐานฉ้อโกง
- ตำรวจยังกำลังสอบสวน Fujitsu ด้วยในข้อหาความผิดที่อาจเกี่ยวข้องกับการดำเนินคดีกับ sub-postmaster
- รัฐมนตรีรัฐบาลสหราชอาณาจักร 2 คนกล่าวว่า Fujitsu อาจถูกเรียกร้องให้จ่ายค่าชดเชยแก่เหยื่อตามผลของการไต่สวนสาธารณะอิสระ
- Fujitsu ระบุว่าบริษัทมุ่งมั่นที่จะสนับสนุนการไต่สวนเพื่อทำความเข้าใจและเรียนรู้จากเหตุการณ์ที่เกิดขึ้น
- Fujitsu ระบุด้วยว่าการไต่สวนได้ยืนยันถึงผลกระทบเชิงทำลายล้างที่เหตุการณ์นี้มีต่อชีวิตของ postmaster และครอบครัว และบริษัทขออภัยต่อบทบาทของตนในความทุกข์ทรมานนั้น
ละครที่จุดชนวนการตอบสนองทางการเมือง
- แม้คดีนี้จะอยู่ในศาลและสื่ออังกฤษมาหลายปี แต่หลังการออกอากาศละครของ ITV เรื่อง “Mr Bates vs The Post Office” การรับรู้และความโกรธของสาธารณชนก็เพิ่มขึ้นอย่างรวดเร็ว
- ละครเรื่องนี้นำเสนอการต่อสู้อันยาวนานของ sub-postmaster เพื่อพิสูจน์ความบริสุทธิ์และได้รับค่าชดเชย
- Alan Bates คืออดีต sub-postmaster ที่เป็นผู้นำความพยายามดังกล่าว
- หลังละครออกฉาย รัฐบาลสหราชอาณาจักรตอบสนองภายในไม่กี่วัน ด้วยความเร็วในระดับที่ sub-postmaster เรียกร้องมาหลายปี
- นายกรัฐมนตรี Rishi Sunak ประกาศว่ารัฐสภาจะเร่งผ่าน กฎหมายสำคัญ เพื่อเพิกถอนคำพิพากษาของ sub-postmaster หลายร้อยคน
- ระบบการเมืองและกระบวนการยุติธรรมของอังกฤษยังต้องตอบว่าใครรู้อะไร เมื่อใด มีบุคคลใดต้องรับผิดทางอาญาหรือไม่ และ Fujitsu ควรรับผิดชอบต่อการชดเชยผู้เสียหายในระดับใด
บาดแผลทางใจที่ยืดเยื้อเกือบ 20 ปี
- Siema Kamran และสามี Kamran Ashraf ซื้อสาขาไปรษณีย์แห่งหนึ่งทางตอนเหนือของลอนดอนในปี 2001 และอีก 3 ปีต่อมา การตรวจสอบของ Post Office พบยอดขาดบัญชี 25,000 ปอนด์ที่อธิบายไม่ได้
- Ashraf รู้สึกถูกกดดันจากทนายให้ยอมรับข้อหาลักทรัพย์ และในปี 2004 เขาถูกตัดสินจำคุก 9 เดือน ก่อนที่คำพิพากษาจะถูกเพิกถอนในปี 2020
- ในช่วงหลายสัปดาห์แรกของโทษจำคุก Ashraf ถูกขังวันละ 23 ชั่วโมงในเรือนจำความมั่นคงสูง ก่อนจะถูกย้ายไปยังเรือนจำที่มีมาตรการต่ำกว่า
- เขาได้รับการปล่อยตัวหลังจาก 4 เดือน แต่หลังจากนั้นยังต้องสวมกำไลอิเล็กทรอนิกส์ติดตามตำแหน่งอีก 5 เดือน
- Kamran กล่าวว่าสามีของเธอมีอาการ PTSD จากประสบการณ์นี้ และทั้งสามี ตัวเธอเอง และลูกทั้งสามคนต่างต้องการการบำบัด
- ปัจจุบัน Kamran ซึ่งทำงานเป็นช่างแต่งหน้าอิสระ กล่าวว่า ถ้า Post Office ทำเรื่องแบบนี้ได้ ก็ไม่อาจรู้ได้ว่าแบรนด์อื่นจะทำอะไรได้บ้าง และเธอไม่สามารถกลับไปทำงานกับบริษัทใหญ่ได้อีก
1 ความคิดเห็น
ความเห็นจาก Hacker News
เป็นบทความที่เรียบเรียงกรณีจริงนี้ขึ้นมาใหม่ และเหตุการณ์นี้เองที่ทำให้ฉันไปเรียนต่อปริญญาเอกด้าน ระบบสารสนเทศ
แม้ตลอดหลายทศวรรษจะมีการสั่งสมแนวปฏิบัติที่ดีด้าน IT และซอฟต์แวร์ไว้มากมาย ฉันก็อยากรู้ว่าทำไมความไร้ความสามารถด้าน IT ระดับนี้ยังเกิดขึ้นได้อยู่ในปัจจุบัน แต่ไม่นานก็พบว่างานวิจัยด้านระบบสารสนเทศได้อธิบายเรื่องนี้ไว้เกือบหมดแล้ว
สุดท้ายมนุษย์ก็ยังเป็นมนุษย์ องค์กรแย่ ๆ ก็ยังเป็นองค์กรแย่ ๆ และตราบใดที่แทบทุกอย่างมีการกระจายตัวแบบระฆังคว่ำ ปัญหาเหล่านี้ก็คงไม่หายไปอย่างสิ้นเชิง
ถ้าทุกคนมีเมตตา ถ่อมตน ฉลาด มีความสามารถ และซื่อสัตย์ ปัญหามากมายของโลกคงหายไป ไม่ใช่แค่ในวงการ IT แต่ผู้คน องค์กร และสังคมต่างก็พังในแบบของตัวเอง
ถึงอย่างนั้น งานวิจัยด้านองค์กรมักพยายามชี้ทางที่ดีกว่า แต่ก็ดูเหมือนว่าจะมีบางคนที่ไม่สนใจจนถึงที่สุด
ตอนนี้ฉันไม่ได้โฟกัสหัวข้อนี้แล้ว เพราะดูเหมือนจะมีงานวิจัยมากพออยู่แล้ว แต่ก็ยังน่าสนใจที่กรณีนี้ยังกลับมาเป็นข่าวซ้ำ ๆ อยู่เสมอ
ระบบที่สำคัญต้องมี ความรับผิดชอบที่ตรวจสอบได้ และความรับผิดชอบนั้นควรบังคับให้ผู้สร้างและเจ้าของต้องทำกลไกความปลอดภัย การตรวจสอบ และมาตรการป้องกัน
ทำไมหลักการนี้ถึงถูกนำมาใช้กับวิศวกรรมซอฟต์แวร์ได้ไม่ดีนักเป็นอีกเรื่องหนึ่ง แต่ฉันคิดว่ามันควรถูกนำมาใช้
พูดตรง ๆ คือฉันไม่อยากได้ยินคำว่า “move fast and break things” เลย
กรณีนี้กลายเป็นเรื่องสาธารณะและมีความพยายามฟื้นฟูเพราะมันมีขนาดใหญ่มาก จนมีคนเกี่ยวข้องเป็นหลักร้อยหลักพัน
เราควรถามว่าท่ามกลางกรณีที่กระจัดกระจายอีกมากมาย มีอีกกี่ครั้งที่ชีวิตคนถูกทำลายและผู้บริสุทธิ์ต้องเน่าอยู่ในคุก
องค์กรนี้อาจมีอะไรบางอย่างที่ดึงดูดคนใจร้ายเป็นพิเศษ หรือไม่ก็อาจค่อย ๆ เปลี่ยนไปเป็นแบบนั้นในช่วงหลายทศวรรษที่ผ่านมา
ในโฆษณาทีวี “The People’s Post Office” ช่วงต้นยุค 2000 บทผู้ดูแลไปรษณีย์สาขาย่อยรับบทโดย John Henshaw ซึ่งเป็นนักแสดงที่ขึ้นชื่อเรื่องบทตัวร้ายจัดและตำรวจคอร์รัปชัน จึงเป็นการเลือกนักแสดงที่แปลกแต่ก็เข้ากันอย่างประหลาด
การพึ่งพาแนวคิดแบบ “ถ้าทุกคนฉลาดและมีเจตนาดี” เป็นการออกแบบที่พังตั้งแต่ต้น
ถ้าคุณสนใจแวดวงวิชาการ ฉันแนะนำอย่างมากให้กลับไปดูการออกแบบระบบที่ยังทำงานได้แม้มีคนไร้ความสามารถ หรือแม้กระทั่งมี ผู้ไม่หวังดี อยู่ในระบบ
ตรงกันข้าม คนลวงโลกประเภทนักต้มตุ๋นปากเก่งที่มีความสัมพันธ์ยืดหยุ่นกับความจริงกลับไต่เต้าขึ้นไปได้ง่ายแทบทุกที่
มีข้อมูลเพิ่มเติมเกี่ยวกับสิ่งที่เกิดขึ้นในทางเทคนิคเบื้องหลังจริง ๆ อยู่ที่นี่: https://www.theguardian.com/uk-news/2024/jan/09/how-the-post...
David McDonnell จากทีมพัฒนากล่าวในการไต่สวนว่า “จากนักพัฒนา 8 คน มี 2 คนที่เก่งมาก 2 คนที่พอร่วมงานได้ แต่ 3-4 คนขาดความสามารถจนไม่อาจเขียนโค้ดระดับมืออาชีพได้”
ไม่ได้จะโยนความผิดไปให้นักพัฒนา เพราะความรับผิดชอบนั้นอยู่ที่ ฝ่ายบริหาร อย่างชัดเจน
คนที่สร้างบั๊กในโค้ดไม่ควรต้องรับผิดชอบไปจนถึงขั้นที่คนอื่นต้องติดคุกเพราะบั๊กนั้น
ผู้จัดการไม่ค่อยรู้จริงหรอกว่าวิศวกรกำลังทำอะไรอยู่
คนเดียวที่เข้าใจ trade-off ทางวิศวกรรมจริง ๆ ก็คือวิศวกรเอง และถ้าผลลัพธ์จากงานของเรามีชีวิตคนเป็นเดิมพัน เราก็ไม่ควรถูกกันออกจากผลลัพธ์ของการตัดสินใจนั้นอย่างสิ้นเชิง
มันไม่ดีทั้งต่อสังคม และท้ายที่สุดก็ไม่ดีต่อตัวเราเองด้วย
ตามหลักกฎหมายละเมิด ย่อมมีความรับผิดชอบต่อความเสียหายที่คาดการณ์ได้ และยิ่งมีความเชี่ยวชาญสูง ความรับผิดชอบก็ยิ่งมากขึ้น
วิศวกรอาวุโส ในทีมน่าจะต้องทำได้ดีกว่านี้ และฉันคิดว่าพวกเขามีส่วนผิด
ประเด็นนี้ติดค้างอยู่ในใจฉันเสมอ
คุณอาจสร้าง API ที่ตรวจสอบการเข้าถึงได้ทั้งหมด แต่ก็เขียนโค้ดที่ข้าม API นั้นได้ง่ายมาก
โค้ดไม่ใช่อาคารที่มีผนังและประตู คุณเปลี่ยนแปลงภายในได้โดยไม่ต้องแตะประตูเลย
การใส่ แบ็กดอร์ที่ไม่ถูกตรวจสอบ สำหรับผู้ดูแลระบบเป็นเรื่องแย่ แต่ถ้าคุณแก้ไขซอร์สโค้ดได้ แบ็กดอร์ก็แทบจะมีได้ไม่จำกัด
Horizon เป็นผลผลิตจากยุค 1990 และตอนนั้นอุตสาหกรรมซอฟต์แวร์ต่างจากวันนี้มาก
ในเวลานั้น บริษัทที่ให้ผู้สมัครโปรแกรมเมอร์เขียนโค้ดในสัมภาษณ์เป็นกิจวัตรมีแทบแค่ Microsoft และการจ้างงานก็เกือบจะสุ่ม ๆ
ทีมที่มีคนส่วนน้อยซึ่งเขียนโค้ดที่ใช้งานได้คอยแบกคนส่วนใหญ่ที่เขียนไม่ได้เลยเป็นเรื่องปกติ
The Daily WTF ก็เป็นผลผลิตจากยุคนั้นเหมือนกัน และมีเรื่องราวแบบ Brillant Paula Bean มากมาย: https://thedailywtf.com/articles/The_Brillant_Paula_Bean
ทุกวันนี้เราได้ยินเรื่องแบบนั้นน้อยลงมาก เพราะอุตสาหกรรมลงหลักปักฐานกับการทดสอบทักษะเฉพาะก่อนรับคนเข้าทำงาน ทำให้คนจำนวนมากที่เขียนโค้ดไม่ได้จริงแต่เคยหลุดเข้ามาในโปรเจกต์ถูกคัดออกไป
ถ้าฉันเป็นทั้งนักพัฒนาและผู้ขายแอปนี้เพียงคนเดียว ฉันจะไม่มีความรับผิดชอบเลยหรือ?
ถ้ามี QA หนึ่งคนล่ะ หรือมีทั้งนักพัฒนาและ QA อย่างละสองคนล่ะ จะต่างกันไหม?
คนที่ไม่ใช่สายเทคนิคซึ่งเป็นคนขายหรือโปรโมตแอปควรต้องรับผิดแทนหรือ?
ฉันไม่เข้าใจว่าทำไม ความรับผิดชอบของนักพัฒนา ที่ไม่ได้ตรวจสอบโค้ดของตัวเองให้เพียงพอถึงหายไปได้อย่างสิ้นเชิง
ดูเหมือนว่าแก่นของคดีนี้คือ ระบบ “ยุติธรรม” แบบเอกชน ภายใน Post Office เอง
มันไม่โปร่งใส มีอคติ และปฏิเสธการตรวจสอบหลักฐาน
ในยุคที่มุ่งไปสู่สิทธิขั้นพื้นฐานร่วมกัน การที่ที่ทำงานสามารถพรากสิทธิในการปกป้องตนเองในกระบวนการยุติธรรมสาธารณะไปได้เป็นเรื่องไร้สาระ
บั๊ก IT ก็เป็นปัญหา แต่สิ่งที่ทำลายผู้คนจำนวนมากคือการตัดสินใจทางการเมืองที่ผิดพลาดขององค์กรที่ติดอยู่กับอดีต และเรื่องนี้ก็ถูกฝังเงียบไว้จนกระทั่งมีละครโทรทัศน์ออกมา
คนที่เป็นผู้นำ Post Office จริง ๆ ยังได้รับเครื่องราชฯ จากรัฐบาลอีกด้วย
IT และการสร้างโค้ดมีหลุมพรางมากมาย แต่ประเด็นหลักของคดีนี้อยู่ที่อื่น
ในการไต่สวนสาธารณะมีการเปิดเผยว่า Post Office ใช้ยุทธวิธีทางกฎหมายเชิงรุก เช่น กล่าวหาหัวหน้าไปรษณีย์สาขาย่อยว่าลักทรัพย์เพื่อกดดันให้ยอมรับสารภาพในข้อหาที่เบากว่า
CPS ระบุคดีของหัวหน้าไปรษณีย์สาขาย่อย 11 คดีที่มี “หลักฐานสำคัญ” เกี่ยวกับระบบ Horizon
ผู้เชี่ยวชาญด้านกฎหมายเห็นว่ารัฐบาลได้รับคำเตือนมาหลายปีแล้วว่าการฟ้องคดีอาญาโดยเอกชนนั้นอันตราย เพราะฝ่ายที่ผลักดันคดีอาจมีแรงจูงใจอื่นนอกเหนือจากการอำนวยความยุติธรรม
อดีตผู้อำนวยการฝ่ายอัยการ Lord Ken Macdonald KC กล่าวว่า เมื่อองค์กรที่มีส่วนได้ส่วนเสียอย่าง Post Office มารับบทอัยการ ก็ย่อมเกิดความเสี่ยงอย่างชัดเจน
CEO ได้รับรางวัลเพราะ “จัดการ” วิกฤต และรัฐบาลควรจะต้องเรียกร้องคำตอบตั้งแต่หลังสัญญาณเตือนในช่วงปีแรก ๆ
แต่กลับต้องรอถึง 20 ปีและละครโทรทัศน์ จึงถูกบีบให้แสดงภาวะผู้นำ
ไม่แน่ใจว่าในต่างประเทศ Netflix นำไปฉายแบบไลเซนส์หรือไม่
แม้บริบทจะต่างจากสหราชอาณาจักรเล็กน้อย แต่ ข้อกำหนดอนุญาโตตุลาการภาคบังคับ ก็กำลังพรากสิทธิของลูกจ้างในการแสวงหาความยุติธรรม และยิ่งพบได้บ่อยขึ้นเรื่อย ๆ
BBC เคยนำเสนอคดีนี้ในปี 2015 ผ่านสารคดี Panorama และ Post Office ก็ข่มขู่ BBC เพราะเนื้อหาในรายการ
“Post Office ข่มขู่และโกหก BBC ขณะพยายามกดหลักฐานสำคัญที่อาจพิสูจน์ความบริสุทธิ์ของนายไปรษณีย์ในคดีอื้อฉาว Horizon”
“ข้อกล่าวหาอันเป็นเท็จไม่ได้ทำให้รายการถูกยับยั้ง แต่ทำให้การออกอากาศของ BBC ล่าช้าไปหลายสัปดาห์”
https://www.bbc.com/news/uk-67884743
มันไม่ใช่แค่ “ข้อบกพร่อง” ธรรมดา แต่ยังเป็น สงครามประชาสัมพันธ์ ที่กดเสียงของผู้เสียหายได้อย่างค่อนข้างมีประสิทธิภาพมาจนถึงตอนนี้ด้วย
ตอนเห็นข่าว ฉันคิดว่า “นี่คือเรื่องที่ได้ยินเมื่อ 5 ปีก่อนนี่นา คงจัดการเรียบร้อยไปนานแล้วสิ?”
ไม่ควรต้องมี การทำให้เป็นประเด็นสาธารณะ มากขนาดนี้ก่อนที่วงล้อแห่งความยุติธรรมจะเริ่มหมุน
เมื่อหลายปีก่อนฉันเคยคิดว่า “เทคโนโลยีกำลังทำลายชีวิตผู้คน” แต่พอเห็นว่ายังลากยาวมาถึงปี 2024 ก็ไม่อาจโทษเทคโนโลยีอย่างเดียวได้อีกแล้ว
สุดท้ายมันคือปัญหาของคน และคนเราก็เลวร้ายมาก
ตอนนี้เรื่องนี้กำลังได้รับความสนใจอย่างที่สมควรได้รับเสียที
ถ้าอยากอ่านสรุปให้เห็นขนาดอันมหาศาลของความอยุติธรรม บทความนี้ของ Private Eye ก็น่าอ่าน: https://www.private-eye.co.uk/pictures/special_reports/justi...
รายการวิทยุของ BBC ที่เริ่มในปี 2020 ก็ให้ข้อมูลดี ๆ มากมาย เช่น Post Office สอบสวนหัวหน้าไปรษณีย์สาขาย่อยที่ถูกสงสัยอย่างไร: https://www.bbc.co.uk/sounds/brand/m000jf7j
มองว่าเป็นแค่ข้อบกพร่องของซอฟต์แวร์อย่างเดียวคงไม่ได้
ระบบราชการในทุกระดับขององค์กรที่รัฐบาลดูแลพยายามปกปิดเรื่องนี้เพื่อหลีกเลี่ยง กระแสความเห็นสาธารณะด้านลบ
อุปกรณ์การแพทย์? ขอผ่านเด็ดขาด
แน่นอนว่าฉันอาจไม่มีทางรู้ได้จนสุดท้ายว่าโค้ดของตัวเองจะไปถูกรันที่ไหน
เรื่องนี้จะใหญ่โตขนาดนี้ได้ไม่ใช่เพราะปัญหาซอฟต์แวร์อย่างเดียว แต่ก็อดสงสัยไม่ได้ว่านักพัฒนาที่ดูแลงานนี้มาหลายปีปล่อยผ่านไปได้อย่างไร
น่าเหลือเชื่อว่าจะไม่มีนักพัฒนาสักคนได้ยินปัญหานี้เลย
พวกเขาคิดทันทีหรือเปล่าว่า “เป็นไปไม่ได้ ฉันเก่งที่สุดในโลก ระบบไม่มีทางผิด คนพวกนั้นต่างหากที่ขโมยเงิน”
ถ้าเป็นฉันคงนอนไม่หลับ แล้วคงไล่ทบทวนทั้งระบบในหัวเพื่อหาว่ามันพังตรงไหน
นี่มันคล้าย Dunning-Kruger effect หรือเปล่านะ
ฉันไม่ได้คิดว่าตัวเองเป็นพ่อมดแห่งการเขียนโค้ด แต่ก็รู้ดีว่าฉันจะยังสร้างบั๊กไปจนวันตาย
ต่อให้เป็น Rust ก็ไม่ได้ป้องกันบั๊กเชิงตรรกะได้
มันไม่ใช่บั๊กเดียว แต่เป็น บั๊กหลายตัวที่ต่างกัน
Post Office เป็น บริษัทเอกชน อย่างเต็มตัว
เรื่องนี้มีตัวร้ายแบบเห็นกันชัด ๆ อยู่มากมาย แต่ก็อดสงสัยไม่ได้ว่าตลอดเวลานี้ ระบบกฎหมาย อยู่ที่ไหน
นี่คือการฟ้องคดี 900 คดีโดยแทบไม่มีหลักฐานจริงเลย หรือมีแค่เหตุผลว่า “คอมพิวเตอร์บอกว่าเป็นแบบนั้น” อย่างนั้นหรือ?
ถ้าเป็นหนึ่งในสามเสาหลักของการแบ่งแยกอำนาจ ระบบกฎหมายและกระบวนการยุติธรรมก็ควรเป็นด่านสุดท้ายที่ป้องกันการไล่ล่ากลั่นแกล้งผู้บริสุทธิ์จำนวนมากอย่างไร้เหตุผลแบบนี้ไม่ใช่หรือ?
“ไม่มีหลักฐานโดยตรงว่าเธอเอาเงินไป... เธอยืนกรานปฏิเสธข้อหาลักทรัพย์อย่างหนักแน่น ไม่มีหลักฐานจาก CCTV ไม่มีลายนิ้วมือหรือธนบัตรที่ทำเครื่องหมายไว้ ไม่มีหลักฐานว่าเธอซุกซ่อนเงินสดไว้ที่อื่น ใช้เงินก้อนโต หรือชำระหนี้ และก็ไม่มีหลักฐานเกี่ยวกับบัญชีธนาคารเลย เมื่อมีการตรวจค้นบ้าน ก็ไม่พบสิ่งใดที่ชี้ถึงความผิด”
หลักฐานเพียงอย่างเดียวคือส่วนต่างระหว่างจำนวนเงินสดที่ระบบคอมพิวเตอร์ Horizon ของ Post Office ระบุว่าควรมีอยู่ที่สาขา กับจำนวนเงินสดที่มีอยู่จริง
“ท่านยอมรับข้อโต้แย้งของฝ่ายอัยการหรือไม่ ว่ามีหลักฐานเพียงพอที่แสดงว่า Horizon เป็นระบบที่ผ่านการพิสูจน์แล้ว ถูกใช้งานในที่ทำการไปรษณีย์หลายพันแห่งมาหลายปี และโดยพื้นฐานแล้วแข็งแรงมั่นคงและเชื่อถือได้?”
แค่คำพูดของฉันกับคำพูดของคุณคงไม่เพียงพอต่อมาตรฐาน “ปราศจากข้อสงสัยอันสมเหตุสมผล” แต่คำพูดของ Post Office ที่มีระบบคอมพิวเตอร์หนุนหลัง ดูเหมือนจะโน้มน้าวคณะลูกขุนได้มากพอ
ในคดีข้างต้น คณะลูกขุนมีคำตัดสินว่า มีความผิด
คือถือว่าเครื่องทำงานถูกต้องไว้ก่อน และให้ผู้ที่อ้างว่าไม่ถูกต้องเป็นฝ่ายรับภาระการพิสูจน์
หลายคนบอกว่าควรเปลี่ยน ข้อสันนิษฐานเรื่องพยานหลักฐานจากคอมพิวเตอร์ นี้
https://www.theguardian.com/uk-news/2024/jan/12/update-law-o...
https://www.forbes.com/sites/emmawoollacott/2024/01/15/law-o...
ซอฟต์แวร์เป็นเครื่องจักรที่ไม่ได้ฉลาดและไม่ได้โง่
ในกรณีนี้มันเสียอยู่ และคนที่จริง ๆ แล้วมีความสามารถจะวิเคราะห์และตัดสินสถานการณ์อย่างวิพากษ์วิจารณ์ได้ กลับยอมรับผลลัพธ์จากเครื่องที่มองไม่เห็นข้างใน ราวกับเป็นพระวจนะ
โดยทั่วไปแล้ว เมื่อผู้พิพากษาชั้นต้นต้องเลือกระหว่างทีมกฎหมายอันทรงเกียรติของ His Majesty’s Postal Service กับคนท้องถิ่นที่พูดสำเนียงบ้าน ๆ ซึ่งถูกมองว่าเป็น “ไอ้สกปรกที่เราคิดว่าขโมยของ” ก็มักจะเข้าข้างฝ่ายรัฐทุกครั้ง
ไม่มีร่องรอยว่าเงินถูกโอนเข้าบัญชี ไม่มีทรัพย์สินที่อธิบายไม่ได้ ไม่มีการใช้จ่ายฟุ่มเฟือย มีแค่ “คอมพิวเตอร์บอกว่าเป็นแบบนั้น” เท่านั้น
การที่กระบวนการยุติธรรมแยกพิจารณาแต่ละคดีออกจากกันก็เป็นปัญหาเช่นกัน
หลังผ่านไปไม่กี่คดี ระบบกฎหมายควรมีบางอย่างที่สามารถหยุดแล้วพูดว่า “เดี๋ยวก่อน มีอะไรผิดปกติอยู่ตรงนี้” ได้
สำหรับกรณีนี้ การเปลี่ยนแปลงอย่างแรกอาจเป็นการยุติ แนวปฏิบัติล้าสมัย ที่ให้ Post Office ในสหราชอาณาจักรฟ้องคดีเอง
ในทีมก่อนหน้านี้มีการห้ามใช้คำว่า glitch
เพราะเวลานักพัฒนาและเจ้าของผลิตภัณฑ์พูดกับลูกค้า มันมักถูกใช้เป็นคำเหมารวมสำหรับ “บั๊กที่ฉันไม่อยากรับผิดชอบ” และไม่มีที่ยืนในทีมเทคยุคใหม่
สมัยก่อนมักมีการก๊อบปี้คำตอบจาก Stack Overflow มาแปะลงใน codebase ของบริษัทแล้วฝืนใช้ต่อไปจนกว่า “มันจะทำงาน” และเมื่อมีปัญหา งานนั้นก็มักค้างอยู่กับคนหนึ่งเป็นสัปดาห์หรือเป็นเดือนก่อนจะส่งต่อไปอีกคน
ส่วนใหญ่แล้ว แค่ใส่คำสั่งพิมพ์ผลลัพธ์ง่าย ๆ ก็อาจได้เบาะแสสำหรับการแก้ปัญหาแล้ว แต่แม้แค่นั้นก็ยังถูกมองว่าเป็นเรื่องซับซ้อนเกินไป
เมื่อซอฟต์แวร์ทำเงินได้ แรงจูงใจในการลดต้นทุนการพัฒนาก็ยิ่งมากขึ้น จ้างวิศวกรที่ประสบการณ์น้อยกว่าและค่าตัวถูกกว่า และข้ามขั้นตอนต่าง ๆ ไปพร้อมพูดว่า “TDD เสียเวลา”
รัฐบาลสหราชอาณาจักรเสพติดบริษัทที่ปรึกษาขนาดใหญ่ ซึ่งที่ผ่านมาเอาคนราคาถูกและประสบการณ์น้อยเข้ามาทำงานในภาครัฐ แล้วเก็บส่วนต่างไว้ ขณะที่ส่งมอบโครงการแบบครึ่ง ๆ กลาง ๆ ในราคาสูง หรือบางทีก็ส่งมอบไม่ได้เลย
และก็ไม่มีองค์กรใดคอยตรวจสอบสัญญาเหล่านั้น
คล้ายมากกับระบบ Robodebt ที่เกิดขึ้นในออสเตรเลีย และให้ผลลัพธ์ที่ทำลายล้างไม่ต่างกัน: https://en.wikipedia.org/wiki/Robodebt_scheme
ผู้รับสวัสดิการที่ได้รับหนังสือทวงหนี้อัตโนมัติฆ่าตัวตาย มีการส่งหนังสือทวงหนี้ถึงผู้เสียชีวิต และผู้รับเงินบำนาญผู้พิการก็ได้รับหนังสือทวงหนี้เช่นกัน
ดูเหมือนว่า Wikipedia จะเรียกสิ่งนี้ว่า Algocracy หรือการปกครองโดยอัลกอริทึม
เพราะมันส่งสัญญาณว่าจะให้ผลลัพธ์ที่เป็นประโยชน์ต่อรัฐบาลในขณะนั้น และยังโยนภาระให้ประชาชนต้องพิสูจน์หักล้างเองว่าหนี้นั้นผิด ขณะที่ข้อกำหนดก็เกินจริงและแทบไม่มีการช่วยเหลือหรือกระบวนการอุทธรณ์
รัฐบาล Liberal & National Party ที่ครองอำนาจอยู่ในเวลานั้น ต้องการสร้างภาพลักษณ์ว่าแข็งกร้าวกับพวกโกงสวัสดิการ ใช้เป็นประเด็นหาเสียง และอยากใส่แหล่งรายได้มหาศาลที่แท้จริงไม่มีอยู่ลงในงบประมาณฉบับถัดไป
ความคลาดเคลื่อนจำนวนมากเกิดจากการนำรายได้ช่วงสองสัปดาห์เดียวหรือหลายช่วงสองสัปดาห์มาเฉลี่ย แล้วคาดขยายเป็นรายได้ทั้งปี ซึ่งเป็นวิธีที่ผิดอย่างสิ้นเชิงเมื่อผู้รับสวัสดิการจำนวนมากทำงานชั่วคราวหรือระยะสั้น และช่วงเวลานั้นไม่ได้เป็นตัวแทนของรายได้ทั้งปี
ในบางกรณี คนที่ถูกระบุว่าเป็นลูกหนี้เพิ่งรู้ตัวครั้งแรกก็ตอนที่ได้รับจดหมายทวงหนี้จากบริษัทติดตามหนี้แล้ว
หากมีคนยื่นฟ้อง รัฐบาลก็จะลดหนี้ลงเป็น 0.00 ดอลลาร์ แล้วอ้างว่าไม่มีเหตุให้ฟ้องต่ออีก ทำให้คดีตกไป
ในที่สุด ทนายความที่เป็นตัวแทนของบางคนก็เรียกดอกเบี้ยจากหนี้ที่เรียกเก็บผิดไปด้วย ทำให้รัฐบาลใช้กลยุทธ์เดิมชนะไม่ได้อีกต่อไป และตอนนั้นเองรัฐบาลจึงยอมรับว่าระบบนี้ผิดกฎหมายมาตลอดหลายปี
ถ้าต้องการเข้าใจบริบททั้งหมด ขอแนะนำซีรีส์ YouTube 3 ตอนนี้: https://www.youtube.com/watch?v=OfsL9GAbl3M
โดยอธิบายตั้งแต่ต้นเลยว่านี่นำไปสู่การฟ้องแบบกลุ่มครั้งใหญ่ที่สุดในประวัติศาสตร์ออสเตรเลีย
ตอนนี้ซอฟต์แวร์ถูกมองราวกับเป็น ความจริง แต่ก็ไม่ได้เป็นเช่นนั้นมาโดยตลอด
โชคดีที่ AI ได้รับความสนใจมาก ทำให้ผู้คนดูจะตระหนักมากขึ้นว่าการตัดสินของมันอาจผิดพลาดได้
ในศาลควรต้องมีการบังคับให้เปิดเผยข้อมูลและเส้นทางการตัดสินใจของการตัดสินโดยซอฟต์แวร์ หรือก็คือ “อัลกอริทึม”
และอีกกฎหมายที่จำเป็นคือเรื่องการห้ามใช้ระบบ
การถูกแบนตลอดชีวิตโดยไม่มีทั้งคำอธิบายและช่องทางเยียวยานั้นเป็นเรื่องบ้าคลั่ง และแทบไม่ต่างจากการถูกตัดสินจำคุกตลอดชีวิตโดยไร้เหตุผล