- ข้อบกพร่องในระบบบัญชี Horizon ของไปรษณีย์สหราชอาณาจักรเป็นที่รู้กันตั้งแต่ช่วงเริ่มนำไปใช้งาน และข้อผิดพลาดเหล่านั้นส่งผลต่อการ ฟ้องร้องและพิพากษาว่ามีความผิด ของผู้จัดการสาขาไปรษณีย์ผู้บริสุทธิ์
- ระหว่างปี 1999~2015 ข้อมูลบัญชีที่มีข้อบกพร่องทำให้ดูเหมือนมีเงินหาย ส่งผลให้ sub-postmaster และ postmistress มากกว่า 900 คน ถูกฟ้องร้องและตัดสินว่ามีความผิดฐานลักทรัพย์หรือฉ้อโกง
- ศาลไม่ทราบถึง บั๊ก 29 รายการ ที่ถูกพบตั้งแต่ปี 1999 และมีคำให้การกับรายงานว่า Post Office ยังคงยืนยันว่าระบบทำงานตามปกติ พร้อมทั้งมีส่วนเกี่ยวข้องกับการแก้ไขคำให้การต่อศาลของพนักงาน Fujitsu
- จนถึงปัจจุบัน มีคำพิพากษาที่ถูกกลับคำเพียง 93 คดี โดยเหยื่อบางรายต้องเข้าคุก บางรายจ่ายเงินให้ Post Office เพื่อชดเชยยอดขาดที่ไม่มีอยู่จริง และอีกหลายพันคนยังรอการชดเชย
- Fujitsu ยอมรับว่ามี พันธะทางศีลธรรม ที่จะร่วมจ่ายค่าชดเชยให้เหยื่อ และรัฐบาลสหราชอาณาจักรกำลังเตรียมกฎหมายใหม่เพื่อเร่งล้างมลทินและชดเชยผู้ที่ถูกตัดสินว่ามีความผิดอย่างไม่เป็นธรรม
เป็นที่รู้กันว่าข้อบกพร่องของ Horizon มีมาตั้งแต่ช่วงเริ่มนำไปใช้งาน
- Paul Patterson ซีอีโอร่วมของ Fujitsu ภูมิภาคยุโรป เปิดเผยในการไต่สวนสาธารณะว่า บั๊กในซอฟต์แวร์ Horizon เป็นที่รู้กัน “ตั้งแต่เริ่มนำไปใช้งาน”
- Patterson กล่าวว่า “บั๊กและข้อผิดพลาดเป็นที่รู้กันในหลายระดับมาเป็นเวลานานมาก” และระบุว่าตั้งแต่ช่วงแรกของการนำระบบไปใช้ มีทั้ง บั๊ก·ข้อผิดพลาด·ข้อบกพร่อง และผู้เกี่ยวข้องต่างรับรู้เรื่องนี้
- Horizon เป็น ซอฟต์แวร์บัญชี ที่ International Computers Limited บริษัทลูกของ Fujitsu ติดตั้งให้ไปรษณีย์สหราชอาณาจักรในปี 1999
การฟ้องร้องและขนาดของความเสียหายระหว่างปี 1999~2015
- ข้อมูลบัญชีที่มีข้อบกพร่องของ Horizon ทำให้ดูเหมือนว่าเงินหายไปจากสาขา และตั้งแต่ปี 1999 ถึง 2015 sub-postmaster และ postmistress มากกว่า 900 คนถูกฟ้องร้องและตัดสินว่ามีความผิดฐานลักทรัพย์หรือฉ้อโกง
- ผู้บริสุทธิ์บางรายต้องเข้า คุก และบางรายจ่ายเงินให้ UK Post Office เพื่อชดเชยยอดขาดที่จริง ๆ แล้วไม่มีอยู่
- ตามรายงานของ BBC จนถึงตอนนี้มีคำพิพากษาที่ถูกกลับคำเพียง 93 คดี และอีกหลายพันคนยังคงรอข้อตกลงเรื่องค่าชดเชย
บั๊กที่ศาลไม่รู้ และคำให้การที่ถูกแก้ไข
- ตามรายงานของ The Guardian ศาลที่พิจารณาคดีของพนักงานไปรษณีย์ไม่ได้รับแจ้งเกี่ยวกับ บั๊ก 29 รายการ ในระบบของ Fujitsu ที่ถูกพบตั้งแต่ปี 1999
- แม้ในกรณีที่มีการยอมรับว่ามีบั๊ก คำให้การสำหรับการเบิกความต่อศาลของพนักงาน Fujitsu ก็ถูก Post Office แก้ไข และ Post Office พยายามคงจุดยืนว่าระบบทำงานตามปกติ แม้ขณะนำผู้บริสุทธิ์ขึ้นศาล
- Patterson กล่าวว่าเขาประหลาดใจที่รายละเอียดดังกล่าวหายไปจากคำให้การที่พนักงาน Fujitsu ส่งให้ Post Office และเขาได้เห็นหลักฐานว่าคนอื่นแก้ไขคำให้การนั้น
- เมื่อ Jason Beer KC ทนายความอาวุโสในการไต่สวนสาธารณะถามว่าเขามองว่าเรื่องนี้เป็น “เรื่องน่าอับอาย” หรือไม่ Patterson ตอบว่า “shameful and appalling”
- Patterson กล่าวว่า ตามความเข้าใจของเขาต่อกฎหมายอังกฤษ หลักฐานทั้งหมดที่ Post Office ใช้พึ่งพาในการฟ้องร้องควรถูกนำมาแสดงต่อหน้า subpostmaster
สิทธิฟ้องคดีอาญาโดยเอกชนและความเป็นไปได้ในการปฏิรูประบบ
- Financial Times รายงานว่าในการไต่สวนสาธารณะเมื่อเดือนธันวาคม 2023 มีการรับฟังว่า ทนายความของ Post Office ได้เขียนคำให้การของ Fujitsu ขึ้นใหม่
- Post Office ใช้ สิทธิฟ้องคดีอาญาโดยเอกชน ที่บริษัทเอกชนในสหราชอาณาจักรสามารถใช้ได้ เพื่อให้ได้คำพิพากษาว่ามีความผิด 700 คดีจากทั้งหมด 900 คดี
- คำพิพากษาว่ามีความผิดที่เหลือมาจากคดีที่อัยการสกอตแลนด์เป็นผู้ยื่นฟ้อง
- สแกนดัลนี้อาจนำไปสู่การปฏิรูป ระบบการฟ้องคดีอาญาโดยเอกชน ที่เปิดให้องค์กรนำผู้คนขึ้นศาลได้
คำขอโทษของ Fujitsu และความรับผิดชอบในการชดเชย
- เมื่อต้นสัปดาห์เดียวกัน Patterson บอกกับสมาชิกรัฐสภาสหราชอาณาจักรว่า Fujitsu ต้องการขอโทษต่อบทบาทของบริษัทใน “ความผิดพลาดร้ายแรงของกระบวนการยุติธรรม”
- เขายอมรับว่า Fujitsu มีส่วนเกี่ยวข้องตั้งแต่แรก ระบบมีบั๊กและข้อผิดพลาด และบริษัทได้ช่วย Post Office ในการฟ้องร้อง sub-postmaster
- Patterson กล่าวว่า Fujitsu มี พันธะทางศีลธรรม ที่จะร่วมจ่ายค่าชดเชยให้เหยื่อ
การรับรู้ปัญหาที่มีมาตั้งแต่ปี 1999 และการตอบสนองของรัฐบาล
- Flora Page ทนายความฝั่งเหยื่อ ถาม Patterson ว่าในอดีตไม่มีใครมองเห็นอย่างชัดเจนหรือไม่ถึงความเชื่อมโยงระหว่างโค้ดที่แย่มากซึ่งถูกนำไปใช้ในการปฏิบัติงาน กับข้อมูลที่แย่มากซึ่งไหลเข้าสู่บริการสนับสนุนการดำเนินคดี
- Patterson ตอบว่าความเชื่อมโยงดังกล่าว รวมถึงความเข้าใจว่าเกิดอะไรขึ้นและเกิดขึ้นที่ใด มีอยู่ทั้งใน Fujitsu และ Post Office ย้อนหลังไปถึงปี 1999
- Kevin Hollinrake รัฐมนตรีที่ดูแล Post Office กล่าวกับ BBC ว่า การทำให้ได้มาซึ่งค่าชดเชยและคำตอบคือ “ลำดับความสำคัญสูงสุด” ของเขา
- Hollinrake กล่าวว่า มีผลกระทบร้ายแรงต่อชีวิตผู้คน ทั้งการล่มสลายของชีวิตสมรสและการฆ่าตัวตาย และในจุดที่ทำได้ ควรมีการเอาผิดผ่านการฟ้องคดีอาญา
- รัฐบาลสหราชอาณาจักรวางแผนออกกฎหมายใหม่เพื่อ ล้างมลทินและชดเชยอย่างรวดเร็ว ให้แก่ผู้ที่ถูกตัดสินว่ามีความผิดอย่างไม่เป็นธรรม
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
สิ่งที่น่าตกใจคือช่วงที่ Paul Patterson ซีอีโอร่วมของ Fujitsu ฝั่งยุโรปกล่าวว่า “น่าประหลาดใจที่เรื่องนั้นหายไปจากคำให้การพยานที่พนักงาน Fujitsu ส่งให้ Post Office และผมก็เห็นหลักฐานบางส่วนด้วยว่ามีคนอื่น แก้ไขคำให้การพยาน”
ถ้าสิ่งที่พวกเขาพยายามปกปิดมีแค่สัญญาซอฟต์แวร์ที่เขียนอย่างลวก ๆ ก็ยากจะเข้าใจว่าเรื่องอื้อฉาวนี้จะเลวร้ายลงไปได้อย่างไรอีก
ตอนนี้เริ่มสงสัยแล้วว่าอาจยังมี การทุจริตเชิงรากฐาน อื่น ๆ ที่ยังไม่ถูกเปิดเผยอีกหรือไม่
Fujitsu ก็มีความรับผิดชอบอยู่ แต่ถ้า Post Office แก้ไขคำให้การ แล้วใครควรเป็นคนตรวจสอบเรื่องนั้นก็ยังคลุมเครือ
เวลาผมยื่นคำให้การเป็นลายลักษณ์อักษรให้ตำรวจ มันไม่ควรเป็นความรับผิดชอบของผมที่จะต้องตรวจสอบจนถึงที่สุดว่าตำรวจไม่ได้แก้ไขคำให้การของผม
แน่นอนว่าถ้ารู้เข้าก็ควรทักท้วง แต่เราควรเชื่อใจได้ว่าหน่วยงานที่เกี่ยวข้องกับศาลจะไม่ปลอมแปลงหลักฐาน
เรื่องแบบนี้เกิดขึ้นเมื่อองค์กรระดับล่างพยายามกลบความรับผิดของตัวเองจนทำให้องค์กรใหญ่ทั้งองค์กรตกอยู่ในความเสี่ยงด้านต้นทุนที่ใหญ่กว่ามาก หรือเมื่อบุคคล/องค์กรเชื่อว่าตัวเองถูกต้องแล้วจึงยกระดับการตอบโต้ต่อไปเรื่อย ๆ หรือเมื่อผู้มีอำนาจเชื่อว่าตนหลบเลี่ยงผลของความผิดเดิมได้ จึงยอมทำความผิดที่ใหญ่กว่านั้นได้ด้วย
แม้ในระดับเล็กก็ไม่ใช่เรื่องหายาก และในบริษัทที่ไม่มี วัฒนธรรมแห่งความไว้วางใจและความซื่อสัตย์ ก็มักเกิดการกดทับข้อมูลความล้มเหลวภายใน จนนำไปสู่การกระทำที่เลวร้ายและเป็นอันตรายยิ่งกว่าเดิม
ยิ่งไปกว่านั้น Fujitsu ยังให้บริการซอฟต์แวร์แก่หน่วยงานรัฐบาลสหราชอาณาจักรจำนวนมาก เช่น NHS ดังนั้นพวกเขาจึงไม่ได้แค่ปกปิดสัญญายักษ์ใหญ่ แต่ยังปกปิดว่าตนโกหก และผลก็คือมีคนถูกจำคุกและถึงขั้นฆ่าตัวตาย
เรื่องนี้ย่อมก่อให้เกิดความโกรธแค้นทางการเมืองมหาศาล ซึ่งจะนำแสงสปอตไลต์ที่พวกเขาไม่ต้องการไปส่องทั้งความรับผิดทางอาญาและทางแพ่ง รวมถึงวิธีคัดเลือกสัญญา
ในความเป็นจริง มีคน ฆ่าตัวตาย เพราะความอับอาย หนี้สิน และอาชีพที่ถูกทำลาย และคดีนี้ก่อให้เกิดความตาย
ทุกครั้งมันก็น่าตกใจ ไร้เหตุผล และดูเป็นไปไม่ได้ แต่ก็เกิดซ้ำไปเรื่อย ๆ
เหมือนหนังตลกหรือหนังระทึกขวัญแย่ ๆ อาชญากรรมก็ดูเหมือนจะถูก ยกระดับ ต่อไปเรื่อย ๆ
ถ้าดูบทความ Wikipedia ของ Paula Vennells จะระบุว่า Post Office ดำเนินคดีกับ ผู้จัดการสาขา 700 คน ระหว่างปี 1999 ถึง 2015 [0]
คำนวณแล้วประมาณหนึ่งคนทุก ๆ 8 วัน ซึ่งผมไม่รู้ว่าอัตราพื้นฐานของผู้จัดการสาขาที่ฉ้อโกงหรือถูกดำเนินคดีเป็นเท่าไร แต่ตัวเลขระดับนี้ก็ดูสูงเกินไป
เมื่อความถี่ในการดำเนินคดีสูงขนาดนี้ Post Office ควรจะทำการสอบสวนภายในแล้วไม่ใช่หรือ
[0] https://en.wikipedia.org/wiki/Paula_Vennells
เรื่องนี้ ไม่มีข้อแก้ตัว
ช่วงนั้นเป็นช่วงค่อนข้างสำคัญที่เรื่องนี้กำลังเกิดขึ้นอย่างหนัก
เหตุผลที่ชี้ไปที่เขาเป็นพิเศษคือ หลังส่งต่อตำแหน่งให้ Vennells เขาย้ายไป ITV หลายปี
และ ITV นั่นเองคือที่ที่สร้างละครซึ่งดึงคดีนี้กลับมาสู่สายตาสาธารณะ
อย่างไรก็ตาม เขาออกจาก ITV ไปนานมากก่อนที่การผลิตซีรีส์จะเริ่มต้น ดังนั้นอาจเป็นการเลือกเชิงสร้างสรรค์มากกว่าอิทธิพลจากภายนอก
https://en.wikipedia.org/wiki/Adam_Crozier
นี่อาจเป็นกรณีสุดโต่งของผู้บริหารที่โลภและไร้ศีลธรรมโยนข้อบกพร่องของตัวเองไปใส่คนอื่น
พูดจริง ๆ นะ ถ้าเป็นอาชญากร จะเลือกเส้นทางยุ่งยากด้วยการบริหารที่ทำการไปรษณีย์นานหลายปีไปทำไมกัน
ถ้ามีหลายล้านคน ตัวเลข 700 คนก็อาจเป็นตัวเลขที่น่าประทับใจได้
ยังมีเรื่องที่เกิดขึ้นต่อเนื่องอยู่จนถึงตอนนี้
การดำเนินคดียังคงดำเนินต่อไป แต่ไม่ใช่โดย Post Office หากเป็น Crown Prosecution Service
Fujitsu ยังคงส่งข้อมูลให้ CPS และ Post Office ต่อไปเหมือนที่ทำมาหลายปี และผมไม่รู้ว่ายังส่งคำให้การพยานอยู่ด้วยหรือไม่
ผู้จัดการสาขายังคงบ่นว่าบั๊กในซอฟต์แวร์ Horizon ทำให้เกิดข้อผิดพลาดของยอดคงเหลือ
ผู้จัดการสาขายังคงถูกปรับและต้องจ่ายเงินให้ Post Office เมื่อเกิดยอดขาด และเงินจำนวนนั้นถูกหักจากเงินเดือนโดยอัตโนมัติ
ตั้งใจว่าจะรวบรวมเธรด HN เกี่ยวกับหัวข้อนี้
อยากรู้ว่ายังมีโพสต์สำคัญอื่น ๆ ที่ตกหล่นไปหรือไม่
น่าสนใจที่ในปี 2012 มีโพสต์หนึ่งที่มีคอมเมนต์เดียว และหลังจากนั้นตลอด 7 ปีแทบดูเหมือนไม่มีอะไรเลย
Fujitsu CEO Deposition – Post Office Horizon IT Inquiry - https://news.ycombinator.com/item?id=39059302 - ม.ค. 2024 (1 คอมเมนต์)
Fixing Horizon bugs would have been too costly, Post Office inquiry told - https://news.ycombinator.com/item?id=39039712 - ม.ค. 2024 (59 คอมเมนต์)
Fujitsu says it will pay compensation in UK Post Office scandal - https://news.ycombinator.com/item?id=39023695 - ม.ค. 2024 (26 คอมเมนต์)
How a software glitch at the UK Post Office ruined lives - https://news.ycombinator.com/item?id=39010070 - ม.ค. 2024 (326 คอมเมนต์)
Post Office Horizon scandal explained: Everything you need to know - https://news.ycombinator.com/item?id=38983144 - ม.ค. 2024 (8 คอมเมนต์)
A TV Show Forced Britain's Devastating Post Office Scandal into the Light - https://news.ycombinator.com/item?id=38951802 - ม.ค. 2024 (168 คอมเมนต์)
British Post Office Scandal - https://news.ycombinator.com/item?id=38937705 - ม.ค. 2024 (149 คอมเมนต์)
How the Post Office's Horizon system failed: a technical breakdown - https://news.ycombinator.com/item?id=38931792 - ม.ค. 2024 (4 คอมเมนต์)
Ex Post Office CEO hands back award after IT failures lead to false convictions - https://news.ycombinator.com/item?id=38930011 - ม.ค. 2024 (127 คอมเมนต์)
Post Office Horizon Enquiry – Fujitsu Report on Eposs PinICL Task Force (1998) - https://news.ycombinator.com/item?id=38926582 - ม.ค. 2024 (1 คอมเมนต์)
Fujitsu bosses knew about Post Office Horizon IT flaws, says insider (2021) - https://news.ycombinator.com/item?id=38890468 - ม.ค. 2024 (8 คอมเมนต์)
Mr Bates vs. the Post Office - https://news.ycombinator.com/item?id=38869011 - ม.ค. 2024 (3 คอมเมนต์)
What went wrong with Horizon: learning from the Post Office Trial - https://news.ycombinator.com/item?id=38867712 - ม.ค. 2024 (19 คอมเมนต์)
UK Post Office: 700 Horizon software scandal victims to receive £600k each - https://news.ycombinator.com/item?id=37561428 - ก.ย. 2023 (40 คอมเมนต์)
After 20 years, the Post Office scandal cover-up is happening in plain sight - https://news.ycombinator.com/item?id=36778486 - ก.ค. 2023 (1 คอมเมนต์)
The UK post office database scandal – “can't see the bug = user is a thief” - https://news.ycombinator.com/item?id=35837576 - พ.ค. 2023 (2 คอมเมนต์)
Hundreds of lives ruined by faulty UK Post Office computer system - https://news.ycombinator.com/item?id=35792896 - พ.ค. 2023 (4 คอมเมนต์)
อดีตพนักงาน UK Post Office เล่าต่อคณะไต่สวนถึงความเครียดจากอื้อฉาวด้าน IT - https://news.ycombinator.com/item?id=30394685 - ก.พ. 2022 (2 ความคิดเห็น)
อื้อฉาว Post Office: การไต่สวนสาธารณะจะตรวจสอบการตัดสินลงโทษที่ผิดพลาด - https://news.ycombinator.com/item?id=30329668 - ก.พ. 2022 (149 ความคิดเห็น)
อื้อฉาว Post Office: 'ผมอยากให้คนอื่นถูกตั้งข้อหาและติดคุกเหมือนที่ผมเคยโดน' - https://news.ycombinator.com/item?id=30329510 - ก.พ. 2022 (2 ความคิดเห็น)
ซอฟต์แวร์ที่แย่ส่งพนักงานไปรษณีย์เข้าคุก - https://news.ycombinator.com/item?id=26973583 - เม.ย. 2021 (1 ความคิดเห็น)
พนักงาน Post Office ที่ถูกตัดสินว่ามีความผิดได้รับการล้างมลทิน - https://news.ycombinator.com/item?id=26924882 - เม.ย. 2021 (187 ความคิดเห็น)
ศาล UK ล้างมลทินให้พนักงาน Post Office ที่ถูกตัดสินว่ามีความผิดเพราะ ‘ข้อมูลที่เสียหาย’ - https://news.ycombinator.com/item?id=26913037 - เม.ย. 2021 (284 ความคิดเห็น)
ระบบกฎหมาย UK สันนิษฐานว่าคอมพิวเตอร์ไม่มีบั๊ก - https://news.ycombinator.com/item?id=25518936 - ธ.ค. 2020 (24 ความคิดเห็น)
อื้อฉาว Post Office: Postmasters ฉลองชัยชนะต่อคำตัดสินลงโทษ - https://news.ycombinator.com/item?id=24661321 - ต.ค. 2020 (2 ความคิดเห็น)
ล้มละลาย ติดคุก ชีวิตพัง: เบื้องลึกอื้อฉาว Post Office - https://news.ycombinator.com/item?id=24440476 - ก.ย. 2020 (1 ความคิดเห็น)
Postmasters ถูกดำเนินคดีโดยใช้หลักฐานที่ไม่น่าเชื่อถือ - https://news.ycombinator.com/item?id=23454606 - มิ.ย. 2020 (2 ความคิดเห็น)
ข้อบกพร่องในระบบบัญชีของ Post Office ทำให้พนักงานถูกตัดสินว่ามีความผิดฐานลักทรัพย์ - https://news.ycombinator.com/item?id=21795219 - ธ.ค. 2019 (104 ความคิดเห็น)
Post Office จ้างนักบัญชีมาตรวจสอบข้อเรียกร้องเรื่องคอมพิวเตอร์ของ sub-postmasters - https://news.ycombinator.com/item?id=4143107 - มิ.ย. 2012 (1 ความคิดเห็น)
เมื่อไม่นานมานี้ มินิซีรีส์ทางทีวี ได้ทำให้สาธารณชนหันมาสนใจ และดูเหมือนว่านั่นทำให้สื่อมวลชนเริ่มนำเสนอเรื่องนี้อย่างกว้างขวาง
รายการนี้น่าจะนำไปทำเป็นโปรเจกต์ปลายภาคที่เกี่ยวกับวิทยาการคอมพิวเตอร์หรือเทคโนโลยี หรือบทความ/ซีรีส์ดี ๆ บน Medium/Substack ได้
สำหรับอาจารย์ ก็น่าจะเป็นกรณีศึกษาด้าน จริยธรรมคอมพิวเตอร์ ที่ดีด้วย แต่อาจต้องรออีกสักหน่อยเพื่อให้มีรายละเอียดเพิ่มเติมออกมา
Private Eye ติดตามรายงานเรื่องนี้มาโดยตลอด หลังจาก Computer Weekly รายงานเป็นที่แรก
เพื่อเป็นบันทึกไว้ ผมเองก็มีโพสต์และความคิดเห็นที่เคยลงไว้หนึ่งรายการ
Computer Says 'Guilty' - https://news.ycombinator.com/item?id=27392724 - มิ.ย. 2021 (1 ความคิดเห็น)
ในอังกฤษและเวลส์ การขัดขวางกระบวนการยุติธรรม เป็นความผิดที่มีโทษสูงสุดถึงจำคุกตลอดชีวิต
โดยส่วนตัวแล้ว ผมมองว่านี่เป็นบทลงโทษที่เหมาะสมสำหรับทนายความที่เขียนคำให้การพยานนั้นใหม่
การทำงานร่วมกันหรือการแก้ไขในตัวมันเองคงไม่ถือว่าเป็นอาชญากรรมได้ยาก จุดที่เป็นอาชญากรรมคือการลงนามทั้งที่รู้ว่าเป็น คำให้การเท็จหรือหลอกลวง
ส่วนที่ว่า “คำให้การพยานของพนักงาน Fujitsu ที่จะถูกนำไปใช้ในศาล ต่อมาถูก Post Office แก้ไข” นั้นน่าตกใจมาก
คนที่ทำเรื่องนี้ควรได้รับ โทษจำคุกและค่าปรับ อย่างหนัก
หากระบบซอฟต์แวร์ใหม่ตรวจพบการฉ้อโกงที่ก่อนหน้านี้มองไม่เห็น ก็มีหน้าที่ต้องตรวจสอบผลลัพธ์ ตรวจสอบซ้ำ และตรวจสอบเป็นครั้งที่สาม ก่อนจะทำลายชีวิตผู้คน
คนที่สร้าง ตัวจำแนกประเภท AI ในปัจจุบันก็ควรจำเรื่องนี้ไว้
ระบบแบบนั้นก็ถูกใช้แล้ว หรือมีแนวโน้มว่าจะถูกนำไปใช้ในไม่ช้า ในการคัดเลือกเป้าหมายเพื่อเฝ้าระวัง การจับคู่ใบหน้า และซอฟต์แวร์กฎหมายที่ใช้ AI
เราไม่ได้อยู่ไกลจากสถานการณ์ที่ว่า “คอมพิวเตอร์บอกว่ามีความผิด” นัก และแม้คอมพิวเตอร์จะไม่ได้พูดเช่นนั้นโดยตรง แค่ให้เหตุผลรองรับมากพอแก่คนผิดประเภทว่าตนกำลังทำสิ่งที่ถูกต้องก็พอแล้ว
หน่วยงานภาษีของเนเธอร์แลนด์ก็เคยมีเรื่องที่คล้ายกันมาก และถ้า IND ที่นี่ถูกเปิดโปงทั้งหมด ผมคิดว่าจะพบเรื่องทำนองนี้อีกมาก
ในระดับหนึ่ง เรื่องนี้ก็เป็นสิ่งที่พบได้ทั่วไปในโครงการซอฟต์แวร์ส่วนใหญ่
หลายครั้งรู้ว่าซอฟต์แวร์มีบั๊กและปัญหา แต่ก็ไม่มองว่าเป็นตัวขัดขวางใหญ่พอที่จะเลื่อนวันปล่อย และใน สาขาที่มีความเสี่ยงต่ำ อย่างการพัฒนาเกม วิธีนี้ก็พอใช้ได้
แต่ใช้ไม่ได้กับซอฟต์แวร์ที่ชีวิตและการเงินของผู้คนแขวนอยู่กับมัน
ยิ่งไปกว่านั้น การกล่าวหาผู้คนว่าเป็นอาชญากรทั้งที่รู้อยู่เต็มอกว่าปัญหาอาจเกิดจากบั๊กของระบบ ยิ่งเป็นสิ่งที่ไม่ควรทำอย่างยิ่ง
อาจตั้งคำถามได้ว่าวิธีคิดแบบ “เคลื่อนไหวให้เร็ว ทำบางอย่างพัง และเมินบั๊กที่ดูเหมือนยังไม่ถึงขั้นต้องหยุดการปล่อยทั้งหมด” นั้นถูกต้องหรือไม่ แต่การรับมือในมิติธุรกิจและกฎหมายนั้นผิดอย่างชัดเจน และปัญหาส่วนใหญ่เกิดจาก พฤติกรรมน่าสงสัยของผู้บริหารและฝ่ายธุรกิจ ที่พยายามปกปิดเรื่องนี้
คนที่โยนความผิดให้ผู้อื่นควรได้รับ บทลงโทษเดียวกับอาชญากรรมนั้นเอง
ยังมีโพสต์ที่เกี่ยวข้องเพิ่มเติม
การแก้บั๊ก Horizon จะมีค่าใช้จ่ายสูงเกินไป คณะไต่สวน Post Office ได้รับแจ้งเช่นนั้น
https://news.ycombinator.com/item?id=39039712
Fujitsu ขอโทษที่ซอฟต์แวร์ของตนมีส่วนช่วยส่งผู้บริสุทธิ์เข้าคุก
https://news.ycombinator.com/item?id=39038263