‘หลุมดูดความรับผิด’ ขององค์กรที่คอยดูดซับการไต่ถามความรับผิดชอบ
(aworkinglibrary.com)- The Unaccountability Machine ของ Dan Davies มองว่าองค์กรสร้าง หลุมดูดความรับผิด ขึ้นมา โดยดูดซับหรือทำให้ผลลัพธ์ของการตัดสินใจพร่าเลือน จนไม่มีใครต้องรับผิดชอบโดยตรง
- โครงสร้างแบบนี้ทำงานได้เมื่อมัน ตัดสายเชื่อมโยง จนฟีดแบ็กจากผู้ที่ได้รับผลกระทบไม่สามารถย้อนกลับไปสู่การทำงานของระบบได้
- การลดจำนวนพนักงานทำความสะอาดในโรงแรม, การที่บริษัทประกันปฏิเสธการรักษา, การยกเลิกเที่ยวบิน, การตัดสินว่าไม่มีสิทธิรับสวัสดิการจากรัฐ, และแรงกดดันจากนักลงทุนให้ใส่ AI ลงในแอป ล้วนเป็นกรณีที่สายเชื่อมระหว่างผู้ตัดสินใจกับผู้ได้รับผลกระทบถูกตัดขาด
- เช่นเดียวกับกรณี Dominion Systems vs Fox News เมื่อไม่มีการตัดสินใจอย่างชัดเจน แต่มีความเข้าใจโดยนัยว่า ตัวชี้วัดผู้ชม คือสิ่งสำคัญสูงสุด ความเข้าใจนั้นก็จะผลักดันการตัดสินใจถัด ๆ ไป ทำให้ที่มาของการตัดสินใจพร่าเลือนและยากต่อการไล่ถามความรับผิดชอบ
- การมอบการตัดสินใจให้อัลกอริทึมทำให้สร้างหลุมดูดความรับผิดได้ง่ายขึ้น แต่สำหรับองค์กรขนาดใหญ่เช่นบริษัทและรัฐบาล โครงสร้างแบบนี้เป็นสิ่งที่คุ้นเคยอยู่แล้ว ดังนั้น AI จึงใกล้เคียงกับการเป็นเครื่องมือขยาย การฟอกความรับผิด มากกว่า
หลุมดูดความรับผิดทำงานอย่างไร
- หลุมดูดความรับผิด คือโครงสร้างองค์กรที่ดูดซับหรือปกปิดผลของการตัดสินใจ จนไม่มีใครถูกถือว่าต้องรับผิดโดยตรง
- หากผู้บริหารระดับสูงของบริษัทโรงแรมลดจำนวนพนักงานทำความสะอาด ตัวเลขในบัญชีอาจดูดีขึ้น แต่ลูกค้าที่เช็กอินไม่ได้เพราะห้องยังไม่พร้อม ไม่มีทางร้องเรียนไปถึงผู้ตัดสินใจนั้นหรือส่งผลสะท้อนกลับไปได้
- พนักงานหน้าฟรอนต์อาจแจกบัตรกำนัลได้ แต่สิ่งที่ลูกค้าต้องการคือห้องพัก
- เส้นทางฟีดแบ็กระหว่างผู้ตัดสินใจกับผู้ที่ได้รับผลกระทบหายไป
- ตามเกณฑ์ของ Davies การที่หลุมดูดความรับผิดจะทำงานได้ ต้อง ตัดการเชื่อมต่อ ไม่ให้ฟีดแบ็กจากผู้ที่ได้รับผลกระทบสะท้อนกลับเข้าสู่การทำงานของระบบ
- โครงสร้างแบบเดียวกันนี้เกิดซ้ำในหลายสถานการณ์
- เมื่อประกันสุขภาพปฏิเสธการรักษา
- เมื่อสายการบินยกเลิกเที่ยวบิน
- เมื่อหน่วยงานรัฐประกาศว่าไม่มีสิทธิรับสวัสดิการ
- เมื่อนักลงทุนกดดันให้บริษัทในพอร์ตใส่สิ่งที่เรียกว่า AI ลงไปในแอป
อำนาจและคำอธิบายที่ทำให้เกิดความรับผิดชอบ
- ความรับผิดชอบเชื่อมโยงกับขอบเขตของความสามารถในการเปลี่ยนแปลงการตัดสินใจหนึ่ง ๆ
- Davies มองว่าระดับที่ใครสักคนสามารถเปลี่ยนการตัดสินใจได้ ก็คือระดับที่คนนั้นควรถูกถือว่ารับผิดชอบต่อการตัดสินใจนั้นได้
- นิยาม accountability ของ Sidney Dekker เชื่อมความรับผิดชอบเข้ากับ “คำอธิบายที่สามารถเล่าได้”
- เราต้องเข้าใจว่าสิ่งหนึ่งเกิดขึ้นได้อย่างไร มีเงื่อนไขอะไรอยู่บ้าง ทำไมในตอนนั้นมันจึงดูเหมือนเป็นการตัดสินใจที่ดี และใครบ้างที่เกี่ยวข้อง จึงจะเรียนรู้เพื่อตัดสินใจได้ดีขึ้นในภายหลัง
- เมื่อรวมสองกรอบนี้เข้าด้วยกัน การจะรับผิดชอบได้ต้องมีทั้ง อำนาจในการเปลี่ยนแปลง และ เรื่องเล่า ว่าอำนาจนั้นถูกใช้อย่างไร
- การมอบการตัดสินใจให้อัลกอริทึมเป็นวิธีที่สะดวกในการสร้างหลุมดูดความรับผิด
- แต่บริษัท รัฐบาล และองค์กรต่าง ๆ ระหว่างสองสิ่งนี้ ล้วนชำนาญในการสร้างหลุมดูดความรับผิดอยู่ก่อนแล้ว
- การฟอกความรับผิดที่ AI มอบให้จึงไม่ใช่เรื่องใหม่ทั้งหมด แต่เป็นรูปแบบที่ถูกขยายและเสริมแรง
- วิธีที่เคยล้มเหลวในการทำให้บริษัทต้องรับผิดชอบ ยิ่งมีแนวโน้มจะใช้กับอัลกอริทึมได้ผลยากกว่าเดิม และจำเป็นต้องมีแนวทางแบบอื่น
1 ความคิดเห็น
ความคิดเห็นบน Hacker News
เคยเจอเรื่องคล้าย ๆ กันที่สนามบิน/สายการบินในเยอรมนี และคิดแบบเดียวกัน
เป็นสนามบินที่อัตโนมัติเต็มรูปแบบ การเช็กอินเป็นแบบบริการตนเอง และผมโต้ตอบกับคอมพิวเตอร์เท่านั้น แต่พอใส่บัตรขึ้นเครื่องเข้าไป เครื่องก็พิมพ์กระดาษออกมาแค่ว่าที่นั่งริมทางเดินของผมถูกเปลี่ยนเป็นที่นั่งตรงกลาง จบแค่นั้น ผมพยายามหาคนให้เจอจนถึงที่สุดเพื่อร้องเรียน แต่คอมพิวเตอร์ตอบสนองได้เฉพาะตามวิธีที่ UI ถูกออกแบบไว้เท่านั้น และดูเหมือนโปรแกรมเมอร์ก็ไม่ได้คำนึงถึงสถานการณ์ของผม พนักงานภาคพื้นดินก็ทำอะไรไม่ได้เพราะไม่ใช่ขอบเขตงานของเขา ส่วนแบบสำรวจที่มาทีหลังก็เกี่ยวกับช่วงการเดินทางอื่น ทำให้ร้องเรียนให้ตรงประเด็นได้ยาก
ตำแหน่งของรถบัสทดแทนก็ไม่มีบอกทั้งในแอปหรือที่สถานี คนขับรถบัสก็ตอบผู้สูงอายุที่ถามว่าจะต่อรถไฟได้ไหมอย่างหงุดหงิดว่าไม่ใช่เรื่องของเขา รถบัสมืด หน้าต่างมัวเพราะไอน้ำ ไม่มีประกาศหรือป้ายบอกป้ายจอด และไม่มีฮีตเตอร์ตลอดหนึ่งชั่วโมง สัปดาห์นั้นซิมการ์ดของผมถูกลบ และพัสดุก็หายไปด้วย แต่ตอนนี้แม้แต่การบันทึกปริมาณของคำว่า “ไม่ใช่เรื่องของฉัน” ที่ได้เจอจากสายด่วนฝ่ายสนับสนุนลูกค้า ก็กลายเป็นเรื่องที่ผมไม่อยากยุ่งแล้ว
คนเดียวที่หาเจอคือเจ้าหน้าที่รักษาความปลอดภัย และเขาบอกแค่ว่าให้โทรไปยังหมายเลขที่ติดอยู่บนเครื่อง คนที่รับสายพูดภาษาอังกฤษไม่ได้ และเงิน €50 ของผมคงอยู่ที่ไหนสักแห่ง แต่ค่าใช้จ่ายในการเอาคืนดูจะสูงกว่านั้น
ครั้งหนึ่ง Amazon แสดงว่าพัสดุถูกส่งเรียบร้อยแล้ว แต่ไม่พบพัสดุที่ไหนเลย และไม่มีทางขอความช่วยเหลือได้ ใน FAQ มีแต่บอกให้ไปดูในพุ่มไม้ คำเติมอัตโนมัติในการค้นหาก็ขึ้นข้อความทำนอง “บอกว่าส่งแล้วแต่ไม่มีพัสดุ” หลายแบบ ยิ่งทำให้หงุดหงิดกว่าเดิม ตอนนี้ดีขึ้นบ้างแล้ว แต่ก็ยังคล้าย ๆ กัน
ก่อนอื่นให้พยายามแก้ปัญหาโดยสุจริต และเก็บบันทึกไว้ ถ้าไปถึงการพิจารณาคดีก็ใช้เป็นหลักฐานได้ จากนั้นยื่นคำร้อง โดยมากบริษัทจะยอมถอยทันที และจะบังคับให้เกิดการบริการลูกค้าจริง ๆ ด้วยภาษาเดียวที่บริษัทเข้าใจ
ในระบบราชการของหนังเรื่องนั้น อย่างน้อยก็ยังมีมนุษย์ที่รู้สึกผิดได้ แต่ในกรณีนี้มนุษย์ไม่จำเป็นต้องเกี่ยวข้องโดยตรง จึงอาจกลายเป็นดิสโทเปียในสเกลที่ใหญ่กว่ามาก
ผมคิดมานานแล้วว่าหน้าที่สำคัญอย่างหนึ่งของบริษัทคือการทำให้ความรับผิดชอบพร่าเลือน ชื่อ ความรับผิดจำกัด มีเหตุผลของมัน และเพราะสามารถตั้งบริษัทขึ้นมาได้ตามใจ จึงง่ายที่จะผลักความรับผิดชอบไปไว้ในมุมมืด
เพราะฉะนั้นจึงมีเหตุผลหนักแน่นว่าไม่ควรมองบริษัทเป็นบุคคล มนุษย์เป็นสิ่งที่ดำรงอยู่ยาวนานและต้องรับผิดชอบ ไม่สามารถสร้างหรือทำให้หายไปได้ตามใจ
บริษัทก็ทำงานแบบนี้แม้แต่ในเศรษฐกิจภายในหรือความสัมพันธ์กับคู่ค้าด้วย ศูนย์ต้นทุนจ่ายเงินและมอบหมายความรับผิดชอบต่อไป
ผมแปลกใจมานานแล้วว่าทำไมเรื่องนี้ถึงไม่ถูกพูดถึงมากกว่านี้ ดูเหมือนทุกคนจะชินกับมันเกินไปแล้ว ในความเห็นของผม ควรเลิกแนวคิดเรื่องการ ปรับบริษัท ไปเลย และเปลี่ยนเป็นการลงโทษทางอาญากับคนที่ทำผิดกฎหมายแทน
Weapons of Math Destruction ของ Cathy O'Neil (2016, Penguin Random House) เป็นหนังสือประกอบที่ดีสำหรับแนวคิดนี้จากฝั่งผู้สร้างหรือกำกับดูแลระบบ
Cathy โต้แย้งว่าในบางบริบท การใช้อัลกอริทึมเป็นอันตรายและทำให้ระบบที่ไม่รับผิดชอบเกิดขึ้นได้ในสเกลใหม่ และจำเป็นต้องควบคุมมัน
https://www.penguinrandomhouse.com/books/241363/weapons-of-m...
ถ้าแทนอัลกอริทึมด้วยรูศักดิ์สิทธิ์สำหรับพิธีกรรม หรือแทนด้วยสถานการณ์ที่สถานะของการเป็นเจ้าหน้าที่ตำรวจมอบเอกสิทธิ์คุ้มกันในทางปฏิบัติจากความรับผิดทางแพ่งและการฟ้องคดีอาญา มันก็ทำงานเหมือนกัน สิ่งที่ทำให้ระบบที่เป็นอันตรายและไร้ความรับผิดชอบเกิดขึ้นได้ สุดท้ายคือการที่มนุษย์เลือกไม่เอาผิดมนุษย์คนอื่นไม่ว่าจะด้วยเหตุผลใดก็ตาม
ตัวอย่างนี้เป็นตัวอย่างที่ไม่ดี เพราะไม่ใช่ข้อเท็จจริง ในคดี Fox News กับ Dominion นั้น Rupert Murdoch ยอมรับภายใต้คำสาบานว่า “บางครั้ง Fox สนับสนุนแนวคิดเท็จว่าเป็นการเลือกตั้งที่ถูกขโมย” และแม้จะรู้ว่าข้อกล่าวอ้างนั้นเป็นเท็จ ก็เลือกที่จะไม่สั่งให้สถานีโทรทัศน์พูดต่างออกไป
การสื่อสารภายในของผู้ดำเนินรายการ Fox ก็แสดงให้เห็นว่าพวกเขารู้ว่าสิ่งที่ตนพูดอยู่นั้นเป็นเท็จ เรื่องนี้เข้าข่ายนิยามของ การโกหก อย่างชัดเจน และในส่วน “External Links” ของ Wikipedia ก็มีเอกสารศาลจริงที่ระบุอย่างละเอียดว่าใครรู้และพูดอะไรเมื่อใด
[1] https://www.npr.org/2023/02/28/1159819849/fox-news-dominion-...
[2] https://www.nbcnews.com/politics/elections/dominion-releases...
[3] https://www.dictionary.com/browse/lie
[4] https://en.m.wikipedia.org/wiki/Dominion_Voting_Systems_v._F...
ผมสงสัยว่าเหตุผลสำคัญอย่างหนึ่งที่ทำให้ระบบอัตโนมัติ โดยเฉพาะการทำให้เป็น แอป น่าดึงดูดสำหรับผู้บริหารและ C-level ก็คือมันตัดห่วงโซ่ความรับผิดชอบได้
ทุกวันนี้หลายบริษัทมีโครงสร้างที่แบ่งเป็น “ชั้นบริหารจัดการ” ซึ่งประกอบด้วย product manager, developer และฝ่ายปฏิบัติการที่ดูแลและปรับปรุง “ชั้นซอฟต์แวร์” อันเป็นโครงสร้างพื้นฐาน IT ภายในบริษัท, “ชั้นซอฟต์แวร์” ซึ่งเป็นโครงสร้างพื้นฐานอัตโนมัติขนาดใหญ่ที่ทำให้งานประจำวันเดินได้จริง, และ “ชั้นแรงงาน” ที่ทำงานทางกายภาพด้วยค่าจ้างต่ำและอัตราการลาออกสูง เช่น คนขับ Uber, ไรเดอร์ส่งอาหาร, คนงานคลังสินค้าของ Amazon แรงงานเหล่านี้รับคำสั่งแทบทั้งหมดผ่านแอปและอุปกรณ์ ไม่สามารถติดต่อผู้บริหารได้ และบริษัทก็มักปฏิเสธด้วยซ้ำว่าพวกเขาเป็นพนักงานตั้งแต่แรกหรือไม่ ประเด็นสำคัญคือชั้นซอฟต์แวร์ทำหน้าที่เหมือน ไฟร์วอลล์ความรับผิดชอบ ระหว่างสองชั้น ทำให้ข้อร้องเรียนของแรงงานไต่ข้ามซอฟต์แวร์ขึ้นไปไม่ได้ และพฤติกรรมที่เอาเปรียบก็ถูกมองว่าเป็นข้อผิดพลาดทางซอฟต์แวร์ที่โชคร้ายได้
เหตุผลคือ “กฎเป็นแบบนั้น” หรือ “ระบบเป็นแบบนั้น” ดูเหมือนไม่มีใครรู้ว่าใครเป็นคนกำหนดกฎและสร้างระบบขึ้นมา และการขุดคุ้ยเองก็แทบจะเป็นภารกิจของเฮอร์คิวลีส ซึ่งส่วนใหญ่มักลงเอยด้วยการเสียเวลาเปล่า
สิ่งที่เปลี่ยนไปคือ ตอนนี้คำสั่งและขั้นตอนจำนวนมากถูกดำเนินการโดยซอฟต์แวร์และฮาร์ดแวร์แทนมนุษย์ ผลลัพธ์สุดท้ายที่ลูกค้าได้รับไม่ได้เปลี่ยนไปมากอย่างที่คิด ยังเป็นกาแฟหรือแท็กซี่แบบเดิม เพียงแต่เร็วขึ้น ถูกลง หรือดีขึ้นเล็กน้อย และการปรับปรุงแบบค่อยเป็นค่อยไปเช่นนี้ก็เคยทำได้อยู่แล้วก่อนยุค IT ด้วยการจัดการผลิตภัณฑ์ภายในและการปรับปรุงขั้นตอนขององค์กร
เป็นบทความที่ให้ประเด็นให้คิดมากมาย ปัญหานี้แสดงให้เห็นว่า หน่วยงานคุ้มครองผู้บริโภคของรัฐและกฎหมาย สำคัญอย่างไร
หากเดินทางผ่านยุโรปหรือใช้สายการบินยุโรป มีกฎหมาย EU ที่ให้ค่าชดเชยราว 600 ยูโรเมื่อเที่ยวบินล่าช้าเกิน 3 ชั่วโมงหรือถูกยกเลิก เป็นหลักประกันที่ดีว่าคุณจะได้รับค่าชดเชยไม่ว่าบริษัทจะพูดเหลวไหลอะไรที่สนามบินก็ตาม และขั้นตอนการรับเงินก็ค่อนข้างเรียบง่าย มันเป็นเส้นทางที่ข้ามระบบของสายการบินไปสู่ค่าชดเชยโดยตรง และยังอาจเป็นแรงจูงใจจริง ๆ ให้สายการบินดำเนินงานให้ดี เพราะถ้าทำไม่ดีจะต้องจ่ายค่าปรับมากเกินไป เราจำเป็นต้องมีกฎหมายคุ้มครองแบบนี้จริง ๆ เพื่อหลีกเลี่ยงสถานการณ์ที่บริษัทใช้กำแพงแชตบอตมาขวางลูกค้า
ผมเจอเรื่องแบบนี้ค่อนข้างบ่อยในระบบยื่นแบบอิเล็กทรอนิกส์ของรัฐบาลแบบอัตโนมัติที่เพิ่งออกมาใหม่ ในฐานะคนที่ใช้ screen reader และเขียนด้วยปากกากับกระดาษได้ยากหากไม่มีคนช่วย ตอนแรกผมค่อนข้างชอบระบบแบบนี้ แต่ตอนนี้ความคิดเปลี่ยนไปบ้างแล้ว
กระดาษทำให้เขียนอะไรก็ได้ และให้มนุษย์เป็นผู้ตรวจสอบว่าเนื้อหานั้นสมเหตุสมผลหรือไม่ แต่คอมพิวเตอร์ไม่เป็นแบบนั้น หากระบบบอกว่าตัวเลขในใบสมัครต้องตรงกัน ทั้งที่ในความเป็นจริงมีกรณีพิเศษที่ตัวเลขคลาดเคลื่อนกันเล็กน้อย คุณก็ต้อง โกหก รัฐบาลเพื่อปรับตัวเลขให้ตรงกัน ผมโทรไปที่สำนักงานรัฐบาลท้องถิ่นที่รับผิดชอบ แล้วพวกเขาก็พูดอ้อม ๆ ว่าให้โกหกรัฐบาลไปโดยปริยาย ระบบถูกบริหารจากส่วนกลาง สำนักงานท้องถิ่นจึงไม่มีสิทธิ์แก้ไข และแม้พวกเขาอยากแก้ ก็ไม่มีอำนาจเช่นกัน
ตอนเป็นนักศึกษาบัณฑิตศึกษา STS ผมเคยคิดจะทำโปรเจกต์เกี่ยวกับวิธีที่ซอฟต์แวร์ทำงานเหมือน ตัวปรับจูน agency
โครงสร้างคือให้บุคคลรับความเสี่ยงบางอย่าง ซึ่งส่วนใหญ่เป็นความเสี่ยงของธุรกรรมทางเศรษฐกิจ ขณะที่เจ้าของซอฟต์แวร์เอากำไรส่วนใหญ่ไป Uber และบริการที่เกี่ยวข้องในหลายแง่คือกลไกที่ทำให้บุคคลรับความเสี่ยงขาลงที่มีโอกาสเกิดต่ำแต่ผลกระทบสูง แลกกับค่าธรรมเนียมเล็กน้อย
การเปรียบเทียบกับ AI ชัดเจนมาก: การมอบหมายการตัดสินใจให้อัลกอริทึมเป็นวิธีที่สะดวกในการสร้างจุดดูดซับความรับผิดชอบ บัญชี LinkedIn ของผมมี flag ที่กันไม่ให้ใส่ลิงก์ “follow-me” ในโปรไฟล์
ไม่มีใครในทีมซัพพอร์ตรู้เหตุผล ไม่รู้ว่ามันเริ่มตั้งแต่เมื่อไร และไม่รู้ว่าจะเปลี่ยนเมื่อไร เราอยู่ในโลกแบบนี้กันแล้ว
องค์กรมีอยู่เพื่อขจัด ความรับผิดชอบทางศีลธรรม
ผู้พิพากษา คณะลูกขุน เพชฌฆาต หน่วยยิงเป้า และองค์กรจำกัดความรับผิด ล้วนถูกจัดใส่ไว้ในกล่องที่เรียบร้อย เพื่อให้ผู้คนยังนอนหลับตอนกลางคืนได้ ผู้พิพากษาบอกว่าคณะลูกขุนเป็นผู้ตัดสิน คณะลูกขุนเชื่อว่าผู้พิพากษาจะกำหนดโทษอย่างเป็นธรรม และผู้ลงมือประหารเชื่อว่าสองกลุ่มก่อนหน้าได้ทำหน้าที่ของตนแล้ว ระบบเช่นนี้ไม่ได้ทำให้คนคนหนึ่งไม่สามารถลงมือได้เท่าไรนัก แต่สร้างกระบวนการส่งต่อเป็นทอด ๆ และเมื่อผู้คุมปิดประตูลง การมีส่วนเกี่ยวข้องกับศีลธรรมของผลลัพธ์ก็หายไป โครงสร้างเดียวกันนี้ปรากฏในหน่วยยิงเป้าที่มีปืนเพียงกระบอกเดียวจากหลายกระบอกที่บรรจุกระสุนจริง สถาบันและองค์กรขนาดใหญ่ สิ่งต่าง ๆ ที่มีขนาดใหญ่ ล้วนไร้ความเป็นมนุษย์โดยสิ้นเชิง และมองว่าหากผู้ที่ตัดสินคดีต้องเป็นผู้ลงโทษด้วยตนเอง ผลลัพธ์ก็คงต่างออกไป
หากให้คณะลูกขุนเป็นผู้ลงมือประหาร และให้ผู้พิพากษารับผิดชอบการจำคุก ก็จะกลายเป็นแรงจูงใจย้อนกลับอย่างมหาศาลสำหรับคนที่มีนิสัยซาดิสม์ การคิดว่าผู้พิพากษาหรือคณะลูกขุนจะเห็นอกเห็นใจมากขึ้นหากต้องแบกรับน้ำหนักนี้ด้วยตนเอง เป็นสมมติฐานที่ผิด ในความเป็นจริง คนที่เราไม่อยากให้รับหน้าที่เช่นนี้น่าจะเป็นคนที่ได้ทำหน้าที่นั้นเสียมากกว่า หากไม่นับวิธีใช้กระสุนซ้อมในตอนประหาร ระบบที่เหลือไม่ได้ปกป้องคนภายในระบบมากเท่ากับปกป้องผู้ที่ถูกตัดสินว่ามีความผิด
จะตั้งพรรคการเมืองที่อ้างว่าการแบ่งแยกอำนาจเป็นทิศทางที่ผิดก็ได้ หรือดีกว่านั้น ลองไปเยือนประเทศสักแห่งจากหลายสิบประเทศที่มีผู้นำเผด็จการเหนือเผด็จการดู