คอมพิวเตอร์ไม่มีวันต้องรับผิดชอบได้

 (simonwillison.net)
17 คะแนน โดย GN⁺ 2025-02-05 | 2 ความคิดเห็น | แชร์ทาง WhatsApp
  • หน้าที่ระดับตำนานจากการอบรมภายในของ IBM ในปี 1979 ซึ่งเหมาะกับยุค AI อย่างยิ่ง

    A COMPUTER CAN NEVER BE HELD ACCOUNTABLE
    คอมพิวเตอร์ไม่มีวันต้องรับผิดชอบได้
    THEREFORE A COMPUTER MUST NEVER MAKE A MANAGEMENT DECISION
    ดังนั้นคอมพิวเตอร์จึงต้องไม่เป็นผู้ตัดสินใจด้านการบริหาร

  • มีการขอข้อมูลเกี่ยวกับแหล่งที่มาต้นฉบับบน Twitter และ Jonty Wareing ได้เข้ามาตอบ:
    • มีคนพบมันในเอกสารงานของพ่อเขา และต่อมาก็ถูกน้ำท่วมทำลาย
    • ค้นหาไม่พบจากการติดต่อกับคลังเอกสารของ IBM เป็นเรื่องปกติที่สาขาต่าง ๆ จะผลิตเอกสารที่ไม่ได้ถูกเก็บเข้าคลัง
  • คำตอบที่ Jonty ได้รับจาก IBM
    • ภาพนี้ถูกแชร์ออนไลน์ครั้งแรกในทวีตของ @bumblebike เมื่อเดือนกุมภาพันธ์ 2017
    • ยืนยันว่าเป็นเอกสารจากสื่อการอบรมภายในปี 1979
    • อีกทวีตของ @bumblebike ในเดือนธันวาคม 2021: มันถูกทำลายไปพร้อมของส่วนใหญ่จากเหตุน้ำท่วมในปี 2019
    • มีการถามใน Zoom meeting ของชมรมผู้เกษียณ แต่แทบไม่มีคนในช่วงอายุที่เกี่ยวข้อง

บทความที่เกี่ยวข้อง

2 ความคิดเห็น

 
mammal 2025-02-05

"คนที่ไม่สามารถรับผิดชอบต่อการตัดสินใจได้ ไม่ควรเป็นผู้จัดการอย่างเด็ดขาด"
 
GN⁺ 2025-02-05
ความเห็นจาก Hacker News

  • ชี้ให้เห็นว่าการใช้คอมพิวเตอร์ถูกใช้เป็นเครื่องมือในการเลี่ยงความรับผิดชอบ โดยอธิบายผ่านข้อความที่อ้างจากหนังสือ <i>Technopoly</i> ของ Neil Postman ว่าคอมพิวเตอร์ถูกทำให้ดูราวกับเป็นแหล่งอำนาจที่แท้จริง จนเกิดแนวโน้มในการปัดความรับผิดชอบออกไป

  • ตั้งคำถามต่อรถยนต์ขับเคลื่อนอัตโนมัติ โดยความรับผิดชอบจะย้ายจากคนขับไปยังผู้ผลิต และก็ยังน่าสงสัยว่าผู้ผลิตจะต้องการรับความรับผิดชอบนั้นหรือไม่

  • อ้างว่าการนำบัตรชิปมาใช้มีเป้าหมายเพื่อผลักภาระความรับผิดชอบของธนาคารไปยังผู้ใช้ แม้ความปลอดภัยจะดีขึ้น แต่ในทางปฏิบัติเป็นความพยายามจะโยนความรับผิดเรื่องการฉ้อโกงบัตรเครดิตให้ผู้ใช้

  • เน้นว่าการขโมยตัวตนก็เช่นกัน แท้จริงแล้วเป็นการฉ้อโกงธนาคาร การเรียกสิ่งนี้ว่าการขโมยตัวตนจึงเป็นการเปลี่ยนปัญหาจากปัญหาของธนาคารให้กลายเป็นปัญหาของปัจเจกบุคคล

  • กล่าวว่าบริษัทต่าง ๆ ไม่ชอบความรับผิดชอบ และจริง ๆ แล้วทุกคนก็ไม่ชอบเช่นกัน

  • ในบางบริษัทมีนโยบายที่ทำให้ผู้จัดการไม่อยากตัดสินใจ เพราะพวกเขาอาจต้องรับผิดชอบต่อผลของการตัดสินใจนั้น

  • ชี้ว่าคำว่า "ความรับผิดชอบ" ทุกวันนี้กลายเป็นภาษาบำบัดที่ไร้ความหมายไปแล้ว CEO พูดว่าตนจะรับผิดชอบ แต่ในความเป็นจริงกลับไม่มีผลตามมาใด ๆ

  • อธิบายผ่านข้อความที่อ้างจากหนังสือ <i>God & Golem Inc.</i> ของ Norbert Wiener ว่า สิ่งที่ผู้คนต้องการจากเครื่องคำนวณอัตโนมัติไม่ใช่การคำนวณที่แม่นยำขึ้น แต่เป็นกล่องที่สามารถโยนความรับผิดชอบไปให้ได้

  • ยืนยันว่าในหลักกฎหมายแล้ว ผู้ปฏิบัติการควรเป็นผู้รับผิดชอบ มิฉะนั้นก็เท่ากับต้องห้ามไม้ขีดไฟเพื่อป้องกันการวางเพลิง ซึ่งเป็นการเปรียบเทียบให้เห็นภาพ

  • กล่าวว่าสิ่งนี้เกิดขึ้นมานานแล้ว แม้ก่อนกระแส AI ยุคปัจจุบันที่เกี่ยวข้องกับ "อัลกอริทึม"

  • อธิบายว่าหลักการที่ใช้ในงานนิติวิทยาศาสตร์ดิจิทัลถูกนำมาใช้ในทางกลับกัน ในศาล ผู้ตรวจสอบนิติวิทยาศาสตร์ดิจิทัลสามารถให้การได้ว่ามีการกระทำอะไรบนอุปกรณ์บ้าง แต่ไม่อาจรู้ได้ว่าใครเป็นคนทำ

  • เมื่อผู้เชี่ยวชาญอธิบายว่าแม้คอมพิวเตอร์จะดูเหมือนมีความเป็นกำหนดตายตัวสูงมาก แต่ในความเป็นจริงยังมีความไม่แน่นอนอยู่ ผู้คนทั่วไปมักรู้สึกตกใจ

  • ยกตัวอย่างกรณีที่เสียงเตือนระบบรักษาความปลอดภัยในร้านค้าปลีกดังขึ้น ซึ่งสังคมกลับทำให้การบอกว่าเป็นความผิดของคอมพิวเตอร์กลายเป็นเรื่องปกติ ทั้งที่ดูเหมือนคอมพิวเตอร์เป็นต้นเหตุของปัญหา แต่ความจริงไม่ใช่เช่นนั้น