หนังสือใหม่ที่ชี้ให้เห็นว่าอำนาจของบรรษัททำให้ธรรมาภิบาลไร้เสถียรภาพได้อย่างไร

 (hai.stanford.edu)
1 คะแนน โดย GN⁺ 2024-10-23 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

  • Tech Coup: วิธีช่วยประชาธิปไตยจากซิลิคอนแวลลีย์

    • Marietje Schaake นักวิจัยนโยบายจาก Stanford HAI เตือนว่าอำนาจที่ไร้ขีดจำกัดของบริษัทเทคโนโลยีกำลังคุกคามหลักนิติธรรมของประชาธิปไตย
    • เธออธิบายว่าบริษัทเทคโนโลยีกำลังล้ำเส้นบทบาทของรัฐบาล และมีบทบาทมากเกินควรในด้านความมั่นคงไซเบอร์ ระบบตำรวจ การเลือกตั้ง และนโยบายป้องกันประเทศทางทหาร

  • วิธีที่บริษัทเอกชนกำลังรับบทบาทของรัฐมากขึ้นเรื่อย ๆ

    • บริษัทที่ควบคุมข้อมูลและมีอำนาจในการดำเนินการอย่างไร้ขอบเขตกำลังเข้ามาแทนที่บทบาทของรัฐบาล
    • บริษัทอย่าง NSO Group Technologies ขายความสามารถในการแฮ็กอุปกรณ์ส่วนบุคคลผ่านสปายแวร์ Pegasus
    • เทคโนโลยีเหล่านี้มอบความสามารถในการแฮ็กข้อมูลอ่อนไหวของฝ่ายตรงข้ามทางการเมือง ผู้พิพากษา และนักข่าว เป็นต้น

  • วิธีที่สถาบันประชาธิปไตยจะกลับมายึดอำนาจนำอีกครั้ง

    • จำเป็นต้องมีการตระหนักรู้และความเข้าใจเกี่ยวกับอิทธิพลที่บริษัทมีต่อรัฐบาล ประชาธิปไตย และกฎหมายระหว่างประเทศ
    • แม้ในพื้นที่ดิจิทัล ก็จำเป็นต้องมีความชัดเจนทางกฎหมาย กลไกความรับผิดชอบ และมาตรการด้านความโปร่งใส
    • ต้องนำกฎหมายและกฎระเบียบแบบดั้งเดิมมาใช้กับพื้นที่ดิจิทัล และเสริมความแข็งแกร่งให้กฎหมายและกฎระเบียบระหว่างประเทศให้ทันกับความก้าวหน้าทางเทคโนโลยี

  • การคิดค้นรัฐบาลประชาธิปไตยรูปแบบใหม่เพื่อตอบรับความท้าทายของการเปลี่ยนผ่านสู่ดิจิทัล

    • ควรทำให้นิติบัญญัติสามารถเข้าใจผลกระทบของเทคโนโลยีได้ด้วยความช่วยเหลือจากผู้เชี่ยวชาญด้านเทคโนโลยีที่เป็นอิสระ
    • ต้องเสริมความรับผิดชอบให้เข้มแข็งขึ้นผ่านการขยายความรับผิดชอบสาธารณะ ในกระบวนการที่รัฐบาลเอาต์ซอร์สงานให้บริษัทเทคโนโลยี

  • ความตึงเครียดที่เกี่ยวข้องกับการใช้พลังงานของบริษัทเทคโนโลยี

    • ยังขาดความโปร่งใสเกี่ยวกับการใช้พลังงานของศูนย์ข้อมูล ซึ่งบั่นทอนความโปร่งใสในการใช้ทรัพยากรและธรรมาภิบาลที่ดี
    • จำเป็นต้องมีข้อกำหนดด้านความโปร่งใสและการรายงานที่เป็นมาตรฐาน เพื่อประเมินผลกระทบของโครงการศูนย์ข้อมูลขนาดใหญ่ต่อชุมชนท้องถิ่น

  • หลักการป้องกันไว้ก่อนกับ AI

    • หลักการป้องกันไว้ก่อนเรียกร้องให้มีการหยุดชั่วคราวเพื่อประเมินผลกระทบที่นวัตกรรมมีต่อสังคม
    • ควรนำหลักการป้องกันไว้ก่อนมาใช้กับนวัตกรรมเทคโนโลยีอย่าง AI เพื่อป้องกันปัญหาที่ไม่คาดคิด

  • เหตุใดชาวอเมริกันจึงเข้าใจภัยคุกคามจากบริษัทเทคโนโลยีได้ช้า

    • แม้ทั่วโลกจะเกิดความเสียหายจากการใช้อำนาจในทางที่ผิดของบริษัทเทคโนโลยี แต่ชาวอเมริกันกลับมองว่านี่เป็นปัญหาที่อยู่ไกลตัว
    • กรณีอย่าง Cambridge Analytica ก็เกิดขึ้นภายในสหรัฐฯ เช่นกัน และการใช้อำนาจในทางที่ผิดของบริษัทเทคโนโลยีก็กระทบต่อประชาธิปไตยของสหรัฐฯ

  • บทบาทในฐานะพลเมืองประชาธิปไตย

    • ผู้บริโภคอาจเลือกได้ว่าจะใช้เทคโนโลยีแบบใด แต่เพียงเท่านี้ยังไม่เพียงพอ
    • จำเป็นต้องมีการกำกับดูแลอย่างเป็นอิสระและอำนาจถ่วงดุลต่อการใช้อำนาจในทางที่ผิดของบริษัทเทคโนโลยี
    • พลเมืองต้องร่วมกำหนดวาระทางการเมือง และเรียกร้องจากผู้นำให้มากกว่านี้

สรุปของ GN⁺

  • หนังสือของ Marietje Schaake เตือนถึงผลกระทบของอำนาจที่ไร้ขีดจำกัดของบริษัทเทคโนโลยีต่อประชาธิปไตย พร้อมเสนอแนวทางหลากหลายในการแก้ปัญหา
  • การควบคุมข้อมูลและอำนาจดำเนินการอย่างไร้ขีดจำกัดของบริษัทเทคโนโลยีกำลังเข้ามาแทนที่บทบาทของรัฐบาล และคุกคามหลักนิติธรรมของประชาธิปไตย
  • แม้ในพื้นที่ดิจิทัล ก็จำเป็นต้องมีความชัดเจนทางกฎหมาย กลไกความรับผิดชอบ และมาตรการด้านความโปร่งใส รวมถึงต้องประเมินผลกระทบทางสังคมของนวัตกรรมเทคโนโลยีผ่านหลักการป้องกันไว้ก่อน
  • พลเมืองต้องเรียกร้องการกำกับดูแลอย่างเป็นอิสระและอำนาจถ่วงดุลต่อการใช้อำนาจในทางที่ผิดของบริษัทเทคโนโลยี พร้อมทั้งร่วมกำหนดวาระทางการเมือง

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-10-23
ความคิดเห็นจาก Hacker News

  • มีความเห็นว่า ในสหรัฐฯ นอกจากการควบคุมของรัฐบาลและบริษัทแล้ว สิ่งสำคัญคือประชาชนต้องเป็นผู้กำหนดกฎหมายเอง แต่ในความเป็นจริงไม่ได้เป็นเช่นนั้น สิ่งสำคัญคือต้องถามว่ากฎหมายเอื้อประโยชน์ให้ใคร เช่น กฎหมายถูกออกมาเพื่อเป็นประโยชน์ต่อบริษัทยาจนทำให้ค่ายาแพงขึ้น หรือเพื่อควบคุมราคายา

    • ในสถานการณ์ที่ค่าแรงขั้นต่ำระดับรัฐบาลกลางอยู่ที่ $7.25 ผู้ที่ได้ประโยชน์ไม่ใช่ประชาชนทั่วไป
    • มีความเห็นว่าประชาชนควรผลักดันกฎหมายที่เป็นประโยชน์ต่อตนเอง โดยเฉพาะการล้มคำพิพากษา Citizens United v. Federal Election Commission
    • สื่อพึ่งพาผู้ลงโฆษณาภาคธุรกิจ จึงอยู่ในสถานการณ์ที่ยากจะคัดค้านความเกินเลยของบริษัท

  • มีความเห็นว่าซอฟต์แวร์กำลังละเมิดสิทธิในทรัพย์สิน และเรียกสิ่งนี้ว่า "techno feudalism" โดยบริษัทเป็นเจ้าของซอฟต์แวร์ ส่วนผู้คนทำได้เพียงเช่าใช้งาน

  • อินเทอร์เน็ตเชื่อมโยงทุกคนเข้าด้วยกันและทำให้ข้อมูลไหลเวียนอย่างเสรี แต่ขณะเดียวกันก็ทำให้ความไว้วางใจของผู้คนอ่อนแอลง

    • เสรีภาพในการพูดเป็นสิ่งสำคัญ แต่ผู้คนสามารถใช้มันเพื่อหลอกลวงหรือบีบบังคับได้
    • ใน "Reflections on Trusting Trust" ของ Ken Thompson มีข้อสรุปว่าไม่สามารถสร้างความไว้วางใจโดยพึ่งพาคอมพิวเตอร์ได้
    • สังคมจำเป็นต้องมีความไว้วางใจ แต่ข้อมูลเท็จแพร่กระจายอย่างรวดเร็วบนโลกออนไลน์ ทำให้ผู้คนสูญเสียความไว้วางใจตามธรรมชาติ

  • มีความเห็นว่ารัฐบาลและบริษัทกำลังร่วมกันต่อต้านประชาชน

    • รัฐบาลกดดันบริษัทให้ทำในสิ่งที่รัฐบาลทำเองไม่ได้
    • หากบริษัทไม่ให้ความร่วมมือ ก็จะถูกขู่ว่าจะแยกบริษัท

  • ในการถกเถียงเรื่องการกำกับดูแลเทคโนโลยี มีการเน้นย้ำถึงความจำเป็นของผู้เชี่ยวชาญเทคโนโลยีอิสระ

    • ในอดีต รัฐสภาสหรัฐฯ เคยมีสำนักงานประเมินเทคโนโลยี แต่ถูกยุบไปในปี 1995
    • มีความเห็นว่าปัญหาคือการผูกขาด และจำเป็นต้องบังคับใช้ Sherman Act อย่างจริงจัง

  • มีการพูดคุยถึงวิธีทำให้สถาบันประชาธิปไตยกลับมามีอำนาจควบคุมอีกครั้ง

    • มีการตั้งคำถามถึงความจำเป็นของผู้เชี่ยวชาญอิสระและวิธีรับประกันความเป็นอิสระของพวกเขา
    • มีการถกเถียงว่าบริษัทควรต้องเปิดเผยปริมาณการใช้พลังงานหรือน้ำหรือไม่

  • มีความกังวลว่าโครงข่ายไฟฟ้าของสหรัฐฯ กำลังถึงขีดจำกัด และการเพิ่มขึ้นของดาต้าเซ็นเตอร์อาจนำไปสู่หายนะ

  • มีความเห็นว่าแบบจำลองการปกครองตามภูมิศาสตร์ของรัฐบาลไม่เหมาะกับยุคอินเทอร์เน็ต

    • ในอดีต รัฐบาลสามารถบังคับใช้กฎหมายภายในประเทศของตนได้ แต่บนอินเทอร์เน็ต ปัญหาอยู่ที่ผลิตภัณฑ์และบริการที่ข้ามพรมแดน

  • มีความกังวลว่าสมาร์ตโฟนกำลังยึดอำนาจควบคุมด้านความปลอดภัย

    • การเข้าถึงบริการของรัฐถูกแปรรูปเป็นของเอกชนโดยสมบูรณ์ ซึ่งเป็นสิ่งที่แลกมากับความสะดวก
    • มีความเห็นว่าเมื่อผู้คนยอมสละความปลอดภัยเพื่อเลือกความสะดวก บริษัทก็กำลังเข้ามาแทนที่รัฐบาล