1 คะแนน โดย GN⁺ 2024-10-23 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • หนังสือใหม่ของ Marietje Schaake ชื่อ The Tech Coup ว่าด้วยปัญหาที่หลักนิติธรรมแบบประชาธิปไตยสั่นคลอน เมื่อบริษัทเทคโนโลยีเอกชนเข้าไปมีบทบาทในพื้นที่ของรัฐ เช่น ความมั่นคงปลอดภัยไซเบอร์ การบังคับใช้กฎหมาย การเลือกตั้ง และการป้องกันประเทศ
  • ไม่ว่าจะเป็น Pegasus ของ NSO Group, ระบบจดจำใบหน้าของ Clearview, บริษัทเทคโนโลยีการเลือกตั้ง หรือการตัดสินใจเรื่องการเข้าถึง Starlink ล้วนสะท้อนว่าความสามารถและดุลยพินิจที่เคยเป็นเอกสิทธิ์ของรัฐกำลังย้ายไปอยู่ในมือเอกชน โดยไม่ขึ้นกับขนาดบริษัท
  • โลกดิจิทัลเองก็ต้องการ ความชัดเจนทางกฎหมาย กลไกความรับผิดชอบ และความโปร่งใส ในระดับเดียวกับที่ใช้กับยา สารเคมี อาหาร รถยนต์ และการตัดสินใจเรื่องความขัดแย้งในต่างประเทศ
  • ยิ่งรัฐมอบหมายหน้าที่สาธารณะให้บริษัทเทคโนโลยีมากเท่าไร บริษัทเหล่านั้นก็ยิ่งต้องรับผิดชอบในระดับเดียวกับรัฐมากขึ้น และ ผู้เชี่ยวชาญเทคโนโลยีอิสระ, การขยายความรับผิดชอบสาธารณะ และการคงไว้ซึ่งประสิทธิผลของ FOIA ก็ยิ่งสำคัญ
  • ประเด็นอย่างการใช้พลังงานและน้ำของดาต้าเซ็นเตอร์ การประเมินผลกระทบทางสังคมก่อนนำ AI ไปใช้งานจริง กฎหมายคุ้มครองข้อมูลระดับรัฐบาลกลาง และการคุ้มครองเด็กบนโลกออนไลน์ เป็นเรื่องที่แก้ด้วยการเลือกของปัจเจกเพียงอย่างเดียวได้ยาก และกำลังก่อให้เกิดการกำกับดูแลทางการเมืองและกฎระเบียบระดับรัฐมากขึ้น

ความเสี่ยงเมื่อบริษัทเทคโนโลยีเข้ามารับหน้าที่ของรัฐ

  • The Tech Coup: How to Save Democracy from Silicon Valley คือผลงานของ Marietje Schaake ซึ่งเป็น Stanford HAI Policy Fellow โดยกล่าวถึง อำนาจที่ไร้การควบคุม ของบริษัทเอกชนในฐานะภัยคุกคามต่อประชาธิปไตย
  • บริษัทเทคโนโลยีไม่ได้มีเพียงพลังทางเศรษฐกิจมหาศาล แต่ยังทำหน้าที่ที่เคยมอบให้รัฐบาลด้วย
    • ความมั่นคงปลอดภัยไซเบอร์
    • ระบบที่ใช้ในการบังคับใช้กฎหมาย
    • การเลือกตั้ง
    • นโยบายการป้องกันทางทหาร
  • ตัวอย่างในหนังสือมาจากประสบการณ์ของ Schaake ในฐานะสมาชิกสภายุโรประหว่างปี 2009 ถึง 2019 และจากการสังเกตวัฒนธรรมเทคโนโลยีที่ Stanford’s Cyber Policy Center และ Stanford HAI

วิธีที่อำนาจของรัฐไหลไปสู่บริษัทเอกชน

  • ในโลกดิจิทัล บริษัทสามารถมีทั้ง การควบคุมข้อมูล อำนาจในการกระทำ และความสามารถในการลงมือทำ ที่แทบเทียบเท่าหรือเหนือกว่ารัฐ
  • NSO Group Technologies สร้างและขายสปายแวร์ Pegasus ที่สามารถแฮ็กอุปกรณ์ของผู้คนได้
    • หากมีศักยภาพทางการเงินพอจะซื้อ Pegasus ก็สามารถเข้าถึงความสามารถระดับหน่วยข่าวกรองได้
    • ทำให้เข้าถึงข้อมูลส่วนตัวอย่างยิ่งของฝ่ายตรงข้ามทางการเมือง ผู้พิพากษา นักข่าว บุคลากรสำคัญ คู่แข่ง และคนอื่น ๆ ได้
  • บางบริษัทอ้างว่าปกป้องลูกค้าหรือเครือข่ายของตน แต่กลับโจมตีแฮ็กเกอร์ข้ามพรมแดน โดยใช้ขีดความสามารถไซเบอร์เชิงรุกในลักษณะ “offense as defense
  • ปัญหานี้ไม่ได้จำกัดอยู่แค่บริษัทยักษ์ใหญ่ด้านเทคโนโลยี
    • NSO, ซอฟต์แวร์จดจำใบหน้าของ Clearview และบริษัทผู้ผลิตเทคโนโลยีการเลือกตั้ง ก็สะท้อนปัญหาเดียวกัน
    • รวมถึงกรณีที่ Elon Musk เป็นผู้ตัดสินว่าใครจะเข้าถึงการเชื่อมต่ออินเทอร์เน็ต Starlink ในยูเครนได้
  • ความสามารถและการตัดสินใจที่ครั้งหนึ่งเคยเป็นขอบเขตเฉพาะของรัฐ กำลังไหลไปสู่บริษัทเอกชน แต่ กลไกถ่วงดุล ที่สังคมภายใต้หลักนิติธรรมคาดหวังกลับไม่ได้ตามไปด้วย

กฎหมาย ความรับผิดชอบ และความเชี่ยวชาญที่โลกดิจิทัลต้องการ

  • หากต้องการให้ฝ่ายประชาธิปไตยกลับมารับผิดชอบได้อีกครั้ง ก่อนอื่นต้องตระหนักและเข้าใจอำนาจที่บริษัทมีเหนือธรรมาภิบาล ประชาธิปไตย และกฎหมายระหว่างประเทศ
  • โลกดิจิทัลต้องการกลไกทางกฎหมายและสถาบันในระดับเดียวกับที่คาดหวังจากนวัตกรรมด้านอื่น
  • ความชัดเจนทางกฎหมาย

    • ต้องมีกลไกความรับผิดชอบและมาตรการความโปร่งใสควบคู่กัน
    • การตอบสนองของสหรัฐต่อสงครามในยูเครนสะท้อนความต่างระหว่างโลกกายภาพกับโลกไซเบอร์
    • ในฐานะส่วนหนึ่งของ NATO สหรัฐประกาศชัดว่าไม่ต้องการส่งกองกำลังภาคพื้นดินเข้าไป แต่ในโลกไซเบอร์กลับยังคงมีกิจกรรมเชิงรุกต่อเนื่อง
    • ความไม่สอดคล้องทางการเมืองเช่นนี้ดำรงอยู่ได้เพราะพื้นที่สีเทาทางกฎหมายในโลกดิจิทัล
    • กฎหมายระหว่างประเทศ กฎระเบียบ และการบังคับใช้ ต้องไล่ให้ทันจุดที่เทคโนโลยีพัฒนาไปถึง และการมอบอำนาจ ความรับผิดชอบ และการกำกับดูแลแบบประชาธิปไตย ต้องทำงานได้จริงในกิจกรรมดิจิทัลด้วย
  • ความเชี่ยวชาญด้านเทคโนโลยีอิสระสำหรับฝ่ายนิติบัญญัติ

    • ฝ่ายนิติบัญญัติต้องมี ผู้เชี่ยวชาญเทคโนโลยีอิสระ ที่ให้ข้อมูลที่เชื่อถือได้ คล้ายกับที่มีทีมกฎหมายอิสระช่วยร่างกฎหมาย
    • เมื่อผู้ร่างกฎหมายเข้าถึงความเชี่ยวชาญด้านเทคโนโลยี ก็จะช่วยลดอิทธิพลของล็อบบี้ยิสต์ได้
    • ผู้ร่างกฎหมายต้องเข้าใจผลกระทบของเทคโนโลยีต่อการแพทย์ การศึกษา กระบวนการยุติธรรม ที่อยู่อาศัย และการคมนาคม
    • เทคโนโลยีแทรกซึมอยู่ในทุกภาคส่วน จึงยากจะให้คณะกรรมาธิการเพียงชุดเดียวรับมือได้

การขยายความรับผิดชอบสาธารณะ และช่องว่างความรับผิดจากการเอาต์ซอร์ส

  • ยิ่งรัฐบาลเอาต์ซอร์สกระบวนการต่าง ๆ ให้บริษัทเทคโนโลยีมากขึ้นเท่าไร หน้าที่ที่บริษัทดำเนินการในนามของรัฐก็ยิ่งต้องมาพร้อมความรับผิดชอบในระดับเดียวกับรัฐมากขึ้นเท่านั้น
  • Schaake เรียกสิ่งนี้ว่า “public accountability extension
    • เป็นกลไกที่จะเปลี่ยนสถานการณ์ปัจจุบัน ซึ่งรัฐโอนหน้าที่สาธารณะสำคัญให้บริษัทเทคโนโลยี พร้อมปล่อยมือจากความรับผิดชอบไปด้วย
  • ในหลายเขตอำนาจ ตำรวจไม่สามารถแฮ็กอุปกรณ์ของผู้ต้องสงสัยได้โดยตรง แต่สามารถจ้างบริษัทแฮ็กเพื่อให้ได้การเข้าถึงแบบเดียวกัน
    • ตำรวจจึงพูดได้ว่าตนไม่ได้เป็นผู้แฮ็กเอง แต่ยังได้มาซึ่งการเข้าถึงผ่านวิธีอื่น
  • รัฐบาลระดับรัฐและท้องถิ่นของสหรัฐไม่อาจเลือกปฏิบัติต่อประชาชนโดยอิงจากหมวดหมู่ที่มีความอ่อนไหว แต่เทคโนโลยีที่พวกเขาใช้อาจทำการเลือกปฏิบัตินั้นจริงโดยไม่มีใครรับผิด
  • ช่องว่างความรับผิดยังเกิดขึ้นกับคำขอ FOIA ด้วย
    • นักข่าวมีสิทธิในนามของประชาชนที่จะรู้ว่ารัฐกำลังทำอะไร
    • หากรัฐบาลมอบหมายงานของรัฐหรือการเก็บรวบรวมและจัดเก็บข้อมูลของรัฐให้บริษัทเอกชน บริษัทอาจไม่ได้เก็บข้อมูลตามมาตรฐานที่กำหนดกับหน่วยงานรัฐ
    • หากบริษัทไม่เต็มใจเปิดเผยข้อมูลด้วยเหตุผลด้านกรรมสิทธิ์ ประสิทธิผลของ FOIA ก็จะอ่อนแอลง
  • การขยายความรับผิดชอบสาธารณะมีเป้าหมายเพื่อรับมือกับสถานการณ์ที่รัฐบาลซ่อนตัวอยู่หลังบริษัทต่าง ๆ รวมถึงบริษัทเทคโนโลยี เพื่อหลีกเลี่ยงความรับผิด

ดาต้าเซ็นเตอร์, AI และวาระของพลเมือง

  • ไม่มี มาตรฐานหรือข้อบังคับ ที่บังคับให้บริษัทต้องรายงานการใช้พลังงานและน้ำของดาต้าเซ็นเตอร์ หรือการใช้งานที่วางแผนไว้
    • มีการประเมินเป็นรายกรณีอยู่บ้าง แต่ไม่มีใครรู้ยอดรวมการใช้พลังงานของดาต้าเซ็นเตอร์ทั้งหมด
  • เมื่อบริษัทยักษ์ใหญ่ด้านเทคโนโลยีต้องการสร้างดาต้าเซ็นเตอร์ในชุมชนท้องถิ่น บางครั้งก็ยื่นข้อเสนอผ่านบริษัทนอมินีที่ปกปิดว่า Amazon, Google หรือ Microsoft อยู่เบื้องหลัง
    • ทนายความและที่ปรึกษาจะเน้นย้ำผลประโยชน์ทางเศรษฐกิจที่ชุมชนจะได้รับ
    • ข้อมูลสำคัญอย่างตัวตนของบริษัทและความต้องการพลังงานของดาต้าเซ็นเตอร์อาจถูกปกปิด
    • การขาดความโปร่งใสในการใช้ทรัพยากรที่หายากเป็นอุปสรรคต่อธรรมาภิบาลที่ดี
  • ในเนเธอร์แลนด์ สมาชิกสภาเทศบาลแบบพาร์ตไทม์ต้องตัดสินใจว่าจะอนุญาตดาต้าเซ็นเตอร์ขนาดไฮเปอร์สเกลหรือไม่ ขณะที่อีกฝ่ายคือบริษัทมูลค่าหลายพันล้านดอลลาร์พร้อมทนาย นักบัญชี ที่ปรึกษา และบริษัท PR
    • หากทำให้ข้อกำหนดด้านความโปร่งใสและการรายงานเกี่ยวกับผู้อยู่เบื้องหลังโครงการและตัวชี้วัดการใช้พลังงานเป็นมาตรฐาน ก็จะทำให้เกิดเวทีสาธารณะที่เป็นธรรมขึ้นได้
  • ต่อให้ความโปร่งใสมากขึ้น คำถามว่าสังคมต้องการดาต้าเซ็นเตอร์ที่ใช้ทรัพยากรพลังงานอันขาดแคลนมากขึ้นหรือไม่ในยุคโลกร้อน ก็ยังเป็นอีกประเด็นหนึ่งอยู่ดี
    • หากไม่รู้ต้นทุน ก็ยากจะตอบคำถามเรื่องต้นทุนและประโยชน์
  • หนึ่งในปัญหาหลักของสหรัฐคือขีดความสามารถของโครงข่ายไฟฟ้า
    • มีรายงานว่าแม้แต่เศรษฐกิจพัฒนาแล้วอย่างเนเธอร์แลนด์ สหรัฐ และสหราชอาณาจักร ก็มีโครงข่ายไฟฟ้าที่ทำงานใกล้ระดับฉุกเฉินหรือ code red
    • โครงข่ายไฟฟ้าถูกยืดไปจนเกือบถึงขีดจำกัด และเกิดความเสียหายกับไฟดับบ่อยขึ้น
    • ดาต้าเซ็นเตอร์จำนวนมากที่ได้รับอนุมัติเมื่อหลายปีก่อน อาจต้องเผชิญคลื่นแห่งหายนะเมื่อเริ่มเปิดใช้งานในอีก 2-3 ปีต่อมา
  • หลักการป้องกันไว้ก่อน ในกฎหมาย EU กำหนดให้หยุดเพื่อประเมินผลกระทบทางสังคมก่อนที่นวัตกรรมใหม่จะถูกนำไปใช้อย่างแพร่หลาย
    • แต่หน่วยงานกำกับยังไม่ได้นำแนวคิดนี้มาใช้กับนวัตกรรมเทคโนโลยีอย่าง AI
    • เบื้องหลังคือแรงกดดันในการใช้งาน AI และการผ่านกฎหมาย AI ของ EU แยกต่างหาก
    • แนวคิดนี้มีประโยชน์เมื่อแม้แต่วิศวกรเองยังประหลาดใจกับพฤติกรรมของโมเดล AI หรือเมื่อสังคม ผู้ร่างกฎหมาย และประชาชนยังไม่รู้ผลกระทบของนวัตกรรมบางอย่างต่อชีวิตประจำวัน
  • สัญญาณเตือนถึงอันตรายจากอำนาจของบริษัทเทคโนโลยีมีมานานทั่วโลก แต่ชาวอเมริกันมักมองว่าเป็นเรื่องไกลตัว
    • ในปี 2017 Facebook ถูกใช้ในเมียนมาเพื่อปลุกปั่นให้เกิดการฆ่าล้างเผ่าพันธุ์
    • ในปี 2018 Cambridge Analytica ดึงและวิเคราะห์ข้อมูลผู้ใช้ Facebook หลายล้านราย เปิดทางให้แคมเปญการเมืองใช้การทำโปรไฟล์เชิงจิตวิทยา และอาจส่งผลต่อการลงประชามติ Brexit ของสหราชอาณาจักร
    • การบุกอาคารรัฐสภาสหรัฐในปี 2020 มีข้อมูลเท็จบนโซเชียลมีเดียเป็นส่วนหนึ่งของการปลุกปั่น และนำไปสู่การที่ชาวอเมริกันหลายสิบล้านคนสูญเสียความเชื่อมั่นต่อกระบวนการเลือกตั้ง
  • ผู้บริโภคอาจเลือกได้ว่าจะใช้เทคโนโลยีและบริการอย่างไร แต่ระหว่างผู้ใช้อินเทอร์เน็ตและอุปกรณ์รายบุคคลกับบริษัทเทคโนโลยีนั้นมี ความไม่สมดุลของอำนาจ อย่างมาก
  • จำเป็นต้องมีการกำกับดูแลอิสระและอำนาจถ่วงดุล และในสหรัฐก็มีเสียงเรียกร้องเรื่องกฎหมายคุ้มครองข้อมูลระดับรัฐบาลกลาง การคุ้มครองเด็กบนโลกออนไลน์ ความมั่นคงปลอดภัยไซเบอร์ที่ดีกว่าเดิม และเครื่องมือรับมือข้อมูลเท็จด้านสาธารณสุขและการเลือกตั้ง
    • แต่ในสภาคองเกรสยังไม่มีเสียงข้างมากทางการเมืองที่จะทำให้สิ่งเหล่านี้เกิดขึ้น
    • เพราะรัฐบาลกลางทำไม่ได้หรือไม่ทำ หลายรัฐจึงกำลังผลักดันกฎหมายและกฎระเบียบด้านเทคโนโลยีของตนเอง

1 ความคิดเห็น

 
GN⁺ 2024-10-23
ความคิดเห็นบน Hacker News
  • ปัญหาลึกกว่านั้น ซอฟต์แวร์ได้กัดกร่อนสิทธิในทรัพย์สินไปอย่างสิ้นเชิง และเท่าที่รู้มีคนบัญญัติคำว่า “เทคโน-ศักดินานิยม” ไว้แล้ว
    บริษัทเป็นเจ้าของซอฟต์แวร์ ส่วนพวกเราเหมือนข้าแผ่นดินที่ได้แต่เช่ามันใช้

    • ผลงานของ Stallman อาจมีข้อถกเถียงได้ แต่ มุมมองของเขาต่อทรัพย์สินทางปัญญา นั้นมีน้ำหนักในตัวเอง
      https://www.gnu.org/philosophy/not-ipr.html
    • ผมกลับมองตรงกันข้าม จากมุมของผู้ผลิต สิทธิในทรัพย์สินแข็งแกร่งกว่าที่เคย
      “เป็นเจ้าของตลอดไปและให้คนอื่นเช่าเท่านั้น” ถ้ามองจากฝ่ายที่สร้างของขึ้นมา มันไม่ใช่สิทธิในทรัพย์สินที่อ่อนแอเลย
    • อุปมา “เทคโน-ศักดินานิยม” Bruce Schneier ก็เคยใช้ และไม่รู้ว่าใครใช้ก่อนเขา คำอธิบายของเขายังเข้ากับสถานการณ์ตอนนี้ได้ค่อนข้างดี
      https://www.schneier.com/essays/archives/2012/11/when_it_com...
    • ความกังวลว่าบริษัทเป็นเจ้าของซอฟต์แวร์และเราได้แต่เช่าใช้ เคยรุนแรงกว่านี้มาก ก่อนที่ GNU/Linux จะปรากฏตัว
    • ผู้ที่มีสิทธิในทรัพย์สินไม่ใช่ผู้ใช้ แต่คือ ผู้ผลิตซอฟต์แวร์
      ถ้าผมเป็นเจ้าของที่ดิน ผมเรียกเก็บค่าเข้าจากคนอื่นได้ แต่นั่นไม่ได้แปลว่าผมสละสิทธิในทรัพย์สินของผม เราไม่ได้มองว่านี่เป็น “การกัดกร่อน” สิทธิในทรัพย์สิน แต่กลับเป็นตรงกันข้าม
  • แม้จะค่อนข้างตั้งฉากกับหัวข้อของบทความ แต่ก็แตะปัญหาที่ลึกกว่าของการกำกับดูแลเทคโนโลยี
    อินเทอร์เน็ตเชื่อมทุกคนเข้าด้วยกันและทำให้ข้อมูลไหลเวียนอย่างเสรี แต่ การไหลเวียนของข้อมูลอย่างเสรีกำลังกัดกร่อนความไว้วางใจของผู้คน
    เราต้องการเสรีภาพในการแสดงออก แต่ผู้คนใช้คำพูดหลอกลวงและบีบบังคับ เราสร้างกฎเพื่อหยุดเรื่องนี้ไม่ได้ และผู้คนก็จะหาทางเลี่ยงได้เสมอ
    Ken Thompson เขียน “Reflections on Trusting Trust” ในปี 1984 และข้อสรุปคือเราไม่สามารถมอบหมายให้คอมพิวเตอร์สร้างความไว้วางใจแทนเราได้ แต่ถ้าจะอยู่ในสังคม เราจำเป็นต้องมีความไว้วางใจ
    การเชื่อใจคนเป็นสัญชาตญาณของมนุษย์ แต่บนโลกออนไลน์ ความเท็จแพร่กระจายอย่างรวดเร็ว และเมื่อถูกหลอกหลายครั้ง เราก็สูญเสียความไว้วางใจตามธรรมชาติต่อผู้อื่นไป ผมสงสัยว่าต่อจากนี้ควรทำอย่างไร

    • ทางออกโดยทั่วไปคือ ชื่อเสียง คือการสร้างชุมชน แล้วทำให้รู้ว่าใครควรเชื่อใจ เหมือนที่มนุษย์ทำกันมาตลอด
      อินเทอร์เน็ตยุคแรกโดยมากเป็นแบบนั้น เช่น BBS, Usenet และฟอรัมต่างๆ แต่ในอินเทอร์เน็ตสมัยใหม่ เราบริโภคเว็บไซต์สุ่มๆ จากการค้นหา Google หรือบัญชี TikTok ที่อาจเป็นบอตเป็นหลัก
      FAANG ได้แทนที่ฐานแบบการติดตามด้วย ฟีดอัลกอริทึม อย่างแข็งขันเพื่อผลกำไรที่มากขึ้น
    • ความไว้วางใจที่แท้จริงต้องได้มาด้วยการพิสูจน์ตัวเอง มันต่างจาก ความไว้วางใจพื้นฐาน แต่ทั้งสองมักถูกสับสนกัน
      เมื่อสูญเสียความไว้วางใจไปแล้ว ต้องใช้ความพยายามมากขึ้น 10 เท่า บางครั้ง 100 เท่าเพื่อกู้คืน และบางครั้งแม้ทุ่มไป 100 เท่าก็ไม่กลับมา
      นี่เป็นกฎพื้นฐานของชีวิต และการทำเหมือนว่ากฎแบบนี้ไม่มีอยู่ก็ไม่ได้ทำให้มันหายไป
      ปัญหารากฐานคือสถาบันที่เคยได้รับความไว้วางใจตามประเพณี และยังอยากได้รับความไว้วางใจอยู่ในปัจจุบัน ไม่ยอมลงแรงเพื่อฟื้นความไว้วางใจที่เสียไป สื่อและรัฐบาลเป็นตัวอย่างที่นึกถึง
      แทนที่จะเป็นเช่นนั้น พวกเขาเสียพลังงานไปกับการเรียกร้องอย่างหน้าด้านๆ ให้คนเชื่อ และยิ่งทำแบบนั้น ช่องว่างก็ยิ่งกว้างขึ้น พอโทษคนที่รู้สึกถูกละเมิด ช่องว่างก็ยิ่งขยาย
      กองกำลังที่มุ่งร้ายได้ทะลักเข้ามาในช่องว่างนั้นแล้ว และจนกว่าสถาบันเหล่านี้จะยอมรับว่า “ความไว้วางใจที่แท้จริงต้องได้มาด้วยการพิสูจน์ตัวเอง” กองกำลังเหล่านั้นก็จะยังรุ่งเรืองต่อไป
    • ผมไม่ได้เรียนประวัติศาสตร์โดยตรงจึงไม่มีคำตอบที่เป็นรูปธรรม แต่สงสัยว่าเมื่อราว 500 ปีก่อน ตอนมี การประดิษฐ์แท่นพิมพ์ ก็น่าจะเกิดเรื่องคล้ายกันหรือไม่
      ตอนนั้นการเผยแพร่ความรู้ก็เพิ่มขึ้นอย่างรวดเร็ว และความเท็จหรือข้อมูลปลอมก็คงเพิ่มตามไปด้วย สังคมจัดการกับเรื่องนั้นอย่างไร
    • ไม่ได้โต้แย้งประเด็นหลัก แต่เป็นเกร็ดที่น่าสนใจว่า การโจมตีคอมไพเลอร์แบบ Trusting Trust นั้นในทางทฤษฎีได้รับการแก้ด้วย การคอมไพล์ซ้ำสองชั้นแบบหลากหลาย (diverse double compiling) ของ David Wheeler แล้ว
    • กระบวนการที่ผมสูญเสียความไว้วางใจกลับใกล้เคียงกับ “พอมีข้อมูลใหม่มากมายขนาดนี้ ก็เห็นได้ว่าสถาบัน ผู้เชี่ยวชาญ และประกาศทางการต่างๆ โกหกผมมาตลอด” มากกว่า
      กล่าวคือ ผมสูญเสียความไว้วางใจต่อสถาบัน ผู้เชี่ยวชาญ เจ้าหน้าที่รัฐ ฯลฯ เพราะพบบนเว็บกับข้อมูลที่ผมมองว่าเป็น “ความจริง” มากพอจะลบล้างสิ่งที่องค์กรเดิมๆ เคยนำเสนอ
      จริงอยู่ว่าเว็บทำให้สูญเสียความไว้วางใจ แต่เป็นเพราะมันทำให้เข้าถึงความจริงที่แท้จริงได้ และทำให้ตระหนักว่าผู้คนจำนวนมากไม่ซื่อสัตย์แค่ไหน
      เช่น ถ้าช่างซ่อมคิดเงินเกินจริง ตอนนี้ลูกค้าสืบค้นออนไลน์แล้วเปิดโปงได้ เมื่อก่อนคงได้แต่ยอมรับไป แต่ตอนนี้ถูกสงสัยอย่างชอบธรรม ความไม่ซื่อสัตย์มีอยู่เดิมอยู่แล้ว เพียงแต่ตอนนี้ค้นพบได้ง่ายขึ้นเท่านั้น
  • ตัวบทความเองไม่ค่อยดีนัก แม้ผู้เขียนจะมีประวัติที่ดูดีในยุโรปก็ตาม
    ข้อความที่ว่า “เช่นเดียวกับที่ฝ่ายนิติบัญญัติพึ่งทีมกฎหมายอิสระเพื่อร่างกฎหมายที่จะยืนหยัดต่อการท้าทายในศาลได้ เราก็ต้องการผู้เชี่ยวชาญเทคโนโลยีอิสระที่จะให้ข้อมูลที่เชื่อถือได้…” แสดงให้เห็นว่าเขาไม่เข้าใจบริบทสหรัฐฯ เพียงพอ
    สภาคองเกรสสหรัฐฯ เคยมี Office of Technology Assessment แต่ถูกยุบในปี 1995 “สมาชิกสภาผู้แทนราษฎรพรรครีพับลิกันมองว่า OTA เป็นหน่วยงานสิ้นเปลืองและเป็นปฏิปักษ์ต่อผลประโยชน์ของ GOP”
    ปัญหาทั่วไปไม่ใช่ “เทคโนโลยี” แต่คือ การผูกขาด ธนาคารและร้านขายยาในสหรัฐฯ ก็เหลือผู้เล่นหลักเพียง 2–3 รายแล้ว
    การบังคับใช้ Sherman Act อย่างเข้มแข็งอาจช่วยได้ อย่างไรก็ตาม ประสบการณ์การแยก AT&T ก็ไม่ได้สร้างกำลังใจมากนัก
    https://en.wikipedia.org/wiki/Office_of_Technology_Assessmen...

    • ผมไม่แน่ใจว่าควรสรุปจากคำอ้างอิงนั้นเพียงอย่างเดียวว่าผู้เขียนไม่รู้จักหน่วยงานประเมินเทคโนโลยีหรือไม่เข้าใจบริบทสหรัฐฯ
      พออ่านคำว่า “ให้ความเชี่ยวชาญด้านเทคโนโลยีแก่ฝ่ายนิติบัญญัติ” สิ่งที่นึกถึงไม่ใช่ภาพหน่วยงานวิทยาศาสตร์ของรัฐทำวิจัย แต่เป็นภาพที่ปรึกษาอิสระอธิบายอัลกอริทึมเป็นภาษาอังกฤษง่ายๆ
      ตรงจุดนั้นกลับแสดงให้เห็นว่า หากสามารถกำจัดหน่วยงานที่ไม่ชอบได้เพียงแค่อ้างว่ามันเอนเอียงไปพรรคใดพรรคหนึ่ง โครงสร้างแบบสองพรรคที่เป็น “พวกเรา vs พวกเขา” ต่างหากคือปัญหาแกนกลาง ผมสงสัยว่าคุณหมายถึงเรื่องนั้นด้วยคำว่าการผูกขาดหรือเปล่า
      ผมเห็นด้วยว่าการผูกขาดเป็นปัญหา แต่นั่นไม่ได้ทำให้ปัญหาอื่นหายไป โซลูชันทางเทคโนโลยีสามารถทำให้กฎโดยนัยที่ไม่ได้ถูกกำหนดผ่านกระบวนการประชาธิปไตยถูกบังคับใช้ และผลกระทบของมันต่อผู้คนอาจอยู่ในระดับเดียวกับการตัดสินใจของรัฐบาล
  • โดยส่วนตัวมองว่า บริษัทกับรัฐบาลร่วมกันรับมือกับประชาชน
    รัฐบาลกดดันบริษัทให้ทำสิ่งที่รัฐบาลไม่ควรทำเองโดยตรง หากบริษัทปฏิเสธความร่วมมือ ก็ขู่จะแยกบริษัท
    มีเหตุผลที่ AT&T มีห้องดักฟังเฉพาะสำหรับ NSA ส่วนกรณี DJI ก็เป็นทำนองว่า หากไม่ขายโดรนให้ยูเครน ก็จะขู่แบนในหนึ่งในตลาดที่ใหญ่ที่สุด

  • ไม่คุ้มค่าแก่การอ่าน เพราะไม่ได้เป็นผลผลิตของ กระบวนการนิรนัย ที่เริ่มจากข้อเท็จจริงแล้วนำไปสู่ข้อสรุปที่หลีกเลี่ยงไม่ได้
    กระบวนการเชิงเหตุและผลที่ทำให้หนังสือและโฆษณานี้เกิดขึ้น อยู่ที่ความสัมพันธ์ด้านการอุปถัมภ์ทางการเมืองระหว่างฝ่ายก้าวหน้าของสหรัฐฯ กับบริษัทเทคโนโลยีสหรัฐฯ ที่พังทลายลง ผลคือเกิดความต้องการคำอธิบายย้อนหลังเพื่อสร้างความชอบธรรมให้กับการเปลี่ยนแปลง เช่น การจัดสรรเงินสด และการจัดสรรงบสำหรับสงครามทางกฎหมาย
    ผู้เขียนเริ่มจากข้อสรุปว่า “ดังนั้นจึงต้องริบอำนาจของบริษัทเทคโนโลยี” แล้วค่อยย้อนกลับไปประกอบเหตุผลให้เข้ากัน
    ดังนั้นเอกสารนี้จึงไม่สามารถส่งมอบนัยที่เป็นประโยชน์ในเชิงค่าคาดหวังได้ ยกเว้นในกรณีที่ข้อสรุปนั้นบังเอิญถูกต้อง

  • มีตอนหนึ่งว่า “ลองเปรียบเทียบว่าสหรัฐฯ ตอบสนองต่อสงครามยูเครนอย่างไรในโลกกายภาพและในพื้นที่ไซเบอร์…”
    ไม่กี่สัปดาห์ก่อนผมได้ดูสารคดีดี ๆ เกี่ยวกับ Stuxnet ชื่อ Zero Days และค่อนข้างตกใจกับระดับที่เครื่องมือในพื้นที่นี้อยู่นอกการตรวจสอบของสาธารณะ
    ขีดความสามารถในการโจมตีที่อาจเข้าข่ายการกระทำสงครามดูเหมือนแทบไม่ได้รับการกำกับดูแลแบบประชาธิปไตย และแม้แต่อดีตผู้อำนวยการ NSA ก็ยังเห็นว่าขอบเขตการกำหนดชั้นความลับของข้อมูลนั้นมากเกินไป แม้เหตุการณ์จะผ่านไปหลายปีแล้ว ก็แทบไม่มีใครยอมพูดกับทีมผู้สร้างภาพยนตร์
    ไม่ว่าจะเป็นการรักษาความปลอดภัยเอกชนแบบดิสโทเปียสไตล์ Palantir หรือเครื่องมือที่หน่วยข่าวกรองใช้ สถานการณ์ที่บทความเตือนถึงอาจถือได้ว่ามาถึงแล้วตั้งแต่ 10 ปีก่อน

  • เราจะทำอะไรได้บ้างกับ อำนาจปกครอง ที่ไม่มีการถ่วงดุล

    • หากโชคดีพอที่จะอาศัยอยู่ในประเทศที่มีการเลือกตั้งเสรีและเป็นธรรม ก็ไป ลงคะแนนเสียง
    • หากอยู่ในประชาธิปไตย ก็ต้องมีส่วนร่วม ซึ่งรวมถึงการลงคะแนนเสียง การเข้าร่วมประชุมสภาท้องถิ่น และการลงสมัครรับเลือกตั้ง
      สังคมถูกหล่อหลอมโดยคนที่โผล่มามีส่วนร่วม ดังนั้นหากอยากมีสิทธิ์มีเสียง ก็ต้องออกมาเอง
    • ก่อนอื่นต้องมีประชาธิปไตย จากนั้นต้องมี การแบ่งแยกอำนาจ ระหว่างฝ่ายตุลาการ ฝ่ายบริหาร และฝ่ายนิติบัญญัติ สิทธิในทรัพย์สิน และหลักนิติธรรม
      ดูเหมือนจะทำงานได้ค่อนข้างพอใช้
  • มีการคาดการณ์ว่า “แม้แต่ในเนเธอร์แลนด์ซึ่งเป็นเศรษฐกิจพัฒนาแล้วเช่นเดียวกับสหรัฐฯ และสหราชอาณาจักร โครงข่ายไฟฟ้าก็กำลังดำเนินงานในระดับโค้ดแดงที่เกือบฉุกเฉิน และเมื่อศูนย์ข้อมูลเริ่มเดินเครื่องในอนาคต อาจเผชิญคลื่นแห่งภัยพิบัติ”
    ผมดูแลเอกสารชื่อ Timed Predictions เพื่อกลับมาตรวจสอบคำทำนายใหญ่ ๆ ในภายหลัง
    จะเพิ่มรายการนี้เข้าไป แล้วอีกไม่กี่ปีข้างหน้า ในช่วงปี 2026~2027 จะลองประเมินดูว่าเราเจอ “คลื่นแห่งภัยพิบัติ” จากโครงข่ายไฟฟ้าที่โอเวอร์โหลดหรือไม่

    • สงสัยว่าไม่เคยคิดจะเปิดเผยสิ่งนี้ต่อสาธารณะบ้างหรือ แน่นอนว่ามันอาจใหญ่เกินไปได้ แต่ถ้ามีผู้ร่วมเขียนหลายคนก็น่าจะมีประโยชน์ เช่น การติดตามแหล่งที่มา
      หรืออย่างน้อยใครสักคนอาจเริ่มทำเวอร์ชันเปิดเผยบางส่วนก็ได้
    • อยากฟังคำทำนายอื่น ๆ ในเอกสารด้วย
    • เคยเห็นใน Reddit ใช้บอต “remind me” เพื่อจุดประสงค์แบบนี้ น่าจะใช้ของคล้าย ๆ กันได้
      วิธีอย่าง โพสต์บล็อกลงวันที่ในอนาคต ที่มีการแจ้งเตือน RSS/Atom หรือให้สมัครฟีดก็น่าจะเป็นไปได้
    • เราเผชิญกับโครงข่ายไฟฟ้าโอเวอร์โหลดมาหลายสิบปีแล้ว ในวันฤดูร้อนที่ร้อน มืดครึ้ม และไม่มีลม ก็เกิดไฟดับหมุนเวียนกับแรงดันไฟตก
      ปัญหาไม่ใช่บิ๊กเทค แต่คือการที่เราอยู่ในภาพลวงตาว่าสามารถรักษาโครงข่ายไฟฟ้าด้วยพลังงานหมุนเวียนต่อไปได้โดยไม่มี แบตเตอรี่ระดับเทราวัตต์-ชั่วโมง
    • เป็นไอเดียที่ดี น่าจะลองพิจารณาเปิดเผยต่อสาธารณะ
      เคยมีหลายครั้งที่อยากทำอะไรคล้าย ๆ กัน และในทางกลับกันก็อยากลองตรวจสอบคำทำนายหลังจากผลลัพธ์ออกมาแล้วด้วย
      วาทกรรมออนไลน์ประเมินความสำเร็จต่ำเกินไปมาก หลายครั้งดูเหมือนผู้คนพูดไม่ใช่เพราะสิ่งนั้นถูกต้อง แต่เพราะผู้คนอยากได้ยินมัน
  • สิ่งที่น่ากังวลที่สุดคือส่วนที่ สมาร์ตโฟนเข้ายึดครองความปลอดภัยอย่างแนบเนียน ตอนนี้ถ้าไม่มีโทรศัพท์มือถือ ก็แทบทำไม่ได้แม้แต่การจ่ายภาษี การเข้าถึงบริการทางการแพทย์ หรือการล็อกอินเข้าที่ทำงาน
    ถ้ามีใครบอกเมื่อ 25 ปีก่อนว่าการเข้าถึงบริการภาครัฐจะถูกแปรรูปเป็นเอกชนทั้งหมด คงมีแรงต่อต้านอย่างหนัก แต่เราไม่เพียงยอมรับเรื่องนี้ เรายังเลือกทำเองโดยสมัครใจเพื่อแลกกับความสะดวก ตอนนี้เราเลยตกที่นั่งลำบากแล้ว
    เมื่อก่อนชาวอเมริกันเคยชื่นชอบคำพูดที่ว่า “ผู้ที่ยอมสละเสรีภาพเพื่อความปลอดภัย จะไม่ได้ทั้งเสรีภาพและความปลอดภัย” แต่ตอนนี้แย่กว่านั้นอีก เราสละความปลอดภัยเพื่อความสะดวก และส่งมอบทุกอย่างเกี่ยวกับตัวเราให้กับมหาเศรษฐีไร้ศีลธรรมที่ต้องการแทนที่รัฐบาลทั้งระบบ แถมเรายังจะต้องจ่ายเงินให้พวกเขาระหว่างที่พวกเขาทำเช่นนั้นด้วย

    • สงสัยว่าเป็นที่ไหนกันแน่ ตัวอย่างเช่น IRS ยังอนุญาตให้ยื่นแบบทางไปรษณีย์อยู่ และก็ไม่ชัดเจนว่าทำไมการไปโรงพยาบาลหรือคลินิกแบบวอล์กอินถึงต้องใช้โทรศัพท์มือถือ
      เรื่องที่ต้องใช้โทรศัพท์มือถือเพื่อเข้าถึงเครือข่ายบริษัท ก็ไม่แน่ใจว่าน่าโมโหมากไปกว่าการที่งานออฟฟิศสมัยใหม่ต้องใช้แล็ปท็อปหรือไม่
      https://www.irs.gov/filing/where-to-file-paper-tax-returns-w...
    • เข้าใจความกังวล แต่การมองเรื่องนี้ว่าเป็นการแลกเปลี่ยนแบบผลรวมเป็นศูนย์ระหว่างความสะดวกกับความปลอดภัยและเสรีภาพเท่านั้น นับว่าเรียบง่ายเกินไป
      สมาร์ตโฟนมีส่วนทำให้การใช้บริการภาครัฐเข้าถึงได้ง่ายและมีประสิทธิภาพมากขึ้นอย่างชัดเจน โดยเฉพาะสำหรับชุมชนที่ถูกมองข้าม พื้นที่ชนบท และผู้พิการ
      ถึงอย่างนั้น ก็ยากที่จะเห็นด้วยกับข้ออ้างที่ว่าการเข้าถึงบริการภาครัฐถูก “แปรรูปเป็นเอกชนทั้งหมด” รัฐบาลมักร่วมมือกับบริษัทเอกชนเพื่อพัฒนาและให้บริการเหล่านี้ และโดยทั่วไปก็มีการกำกับดูแลเชิงกฎระเบียบในระดับหนึ่ง ความร่วมมือนี้ยังทำให้เกิดนวัตกรรมที่มีประโยชน์ เช่น พอร์ทัลยื่นภาษีออนไลน์หรือการแพทย์ทางไกล
      คำพูดของ Franklin เรื่องการแลกเสรีภาพกับความปลอดภัยยังคงใช้ได้ แต่ก็ควรมองอีกด้านด้วย หากปฏิเสธการเปลี่ยนแปลงทางเทคโนโลยี ก็เสี่ยงที่จะถูกทิ้งไว้ข้างหลัง ความท้าทายที่แท้จริงคือการหาสมดุลระหว่างความสะดวก ความปลอดภัย และสิทธิของปัจเจกบุคคล
      แทนที่จะส่งสัญญาณเตือนว่าเป็น “การยึดครองอย่างแนบเนียน” น่าจะดีกว่าหากมุ่งไปที่มาตรการเชิงปฏิบัติเพื่อคุ้มครองสิทธิ มาตรฐานเปิด การเสริมความแข็งแกร่งของกรอบกำกับดูแล และการลงทุนในโครงการเสริมทักษะความรู้เท่าทันดิจิทัล เป็นจุดเริ่มต้นที่ดี
    • ตอนผมอยู่ Texas เมื่อ 25 ปีก่อน ก็มีคนจำนวนมากที่น่าจะยอมเห็นด้วยกับการแปรรูปการเข้าถึงบริการภาครัฐเป็นเอกชนได้ง่าย ๆ เช่น เสียงบ่นเรื่อง DMV นั้นไม่มีที่สิ้นสุด
      คูปองการศึกษา เป็นประเด็นร้อนในกลุ่มต่าง ๆ ที่มีอิทธิพลทั้งในอดีตและปัจจุบัน และก็มีคนที่อยากกำจัดบริการภาครัฐออกไปทั้งหมดแล้วแทนที่ด้วยบริการเอกชน แนวคิดสนับสนุนการแปรรูปและรัฐบาลขนาดเล็กได้รับความนิยมอย่างมหาศาลอย่างน้อยก็ตั้งแต่ยุค Reagan
      ประวัติศาสตร์ของสหรัฐฯ ในการสละเสรีภาพเพื่อความปลอดภัย หรือเพื่อความสะดวกหรือศาสนา นั้นยาวนานกว่านั้นอีก มีตัวอย่างในศตวรรษที่ 20 มากมาย เช่น นโยบายยุคสงครามเย็นและการตรวจสอบอุดมการณ์ กฎหมายควบคุมศีลธรรมสาธารณะต่าง ๆ และการกำหนดเขตการใช้ที่ดินแบบจำกัด
    • การติดตามผ่านรถยนต์และทีวีก็ไม่ควรมองข้าม รวมถึงการที่ตำรวจสามารถขอวิดีโอจากกริ่งประตู Ring ได้ด้วย ต่อไปจะเป็น กล้องหน้ารถ ของผมหรือเปล่า
    • คิดว่าบริการส่วนใหญ่ยังใช้ทางไปรษณีย์ได้อยู่ไม่ใช่หรือ
  • จุดที่น่าสนใจในบทความคือเรื่องนี้
    รัฐบาลกำลังเอากระบวนการต่าง ๆ ไปจ้างบริษัทเทคโนโลยีภายนอกมากขึ้นเรื่อย ๆ หากบริษัทเทคโนโลยีดำเนินงานในนามรัฐบาล ก็ต้องรับผิดชอบเทียบเท่ารัฐบาลด้วย
    เรื่องนี้เรียกว่า “การขยายความรับผิดชอบต่อสาธารณะ” ฟังดูเรียบง่าย แต่อาจกลายเป็นตัวเปลี่ยนเกมครั้งใหญ่ได้ ตอนนี้เมื่อรัฐบาลเอาหน้าที่หลักของรัฐไปจ้างบริษัทเทคโนโลยีมากขึ้น ก็เท่ากับโยนความรับผิดชอบของรัฐบาลไปพร้อมกันด้วย