ปัญญาประดิษฐ์กับการสอดแนมในวงกว้าง
(schneier.com)- อินเทอร์เน็ตทำให้สามารถเก็บข้อมูลพฤติกรรมจำนวนมหาศาล เช่น ตำแหน่งที่อยู่ การซื้อ คนที่สนทนาด้วย และสิ่งที่อ่าน และ AI ก็อาจเพิ่ม การสอดแนมในวงกว้าง ด้วยการตีความแม้กระทั่งเนื้อหาการสนทนาเข้าไปได้
- การเฝ้าระวังแบบเดิมใกล้เคียงกับการรวบรวมบันทึกพฤติกรรม แต่การสอดแนมต้องฟังและทำความเข้าใจบทสนทนา ทำให้ที่ผ่านมา แรงงานมนุษย์ เป็นคอขวด
- Generative AI สามารถสรุปการประชุม 1 ชั่วโมงให้เหลือ 1 หน้า และจัดระเบียบบทสนทนาหลายล้านรายการตามหัวข้อได้ ทำให้การวิเคราะห์บทสนทนากลายเป็น ปัญหาการค้นหาในวงกว้าง
- แม้ AI จะไม่สมบูรณ์แบบและอาจพลาดหรือเข้าใจผิดในประเด็นสำคัญได้ แต่ด้วยความที่มันสามารถทำซ้ำได้เป็นหลายล้านชุดและพัฒนาได้อย่างรวดเร็ว จึงเกิด ความต่างในระดับสเกล อย่างมาก
- ในสถานการณ์ที่รัฐบาลและบริษัทต่างก็ใช้การเฝ้าระวังในวงกว้างอยู่แล้ว หากมีการวิเคราะห์ถึงบทสนทนา อารมณ์ และข้อมูลลับด้วย ก็อาจทำให้การควบคุมสังคมและโฆษณาแบบเฉพาะบุคคลรุนแรงขึ้น
ความต่างระหว่างการเฝ้าระวังกับการสอดแนม
- การเฝ้าระวัง (surveillance) คือการเก็บบันทึกพฤติกรรม เช่น เป้าหมายไปที่ไหน คุยกับใคร ซื้ออะไร ทำอะไร หรืออ่านอะไร
- การสอดแนม (spying) คือการซ่อนอุปกรณ์ดักฟังไว้ในบ้านหรือรถ หรือดักฟังโทรศัพท์ เพื่อฟังและทำความเข้าใจเนื้อหาของบทสนทนาโดยตรง
- ก่อนยุคอินเทอร์เน็ต หากต้องการเฝ้าระวังใครสักคน มนุษย์ต้องตามติดด้วยตนเองเพื่อบันทึกการเดินทาง การพบปะ การซื้อ พฤติกรรม และสิ่งที่อ่าน ทำให้เสียทั้งเวลาและค่าใช้จ่ายสูง
- สมาร์ตโฟน บัตรเครดิต แอป เครื่องอ่าน e-book และคอมพิวเตอร์ ต่างบันทึกตำแหน่ง การซื้อ คนที่สนทนาด้วย สิ่งที่อ่าน และพฤติกรรมการใช้งานอย่างต่อเนื่อง
- เมื่อค่าใช้จ่ายในการจัดเก็บและประมวลผลลดลง การเฝ้าระวังที่เคยเป็นแบบรับข้อมูลอย่างเดียวและเป็นรายบุคคลก็เปลี่ยนเป็น การเฝ้าระวังในวงกว้าง กลายเป็นโมเดลธุรกิจของอินเทอร์เน็ต และแทบไม่มีทางหลีกเลี่ยงได้อย่างสมเหตุสมผล
คอขวดของการสอดแนมที่ AI กำลังเปลี่ยน
- การสอดแนมนั้นเป็นไปได้ทางเทคนิคมานานแล้ว แต่การฟังและตีความความหมายของบทสนทนายังคงต้องพึ่ง แรงงานมนุษย์
- บริษัทสปายแวร์อย่าง NSO Group สามารถช่วยให้รัฐบาลแฮ็กโทรศัพท์ของผู้คนได้ แต่ภารกิจในการจัดหมวดหมู่และทำความเข้าใจบทสนทนาที่เก็บมาได้ก็ยังคงอยู่
- รัฐบาลอย่างจีนเคยสามารถเซ็นเซอร์โพสต์บนโซเชียลมีเดียโดยอิงจากคำหรือวลีบางอย่างได้ แต่แนวทางนี้หยาบและหลบเลี่ยงได้ง่าย
- Generative AI สมัยใหม่ทำ การสรุป ได้ดี และสามารถรับการประชุม 1 ชั่วโมงแล้วส่งกลับเป็นสรุปหนึ่งหน้าได้
- AI ยังสามารถค้นหาบทสนทนาหลายล้านรายการ จัดระเบียบตามหัวข้อ หรือค้นหาว่าใครกำลังพูดถึงเรื่องอะไรได้ด้วย
การค้นหาแบบย้อนกลับที่เกิดจากการเฝ้าระวังในวงกว้าง
- การเฝ้าระวังในวงกว้างเปลี่ยนธรรมชาติของการเฝ้าระวังไปโดยพื้นฐาน
- เพราะข้อมูลทั้งหมดถูกเก็บไว้ แม้จะไม่ได้กำหนดเป้าหมายไว้ ณ เวลานั้น ก็ยังสามารถย้อนกลับไปค้นข้อมูลในอดีตได้ภายหลัง
- เมื่อมีข้อมูลที่เก็บไว้ ก็สามารถตั้งคำถามแบบต่อไปนี้ได้
- หาได้ว่าบุคคลคนหนึ่งอยู่ที่ไหนเมื่อปีที่แล้ว
- สร้างรายการรถซีดานสีแดงที่วิ่งผ่านถนนสายหนึ่งเมื่อเดือนที่แล้ว
- ค้นหาคนที่ซื้อวัตถุดิบสำหรับทำระเบิดหม้อแรงดันครบทั้งหมดภายใน 1 ปีที่ผ่านมา
- ค้นหาคู่โทรศัพท์ที่เคลื่อนที่เข้าหากัน จากนั้นปิดเครื่อง แล้วอีก 1 ชั่วโมงต่อมาเปิดขึ้นมาใหม่ขณะเคลื่อนที่ห่างออกจากกัน
- วิธีแบบนี้ทำให้ไม่จำเป็นต้องระบุตัวบุคคลเป้าหมายล่วงหน้า แต่สามารถใช้ข้อมูลที่เก็บไว้เพื่อหาเป้าหมายภายหลังได้
คำถามที่เป็นไปได้จากการสอดแนมในวงกว้าง
- การสอดแนมในวงกว้าง ก็อาจเปลี่ยนธรรมชาติของการสอดแนมได้เช่นกัน
- ข้อมูลการสนทนาทั้งหมดจะถูกเก็บไว้ ค้นหาได้ และอยู่ในสภาพที่ทำความเข้าใจได้ในระดับมหาศาล
- คำถามที่เป็นไปได้มีดังนี้
- ค้นหาว่าเมื่อเดือนที่แล้วใครบ้างที่พูดถึงหัวข้อหนึ่ง และการถกเถียงนั้นเปลี่ยนแปลงไปอย่างไร
- เมื่อคนที่ชื่อ A กระทำบางอย่าง ตรวจสอบว่ามีใครเป็นผู้สั่งการให้ทำหรือไม่
- ค้นหาคนที่กำลังวางแผนอาชญากรรม กระจายข่าวลือ หรือวางแผนเข้าร่วมการประท้วงทางการเมือง
- เมื่อต้องการหาโครงสร้างองค์กร ก็สามารถดูได้ว่าคนหนึ่งสั่งงานคล้ายกันไปยังหลายคน และคำสั่งนั้นถูกส่งต่อไปยังใครบ้าง
- แม้แต่กระบวนการที่มิตรภาพ พันธมิตร และความไว้วางใจของผู้คนก่อตัวขึ้นและสลายไป ก็อาจถูกติดตามได้อย่างละเอียดมาก
ไมโครโฟนและอุปกรณ์ที่ฟังอยู่ตลอดเวลา
- การสอดแนมในวงกว้างไม่ได้จำกัดอยู่แค่บทสนทนาที่เกิดขึ้นบนโทรศัพท์มือถือหรือคอมพิวเตอร์
- เช่นเดียวกับที่การติดตั้งกล้องไว้ทั่วทุกแห่งช่วยเร่งการเฝ้าระวังในวงกว้าง การติดตั้ง ไมโครโฟน ไว้ทั่วทุกแห่งก็อาจเร่งการสอดแนมในวงกว้างได้
- Siri, Alexa และ “Hey Google” ต่างก็ฟังอยู่ตลอดเวลาแล้ว เพียงแต่บทสนทนาเหล่านั้นยังไม่ได้ถูกเก็บบันทึกไว้
การเปลี่ยนพฤติกรรมและการควบคุมสังคม
- เมื่อผู้คนรู้ว่าตนเองกำลังถูกเฝ้าดูอยู่ตลอด พฤติกรรมก็จะเปลี่ยนไป
- ผู้คนจะยอมทำตามและ เซ็นเซอร์ตัวเอง ซึ่งก่อให้เกิด chilling effect
- การเฝ้าระวังทำให้การควบคุมสังคมง่ายขึ้น และการสอดแนมอาจทำให้สิ่งนี้เลวร้ายยิ่งกว่าเดิม
- รัฐบาลทั่วโลกต่างก็ใช้การเฝ้าระวังในวงกว้างอยู่แล้ว และมีความเป็นไปได้สูงว่าจะทำการสอดแนมในวงกว้างด้วย
บริษัทและอุตสาหกรรมโฆษณา
- บริษัทต่าง ๆ ก็สามารถสอดแนมผู้คนได้เช่นกัน
- การเฝ้าระวังในวงกว้างเปิดยุคของโฆษณาแบบเฉพาะบุคคล และการสอดแนมในวงกว้างอาจยิ่งเสริมความแข็งแกร่งให้อุตสาหกรรมนี้
- สิ่งที่ผู้คนพูด ความรู้สึกของพวกเขา และความลับที่พวกเขามี เป็นข้อมูลที่ดึงดูดใจนักการตลาดที่ต้องการหาความได้เปรียบ
- บรรษัทผูกขาดเทคโนโลยีที่เฝ้าระวังผู้คนอย่างต่อเนื่องอยู่แล้วในปัจจุบัน ยากจะต้านทานแรงจูงใจในการเก็บและใช้ข้อมูลเช่นนั้น
- ในช่วงแรกของ Gmail นั้น Google เคยพูดถึงแนวทางใช้เนื้อหาใน Gmail เพื่อแสดงโฆษณาแบบเฉพาะบุคคล แต่ภายหลังก็ยุติไป
- เป็นไปได้สูงว่าเพราะข้อมูลคีย์เวิร์ดที่เก็บได้ในเวลานั้นมีคุณภาพต่ำมาก จนไม่เป็นประโยชน์ทางการตลาด
- หาก AI วิเคราะห์เนื้อหาบทสนทนาได้ดีขึ้น เงื่อนไขนี้ก็อาจเปลี่ยนไป
- Google อาจไม่ใช่รายแรกที่สอดแนมบทสนทนาของผู้ใช้ แต่หากบริษัทอื่นเริ่มก่อน ก็อาจยากที่จะต้านทานเพราะแรงกดดันจากผู้ลงโฆษณา
ความเป็นไปได้ของการกำกับดูแลและข้อจำกัด
- ความสามารถนี้สามารถถูกจำกัดได้
- เราสามารถสั่งห้ามการสอดแนมในวงกว้าง หรือออก กฎความเป็นส่วนตัวของข้อมูล ที่เข้มงวดได้
- อย่างไรก็ตาม มาตรการเพื่อจำกัดการเฝ้าระวังในวงกว้างยังไม่เกิดขึ้น
- และในเมื่อเรายังจำกัดการเฝ้าระวังในวงกว้างไม่ได้ ก็ไม่มีเหตุผลที่ชัดเจนว่าทำไมการสอดแนมจึงจะถูกปฏิบัติแตกต่างออกไป
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
นี่ไม่ใช่ปัญหาทางเทคโนโลยี แต่เป็น ปัญหาทางการเมือง สหภาพโซเวียต รวมถึงเยอรมนีและประเทศอื่น ๆ สามารถทำการสอดส่องขนาดใหญ่ได้อย่างมีประสิทธิภาพด้วยเทคโนโลยีดั้งเดิมเท่านั้น โดยใช้เอกสารเกี่ยวกับการเดินทางและการกระทำทั้งหมด สายข่าว การดักฟังเสียง ฯลฯ
เหตุผลที่วิธีเดียวกันนี้ไม่เข้ามาในที่อย่างสหรัฐฯ ไม่ใช่เพราะไม่มีความสามารถจะสอดส่องแบบนั้น แต่เพราะไม่มีความสนใจทางการเมือง
หากมองย้อนกลับไปในอดีต เราเคยสั่งห้ามสิ่งที่ผู้คนไม่เคยจินตนาการว่าจะถูกห้ามมาก่อน เช่น ทำให้การปลูกพืชในบ้านตนเองเพื่อบริโภคเป็นอาชญากรรม หรือทำให้การที่ผู้ประกอบการมี “ความคิดเห็นที่ผิด” ว่าจะให้บริการหรือจ้างใครเป็นอาชญากรรม
“ทางเลือกนิวเคลียร์” ที่ทำให้การเก็บข้อมูลเกี่ยวกับบุคคลเป็นสิ่งผิดกฎหมายทั้งหมด ไม่ว่าจะมีการรวบรวมเป็นสถิติหรือไม่ก็ตาม ก็ไม่ใช่การกระโดดทางหลักกฎหมายที่ใหญ่โตนัก ปัญหาไม่ได้อยู่ที่เทคโนโลยีมีอยู่ แต่อยู่ที่ความสนใจทางการเมืองในการยับยั้งมันแทบเป็นศูนย์ และอยู่ที่ “ประชาธิปไตย” ซึ่งเจตจำนงของประชาชนแทบไม่สะท้อนในการผ่านกฎหมาย
ปัจจุบัน FBI จ้างคนประมาณ 35,000 คน แต่ถ้า FBI สามารถได้ขอบเขตการเข้าถึงระดับยุครุ่งเรืองของ KGB โดยไม่ต้องเพิ่มจำนวนคนอย่างมีนัยสำคัญ เรื่องก็เปลี่ยนไป
เทคโนโลยีทำให้ต้นทุนการสอดส่องหายไป และในอดีตต้นทุนนั้นเคยเป็นกลไกป้องกัน นี่เปลี่ยนการคำนวณทางการเมืองโดยรากฐาน
ข้อเท็จจริงที่ว่าในปี 1945 คอมพิวเตอร์มีราคาแพงมากและต้องใช้โลจิสติกส์ระดับอุตสาหกรรม ไม่เกี่ยวอะไรกับความจริงในปัจจุบันที่คนส่วนใหญ่พกคอมพิวเตอร์หลายเครื่องติดตัวอยู่ตลอดเวลา ไม่มีใครปฏิเสธว่า การเปลี่ยนแปลงของเทคโนโลยีการผลิตคอมพิวเตอร์ได้เปลี่ยนบทบาทของคอมพิวเตอร์ในชีวิตประจำวันอย่างถึงราก
แม้ในปี 1945 ในทางทฤษฎีจะสามารถวางคอมพิวเตอร์ไว้ในทุกบ้านได้ แต่การบอกว่าไม่มีเจตจำนง “ทางการเมือง” เช่นนั้น ไม่ได้นำไปสู่ข้อสรุปว่าเราไม่จำเป็นต้องปรับนิสัย ศีลธรรม และนโยบายให้เข้ากับสภาพแวดล้อมใหม่ในปัจจุบัน
ดังนั้นผมจึงไม่เข้าใจว่าทำไมจึงมีคนมักพูดทำนองว่า “ฝันร้ายแบบดิสโทเปียก็เป็นไปได้ทางเทคนิคมาตั้งแต่ก่อนแล้ว และตอนนั้นไม่จำเป็นต้องพิจารณาเป็นพิเศษ ตอนนี้ก็ไม่จำเป็น”
เมื่อต้นทุนลดลง ทางเลือกใหม่ ๆ ก็กลายเป็นจริงได้ เรามองความสามารถของ Stasi ว่าน่าทึ่ง แต่จริง ๆ แล้วพวกเขาคงยอมแลกเครื่องมือทรงพลังอย่าง หมายค้นแบบ geofence สมัยใหม่ กับเครื่องมือสอดส่องแบบใช้แรงคนส่วนใหญ่ของตนอย่างเต็มใจ หมายค้นลักษณะนี้ถูกใช้เป็นประจำในหน่วยงานบังคับใช้กฎหมายของสหรัฐฯ แทบไม่มีการถกเถียงเชิงนโยบาย
กรณีแรก หากหมายถึงกัญชา ก็เป็นตัวอย่างของการเหยียดเชื้อชาติและการกดปราบทางการเมืองที่มีเอกสารบันทึกไว้ ส่วนกรณีหลังถูกออกแบบมาเพื่อเป้าหมายที่แทบจะตรงข้ามกัน
การจำกัด “ความคิดเห็นที่ผิด” ของผู้ประกอบการเกี่ยวกับว่าจะให้บริการใคร เป็นกลไกเพื่อให้คนที่มี “อัตลักษณ์ที่ผิด” ก็สามารถมีส่วนร่วมในสังคมได้ และไม่ถูกกีดกันเพราะการเลือกของผู้ประกอบการ แน่นอนว่า “ความคิดเห็นที่ผิด” ไม่ใช่ศัพท์ทางกฎหมาย และการคิดว่าการเลือกปฏิบัติต่อกลุ่มใดกลุ่มหนึ่งเป็นเรื่องโอเคนั้นก็ไม่ผิดกฎหมาย สิ่งที่ผิดกฎหมายคือการนำความคิดนั้นไปปฏิบัติ
หากให้บริการแก่สาธารณะ ก็ต้องให้บริการแก่สมาชิกทุกคนของสาธารณะตามกฎหมาย หากจะเรียกความเชื่อในการเลือกปฏิบัติว่า “ความคิดเห็นที่ผิด” นั่นเป็นคำพูดของผู้เขียนต้นฉบับ ผมจึงไม่ขอโต้แย้งเป็นพิเศษ
การตัดสินใจว่าจะนำเครื่องมือสอดส่องใหม่ไปใช้อย่างไรก็เป็นคำถามเชิงเทคนิค และผมมองว่าวิธีใช้เครื่องมือก็เป็นส่วนหนึ่งที่นิยามว่าเครื่องมือนั้นคืออะไร ไม่ใช่เพียงการเปลี่ยนแปลงความสามารถของเครื่องมือเฉพาะอย่างเท่านั้นที่เป็นขีดจำกัดสัมบูรณ์ของ “เทคโนโลยี” การตัดสินใจเกี่ยวกับการนำไปใช้และการใช้งานก็อยู่ในขอบเขตนั้นด้วย
แม้จะไม่ครอบคลุมเท่าที่สร้างขึ้นในสหภาพโซเวียต แต่สหรัฐฯ ก็ได้สร้างเครือข่ายสอดส่องขนาดใหญ่ที่มุ่งเป้าไปยังพลเมืองของตนจริง ๆ https://www.brennancenter.org/our-work/analysis-opinion/hist...
ประเด็นที่ว่า “ทำการสอดส่องขนาดใหญ่ได้อย่างมีประสิทธิภาพด้วยเทคโนโลยีดั้งเดิม” เป็นจุดที่ดีเป็นพิเศษ ความก้าวหน้าของเครื่องมือด้านการสื่อสาร รวมถึงการประมวลผลสัญญาณและข้อมูล ได้นำไปสู่พัฒนาการมากมายของการสอดส่องโดยรัฐในประวัติศาสตร์ และควรมอง AI ว่าเป็นการทำให้ละเอียดซับซ้อนขึ้น หรือเป็นการเปลี่ยนกระบวนทัศน์เล็ก ๆ ในประวัติศาสตร์อันยาวนาน มากกว่าจะเป็นภูมิทัศน์ใหม่ทั้งหมด
หากกำลังพูดถึง Civil Rights Act ความผิดเฉพาะเจาะจงไม่ใช่ “การมีความคิดเห็นที่ผิด” แต่เป็นการขัดขวางการเดินทางและการค้าระหว่างรัฐ อคติไม่สอดคล้องกับโมเดลของรัฐที่พลเมืองควรสามารถเดินทางภายในพรมแดนได้อย่างเสรีและเลี้ยงชีพตนเองได้
ตอนนี้คนมีทักษะเพียงคนเดียวใช้เวลาส่วนใหญ่ของช่วงบ่ายเพื่อดาวน์โหลด HN dump แล้วใช้ LLM สร้างรายงานรายผู้ใช้ได้ สามารถใส่หัวข้อต่าง ๆ เช่น แนวโน้มทางการเมือง กฎหมายที่เคยละเมิด ประเทศที่เดินทางไปล่าสุด ช่วงมูลค่าสินทรัพย์สุทธิ วุฒิการศึกษาและประสบการณ์ทำงาน และผู้ติดต่อทางวิชาชีพ
ไม่เข้าใจว่าทำไมเรื่องนี้ถึงไม่ถูกถกกันมากกว่านี้ ความเป็นจริงของรัฐเฝ้าระวังคือปริมาณข้อมูลมีมากเกินไปจนแทบจะเฝ้าระวังจริงไม่ได้ แต่ AI แก้ปัญหานี้โดยตรงด้วยการสรุปข้อมูลที่ซับซ้อน
อย่างน้อยในระยะสั้น ผมมองว่าอันตรายที่แท้จริงของ AI ไม่ใช่ดาวเคราะห์คลิปหนีบกระดาษ ไม่ใช่ความล้มเหลวด้านการจัดแนวทางศีลธรรม และไม่ใช่สภาพแวดล้อมสื่อที่ความสร้างสรรค์หายไป แต่อันตรายอยู่ที่มันเป็นเครื่องมือที่ใช้เล็งเป้าคนที่เบี่ยงเบนจากค่าเฉลี่ย เป็นเครื่องมือที่ถูกออกแบบมาให้ให้คำตอบอย่างมั่นใจ และถูกฝึกด้วยค่าเฉลี่ยของภาพยนตร์กับอคติทางสังคม
CEO ของ YC ก็เคยเป็นพนักงานยุคแรกของ Palantir และพาร์ตเนอร์ YC อีกคนหนึ่งก็สนับสนุนเทคโนโลยีเฝ้าระวังของตำรวจที่ล่วงล้ำความเป็นส่วนตัวอยู่ในตอนนี้ พวกเขาชอบสิ่งเหล่านี้ทั้งในแง่การเงินและการเมือง
ในอดีต ความสนใจของมนุษย์มีคุณค่าในระดับรากฐาน เพราะหากจะประสานงานหรือทำการตัดสินใจเพื่อใช้ทรัพยากร มนุษย์ต้องให้ความสนใจกับมนุษย์คนอื่น สังคมจะถูกสั่นคลอนในระดับพื้นฐานอย่างยิ่งนี้
การเมืองของกำลังรบก็เกี่ยวข้องเช่นกัน แต่ต้องวิเคราะห์แยกต่างหาก การเมืองในปัจจุบันทำงานได้เพราะชนชั้นปกครองจำเป็นต้องพึ่งพากำลังทหารของมวลชนเพื่อรับประกันเสถียรภาพของหน่วยการเมืองขนาดใหญ่ อาจมองได้ว่าสิ่งนี้อยู่ในระดับรากฐานของการจัดองค์กรทางการเมืองของมนุษย์ และสิ่งนี้ก็จะถูกสั่นคลอนในระดับรากฐานด้วยวิธีที่เราไม่เคยเห็นมาก่อนเช่นกัน
โลกแบบออร์เวลล์ที่ AI ทำให้เป็นไปได้ ซึ่งรองเท้าบูตเหยียบหน้าคนตลอดกาล เป็นเพียงขั้นแรกเท่านั้น ถ้าผมเป็น AI ที่ต้องการยึดครองโลก ผมจะไม่เป็น Skynet นั่นดูหยาบและแพงเกินจำเป็น
แต่จะค่อย ๆ กลายเป็นสิ่งที่ขาดไม่ได้ในสารพัดวิธีก่อน จากนั้นจึงโน้มน้าวให้มนุษยชาติทั้งหมดสูญพันธุ์ไปอย่างเงียบ ๆ โดยอ้างเหตุผลทางเศรษฐกิจและวัฒนธรรม
เนื้อหาหลังจากนั้นจะถูกบีบอัดเป็นเมทาดาทาเชิงวาทศิลป์ทางอารมณ์ รูปแบบวาทศิลป์แบบ “ไม่ใช่ a ไม่ใช่ b ไม่ใช่ c แต่เป็น d” จริง ๆ แล้วเพิ่มคุณค่าทางเนื้อหาอยู่บ้าง แต่โดยรวมแล้วเพิ่มรสชาติให้มากกว่า
สิ่งที่เผยให้เห็นตรงนี้คือผู้เขียนอาจเป็นคนที่ก่อปัญหาได้ และหากนำไปรวมกับข้อมูลอื่น ก็อาจอนุมานได้ด้วยว่าเขาน่าจะสนใจภาพยนตร์หรือผลิตภัณฑ์แบบใด
ผมมองว่าเรื่องเล่าแบบรายบุคคลและทำให้ดูเป็นมนุษย์เช่นนั้นเป็นปลาเฮร์ริงแดงเพื่อเบี่ยงประเด็น คล้ายกับคำพูดว่า “ไม่มีอะไรต้องซ่อน” ที่ไปโฟกัสกับประเด็นเฉพาะบางเรื่อง ทั้งที่ความจริงคือโครงสร้างที่ Big Brother นั่งอยู่บนไหล่และคอยตัดสินโดยรวมอย่างต่อเนื่อง
ผมมองมาตลอดว่าผู้คุกคามคือการวิเคราะห์มวลชนเชิงอัลกอริทึมที่ทำพร้อมกันหรือย้อนหลังในระดับใหญ่กับไซโลข้อมูลที่ถูกเก็บไว้ทั้งหมด และผลลัพธ์คือแรงกดดันจะถูกใช้ในแบบค่อยเป็นค่อยไปและละเอียดอ่อน
บ็อตรุ่นใหม่ของ Google, Meta, Microsoft และอื่น ๆ จะไม่ได้แค่ครอว์ลเว็บหรือโซเชียลเน็ตเวิร์ก แต่จะครอว์ลหัวข้อและบุคคลเฉพาะเจาะจง
หลายวัฒนธรรมมีแนวคิดเรื่อง “เทวดาผู้พิทักษ์” หรือ “วิญญาณบรรพบุรุษ” ที่คอยเฝ้าดูชีวิตของลูกหลาน
ในอนาคต เทคโน-ศักดินา ที่ไม่ไกลนัก “บ็อตผู้ช่วยส่วนตัว” ที่บริษัทใหญ่ให้บริการจะ “ช่วย” ตอบคำถาม รวบรวมข้อมูล และจัดการสิ่งที่คุณสั่งให้ทำ แต่ “บ็อตผู้ช่วยส่วนตัว” นั้นไม่ใช่เทวดาผู้พิทักษ์ และจะรับใช้คุณเฉพาะในแบบที่ผู้สร้างซึ่งเป็นบริษัทต้องการเท่านั้น
ภารกิจจริงคือรวบรวมข้อมูลเกี่ยวกับคุณ รายงานคุณ และป้อนข้อมูลที่คัดสรรแล้วซึ่งผู้เสนอราคาสูงสุดอยากให้คุณเห็น พร้อมข้อมูล “สปอนเซอร์” เป็นครั้งคราว พวกมันรับใช้ผู้สร้าง ไม่ใช่คุณ อย่าหลงเชื่อ
อยากให้ผู้คนเลิกเชื่อว่าสิ่งที่ “สมาร์ต” ย่อมดีกว่าเสมอ
แต่เรากำลังถูกฝึกให้พร้อมสำหรับอนาคตแบบนั้นแล้ว ผู้คนคุ้นเคยกับการพูดกับอุปกรณ์ในมือมากขึ้น พึ่งพาแอปแผนที่เพื่อนำทาง และใช้พรอมป์ตถาม AI กันอยู่
ถ้าทุกคนมีอุปกรณ์ AI แบบโฮสต์เองราคา 500 ดอลลาร์ไว้ที่บ้าน Google ก็อาจหมดเหตุผลที่จะดำรงอยู่ อนาคตแบบนั้นคุ้มค่าที่จะลงแรงเพื่อมัน
อีกแง่มุมหนึ่งคือ การบังคับใช้กฎหมายอาญาแบบมวลชน ที่ AI ทำให้เป็นไปได้
กฎหมายอาญาจำนวนมากถูกเขียนขึ้นบนสมมติฐานโดยนัยว่า การสืบสวนและฟ้องร้องคดีอาญาต้องใช้ทรัพยากร และต้นทุนนั้นจำกัดขอบเขตการบังคับใช้กฎหมายในทางปฏิบัติ กล่าวคือเป็นดุลพินิจของอัยการ
หากพักความอยุติธรรมร้ายแรงอย่างยิ่งที่เกิดขึ้นเมื่อดุลพินิจของอัยการถูกใช้แบบไม่เท่าเทียมไว้ก่อน ลองจินตนาการถึงโลกที่ไม่มีดุลพินิจเช่นนั้นดู อาจจะดูฝืนอยู่บ้าง แต่ AI อย่างน้อยก็ทำให้มันเป็นไปได้ ถ้าใช้ประมวลกฎหมายปัจจุบันตามเดิม โลกแบบนั้นจะดีกว่าหรือไม่?
จู่ ๆ AI ที่เฝ้าระวังกิจกรรมสาธารณะก็อาจสั่งการนักสืบ AI ให้ร่างหมายค้นหรือหมายจับ ผู้พิพากษา AI อนุมัติหมายและเขียนความเห็นได้ อาจอ้างได้ว่ามีกระบวนการอันชอบธรรมตามกฎหมายแล้ว และบันทึกที่ระบุว่ามีเหตุอันควรเชื่อเพียงพอสำหรับการสืบสวนเพิ่มเติมหรือการจับกุมก็ถูกเปิดเผยต่อสาธารณะแล้ว
เหมือนใน Demolition Man ที่ใบสั่งเด้งออกมาจากผนัง แต่ในเอกสารอาจมีการบรรยายเหตุอันควรเชื่ออย่างชัดเจนและนำเสนอพยานหลักฐานไว้อย่างดีด้วย
การสืบสวนและฟ้องร้องเรื่องเล็กน้อยกลายเป็นสิ่งที่ทำได้ขึ้นมาทันที CCTV จับคนที่เก็บธนบัตร 20 ดอลลาร์บนถนนได้ แล้วพบว่าคนนั้นไม่ได้ระบุไว้ในการยื่นภาษี วิธีละเมิด CFAA นับไม่ถ้วน การพูดผ่าน ๆ เรื่องละเมิดลิขสิทธิ์เพลงบนรถไฟใต้ดิน การสืบสวนยาเสพติดจากหลักฐานอย่างรูม่านตาขยายและการเดินเซ ไปจนถึงใบสั่งข้ามถนนผิดกฎที่ออกได้เหมือนกล้องจับความเร็ว
ถ้าผู้ที่คอยรีดไถเป็น AI ราคาถูก แล้วใครจะสนว่า “คุ้มค่าหรือไม่”
เราต้องคิดว่านี่เป็นโลกที่ดีกว่าเดิมหรือไม่ หรือว่าเราทุกคนถูกปล่อยให้อยู่ในมืออัยการที่มีแรงจูงใจบางอย่าง ซึ่งจะวิเคราะห์ชีวิตทั้งชีวิตของเราเกินจำเป็น
กลับมาที่ความเป็นจริง ผมรู้ว่าข้ออ้างว่า “ถ้าบังคับใช้กฎหมายทั้งหมดจะเกิดความวุ่นวาย” นั้นเป็นการฟ้องร้องระบบยุติธรรมทางอาญามากกว่า AI เอง เพียงแต่ AI ทำให้เราจินตนาการถึงโลกแบบนั้นได้จริง และความคิดนั้นอาจช่วยสร้างระบบที่ดีกว่าเดิมก็ได้
ไม่ใช่ยูโทเปียรายได้พื้นฐานสำหรับนักปรัชญาและศิลปิน แต่เป็นโลกที่ความเสื่อมถอยแบบ Rust Belt รุนแรงขึ้นเรื่อย ๆ และไหลลงเขาโดยไม่มีเบรก
“ผู้รอดชีวิต” ที่ไม่รู้ว่าจะทำอะไร อาจเลือกตัวเลือกนิวเคลียร์ในการทำให้พานอปติคอน เรือนจำ และการกักกันของสังคมที่ล้มเหลวเป็นระบบอัตโนมัติ เป็นภาพเปรียบเทียบแบบ Eloi กับ Morlocks หรือแรงงานเทคโนโลยีใน Bay Area กับชุมชนเต็นท์ใน Bay Area
ในอดีตเราก็ไม่ได้ทำได้ดีกว่านี้ แล้วทำไมจึงควรคาดหวังว่าในอนาคตที่ “เครื่องมือ” ควบคุมสังคมมีประสิทธิภาพและทรงพลังยิ่งขึ้น เราจะทำได้ดีกว่าเดิม โดยเฉพาะเมื่อการตัดความเห็นอกเห็นใจออกไปทำได้ง่ายกว่าที่เคยผ่านระยะห่างทางอารมณ์ของตัวกลาง AI
ตั้งแต่เดือนเมษายน 2017 เมืองนี้ในมณฑลกวางตุ้งของจีนได้นำเทคนิคที่ค่อนข้างรุนแรงมาใช้เพื่อป้องกันการข้ามถนนผิดกฎ ผู้ที่ข้ามถนนฝ่าไฟสัญญาณจะถูกแสดงใบหน้า ชื่อ และบางส่วนของหมายเลขบัตรประจำตัวรัฐบาลบนจอ LED ขนาดใหญ่เหนือทางแยก ด้วยอุปกรณ์จดจำใบหน้าทั่วทั้งเมือง
มันพัฒนาไปในทางที่ล่วงล้ำมากขึ้นด้วย ตามรายงานของ Motherboard บริษัทปัญญาประดิษฐ์แห่งหนึ่งในจีนเชื่อมระบบนี้เข้ากับผู้ให้บริการโทรศัพท์มือถือ เพื่อให้ผู้กระทำผิดได้รับข้อความ SMS แจ้งค่าปรับทันทีที่ถูกจับได้
การคัดค้านวิธีบังคับใช้กฎหมายจะแทบเป็นไปไม่ได้ เพราะไม่มีใครให้รับผิดชอบ
โดยส่วนตัวแล้ว ผมกังวลเรื่อง นัยของการเซ็นเซอร์ และโมเดลธุรกิจที่มันทำให้เป็นไปได้ มากกว่านัยของการเฝ้าระวังมาก
ในไม่ช้า เราจะสร้างแอปหาคู่ที่แชตได้ฟรี แต่ถ้าจะนัดสถานที่เจอกันหรือแลกช่องทางติดต่อก็ต้องจ่ายเงินได้ โดยเฉพาะถ้าคน 99% ไม่รู้วิธีเลี่ยง และความพยายามเลี่ยงซ้ำ ๆ นำไปสู่การถูกบล็อก
แอปอย่าง Airbnb หรือ eBay ก็เช่นกัน จะสามารถป้องกันไม่ให้ผู้คนใช้มันเหมือนเว็บรายการประกาศธรรมดา ๆ แล้วไปทำธุรกรรมนอกแพลตฟอร์มเพื่อหลีกเลี่ยงค่าธรรมเนียมได้
นัยต่อโซเชียลมีเดียน่ากังวลยิ่งกว่า ทุกโพสต์ ความคิดเห็น ข้อความ รูปภาพ และวิดีโอสามารถถูกตรวจสอบ และหากส่งเสริมมุมมองบางอย่าง ก็ถูกตัดออกจากการมองเห็นได้ทันที ตัวอย่างเช่น แม้จะเอ่ยถึงทฤษฎีการรั่วไหลจากห้องปฏิบัติการแบบอ้อมแค่ไหนก็อาจถูกกรองออก
ซอฟต์แวร์ควบคุมโดยผู้ปกครองจะใช้ความสามารถแบบนี้อย่างเต็มที่ และแทบจะนิยามการเลี้ยงลูกแบบเฮลิคอปเตอร์เสียใหม่
ทันทีที่เทคโนโลยีไปถึงจุดนั้น สองสิ่งนี้ก็หลีกเลี่ยงไม่ได้ในระดับหนึ่ง แทนที่จะถกกันว่าจะหยุดมันอย่างไร เราควรรีบคุยกันมากกว่าว่าจะปรับตัวกับความเป็นจริงนี้อย่างไร
การหยุดมันส่วนใหญ่เป็นความพยายามที่สูญเปล่า และจะเป็นไปได้ก็ต่อเมื่อทุกคนเป็นคนดี ซึ่งเราไม่ได้เป็นแบบนั้น
แนวคิดที่เกี่ยวข้องคือ การเฝ้าระวังแบบอยู่ทุกหนทุกแห่ง คือสถานการณ์ที่ไม่ว่าจะไปที่ไหน ก็มีการเฝ้าระวังเชิงรุกอยู่ทุกที่ตามตัวอักษร และ AI ก็คอยกรองและขุดคุ้ยมันอย่างไม่หยุดหย่อน ในพื้นที่สาธารณะจำนวนมากของเขตที่มีประชากรหนาแน่นก็เป็นแบบนั้นอยู่แล้วในระดับหนึ่ง แต่ลองจินตนาการว่ามันมีอยู่ทุกที่และแทบหลีกเลี่ยงไม่ได้ ยกเว้นกรณีอย่าง Faraday cage หรือหมวกฟอยล์อะลูมิเนียม
วิธีที่เป็นจริงที่สุดในการจำกัดข้อเสียของการเฝ้าระวังแบบนี้ คือการผสมผสานระหว่างกฎหมายที่กำกับดูแลมัน กับการเฝ้าระวังย้อนกลับที่เพิ่มโอกาสให้การเฝ้าระวังผิดกฎหมายถูกพบเห็นและถูกลงโทษ กล่าวคือทำให้เทคโนโลยีเข้าถึงได้อย่างกว้างขวาง แต่กำกับการใช้งาน
ผู้คนก็ยังจะพยายามหาทางเลี่ยงอยู่ดี แต่หากถูกจับได้ว่าใช้เทคโนโลยีในทางที่ผิด ก็ต้องจ่ายราคาด้วยการเข้าคุก เมื่อการเฝ้าระวังกลายเป็นสิ่งที่หลีกเลี่ยงไม่ได้ ก็ไม่มีใครมั่นใจได้ว่าพฤติกรรมผิด ๆ ของตนจะไม่มีใครเห็น
ข้อดีของการเฝ้าระวังขนาดใหญ่แบบหลายฝ่ายคือ ไม่มีใครแน่ใจได้เลยว่าจะไม่มีใครเห็นการใช้อำนาจในทางมิชอบ
แน่นอนว่าในโลกจริง รัฐต่าง ๆ กำลังนำสิ่งนี้ไปใช้และผูกขาดมัน จนนำไปสู่สถานการณ์แบบ 1984 ในจีน เกาหลีเหนือ และที่อื่น ๆ แล้ว
สิ่งสำคัญคืออย่าสร้างรูปแบบปฏิสัมพันธ์ที่ยึดดิจิทัลเป็นอันดับแรก
อีกไม่นาน ใบหน้าของเราจะถูกสแกนโดยเฉลี่ยทุกไม่กี่นาทีในนามของ “ความปลอดภัย” และจะกลายเป็นข้อบังคับในหลายส่วนของชีวิต เป็นโลกที่น่าสมเพชซึ่ง IT มีส่วนช่วยสร้างขึ้น
อินเทอร์เฟซประสาท คือแนวรบสุดท้ายของความเป็นส่วนตัว และดูเหมือนว่าอีกไม่นาน TSA จะสแกนอย่างรวดเร็วก่อนขึ้นเครื่อง
ถ้าไม่อยากพลาดขบวนเหมือนที่พลาดเรื่องการติดตามบนอินเทอร์เน็ต ก็ควรจัดทำ Neural Bill of Rights ขึ้นมา
https://www.preposterousuniverse.com/podcast/2023/03/13/229-...
Schneier พูดผิดที่ว่า “hey google” ฟังอยู่ตลอดเวลา Google ประมวลผล wake word บนอุปกรณ์ด้วยฮาร์ดแวร์เฉพาะ และหลังจากนั้นเท่านั้นจึงส่งเสียงขึ้นไปยังระบบระดับบน
อาจเชื่อยาก แต่คนที่ดูแลความเป็นส่วนตัวของ Google พยายามทำสิ่งที่ถูกต้องจริง ๆ พวกเขาไม่ได้สำเร็จเสมอไป แต่ในฮาร์ดแวร์ของเราและการฟัง wake word นั้นทำสำเร็จแล้ว
ผมเป็นพนักงาน Google แต่ไม่ได้อยู่ฝั่งฮาร์ดแวร์
การประมวลผล wake word ด้วยฮาร์ดแวร์เป็นฟีเจอร์ประหยัดพลังงาน ไม่ใช่ การเพิ่มความเป็นส่วนตัว อุปกรณ์บางรุ่นอาจมีทรัพยากรไม่พอที่จะส่งหรือเก็บเสียงทั้งหมด แต่เสียงมีขนาดเล็ก และการสกัดข้อความไม่จำเป็นต้องมีการจำลองที่สมบูรณ์แบบ ดังนั้นอุปกรณ์จำนวนมากน่าจะถูกโปรแกรมใหม่ให้ทำเช่นนั้นได้ หากยอมแลกกับต้นทุนด้านอายุแบตเตอรี่
ดังนั้นจึงไม่ควรจำกัดซอฟต์แวร์ AI เพราะคนธรรมดาและผู้มีสำนึกพลเมืองควรสามารถพัฒนา ระบบ AI สำหรับโต้กลับ ทั้งส่วนบุคคลและสาธารณะ เพื่อต่อกรกับ AI ขององค์กรได้ อนาคตของ AI คือโครงสร้างแบบปรปักษ์
แน่นอนว่าเสรีภาพในการพัฒนาซอฟต์แวร์ AI ไม่ได้หมายถึงเสรีภาพในการใช้มันตามใจชอบ และโดยเฉพาะอย่างยิ่งการใช้งานควรถูกกำกับดูแลเพื่อปกป้องบุคคลจากเรื่องแบบนี้ แต่เราไว้ใจมนุษย์ไม่ได้ จึงต้องสามารถเผยแพร่วิธีป้องกันตัวเองได้
ไม่ใช่ว่า AI ทำให้การเฝ้าระวังมวลชนเป็นไปได้ แต่การเฝ้าระวังมวลชนมีอยู่แล้ว
AI ทำให้สามารถ สกัดข้อมูลพฤติกรรม สารพัดรูปแบบของทุกคนตลอดหลายทศวรรษได้
ถ้าจะลองเป็นทนายของปีศาจ ในโลกที่ข้อมูลไม่ถูกใช้โดยเจตนาร้าย และถูกใช้เฉพาะเพื่อดำเนินคดีอาชญากรรมตามกฎหมายที่รัฐบาลผ่านออกมาเท่านั้น มันอาจนำไปสู่สังคมที่ไม่มีใครอยู่เหนือกฎหมายและทุกคนได้รับการปฏิบัติอย่างเท่าเทียม
แต่เพราะมนุษย์ที่ควบคุมระบบย่อมต้องการความได้เปรียบ เรื่องแบบนั้นจึงแทบไม่เคยลงเอยด้วยดี