การเฝ้าระวังไม่ใช่ความปลอดภัย: แถลงการณ์เกี่ยวกับภัยคุกคามความเป็นส่วนตัวล่าสุดของสหราชอาณาจักร [pdf]
(signal.org)- ข้อเรียกร้องให้สแกนเนื้อหาทั้งหมดบนอุปกรณ์ทุกเครื่องที่จำหน่ายหรือใช้งานในสหราชอาณาจักรตามเกณฑ์ประเมินภาพเปลือย ไม่ใช่การ คุ้มครองเด็ก แต่เป็นมาตรการที่ทำให้ความเป็นส่วนตัวและสิทธิในการสื่อสารของทุกคนตกอยู่ในความเสี่ยง
- การผสานการยืนยันอายุเข้ากับการสแกนเนื้อหา จนกลายเป็นการบังคับให้ผู้พำนักอาศัยทุกคนในสหราชอาณาจักรต้องพิสูจน์อายุหรือยอมให้สแกนเนื้อหาทั้งหมด คือโครงสร้างที่ตั้งเงื่อนไขอันอันตรายต่อการใช้ สิทธิขั้นพื้นฐานในการสื่อสาร
- ศักยภาพด้านการเฝ้าระวังและการเซ็นเซอร์ในวงกว้าง เมื่อถูกสร้างขึ้นแล้ว จะไม่หยุดอยู่ในขอบเขตแคบ ๆ แต่จะขยายเป็นเครื่องมือสำหรับเซ็นเซอร์และเฝ้าระวังสิ่งที่ถูกมองว่าเป็น ภัยคุกคาม หรือ เนื้อหาที่เป็นอันตราย ทั้งในสหราชอาณาจักรและต่างประเทศ
- แม้จะให้คำมั่นว่าจะทำงานแบบ on-device ก็ยังไม่ใช่มาตรการป้องกันที่เพียงพอ และขอบเขตของการสแกนก็ยังอยู่ภายใต้อำนาจดุลยพินิจของรัฐ ที่อาจเปลี่ยนจากการตรวจจับภาพเปลือยในวันนี้ไปเป็น ถ้อยแถลงทางการเมือง ในวันหน้า
- ความปลอดภัยของเด็กที่แท้จริงขึ้นอยู่กับงบประมาณด้านการศึกษาอย่างเพียงพอ บริการสังคมที่เข้มแข็ง และมาตรการความปลอดภัยที่มีความหมายต่อเทคโนโลยี AI และแพลตฟอร์มต่าง ๆ ไม่ใช่ โครงสร้างพื้นฐานการเฝ้าระวังที่มองไม่เห็น ซึ่งถูกเปิดใช้งานเป็นค่าเริ่มต้น
ประเด็นหลัก
- เด็กควรได้รับการคุ้มครองและเลี้ยงดูอย่างปลอดภัย ไม่ใช่กลายเป็นเป้าหมายของการเฝ้าระวัง การตัดงบประมาณ และการปกปิด
- ทุกคนรวมถึงเด็กมีสิทธิมนุษยชนด้านความเป็นส่วนตัว และข้อเรียกร้องของรัฐบาลสหราชอาณาจักรกำลังละเมิดสิทธินี้
- ข้อเรียกร้องของรัฐบาลสหราชอาณาจักรคือการบังคับให้สแกนเนื้อหาทั้งหมดบนอุปกรณ์ทุกเครื่องที่จำหน่ายหรือใช้งานในสหราชอาณาจักรตามเกณฑ์ประเมินภาพเปลือย
- แนวทางนี้คือการรวมการยืนยันอายุเข้ากับการสแกนเนื้อหา
- เป็นมาตรการที่ไม่สามารถปกป้องเด็กได้ และกลับทำให้ทุกคนตกอยู่ในความเสี่ยง
- ส่งผลให้ความเป็นเจ้าตลาดและอำนาจควบคุมข้อมูลส่วนบุคคลของ Apple, Google, Microsoft แข็งแกร่งขึ้น
มาตรการที่เสนอและความเสี่ยง
- ข้อเสนอที่บังคับให้ผู้พำนักอาศัยทุกคนในสหราชอาณาจักรต้องพิสูจน์อายุหรือยอมให้สแกนเนื้อหาทั้งหมด เพื่อจะใช้สิทธิขั้นพื้นฐานในการสื่อสาร เป็นข้อเสนอที่อันตราย
- ศักยภาพด้านการเฝ้าระวังและการเซ็นเซอร์ในวงกว้าง เป็นเทคโนโลยีที่ไม่เคยหยุดอยู่ในขอบเขตจำกัด ไม่ว่าคำมั่นของผู้เริ่มต้นจะฟังดูจริงใจเพียงใดก็ตาม
- เมื่อถูกสร้างขึ้นแล้วก็มีแนวโน้มจะขยายตัว
- เป็นเครื่องมืออันตรายสำหรับการเซ็นเซอร์และเฝ้าระวังสิ่งที่ถูกมองว่าเป็น “ภัยคุกคาม” หรือ “เนื้อหาที่เป็นอันตราย” ทั้งในสหราชอาณาจักรและต่างประเทศ
- คำมั่นว่าระบบจะทำงานเฉพาะบนอุปกรณ์ไม่ใช่เหตุผลที่เพียงพอให้วางใจ
- ไม่ว่าจะทำงานภายในอุปกรณ์ ในตัวกล้อง หรือที่ใดก็ตาม ขอบเขตยังคงถูกกำหนดโดยการตัดสินใจของรัฐและข้อกำหนดการห้ามต่าง ๆ
- วันนี้อาจเป็นการตรวจจับภาพเปลือย พรุ่งนี้อาจกลายเป็นการตรวจจับถ้อยแถลงทางการเมือง
- ในทางประวัติศาสตร์ เทคโนโลยีประเภทนี้มักขยายขอบเขตของเนื้อหาและบุคคลที่ถูกเฝ้าระวังออกไปในลักษณะอำนาจนิยม
- เครื่องมือเหล่านี้อาจถูกใช้เพื่อรายงานผู้คนต่อหน่วยงานรัฐโดยอัตโนมัติ
- หน่วยงานบังคับใช้กฎหมายก็เคยเรียกร้องอำนาจในลักษณะกว้างคล้ายกันมาแล้ว และเป็นอำนาจที่มีความเสี่ยงสูงต่อการถูกนำไปใช้ในทางที่ผิดในสภาพแวดล้อมทางการเมืองที่ยิ่งไม่มั่นคง
- ความปลอดภัยของเด็กใกล้เคียงกับแนวคิดเรื่องการศึกษาที่ได้รับการสนับสนุนอย่างดี บริการสังคมที่แข็งแกร่ง และมาตรการความปลอดภัยที่มีความหมายต่อเทคโนโลยี AI และแพลตฟอร์มต่าง ๆ
- สิ่งที่รัฐบาลสหราชอาณาจักรต้องการคือโครงสร้างพื้นฐานการเฝ้าระวังที่มองไม่เห็นและเปิดใช้งานเป็นค่าเริ่มต้น
- เป็นโครงสร้างที่อาจถูกเร่งผลักดันให้เป็นกฎหมายภายใต้ข้ออ้างที่แฝงความเสแสร้ง
- เป็นแนวทางที่ขาดการพิจารณาทั้งต่อความต้องการที่แท้จริงของเด็กซึ่งถูกอ้างว่าเป็นผู้ได้รับการปกป้อง และต่อผลลัพธ์อันเลวร้ายและกว้างขวางที่จะตามมาในความเป็นจริง
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
บางครั้งก็สงสัยว่าคนในอุตสาหกรรมเทคโนโลยีที่สร้างสิ่งอย่าง secure boot, attestation, DRM พอมาถึงจุดจบแบบนี้แล้ว มองว่ามันเป็นสิ่งที่ หลีกเลี่ยงไม่ได้ แบบที่ผู้สนับสนุนโอเพนซอร์สมองกันมาตลอดหรือเปล่า
ในเมื่อใช้มาตรการทางเทคนิคย้ายอำนาจตัดสินใจขั้นสุดท้ายจากผู้ใช้ไปสู่บริษัท แล้วพวกเขาคิดจริงหรือว่านักการเมืองจะไม่สามารถใช้มาตรการทางการเมืองย้ายอำนาจควบคุมนั้นมาเป็นของตัวเองได้?
ตอนที่ล็อกระบบเพื่อรีดค่าธรรมเนียม App Store 30% ใช้การตรวจแอปบังคับใช้กฎ และถึงขั้นแสดงให้เห็นการเซ็นเซอร์เว็บไซต์อย่าง Tumblr แล้ว พวกเขาคิดจริงหรือว่านักการเมืองจะไม่อยากได้อำนาจแบบเดียวกันในการตั้งกฎและเซ็นเซอร์?
หรือคิดว่านายจ้างจะช่วยขัดขวางการย้ายอำนาจนั้นให้ ว่าบริษัทระดับล้านล้านจะกลายเป็นกองโจรแบบ Che Guevara ที่จะโค่นล้มระบบซึ่งทำให้ตัวเองกลายเป็นบริษัทระดับล้านล้าน?
ท่าทีมันคล้ายกับการมองว่าเรื่องอย่าง DRM หรือ remote attestation จะเป็นแนวปฏิบัติทางธุรกิจมาตรฐานหรือไม่ ไม่ใช่สิ่งที่ตัวเองมีสิทธิ์ตัดสินใจ แค่ยอมรับว่าความจริงมันเป็นแบบนั้น
คล้ายคนสองประเภทเวลามองกฎหมาย ฝ่ายหนึ่งพูดว่า “นี่คือกฎหมาย ก็ต้องทำตาม” ส่วนอีกฝ่ายพูดว่า “กฎหมายนี้ไร้สาระ ต้องเปลี่ยนมัน”
มันยังเหมือนความต่างระหว่างคนที่เห็นไฟเขียวคนเดินแล้วข้าม กับคนที่ดูรถก่อนแล้วถ้าไม่มีรถก็ข้าม ฝ่ายแรกบอกว่าต้องทำตามกฎจราจร ส่วนฝ่ายหลังมองว่าถ้าดูแค่ไฟแดงไฟเขียวของกฎหมายก็คงเอาชีวิตไม่รอด เพราะไฟเขียวไม่ได้แปลว่าปลอดภัยเสมอไป และถ้าไฟแดงแต่ไม่มีรถ ก็ไม่มีเหตุผลว่าทำไมจะข้ามไม่ได้
ต่อให้มีข้อกังขาทางจริยธรรมมากแค่ไหน คนที่ยอมทิ้งงานเพื่อยืนหยัดกับมุมมองของตัวเองก็ยังมีน้อยมาก
ผมคิดว่าเราเรียนรู้เรื่องนี้ได้มากที่สุดจากการอ่านสิ่งที่คนฉลาดและมีความสามารถในบริษัทยักษ์ใหญ่สายเทคเขียนไว้ กรอบคิดของพวกเขามักมองว่ามันเป็น การแลกเปลี่ยน กับแรงกดดันทางสังคมที่ค่อยๆ มาอย่างช้าๆ แต่หลีกเลี่ยงไม่ได้ และจะบรรเทาได้ด้วยการยอมแลกเสรีภาพบางส่วน
เพราะงั้นผมไม่ได้คิดว่าพวกเขาไม่เข้าใจประเด็นข้างต้น ตรงกันข้าม น่าจะใกล้เคียงกับการที่พวกเขาไม่เห็นวิธีที่เป็นจริงในการก้าวไปสู่สิ่งที่ดีกว่า ร่ำรวยกว่า หรือซับซ้อนกว่ามากขึ้น โดยไม่ต้องยอมแลกแบบนั้น ไม่ว่าจะเป็นสำหรับเทคโนโลยี บริษัท หรืออาจรวมถึงคนทั่วไปด้วย
เหมือนพวกเขามองเห็นทางแยกของอนาคตแล้ว และไม่ว่าพวกเขาจะทำเอง หรือปล่อยให้สถานการณ์แย่ลงจนมีคนอื่นทำ ก็ไม่มีเส้นทางไหนที่จะจบลงโดยไม่มีข้อจำกัดทางเทคนิค
แนวประมาณว่า “secure boot ปิดได้ เลยไม่มีปัญหา” ซึ่งก็จริง แต่ผลคือจะมีสิ่งต่างๆ มากขึ้นเรื่อยๆ ที่รันไม่ได้อยู่ดี เช่น ใช้แอป iOS บน Mac ไม่ได้
สุดท้ายการอยู่ใน สวนปิดล้อม ที่นุ่มสบายจะกลายเป็นมาตรฐานเหมือนที่เกิดกับโทรศัพท์ไปแล้ว และถ้าออกนอกนั้น แอปที่ทำงานมีประโยชน์จริงๆ ก็จะแค่บล็อกคุณ
อีกเหตุผลหนึ่งของ attestation คือ “บริษัทต้องยืนยันว่าคุณเป็นคนที่คุณอ้างว่าเป็น” ซึ่งก็จริง แต่ถ้าบริษัทได้ประโยชน์จากอำนาจนั้น พวกเขาก็จะใช้มันในทางที่ผิด
ถ้าเรียงลำดับก็จะเป็นแบบนี้
ขั้นต่อไปมีแนวโน้มสูงว่าจะเป็นการทำให้ระบบปฏิบัติการส่วนใหญ่และอุปกรณ์เก่าๆ กลายเป็นสิ่งผิดกฎหมายโดยพฤตินัย เป็นข่าวดีมากสำหรับ Google, Apple, Microsoft และเป็นข่าวร้ายสำหรับ Linux กับระบบปฏิบัติการทางเลือกต่างๆ ควรจำยุคที่โรงเรียนเคยแจก Raspberry Pi กันไว้
เพิ่มเติมคือ ไม่มีใครเข้าใจจริงๆ ว่าวิศวกรรมซอฟต์แวร์ทำงานอย่างไร แต่กลับเรียกร้องให้ ทำระบบนี้ให้เสร็จฟรีภายใน 3 เดือน ช่างเป็นการจัดการงานที่ยอดเยี่ยมจริงๆ
แค่สร้างเทคโนโลยีใหม่ที่แทบจะขาดไม่ได้ และอุปกรณ์เก่ารันไม่ได้ก็พอ อัปเดตซะ ไม่งั้นก็เลิกมีตัวตนทางสังคมไป
โทรศัพท์มือถือกับอีเมลดูจะเข้าใกล้การเป็น “ของจำเป็น” แบบนั้นอยู่แล้ว อย่างน้อยก็จากมุมของผมในฐานะผู้ใช้อินเทอร์เน็ตที่ไม่ใช้มือถือ/อีเมล เวลาเขาตอบว่า “ไม่มีทั้งโทรศัพท์และอีเมล” ก็ไม่มีใครเชื่อ ผมนี่แหละคนที่เป็นอิสระที่สุดที่ยังมีชีวิตอยู่ ถ้าพวกเขาไม่เชื่อก็เป็นปัญหาของพวกเขา
หรือถ้าเป็นคนมีความอดทน ก็ยังมี Tor กับตัวจัดการดาวน์โหลด หรืออาจเป็นแกลเลอรีรูปและวิดีโอแบบ static-generated ที่กระจายอยู่ตามเว็บไซต์เล็กๆ นับพันแห่งก็ได้
ข้อเสียของการผลักผู้คนไปอยู่ในมุมมืดคือกฎเกณฑ์ทั้งหมดจะหายไป และรายได้ภาษีบางส่วนก็หายไปด้วย บางที การสูญเสียรายได้ภาษี นี่แหละอาจเป็นวิธีดึงความสนใจของพวกเขา
Signal ควรยืนหยัดตอบโต้ให้หนัก ๆ น่าจะพูดแบบนี้ได้
รัฐบาลกำลังจะฝังสายสืบไว้ในโทรศัพท์ทุกเครื่อง ติดอุปกรณ์ดักฟังไว้ในห้องนอนทุกห้อง และแอบฟังทุกครัวเรือนทุกเย็น ทุกห้องตรวจ ทุกห้องให้คำปรึกษา ทุกผับ ทุกถนน และทุกร้านค้า
เมื่อสายสืบคนนั้นรายงานกลับไปยังส่วนกลาง ตำรวจอาจมาถึงบ้านเพราะคำที่คุณพิมพ์ถึงคนรักก็ได้
จะมี Stasi เทียม อยู่ในเดสก์ท็อป แล็ปท็อป แท็บเล็ต กล้อง และโทรศัพท์ทุกเครื่อง อยู่ทุกหัวมุมและทุกห้องนั่งเล่น จะไม่มีข้อยกเว้นจากสายตานั้น
เครื่องดูดฝุ่นของคุณพร้อมจะรายงานกลับบ้านหรือยัง?
บางทีก็ถูกบล็อกยาวเป็นสัปดาห์ ส่วนอย่างอื่นพอใช้ VPN แล้วก็ยังพอใช้งานได้
เราเคยผ่านเรื่องแบบนี้มาแล้ว วิธีเดียวที่จะชนะเกมนี้คือไม่เล่นเกมนี้ โดยเฉพาะกับรัฐบาล เพราะทันทีที่เริ่มเล่นก็แพ้แล้ว
การสอดส่องแทนที่ภัยคุกคามส่วนบุคคลหรือเฉพาะจุดที่อ้างกันไว้ ด้วยภัยคุกคามที่ชัดเจน อันตราย กว้างขวาง และแทบย้อนคืนไม่ได้อย่างเป็นรูปธรรม มันสะสมคานงัดแบบรวมศูนย์ต่อทุกแง่มุมทั้งทางตรงและทางอ้อมของชีวิตเราอย่างต่อเนื่อง
ความรู้คืออำนาจ การบังคับให้ชีวิตภายในของเราเปิดเผยออกมาทำให้แต่ละคนอยู่ในจุดที่เปราะบาง
ต่อให้ “ยังไม่ถูกนำไปใช้ในทางมิชอบ” ตัวภัยคุกคามที่อาจเกิดขึ้นนั้นเองก็พรากเสรีภาพในการคิดและการกระทำไปจริง ๆ
นี่คือการใช้อำนาจเกินขอบเขตอย่างร้ายแรง
รัฐจะกลายเป็นภัยคุกคามทางเดียวที่ถูกขยายจนสูงสุดต่อพลเมืองทุกคน และทำลายความรู้สึกที่ว่ารัฐทำงานเพื่อประชาชน
การวิเคราะห์แบบผนวก AI จะขยายทั้งภัยคุกคามนั้นและความเสียหายทั้งเชิงรับและเชิงรุกแบบทวีคูณ
หนึ่งในแนวคิดด้านจริยธรรมและความปลอดภัยที่ชาญฉลาดที่สุดในประวัติศาสตร์คือสิ่งนี้: “สิทธิของประชาชนที่จะมั่นคงปลอดภัยในร่างกาย ที่อยู่อาศัย เอกสาร และทรัพย์สินของตน จากการค้นและยึดโดยไม่เป็นธรรม จะต้องไม่ถูกละเมิด”
ประชาธิปไตยที่ติดตั้งคานงัดของ เผด็จการเบ็ดเสร็จ คือการบิดเบือนและคุกคามประชาธิปไตยอย่างที่สุด ประชาธิปไตยทำงานได้ก็ต่อเมื่อยอมรับว่ารัฐบาลคือภัยคุกคามที่ใหญ่ที่สุดต่อเสรีภาพ การจำกัดอำนาจรัฐเหนือพลเมืองอย่างเข้มงวดเท่านั้นคือการป้องกันหนึ่งเดียว
รัฐบาลผลักดันการสอดส่องมาตั้งแต่ยุคแรกของอินเทอร์เน็ตสำหรับผู้บริโภค
ตัวอย่างแรกสุดที่ฉันจำได้คือ Clipper Chip มันตายไปภายใน 3 ปีหลังถูกเสนอ
ไอเดียโง่ ๆ ครั้งนี้ก็คงล้มเหลวแบบเดียวกัน แถมยังเป็นสิ่งที่นายกรัฐมนตรีผู้เลื่อนตำแหน่งเพื่อนสนิทมาก ๆ ของหนึ่งในคนล่วงละเมิดเด็กที่อื้อฉาวที่สุดในช่วงหลัง ขึ้นเป็นเอกอัครราชทูตทั้งที่ขัดกับคำแนะนำของข้าราชการ เสนอขึ้นมาด้วย
จะให้ทุกระบบปฏิบัติการบนโลกทำการเปลี่ยนแปลงครั้งใหญ่ภายใน 3 เดือนเหรอ? ฟังดูไม่ใช่เรื่องที่มีความเป็นไปได้แม้แต่นิดเดียว
เดิมทีฉันไม่ได้เกลียด Starmer เท่าไร แต่เรื่องนี้ทำให้ในที่สุดก็ขึ้นขบวน ต่อต้าน Starmer แล้ว
เป็นมรดกทางการเมืองที่เลวร้ายมาก เป็นความพยายามน่าเศร้าที่จะเอาผลมากที่สุดด้วยต้นทุนน้อยที่สุด แถม 3 เดือน? บางทีนั่นอาจเป็นช่วงเวลาที่เขาคิดว่าตัวเองจะยังเป็นนายกฯ อยู่ก็ได้
มันคือ แรตเช็ต ที่ค่อย ๆ ขันแน่นขึ้นเรื่อย ๆ การตรวจสอบฝั่งไคลเอนต์ การรับรองจากระยะไกลเพื่อให้มั่นใจว่าการตรวจสอบฝั่งไคลเอนต์นั้นทำงานถูกต้อง การยืนยันตัวตนดิจิทัล และอื่น ๆ อีกมาก
น่าชื่นชมที่ Signal ออกมายืนอยู่อีกฝั่งของประเด็นนี้อย่างรวดเร็ว หวังว่าจุดยืนนี้จะกระจายออกไปไว ๆ เพื่อโต้กลับเรื่องเล่าที่แรงเกินไปว่า กฎหมายที่รีบเขียนเหมือนค้อนทุบทุกอย่างคือก้าวถัดไปที่ดีที่สุด
ความก้าวหน้าที่แท้จริงควรไปในทางสร้างความเข้าใจและทางออกต่อการกัดกร่อนของชุมชน ความไว้วางใจ และความเห็นอกเห็นใจต่อผู้อื่น ฉันรู้สึกว่าสิ่งเหล่านี้อาจเป็นอาการของการลงทุน นโยบาย และธรรมาภิบาลที่ล้มเหลวต่อการสร้างสังคมที่แข็งแรง แน่นอน บางทีคงไม่ควรพูดเรื่องการเอาผิดความรับผิดชอบ เพราะจะฟังดูเหมือนประชดการเมืองเกินไป
เมื่อไรผู้คนจะรู้ว่านักการเมืองใส่ ข้อยกเว้น ให้ตัวเองกับหน่วยงานความมั่นคงไว้แล้ว? หวังว่าครั้งนี้ความมองโลกในแง่ร้ายของฉันจะผิด แต่ก็ไม่ใช่ความมองโลกในแง่ร้ายแบบไร้เหตุผล
“การสอดส่องไม่ใช่ความปลอดภัย”
มันอาจไม่ใช่ แต่ตราบใดที่คนทั่วไปคิดว่าใช่ ในทางปฏิบัติมันก็แทบจะเป็นแบบนั้น
คนที่กำลังผลักดันเรื่องนี้ไม่ใช่คนทั่วไป