- เมื่อไม่นานมานี้ได้เจอกับงานวิจัยชื่อ "How to think about end-to-end encryption and AI" ที่เผยแพร่โดยนักวิจัยจาก NYU และ Cornell งานชิ้นนี้ตั้งคำถามสำคัญเกี่ยวกับ AI และการเข้ารหัสแบบต้นทางถึงปลายทาง แม้จะไม่เห็นด้วยกับข้อสรุปบางส่วน แต่ก็เป็นหัวข้อที่สำคัญมาก
การเข้ารหัสแบบต้นทางถึงปลายทางคืออะไร และเกี่ยวข้องกับ AI อย่างไร?
- ตลอดช่วง 10 ปีที่ผ่านมา เรื่องราวด้านความเป็นส่วนตัวที่สำคัญที่สุดคือการเติบโตของแพลตฟอร์มการสื่อสารแบบเข้ารหัสต้นทางถึงปลายทาง ก่อนปี 2011 อุปกรณ์ที่เชื่อมต่อคลาวด์ส่วนใหญ่จะอัปโหลดข้อมูลในรูปแบบข้อความปกติ
- การเข้ารหัสแบบต้นทางถึงปลายทางคือเทคโนโลยีที่ทำให้เซิร์ฟเวอร์ไม่สามารถเห็นเนื้อหาข้อความแบบข้อความปกติได้ อย่างไรก็ตาม เทคโนโลยีนี้อาจทำให้เซิร์ฟเวอร์ประมวลผลข้อมูลได้ยากขึ้น
- ด้วยความก้าวหน้าของ AI มีแนวโน้มสูงที่การประมวลผลข้อมูลจำนวนมากจะถูกถ่ายไปยังเซิร์ฟเวอร์ระยะไกลมากขึ้น ซึ่งอาจก่อให้เกิดปัญหาด้านความเป็นส่วนตัว
ผลกระทบของ AI ต่อการรับส่งข้อความแบบเข้ารหัสต้นทางถึงปลายทาง
- ระบบเข้ารหัสแบบต้นทางถึงปลายทางถูกออกแบบมาเพื่อให้เนื้อหาข้อความไม่สามารถถูกเข้าถึงได้ระหว่างการส่ง ยกเว้นบนอุปกรณ์ของผู้เข้าร่วมการสื่อสาร แต่ไม่ได้รับประกันว่าผู้ใช้จะจัดการข้อมูลของตนอย่างไร
- วิธีที่ AI ประมวลผลข้อมูลอาจก่อให้เกิดปัญหาซับซ้อนเกี่ยวกับความยินยอมของผู้ใช้ บางบริษัทอาจอธิบายให้ผู้ใช้เข้าใจได้ดี แต่บางบริษัทก็อาจไม่เป็นเช่นนั้น
ฮาร์ดแวร์ที่เชื่อถือได้และ "Private Cloud Compute" ของ Apple
- Apple ได้นำเสนอแนวทางที่เรียกว่า "Private Cloud Compute" เพื่อแก้ปัญหาความเป็นส่วนตัวของ AI ซึ่งเป็นวิธีปกป้องข้อมูลโดยใช้ฮาร์ดแวร์ที่เชื่อถือได้
- ระบบนี้ทำให้ทั้งผู้โจมตีและพนักงานของ Apple เองนำข้อมูลออกไปได้ยากขึ้น แต่ก็ยังให้หลักประกันด้านความปลอดภัยที่อ่อนกว่าการเข้ารหัสอยู่ดี
AI agent ทำงานให้ใคร?
- วิธีที่ AI agent ประมวลผลข้อมูลของผู้ใช้อาจเปิดช่องให้รัฐบาลเรียกร้องการเข้าถึงได้ ซึ่งทำให้เกิดคำถามสำคัญด้านความเป็นส่วนตัว
- การเลือกใช้เทคโนโลยีอาจไม่สามารถรับประกันความเป็นส่วนตัวได้ และยังขาดความมั่นใจว่าสังคมจะตัดสินใจทางการเมืองได้อย่างถูกต้องหรือไม่
1 ความคิดเห็น
ความเห็นจาก Hacker News
เมื่อระบบตรวจจับอัตโนมัติเพิ่มมากขึ้น บุคลากรที่คอยจัดการแต่ละกรณีกลับลดลง และผู้ดูแลก็ยิ่งพึ่งพาการตรวจจับอัตโนมัติมากขึ้น สิ่งนี้อาจสร้างความหงุดหงิดอย่างมาก เพราะเมื่อเกิดผลบวกลวงขึ้นมา การแก้ปัญหาจะยากมาก โดยเฉพาะหากถูกนำไปใช้ในการบังคับใช้กฎหมาย ก็อาจส่งผลร้ายแรงถึงขั้นทำลายชีวิตของคนคนหนึ่งได้
ตัวอย่างเช่น เคยมีประสบการณ์ถูก Amazon ตีตราผิดว่าเป็นรีวิวผิดกฎหมาย และพยายามติดต่อมนุษย์เพื่อแก้ปัญหาแต่ไม่สำเร็จ หากสถานการณ์แบบนี้เกิดขึ้นกับคดีอาชญากรรมร้ายแรง ก็อาจทำลายชีวิตของบุคคลนั้นได้
ระบบตรวจจับอัตโนมัติควรทำหน้าที่เสริมมนุษย์ ไม่ใช่แทนที่มนุษย์ เพื่อให้ทำงานได้มากขึ้นด้วยคนที่น้อยลง อย่างไรก็ตาม ตอนนี้แรงจูงใจมีไม่เพียงพอ และผู้มีอำนาจตัดสินใจก็ไม่ได้รับมือกับกรณีจริงด้วยตนเอง จึงไม่ตระหนักถึงปัญหา
ภัยคุกคามที่แท้จริงอาจเกิดขึ้นเมื่อ AI ขยายจากการเร่งงานส่วนบุคคล ไปเป็นเครื่องมือสำหรับการควบคุมขององค์กร สิ่งนี้อาจทำให้องค์กรมีประสิทธิภาพขึ้น แต่ก็อาจบั่นทอนความเชื่อที่ว่าพนักงานคือมนุษย์จริง ๆ
ความเสี่ยงที่แท้จริงของการเฝ้าระวังมวลชนคือการรวบรวมข้อมูลเกี่ยวกับผู้ที่สร้างความไม่สะดวกใจ เพื่อทำให้พวกเขาไม่สามารถสร้างความไม่สะดวกใจได้อีก ผลลัพธ์ทั้งหมดของการเฝ้าระวังมวลชนยังไม่ได้ปรากฏออกมาครบถ้วน
OpenAI เปิดเผยอย่างโปร่งใสว่าข้อมูลจะถูกเก็บไว้ 30 วัน และพนักงานรวมถึงผู้รับจ้างภายนอกอาจตรวจสอบข้อมูลดังกล่าวได้
กำลังมีการตั้งคำถามที่ตอบยากว่า ระบบ AI ทำงานเพื่อพวกเราจริงหรือไม่ แนวโน้มในปัจจุบันทำให้ความหวังต่ออนาคตที่เป็นกลางและให้ความสำคัญกับความเป็นส่วนตัวมีอยู่อย่างจำกัด
Apple ประกาศว่าจะเผยแพร่อิมเมจซอฟต์แวร์เพื่อให้นักวิจัยด้านความปลอดภัยสามารถยืนยันบั๊กได้ แต่จะไม่เปิดเผยซอร์สโค้ด Apple อ้างว่าไม่ได้เก็บข้อมูลผู้ใช้ และวิศวกรฝ่ายสนับสนุนก็ไม่สามารถดูข้อมูลผู้ใช้ได้
ประเด็นว่า AI ทำงานเพื่อใครนั้น เกี่ยวข้องกับความเป็นไปได้สูงที่บริษัท ad tech จะทำให้ AI ทำงานสวนทางกับผลประโยชน์ของผู้ใช้ ซึ่งเป็นผลมาจากความคาดหวังต่อบริการ "ฟรี" ที่มีโฆษณาสนับสนุน
แนวคิดทางกฎหมายเกี่ยวกับการที่ AI agent ทำงานเพื่อใครจริง ๆ เป็นเรื่องสำคัญ ข้อเสนอที่มีอยู่ในตอนนี้รวมถึงการเฝ้าติดตามเพื่อตอบสนองต่อภัยคุกคามหลายรูปแบบ
จากผลของการเฝ้าระวังมวลชน ข้อมูลที่เก็บไว้บนคลาวด์จึงสามารถถูกสแกนได้ง่ายขึ้น ทำให้ความเสี่ยงที่จะถูกเฝ้าติดตามเพียงเพราะแสดงความคิดเห็นคัดค้านเพิ่มสูงขึ้น
หลักประกันทางเทคนิคไม่เหมือนกับคำมั่นสัญญาต่อผู้ใช้ PCC ของ Apple ช่วยเพิ่มความปลอดภัย แต่ไม่ได้รับประกันความโปร่งใสหรือความรับผิดชอบ ปัญหาเรื่องความโปร่งใสใหญ่กว่าปัญหาเรื่องความปลอดภัย
หากต้องการให้ AI รับใช้สังคม ก็จำเป็นต้องลดความไม่สมดุลของข้อมูล หากต้องการให้บริษัทมีพฤติกรรมที่ดี ก็ควรทำให้พวกเขาดำเนินงานอย่างโปร่งใส
ทางเลือกทางเทคนิคอาจไม่สามารถแก้ปัญหาความเป็นส่วนตัวได้ สิ่งสำคัญคือใครจะได้รับสิทธิ์เข้าถึง AI agent ในเชิงเทคนิค เราสามารถรัน agent แบบโลคัล และบล็อกการสนทนากับผู้ที่ไม่สามารถเข้าถึงระบบได้