เรื่องอื้อฉาวการสแกน AI ของ Microsoft: ถึงเวลาทบทวนมาตรฐานความเป็นส่วนตัว

• เมื่อไม่นานมานี้ Microsoft ตรวจพบว่าแฮกเกอร์ที่ได้รับการสนับสนุนจากรัฐนำเครื่องมือ generative AI ของบริษัทไปใช้ในการโจมตี ทำให้เกิดคำถามในชุมชนความปลอดภัยว่า Microsoft รู้เรื่องนี้ได้อย่างไร
• มีบางส่วนคัดค้านการเรียกลักษณะการกระทำของ Microsoft ว่าเป็น "การสอดแนม" โดยให้เหตุผลว่าเป็นเรื่องปกติที่ผู้ให้บริการคลาวด์จะเฝ้าติดตามกิจกรรมของผู้ใช้ และการเรียกสิ่งนี้ว่าเป็นการสอดแนมก็ไม่ยุติธรรม
• เรื่องนี้อาจมองได้ว่าเป็นตัวอย่างหนึ่งของความคาดหวังร่วมกันเรื่องการคุ้มครองความเป็นส่วนตัวที่กำลังเปลี่ยนไป และเพื่อทำความเข้าใจประเด็นนี้ เราอาจเรียนรู้อะไรบางอย่างจากการประมงได้
• ในช่วงกลางศตวรรษที่ 20 จำนวนปลาในทะเลเริ่มลดลงอย่างรวดเร็วจากการจับปลามากเกินไป และอุตสาหกรรมล่าวาฬก็แสดงแนวโน้มการลดลงในลักษณะคล้ายกัน
• Daniel Pauly ตระหนักว่านักวิจัยกำลังทำผิดพลาดครั้งสำคัญในการกำหนดปริมาณการจับปลาที่อนุญาตได้ ปัญหาคือนักวิจัยไม่ตระหนักถึงความรุนแรงของการลดลงของประชากรปลา
• Pauly ชี้ให้เห็นว่านักวิจัยในแต่ละรุ่นใช้จุดอ้างอิง (baseline) สำหรับเปรียบเทียบกับสถิติปัจจุบันไม่เหมือนกัน และจุดอ้างอิงของแต่ละรุ่นก็ต่ำกว่ารุ่นก่อนหน้า เขาเรียกสิ่งนี้ว่า "ภาวะฐานอ้างอิงเลื่อน (shifting baseline syndrome)"
• การเฝ้าระวังบนอินเทอร์เน็ตและการละเมิดความเป็นส่วนตัวที่ตามมาก็กำลังเดินไปตามเส้นทางเดียวกัน ด้วยลักษณะที่แผ่กว้างของเทคโนโลยียุคใหม่ การสอดส่องจึงทำได้ง่ายกว่าที่เคย และแต่ละรุ่นก็คุ้นชินกับสภาพความเป็นส่วนตัวในช่วงวัยเยาว์ของตนเอง
• AI chatbot เป็นตัวอย่างล่าสุดของปรากฏการณ์นี้ แชตบอตสร้างผลลัพธ์เพื่อตอบสนองต่อข้อมูลที่ผู้ใช้ป้อนเข้าไป แต่เบื้องหลังนั้นคือระบบบนคลาวด์ที่ซับซ้อนซึ่งติดตามอินพุตเหล่านั้น
• การเลื่อนของฐานอ้างอิงคือแกนสำคัญของการสูญเสียความเป็นส่วนตัวร่วมกันของเรา ศาลสูงสหรัฐวินิจฉัยมาโดยตลอดว่าสิทธิในความเป็นส่วนตัวของเราขึ้นอยู่กับความคาดหวังอันสมเหตุสมผลต่อความเป็นส่วนตัว แต่ความคาดหวังนั้นเปลี่ยนแปลงได้ง่ายและได้รับอิทธิพลจากภาวะฐานอ้างอิงเลื่อน
• แล้วตอนนี้เราควรทำอย่างไร? ปัจจุบันนักวิทยาศาสตร์ด้านการประมงมองภาพใหญ่ พวกเขาไม่ยึดกับมาตรวัดเชิงสัมพัทธ์ เช่น การเปรียบเทียบกับทศวรรษก่อนหน้าอีกต่อไป แต่หันไปมองแบบองค์รวมว่า ระบบนิเวศทางทะเลที่แข็งแรงและปริมาณการจับปลาที่ยั่งยืนควรมีหน้าตาอย่างไร
• ในด้านความเป็นส่วนตัวและความปลอดภัย เราก็ต้องใช้แนวทางเดียวกัน แทนที่จะเทียบกับฐานอ้างอิงที่เลื่อนไปเรื่อย ๆ เราควรถอยออกมาหนึ่งก้าวแล้วพิจารณาว่าระบบนิเวศทางเทคโนโลยีที่ดีต่อสุขภาพควรมีลักษณะอย่างไร

[GN⁺]

ความเห็นจาก Hacker News

สรุปความคิดเห็นจาก Hacker News

• การทำความเข้าใจพฤติกรรมด้านความเป็นส่วนตัวของผู้บริโภค: ผู้บริโภคตัดสินใจโดยอาศัยสมมติฐานที่เรียบง่ายเพื่อรับมือกับโลกที่ซับซ้อน ปัญหาในเศรษฐกิจดิจิทัลไม่ใช่มาตรฐานของผู้บริโภค แต่คือการเปลี่ยนแปลงของมาตรฐานด้านกฎระเบียบ
• ความล้มเหลวของสัญชาตญาณเรื่องความเป็นส่วนตัว: ผู้คนมักตอบสนองอย่างอ่อนไหวเฉพาะกับการละเมิดความเป็นส่วนตัวจากคนที่ตนรู้จักเป็นการส่วนตัว แต่กลับไม่ค่อยสนใจกับการที่องค์กรนิรนามเก็บรวบรวมข้อมูล
• Google กับความเป็นส่วนตัว: Google เก็บรวบรวมอีเมล ประวัติการค้นหา และข้อมูลอื่น ๆ ของเรามาเป็นเวลานาน คนส่วนใหญ่มองว่าการยอมแลกความเป็นส่วนตัวเพื่อใช้เครื่องมือที่สะดวกนั้นเป็นทางเลือกที่สมเหตุสมผล
• Big Tech กับความเป็นส่วนตัว: Big Tech โน้มน้าวผู้คนเหมือนบริษัทบุหรี่ว่าสิ่งที่ตนนำเสนอนั้นเป็นประโยชน์ต่อพวกเขา เราควรให้มนุษย์และความเป็นส่วนตัวมาก่อนเป็นอันดับแรก
• Snowden และ Big Tech: Snowden เปิดโปงว่า Big Tech ส่งมอบข้อมูลให้ NSA และบริการ AI อย่าง OpenAI ก็ไม่ได้เป็นข้อยกเว้น
• ความยากของการปกป้องความเป็นส่วนตัว: การทำให้ผู้คนหันมาสนใจปัญหาความเป็นส่วนตัวเป็นเรื่องยากมาก จึงจำเป็นต้องมีทั้งการให้ความรู้และการสนับสนุน
• ความโปร่งใสของ Microsoft: Microsoft เปิดเผยอย่างชัดเจนว่าบริการ AI ของตนมีการตรวจสอบติดตาม และในสหภาพยุโรปก็มีกฎหมายกำหนดให้ต้องเก็บบันทึกล็อก
• Apple กับการสอดแนมโดยองค์กร: มีข้อกล่าวหาว่า Apple ตรวจสอบอุปกรณ์อย่างผิดกฎหมาย ซึ่งทำให้เกิดคำถามเกี่ยวกับกิจกรรมสอดแนมขององค์กร
• ปัญหาของ Windows: Windows กำลังกลายเป็นปัญหามากขึ้นเรื่อย ๆ และก็มีทางเลือกอื่นอยู่
• ความเป็นส่วนตัวกับต้นทุน: บางคนเลือกยอมสละความเป็นส่วนตัวเพื่อแลกกับต้นทุนที่ต่ำลงหรือฟีเจอร์เพิ่มเติม ขณะเดียวกันสินค้าที่ให้ความสำคัญกับความเป็นส่วนตัวก็อาจมีที่ยืนในตลาดได้เช่นกัน