- ตามทวีตของ Kevin Bankston บริการ Gemini AI ของ Google กำลังอ่านเอกสารส่วนตัวใน Drive โดยไม่ได้รับอนุญาตจากผู้ใช้
- เป็นเรื่องที่ไม่สมกับชื่อเสียงของ Google และผู้ใช้แทบไม่มีอำนาจควบคุมข้อมูลส่วนบุคคลที่ละเอียดอ่อนเลย
- นี่ไม่ใช่สัญญาณที่ดีต่อปัญหาความเป็นส่วนตัวในอนาคตจากการผลักดันเปิดตัว AI แบบบังคับ
เกิดอะไรขึ้นกันแน่?
- ทั้งทีมสนับสนุนของ Google และ Gemini AI เองก็ไม่ทราบแน่ชัด แต่ Kevin Bankston ได้เสนอทฤษฎีไว้บางประการ
- ในทางเทคนิค สิ่งนี้เกิดขึ้นกับทั้ง Google Drive ไม่ใช่เฉพาะ Google Docs
สาเหตุของปัญหานี้คืออะไร?
- ตามคำอธิบายของ Gemini AI การตั้งค่าความเป็นส่วนตัวที่ควรแจ้งให้ Gemini ทราบต้องเปิดให้ใช้งานสาธารณะได้ แต่กลับไม่เป็นเช่นนั้น
- ดูเหมือนว่า AI จะ "หลอน (โกหก)" หรือไม่ก็มีความผิดพลาดในระบบภายในบางส่วนของเซิร์ฟเวอร์ Google
- ต่อให้ข้อมูลส่วนตัวนี้ไม่ได้ถูกใช้ฝึก Gemini AI ก็ยังดูไม่ดีอยู่ดี
ปัญหาของสวิตช์ตั้งค่าที่ Bankston พบ
- ฟังก์ชันสรุปของ Gemini ถูกปิดใช้งานอยู่แล้ว
- บอต Gemini ชี้ไปยังหน้าเว็บที่อยู่คนละแห่งกับที่มันระบุไว้ในตอนแรกโดยสิ้นเชิง
ในกรณีของ Bankston ปัญหาดูเหมือนจะจำกัดอยู่ที่ Google Drive
- อย่างน้อยต้องกดปุ่ม Gemini ในเอกสารหนึ่งฉบับก่อนจึงจะเกิดขึ้น
- เมื่อชนิดเอกสารตรงกัน (ในกรณีนี้คือ PDF) ระบบจะเรียกใช้ Google Gemini อัตโนมัติในอนาคตกับไฟล์ชนิดเดียวกันทุกไฟล์ที่เปิดใน Google Drive
- สาเหตุอาจมาจากการเปิดใช้งาน Google Workspace Labs ในปี 2023 ซึ่งอาจทำให้การตั้งค่า Gemini AI ที่ตั้งใจไว้ถูกมองข้าม
แม้ปัญหานี้จะจำกัดอยู่เฉพาะผู้ใช้ Google Workspace Labs ก็ยังเป็นข้อเสียร้ายแรง
- นี่คือราคาที่ต้องจ่ายจากการช่วยทดสอบเทคโนโลยีล่าสุด
- ความยินยอมของผู้ใช้ในระดับรายละเอียดเฉพาะเจาะจงยังคงสำคัญ โดยเฉพาะเมื่อเกี่ยวข้องกับข้อมูลที่อาจมีความอ่อนไหว
- การที่ Google ไม่สามารถยึดหลักการนี้ได้ เท่ากับล้มเหลวอย่างสิ้นเชิงต่อผู้ใช้ของตนอย่างน้อยบางส่วน
ความเห็นของ GN⁺
- การเก็บรวบรวมและวิเคราะห์ข้อมูลส่วนบุคคลโดยไม่ได้รับความยินยอมจากผู้ใช้ถือเป็นการละเมิดความเป็นส่วนตัวอย่างร้ายแรง โดยเฉพาะเมื่อเป็นข้อมูลอ่อนไหว เช่น การขอคืนภาษี
- เมื่อเทคโนโลยี AI พัฒนาขึ้น ปัญหาเช่นนี้อาจรุนแรงยิ่งกว่าเดิม บริษัทต่าง ๆ ควรให้ความสำคัญสูงสุดกับการคุ้มครองความเป็นส่วนตัวของผู้ใช้
- จำเป็นต้องมีมาตรการป้องกันที่ดีกว่าเดิมและความโปร่งใสมากขึ้นสำหรับผู้ใช้ที่เข้าร่วมโปรแกรมทดสอบเบต้าอย่าง Google Workspace Labs
- การเคารพความยินยอมและสิทธิในการเลือกของผู้ใช้เป็นสิ่งสำคัญเมื่อมีการนำเทคโนโลยี AI มาใช้ วิธีการแบบบังคับจะทำให้สูญเสียความไว้วางใจจากผู้ใช้
- Google ควรใช้เหตุการณ์ครั้งนี้เป็นโอกาสในการทบทวนนโยบายความเป็นส่วนตัวของบริการตนเอง รวมถึง Gemini AI และปรับปรุงการสื่อสารกับผู้ใช้
ยังไม่มีความคิดเห็น