- Kevin Bankston อ้างว่าเมื่อเปิดเอกสารส่วนตัวใน Google Drive/Docs Gemini ได้สรุปเนื้อหาให้เองโดยไม่ได้ร้องขอ ทำให้เกิดข้อถกเถียงเรื่องพฤติกรรมเริ่มต้นของฟีเจอร์ AI ใน Workspace และขอบเขตความยินยอมของผู้ใช้
- เหตุการณ์เริ่มจากกรณี ไฟล์ PDF แบบแสดงรายการภาษี ของ Bankston และต่อมาประเด็นปัญหาก็แคบลงไปที่พฤติกรรมของไฟล์ที่เปิดจาก Google Drive มากกว่าตัว Google Docs เอง
- แม้ตรวจสอบการตั้งค่าที่เกี่ยวข้องแล้ว สวิตช์สรุปโดย Gemini ใน Gmail, Drive และ Docs ก็ถูกปิดไว้อยู่แล้ว และตำแหน่งการตั้งค่าที่ Gemini แนะนำก็ไม่ตรงกับของจริง ทำให้ผู้ใช้เข้าใจได้ยากว่าตนควบคุมอะไรอยู่บ้าง
- Bankston สังเกตว่าเมื่อกด ปุ่ม Gemini กับเอกสารหนึ่งใน Drive แล้ว จากนั้นเมื่อเปิดเอกสารประเภทไฟล์เดียวกัน Gemini จะทำงานอัตโนมัติ
- Google โต้แย้งว่าข้อมูลใน Workspace ไม่ได้ถูกใช้ฝึกโมเดลและไม่ได้ถูกจัดเก็บไว้ แต่ความสัมพันธ์ระหว่างสถานะแผงด้านข้าง Gemini ใน Drive กับการตั้งค่าสรุปผลยังคงเป็นประเด็นที่ผู้ใช้ต้องตรวจสอบด้วยตนเอง
ประเด็น Gemini สรุปอัตโนมัติที่เริ่มจากเอกสารส่วนตัว
- Kevin Bankston โพสต์บน X ว่าเมื่อเขาเปิด แบบแสดงรายการภาษี ของตัวเองใน Google Docs แล้ว Gemini กลับสรุปเนื้อหาให้โดยไม่ได้ร้องขอ
- เขาตั้งคำถามว่า Gemini กำลังประมวลผลเอกสารส่วนตัวที่เปิดใน Google Docs โดยอัตโนมัติหรือไม่ และกังวลกับสถานการณ์ที่ผู้ใช้ต้องไปค้นหาการตั้งค่าที่ไม่รู้มาก่อนเพื่อปิดมัน
- ต่อมาบริบทของเรื่องนี้ถูกจัดระเบียบใหม่ว่าใกล้เคียงกับ เอกสารที่เปิดภายใน Google Drive มากกว่าตัว Google Docs เอง
- ประเภทเอกสารคือ PDF
- ยังคงมีความเป็นไปได้ว่าอาจเกิดกับ Docs ได้เช่นกัน
สวิตช์สรุปที่ปิดอยู่แล้วและคำแนะนำการตั้งค่าที่ไม่ตรงกัน
- Bankston พยายามไปดูการตั้งค่าความเป็นส่วนตัวที่ Gemini แนะนำ แต่บอกว่าไม่พบการตั้งค่านั้นในตำแหน่งจริง
- หลังจากนั้นเขาตรวจสอบสวิตช์ที่เกี่ยวข้องและพบว่า Gemini summaries in Gmail, Drive, and Docs ถูกปิดใช้งานอยู่แล้ว
- ตำแหน่งการตั้งค่าก็ไม่ตรงกับสองหน้าเว็บที่บอต Gemini แนะนำในตอนแรก
- ประสบการณ์นี้ยิ่งเพิ่มความกังวลเรื่อง การควบคุมของผู้ใช้ที่ไม่เพียงพอ ต่อข้อมูลส่วนบุคคลที่ละเอียดอ่อน
รูปแบบการทำงานอัตโนมัติตามประเภทไฟล์ที่พบใน Drive
- ปัญหาที่เกิดกับ Bankston ดูเหมือนจะจำกัดอยู่ใน Google Drive
- มีการสังเกตว่าอย่างน้อยเมื่อกดปุ่ม Gemini กับเอกสารหนึ่งครั้งแล้ว หากเปิดเอกสารประเภทไฟล์เดียวกันในภายหลัง Gemini จะทำงานอัตโนมัติ
- ประเภทไฟล์ในกรณีนี้คือ PDF
- หลังจากนั้นไฟล์ประเภทเดียวกันที่เปิดใน Google Drive จะกลายเป็นเป้าหมายของการทริกเกอร์อัตโนมัติ
- Bankston ยังตั้งข้อสังเกตว่าการเปิดใช้ Google Workspace Labs ตั้งแต่ปี 2023 อาจไปทับการตั้งค่า Gemini AI ตามที่ตั้งใจไว้
คำโต้แย้งของ Google และคำอธิบายเรื่องการปกป้องข้อมูล
- โฆษกของ Google อธิบายว่าฟีเจอร์ generative AI ถูกออกแบบมาเพื่อให้ผู้ใช้มีทางเลือกและควบคุมข้อมูลของตนเองได้
- จุดยืนของ Google คือการใช้งาน Gemini in Google Workspace ต้องอาศัยการเปิดใช้งานล่วงหน้าโดยผู้ใช้
- หากผู้ใช้เปิดใช้งาน เนื้อหาจะถูกใช้ในลักษณะที่คำนึงถึงความเป็นส่วนตัวเพื่อสร้างคำตอบที่เป็นประโยชน์ต่อพรอมป์ต์ และจะไม่ถูกจัดเก็บแยกต่างหากโดยไม่ได้รับอนุญาต
- Google อธิบายผ่านบล็อกโพสต์เกี่ยวกับการปกป้องข้อมูลใน Workspaceว่าข้อมูลใน Workspace จะไม่ถูกเก็บรวบรวมหรือใช้ฝึกโมเดล
- Google เสริมว่าหากฟีเจอร์ถูกเปิดไว้ ก็อาจสรุปเนื้อหาในเอกสารที่เปิดอยู่ได้ แต่เนื้อหานั้นจะไม่ถูกเก็บรักษาไว้
แนวทางแก้ด้วยแผงด้านข้างและภาระการตรวจสอบที่ยังตกกับผู้ใช้
- Google เสนอว่า Bankston อาจกำลังใช้ แผงด้านข้าง Gemini ใน Drive และหากปิดแผงดังกล่าว ปัญหาก็อาจหายไป
- แต่จากประสบการณ์ของ Bankston การตั้งค่าสรุปที่เกี่ยวข้องถูกปิดไว้อยู่แล้ว จึงยังมีความต่างระหว่างสถานะปิดตามที่ผู้ใช้คาดหวังกับพฤติกรรมที่เกิดขึ้นจริง
- เมื่อต้องเปิดเอกสารละเอียดอ่อนที่เก็บไว้ใน Google Drive ผู้ใช้จึงยังต้องตรวจสอบด้วยตนเองว่าสถานะการเปิดใช้ Gemini, สถานะของแผงด้านข้าง และพฤติกรรมตามประเภทไฟล์เป็นอย่างไร
1 ความคิดเห็น
ความเห็นจาก Hacker News
นี่แสดงให้เห็นอีกครั้งว่าข้อมูลที่อัปขึ้นไปยังผู้ให้บริการคลาวด์นั้นท้ายที่สุดแล้ว ไม่ได้อยู่ภายใต้การควบคุมเหมือนเป็นทรัพย์สินของเราเอง
ครั้งนี้มีสัญญาณที่ชัดเจน แต่คิดว่าระบบของ Google น่าจะอ่านและรวบรวมข้อมูลจากเอกสารส่วนตัวมานานแล้ว
ความกังวลนี้มีมาตั้งแต่ตอน Gmail เปิดตัวเมื่อ 20 ปีก่อน ตอนนั้นผู้คนตกใจที่คิดว่า “Google อ่านอีเมลเพื่อแสดงโฆษณา” แต่ กล่องจดหมาย 1GB กับ UI ใหม่ก็น่าดึงดูดพอสมควร
หลังจากนั้นใน Google Drive และบริการอื่น ๆ ก็ดูน่ากลัวน้อยลงหรือไม่โจ่งแจ้งเท่าเดิม และนั่นคงเป็นเพราะอยากได้เงินจากลูกค้าองค์กรด้วย
ไม่อย่างนั้นจะให้บริการค้นหาเอกสารได้อย่างไร
เพราะเข้ารหัสทั้งระหว่างส่งและขณะจัดเก็บ
ตอนนี้ Apple ก็เข้ารหัสข้อมูลส่วนใหญ่ทั้งระหว่างส่งและขณะจัดเก็บแล้ว และยังมีเอกสารระบุด้วยว่าข้อมูลใดได้รับการปกป้อง
แต่ก็ยังไม่แน่ใจว่า Apple ในอนาคตจะอยากใช้ข้อมูลของฉันไปฝึกโมเดลสาธารณะหรือไม่
แนวทางที่ Apple ใช้ ซึ่งเอาชั้น fine-tuning แบบถอดเปลี่ยนได้ที่อาศัยการเรียนรู้บนอุปกรณ์ท้องถิ่นไปต่อกับแกนโมเดลภาษาขนาดใหญ่ที่พรีเทรนไว้ล่วงหน้า ดูโอเคในแง่ความเป็นส่วนตัว แต่ในทางปฏิบัติจะเป็นอย่างไรก็ยังไม่รู้
ฉันไว้ใจ Google Drive น้อยกว่าเพราะเคยให้ Colab Pro และบุคคลที่สามบางรายเข้าถึง Drive และถ้าบทความนี้เป็นเรื่องจริง ความเชื่อใจก็จะยิ่งลดลงอีก
การเปรียบเทียบกับ Gmail ยุคแรกนั้นเหมาะดี
ฉันเคยได้ใช้ Gmail จากคำเชิญส่วนตัวของ Peter Norvig ตั้งแต่ 3 ปีก่อนมันเปิดตัวต่อสาธารณะ และตอนนั้นก็ชอบโฆษณาที่เกี่ยวข้องสูงข้าง ๆ Gmail
อีกทั้งเพราะอยากทดลองประโยชน์ของโมเดลภาษาขนาดใหญ่ที่ผสานอยู่ในสภาพแวดล้อมแบบ Workplace ฉันยังให้สิทธิ์เข้าถึงทรัพย์สินทั้งหมดใน Google ของฉันกับบริการเดือนละ 20 ดอลลาร์ที่น่าจะชื่อ Google AI Plus หรืออะไรทำนองนั้น
สุดท้ายก็เท่ากับยกความเป็นส่วนตัวในบริการของ Google ให้ไปโดยสมัครใจ
แต่ถ้ากำลังสื่อว่าข้อมูลส่วนตัวของทุกคนถูกกวาดไปใส่โมเดลภาษาขนาดใหญ่ แบบนั้นก็เป็น ทฤษฎีสมคบคิด ชัด ๆ
น่าทึ่งที่มีคนเชื่อว่า Google สามารถทำให้วิศวกรหลายหมื่นคนร่วมกันปกปิดแผนการสมคบคิดขนาดใหญ่ในการละเมิดข้อมูลส่วนตัวของทุกคนได้อย่างเงียบ ๆ
หลังจากนั้นฉันเลิกใช้ Android แต่เลิกใช้ Gmail ได้ยากกว่า
AI ทุกแบบควรต้องอาศัย ความยินยอมอย่างชัดแจ้ง ทั้งสำหรับการฝึกและการสแกน
ผู้ใช้ต้องเป็นฝ่ายติ๊กเลือกเช็กบ็อกซ์ว่า “ฉันต้องการใช้ฟีเจอร์ AI” เอง และข้อความที่อธิบายความหมายของมันก็ต้องชัดเจนมาก
เรื่องนี้ควรถูกบังคับเป็นข้อกำหนด และบริษัทที่ไม่ทำตามก็ควรถูกปรับอย่างเข้มงวด
มันก็แค่รันอัลกอริทึมกับข้อมูลของฉันแล้วแสดงผลให้ฉันดูเท่านั้น
โดยหลักการแล้วก็ไม่ต่างจากการตรวจสะกดหรือการสร้างสารบัญอัตโนมัติจากสไตล์หัวข้อ
ถ้าผลลัพธ์ยังคงเป็นส่วนตัวและแสดงให้ฉันคนเดียว อย่างในกรณีนี้ ก็ไม่เข้าใจว่ามีอะไรให้น่ากังวล
ความจริงที่ว่าอัลกอริทึมนั้น อิงโมเดลภาษาขนาดใหญ่ ไม่ได้เกี่ยวอะไรกับความเป็นส่วนตัวหรือความปลอดภัย
ผู้ใช้ไม่ใช่ลูกค้า แต่เป็น สินค้า
แทนที่จะสร้างข้อมูลให้บริษัทโซเชียลมีเดียเอาไปขายโฆษณา ตอนนี้เรากำลังสร้างข้อมูลสำหรับฝึก AI แล้วแลกกับการใช้บริการฟรี
ดูเหมือนจะหมายถึงการอ่านเอกสารชั่วคราวเพื่อสรุปเนื้อหา ไม่ใช่เพื่อการฝึก และไม่เข้าใจว่าทำไมเรื่องนั้นถึงควรถูกกำกับดูแล
จำได้ว่ามีความพยายามแรกเริ่มชื่อ ai.txt แต่ยังไม่แน่ใจว่าใครบ้างที่ทำตาม
พักเรื่องที่บทความนี้เขียนชวนให้เข้าใจผิดอย่างชัดเจนไว้ก่อน ขอสรุปลิงก์ที่แชร์อยู่ในเธรดทวีตที่บทความอ้างถึง
การจัดการกิจกรรม Gemini: https://myactivity.google.com/product/gemini
หน้าที่น่าจะมีคำตอบส่วนใหญ่เกี่ยวกับการ opt-out สำหรับ Google Workspace และแอป Google หลายตัว: https://support.google.com/docs/answer/13447104#:~:text=Turn...
พาดหัวทำให้ประเด็นนี้ดูคลุมเครือไปหน่อย
ถ้าขอให้ Gemini สรุปเอกสาร มันก็ไม่ได้น่าแปลกใจที่มันจะสรุปให้
คำว่า “สแกน” ทำงานหนักเกินไปตรงนี้ และพาดหัวชวนให้คิดว่า Google กำลังใช้เอกสารส่วนตัวมาฝึก Gemini
ประเด็นจริงคือ Gemini ถูกรันโดยใช้เอกสารส่วนตัวเป็นอินพุต เพื่อสรุป ทั้งที่ผู้ใช้คิดว่าตัวเองปิดไว้ชัดเจนแล้ว
ถึงอย่างนั้น การที่การตั้งค่าไม่ถูกเคารพก็ยังเป็นบั๊กที่มีนัยสำคัญในโครงสร้างพื้นฐานของ Google และถ้าใครคัดค้านการใช้ AI ยุคใหม่โดยสิ้นเชิง เรื่องนี้ก็อาจทำให้ต้องกลับไปทบทวนแผนหนีทีไล่
แต่ถ้าขอสรุป PDF หนึ่งไฟล์เพียงครั้งเดียวแล้ว Gemini ไปสรุป PDF ทุกไฟล์ ใน Drive ด้วย แบบนั้นน่าตกใจแน่
รู้สึกว่าพาดหัวนี้ชวนให้เข้าใจผิดหรือเปล่า
ตอนแรกนึกว่าเป็นเรื่องสแกนเพื่อการฝึกหรือทดสอบ แต่จริง ๆ เป็นฟีเจอร์สรุปบทความที่ผู้ใช้กำลังดูอยู่
เพราะงั้นคำว่า “caught” จึงไม่ซื่อสัตย์นัก
เราไม่พูดว่า “จับได้แล้ว” กับคนที่กำลังทำสิ่งที่เขาบอกอยู่แล้วว่าเขาทำ
ดังนั้นพาดหัวก็ถูกต้องแล้ว
คงเป็นแค่เรื่องของเวลาก่อนที่ใครสักคนจะดึงอะไรที่มีมูลค่าออกมาจากโมเดลของ Google ได้
อาจเป็นรหัสผ่านธนาคารหรือคีย์คริปโต
เหตุการณ์พิซซ่ากาว แสดงให้เห็นว่าพวกเขากำลังเข็นของออกมาแบบลวก ๆ
เรื่องนี้คล้ายกับการแย่งชิงข้อมูลสุขภาพที่เกิดขึ้นในช่วงโควิด
หลายกลุ่มพยายามฉวยวิกฤติเพื่อบีบเอาข้อมูลออกมาให้ได้สักครั้ง และบางส่วนก็ทำสำเร็จ
เพราะต้นทุนของการถูกตำหนิต่ำ แต่คุณค่าของการเอาข้อมูลไปนั้นสูง
โดยแก่นแท้แล้วนี่คือ การฉกฉวยเชิงระบบราชการ
สำหรับคนที่เคยทำงานด้านความเป็นส่วนตัว เรื่องนี้น่าผิดหวังแต่ก็พอคาดได้ และคนส่วนใหญ่ก็แค่ทำเป็นตกใจแล้วปล่อยผ่าน
เพราะเส้นทางอาชีพขึ้นอยู่กับความสามารถในการคงเรื่องเล่า “เจตนาดี” ที่ไร้เหตุผลนี้ต่อไป
ข้อความ SMS ที่ถูกแฮ็กจาก AT&T มีแนวโน้มว่าจะเป็นเรื่องถัดไป และถ้ามีการขโมยการกดแป้นบนมือถือ หรือมีการเพิ่มเอเจนต์เก็บข้อมูลเพื่อฝึกโมเดลผ่านการอัปเดต OS ของแพลตฟอร์มเชิงพาณิชย์ ทุกคนก็คงจะตกใจแบบเดิมอีก
แน่นอนว่ามันจะถูกห่อหุ้มด้วยคำอธิบายว่าเป็นการเสริมความเป็นส่วนตัวเพื่อความพึงพอใจของผู้ใช้
ถ้าไม่ทำให้ผู้จัดการผลิตภัณฑ์และวิศวกรที่สร้างเรื่องนี้เป็นกรณีตัวอย่าง ครั้งหน้ามันจะเกิดซ้ำในแบบที่แย่กว่าและใหญ่กว่าเดิม
ทวีตต้นฉบับกับบทความนี้จงใจผสมคำศัพท์ให้คนเข้าใจผิด
พยายามทำให้ดูเหมือนว่าการที่โมเดลภาษาขนาดใหญ่ได้เข้าถึงเอกสารไม่ทางใดก็ทางหนึ่ง กับการที่เอกสารนั้นถูกรวมอยู่ใน ชุดข้อมูลฝึก ของโมเดล เป็นเรื่องเดียวกัน
นี่คือจุดล่อให้คนหลงของทั้งบทความและทวีตต้นฉบับ แต่สุดท้ายเธรดทวีตก็ยอมรับความแตกต่างนั้น แล้วเปลี่ยนทิศไปเป็นการโกรธการมีอยู่ของฟีเจอร์ AI เอง
เรื่องนี้แทบไม่มีสาระสำคัญอะไร นอกจากผู้ใช้ Twitter ที่โกรธป๊อปอัป AI เขียนเธรดปลุกอารมณ์โกรธให้ดูเหมือนเป็นเรื่องที่มืดดำกว่านั้นมาก
น่าประหลาดใจที่แม้แต่ใน HN ก็ยังมีคนจำนวนมากถูกชี้นำผิดได้สำเร็จเกี่ยวกับสิ่งที่เกิดขึ้นจริง
ชักสงสัยว่ายังมีคนที่อ่านบทความก่อนโพสต์อยู่จริงไหม
จะว่าน่าแปลกใจไหมที่ Google ยังไปไม่ไกลพอในเรื่องความเป็นส่วนตัวและการเข้าถึงข้อมูล
พูดก็พูดเถอะ พวกเขาจะไม่มีวันไปไกลถึงขั้นที่บริการของตัวเองเข้าถึงข้อมูลไม่ได้เด็ดขาด
ข้อมูลทั้งหมดที่เก็บไว้จากระยะไกลควรไปถึงจุดที่เซิร์ฟเวอร์ถอดรหัสไม่ได้ และ ถอดรหัสได้เฉพาะบนอุปกรณ์ของเราเท่านั้น
ไม่อย่างนั้นก็เท่ากับว่าเราเปิดทางให้บริษัทขุดข้อมูลได้มากเท่าที่ต้องการ และเราไม่มีทางรู้เลยว่าพวกเขากำลังทำอะไรอยู่
แน่นอนว่ายังมีปัญหาว่าต้องเชื่อว่าเขาถอดรหัสไม่ได้จริง และก็ไม่มีทางออกที่ดีสำหรับเรื่องนั้น
การเข้าถึงข้อมูลส่วนตัวโดย AI ควรถูกประมวลผลภายในอุปกรณ์ และหากจำเป็นต้องประมวลผลบนเซิร์ฟเวอร์ ก็ควรมีการแจ้งอย่างชัดเจนว่าข้อมูลจะถูกส่งออกนอกอุปกรณ์ พร้อมทั้งหวังว่านั่นจะเป็นปัญหาระยะสั้น
ถึงตอนนี้จะยังไม่ถูกใช้ฝึกโมเดล ก็ไม่ใช่เรื่องไร้เหตุผลที่จะคิดว่าข้อมูลที่ผ่าน Gemini หรือเซิร์ฟเวอร์ระยะไกลใด ๆ อาจถูกเก็บเป็นล็อก แล้วนำไปใช้ฝึกเพิ่มเติมภายหลัง หรือค้างอยู่ในล็อกแบบข้อความล้วน หรือถูกผู้ทดสอบเห็นได้
ท้ายที่สุดมันกลายเป็นโครงสร้างที่บริษัทพูดว่า “เชื่อเราเถอะ” และก็ชัดเจนมากว่าบริษัทต่าง ๆ ไม่น่าเชื่อถือ พอจะฝากเรื่องแบบนี้ไว้ได้