Microsoft กำลังสอดส่องผู้ใช้เครื่องมือ AI ของตนเอง
(schneier.com)- Microsoft ประกาศว่าตรวจพบว่าแฮกเกอร์จากจีน รัสเซีย และอิหร่านใช้ เครื่องมือ AI ของบริษัท เพื่อเพิ่มความสามารถในการแฮก
- Microsoft และ OpenAI ติดตามการใช้ LLM ของ ผู้โจมตีที่เชื่อมโยงกับรัฐ เช่น Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon และ Salmon Typhoon
- Schneier มองว่าสาเหตุที่ Microsoft หรือ OpenAI รู้เรื่องนี้ได้ เป็นเพราะมีการ เฝ้าดูเซสชันของแชตบอต
- เป็นไปได้ว่าเงื่อนไขการให้บริการได้รวมสิทธิ์ในการสังเกตลักษณะนี้ไว้ และบริการ AI อื่น ๆ ก็อาจติดตามพฤติกรรมการใช้งานในลักษณะคล้ายกันได้
- ผู้ใช้เครื่องมือ AI ควรประเมินระดับความอ่อนไหวด้านความปลอดภัยโดยตั้งอยู่บนสมมติฐานว่าอินพุตและเซสชันของตนอาจถูกผู้ให้บริการสังเกตได้
การประกาศของ Microsoft และการใช้เครื่องมือ AI
- Microsoft ประกาศว่าแฮกเกอร์จากจีน รัสเซีย และอิหร่านพยายามใช้ เครื่องมือ AI ของบริษัทเพื่อปรับปรุงความสามารถในการแฮก
- จากบริบท เครื่องมือ AI ดังกล่าวน่าจะเป็น เครื่องมือสำหรับเขียนโค้ด
กลุ่มผู้โจมตีที่ติดตามร่วมกับ OpenAI
- Microsoft แบ่งปัน ข่าวกรองภัยคุกคาม ที่ตรวจพบโดยทำงานร่วมกับ OpenAI
- ตามรายงาน กลุ่มที่ถูกติดตามว่าเป็นผู้โจมตีที่เชื่อมโยงกับรัฐ ใช้ LLM เพื่อเสริมปฏิบัติการทางไซเบอร์
- Forest Blizzard
- Emerald Sleet
- Crimson Sandstorm
- Charcoal Typhoon
- Salmon Typhoon
การตีความเรื่องการเฝ้าดูเซสชันของแชตบอต
- Schneier มองว่าวิธีเดียวที่ Microsoft หรือ OpenAI จะรู้ได้ว่าผู้โจมตีใช้ AI อย่างไร คือ การดูเซสชันของแชตบอต
- เป็นไปได้ว่าเงื่อนไขการให้บริการได้รวมสิทธิ์ดังกล่าวไว้
- นอกจาก Microsoft และ OpenAI แล้ว ผู้ให้บริการ AI รายอื่นก็อาจเฝ้าดูพฤติกรรมการใช้งานได้เช่นกัน และการประกาศครั้งนี้ถูกมองว่าเป็นกรณีที่ยืนยันความเป็นไปได้นั้น
คำอธิบายเพิ่มเติมเกี่ยวกับคำว่า “spying”
- มีการเพิ่ม คำอธิบาย เกี่ยวกับการใช้คำว่า “spying” ในการแก้ไขเมื่อวันที่ 22 กุมภาพันธ์
1 ความคิดเห็น
ความคิดเห็นใน Hacker News
ถ้าจะเรียกสิ่งนี้ว่า การสอดแนม ก็ควรกลับไปอ่านเงื่อนไขการใช้งาน OpenAI API ใหม่ ถ้ายังเรียกตัวเองว่า “แฮ็กเกอร์” แต่ก็ยังใช้ API นั้นต่อ ก็แทบจะเป็นความรับผิดชอบของตัวเอง
OpenAI ระบุว่าสามารถเก็บข้อมูลอินพุตและเอาต์พุตของ API อย่างปลอดภัยได้นานสูงสุด 30 วันเพื่อให้บริการและตรวจจับการใช้งานในทางที่ผิด และหลัง 30 วันจะลบออกจากระบบ เว้นแต่จะมีภาระผูกพันทางกฎหมายให้ต้องเก็บไว้ สำหรับกรณีใช้งานที่เข้าเกณฑ์ก็สามารถขอ ไม่เก็บข้อมูล (ZDR) ได้
ที่มา: https://openai.com/enterprise-privacy
ตัวอย่างเช่น นโยบายของ Google Docs ที่ https://support.google.com/docs/answer/10381817?hl=en ระบุว่า “Google เคารพความเป็นส่วนตัวของผู้ใช้ และจะเข้าถึงเนื้อหาส่วนตัวก็ต่อเมื่อได้รับอนุญาตหรือเมื่อกฎหมายกำหนดเท่านั้น”
การคาดหวังให้ผู้ให้บริการ LLM API มีมาตรฐานระดับเดียวกันนั้นสมเหตุสมผล และตอนนี้ที่พวกเขาสอดส่องผู้ใช้ในวงกว้างก็ไม่ใช่เรื่องดี
โดยเฉพาะในกลุ่มบริการแมชชีนเลิร์นนิง/AI ยิ่งเป็นแบบนั้น และก็ยากจะบอกว่าเงื่อนไขนี้หลุดจากสามัญสำนึก
การเอามาพูดใหม่เป็นแนวว่า “Microsoft สอดส่องผู้ใช้เครื่องมือ AI” ฟังแล้วน่าขำ เพราะความจริงคือ Microsoft พบว่ามี รัฐบาลที่เป็นปรปักษ์จากประเทศอำนาจนิยม ใช้เครื่องมือ AI ไปทำกิจกรรมผิดกฎหมาย และในเงื่อนไขการใช้งานก็ระบุเรื่องการติดตามแบบนี้ไว้ชัดเจนแล้ว โดยผู้ใช้ต้องกด “ยอมรับ”
พาดหัวถัดไปคงเป็นประมาณว่า “สถานีโทรทัศน์รายใหญ่สอดส่องนักฟุตบอลระหว่างการแข่งขัน Champions League”
พาดหัวที่เร้าอารมณ์ก็สมเหตุสมผล และไม่ใช่ว่าจะยอมรับได้เพียงเพราะมันเป็นเรื่องปกติ ผมยินดีที่การรับรู้ว่า เงื่อนไขการใช้งานฝ่ายเดียว แบบนี้เปิดทางให้เกิดพฤติกรรมที่เป็นปฏิปักษ์ต่อผู้ใช้กำลังกว้างขึ้น
แต่ในอีกด้านหนึ่ง การที่ประโยคอย่าง “Microsoft สอดส่อง X” ถูกยอมรับว่าเป็นข้อเท็จจริงที่ไม่ต้องอธิบายกลับดูเป็นข่าวเสียมากกว่า กล่าวคือคำว่า “สายลับสอดส่อง X” กลายเป็นว่า “Microsoft = สายลับ” และไม่ได้ถูกอ่านแบบนั้นเฉพาะในบริบทนี้ แต่ในทุกบริบท
หลังจากนั้น เรื่องเงื่อนไขการใช้งาน ความชอบด้วยกฎหมาย ความผิดกฎหมาย ความเป็นปรปักษ์ หรือความเป็นมิตร ก็กลายเป็นเรื่องรองไปหมด
Google Bard หรือจะให้ถูกคือ Gemini ระบุเรื่องนี้ไว้อย่างชัดเจนมากบนหน้าแรก
“เพื่อปรับปรุงเทคโนโลยีที่ขับเคลื่อน Gemini Apps บทสนทนาของคุณจะถูกประมวลผลโดยผู้ตรวจสอบที่เป็นมนุษย์ โปรดอย่าป้อนข้อมูลที่คุณไม่ต้องการให้มีการตรวจสอบหรือนำไปใช้”
ระบุไว้อีกว่าการเพียงแค่สนทนาก็มีส่วนช่วยปรับปรุงบริการของ Google รวมถึงโมเดลแมชชีนเลิร์นนิงที่ขับเคลื่อน Gemini และในกระบวนการนั้นผู้ตรวจสอบที่ผ่านการฝึกอบรมจะต้องประมวลผลบทสนทนา เนื้อหาใน Google Workspace เช่น Gmail หรือ Drive จะไม่ถูกตรวจสอบหรือนำไปใช้เพื่อปรับปรุง Gemini และถ้าไม่ต้องการให้บทสนทนาในอนาคตถูกตรวจสอบหรือนำไปพัฒนาโมเดลแมชชีนเลิร์นนิง ก็สามารถปิด Gemini Apps Activity ได้
ตรงนี้ดูชัดเจนแค่ครึ่งเดียว
จะย่อเหลือแค่ “Microsoft สอดส่องผู้ใช้” ก็ได้
ถ้าใช้ ผลิตภัณฑ์ของ Microsoft รุ่นใหม่ ๆ ก็ส่งข้อมูลจำนวนมากออกไปอยู่แล้ว จบแค่นั้น
ใช่ เขาพูดค่อนข้างชัดว่ามีการเฝ้าดูการใช้งานในทางที่ผิด และระยะเวลาคือ 30 วัน
ไม่เข้าใจว่าทำไมเรื่องนี้ถึงน่าตกใจ
เทียบกันแล้ว Nvidia ส่งค่าชื่อหน้าต่างทั้งหมดและทุกการคลิกไปยังเซิร์ฟเวอร์ และแม้จะปฏิเสธก็ยังถูกจัดว่า “จำเป็น” และถูกส่งอยู่ดี มันอาจเป็น สปายแวร์ ที่ล่วงล้ำที่สุดในบรรดาสิ่งที่ติดตั้งอยู่ตอนนี้
ถ้าคุณคุยกับเครื่องมือ AI ผ่านหลายช่องทางโซเชียล เช่น Facebook, Twitter, Instagram, ข้อความ ฯลฯ ก็ต้องถือว่าแชตเหล่านั้นไม่ได้ถูกอ่านแค่โดยพนักงานของบริษัทนั้น แต่ยังรวมถึง ทีมการตลาด และพาร์ตเนอร์ภายนอกของบริษัทด้วย
แน่นอนว่าอาจมีสัญญาผูกมัดอยู่ แต่สิ่งที่ผู้คนถามแชตบอตนั้นรวมถึงข้อมูลสุขภาพ ข้อมูลทางเพศ และเรื่องส่วนตัวมาก ๆ ที่ปกติอาจเล่าให้ที่ปรึกษาฟังเท่านั้น แต่กลับถูกอ่านได้โดยเด็กฝึกงานการตลาดอายุ 22 ปี อยู่ในรูปข้อความล้วนที่ไม่เข้ารหัส คัดลอก/วางได้ และอาจโยงกลับไปยังชื่อผู้ใช้/ID ได้
ผมไม่ไว้ใจ Microsoft เลย แต่ก็ไม่ได้ประหลาดใจกับเรื่องนี้ เช่นเดียวกับตอนที่ได้ยินว่า OpenAI หรือ Google ทำแบบนี้
ไม่ได้แปลว่ามันถูกต้อง ผมคิดว่าถึงเวลาแล้วที่ทุกคนต้องเปลี่ยนจุดยืนด้านความเป็นส่วนตัว ให้ การอ่านข้อความแชต ทำได้เฉพาะเมื่อผู้ใช้ให้อนุญาตอย่างชัดเจนและถอนกลับได้เท่านั้น
ใครที่ใช้เครื่องมือพวกนี้ก็เหมือนสมัครใจให้ดูดข้อมูลของตัวเองไปทั้งหมด ถ้ากังวลเรื่องแบบนี้ วิธีที่พอใช้ได้มีแค่ AI ที่รันในเครื่อง เท่านั้น
AI สร้างขึ้นบนข้อมูล ยิ่งสอดส่องมากก็ยิ่งได้ข้อมูลสำหรับฝึก AI มากขึ้น ยิ่งฝึกมากก็ยิ่งดีและมีมูลค่ามากขึ้น คนก็ยิ่งใช้มากขึ้น และก็ยิ่งป้อนข้อมูลกลับเข้าไปอีก กลายเป็น วงจรหมุนวน
เป็นประเด็นที่ปลุกความโกรธได้ง่าย
แพลตฟอร์มพวกนี้ทั้งหมดก็กวาดเอาอินพุตไปเพื่อฝึกโมเดลถัดไปอยู่แล้ว ถ้าอย่างนั้นการมี การตรวจจับการใช้งานในทางที่ผิด ด้วยมันจะไม่ใช่เรื่องที่เห็นได้ชัดได้อย่างไร