ไมโครซอฟท์กำลังเฝ้าระวังผู้ใช้เครื่องมือ AI ของตน

ไมโครซอฟท์กำลังเฝ้าระวังผู้ใช้เครื่องมือ AI ของตน

• ไมโครซอฟท์ประกาศว่าพบแฮกเกอร์จากจีน รัสเซีย และอิหร่านที่ใช้เครื่องมือปัญญาประดิษฐ์ (AI) ของบริษัทเพื่อเพิ่มขีดความสามารถในการแฮก
• แฮกเกอร์เหล่านี้ถูกติดตามภายใต้ชื่อ Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon และ Salmon Typhoon และพบว่ากลุ่มเหล่านี้ใช้โมเดลภาษาขนาดใหญ่ (LLMs) เพื่อเสริมความแข็งแกร่งของปฏิบัติการไซเบอร์
• สำหรับไมโครซอฟท์หรือ OpenAI แล้ว วิธีเดียวที่สามารถทราบกิจกรรมเหล่านี้ได้คือการสังเกตเซสชันแชตบอต
• ข้อตกลงการให้บริการคาดว่าจะรวมการเฝ้าตรวจพฤติกรรมผู้ใช้ไว้ และแม้การที่ไมโครซอฟท์กับ OpenAI ติดตามการใช้ AI จะไม่ใช่เรื่องใหม่ แต่การประกาศครั้งนี้เป็นการยืนยันข้อเท็จจริงดังกล่าว

ความคิดเห็นของ GN⁺

• บทความนี้ให้ข้อมูลสำคัญว่าไมโครซอฟท์กำลังเฝ้าติดตามการใช้งานเครื่องมือ AI และติดตามกิจกรรมของแฮกเกอร์ที่ได้รับการสนับสนุนจากรัฐ
• แม้การเฝ้าติดตามผู้ใช้จะก่อให้เกิดความกังวลด้านความเป็นส่วนตัวและความมั่นคงปลอดภัยส่วนบุคคล แต่ก็สามารถมองเป็นมาตรการสำคัญเพื่อเสริมความปลอดภัยทางไซเบอร์และความมั่นคงแห่งชาติได้
• การเฝ้าติดตามดังกล่าวแสดงให้เห็นถึงศักยภาพการใช้งาน AI ที่มีสองด้าน และอาจจุดประกายการอภิปรายเรื่องประเด็นจริยธรรมและกฎหมายที่เกิดขึ้นใหม่จากความก้าวหน้าทางเทคโนโลยี

[GN⁺]

ความคิดเห็นของ Hacker News

• สรุปความคิดเห็นเกี่ยวกับการจัดการข้อมูลผู้ใช้ของ OpenAI API

  • ตามข้อกำหนดการให้บริการ (TOS) ของ OpenAI, OpenAI สามารถเก็บข้อมูลอินพุตและเอาต์พุตของ API ไว้ได้สูงสุด 30 วันเพื่อการให้บริการและการระบุการใช้งานที่ผิดปกติ
  • เว้นแต่กฎหมายจะกำหนดไว้เป็นกรณีพิเศษ ข้อมูลจะถูกลบออกจากระบบหลังจาก 30 วัน
  • ผู้ใช้สามารถขอให้ไม่เก็บข้อมูลสำหรับกรณีการใช้งานเฉพาะได้ (ZDR)
  • ข้อมูลเชิงลึกเกี่ยวกับการประมวลผลข้อมูลสามารถดูได้ในหน้าคู่มือแพลตฟอร์มของ OpenAI

• สรุปความคิดเห็นเกี่ยวกับการจัดการข้อมูลผู้ใช้ของเครื่องมือ AI ของ Microsoft

  • ผู้ใช้บางคนอาจกล่าวว่าหน่วยงาน Microsoft เฝ้าติดตามผู้ใช้เครื่องมือ AI แต่ในความเป็นจริงคือการที่ Microsoft พบว่ารัฐบาลฝ่ายตรงข้ามจากประเทศเผด็จการกำลังใช้เครื่องมือ AI ในการกระทำผิดกฎหมาย
  • เมื่อผู้ใช้กดยอมรับข้อกำหนดการให้บริการ หมายถึงผู้ใช้ยอมรับว่า Microsoft สามารถติดตามข้อมูลประเภทนี้ได้

• สรุปความคิดเห็นเกี่ยวกับ Google Bard และ Gemini

  • Google Gemini ระบุอย่างชัดเจนบนหน้าเว็บไซต์ว่าการสนทนาของผู้ใช้จะถูกประมวลผลโดยผู้ตรวจทานจริงและถูกใช้เพื่อพัฒนาปรับปรุงเทคโนโลยีของแอป Gemini
  • ผู้ใช้ไม่ควรป้อนข้อมูลที่ไม่ต้องการให้ผู้ตรวจทานเห็นหรือ Google ใช้
  • เนื้อหาของ Google Workspace จะไม่ถูกตรวจสอบเพื่อปรับปรุง Gemini
  • หากปิดการใช้งานกิจกรรมในแอป Gemini ของ Google ผู้ใช้สามารถตั้งค่าได้ว่า บทสนทนาในอนาคตจะไม่ถูกตรวจทานหรือใช้เพื่อพัฒนาปรับปรุงโมเดลแมชชีนเลิร์น

• สรุปความคิดเห็นเกี่ยวกับข้อกำหนดการให้บริการและนโยบายความเป็นส่วนตัว

  • บริษัทเทคโนโลยีจำนวนมากมีสิทธิ์ตามข้อกำหนดการให้บริการในการเฝ้าติดตามการใช้ AI ของผู้ใช้
  • หากข้อกำหนดมีมาตราที่ให้สิทธิ์ในการเฝ้าติดตาม การสมมติว่าบริษัทกำลังเฝ้าติดตามจึงเป็นเรื่องสมเหตุสมผล
  • นโยบายความเป็นส่วนตัวทำให้ผู้ใช้เชื่อใจบริษัทได้ แต่ไม่มีวิธียืนยันว่า บริษัทปฏิบัติตามนโยบายจริงหรือไม่

• สรุปความคิดเห็นเกี่ยวกับการเฝ้าติดตามข้อมูลผู้ใช้ของ Microsoft

  • การที่ Microsoft เฝ้าติดตามการใช้เครื่องมือ AI ของผู้ใช้ไม่ใช่เรื่องแปลกและเป็นข้อเท็จจริงที่เป็นที่รับรู้กันทั่วไปแล้ว
  • บริษัทเทคโนโลยีหลายแห่งรวมถึง Microsoft มีสิทธิ์เข้าถึงการสนทนาของผู้ใช้ โดยควรมีเฉพาะการอนุญาตที่ชัดเจนและสามารถเพิกถอนได้จากผู้ใช้เท่านั้น

• สรุปความคิดเห็นเกี่ยวกับการใช้เครื่องมือ AI และการเก็บข้อมูลจำนวนมาก

  • การใช้เครื่องมือ AI หมายถึงข้อมูลผู้ใช้จะถูกเก็บรวบรวมอย่างกว้างขวาง
  • ควรใช้เฉพาะ AI ที่รันบนเครื่องท้องถิ่นหากใครให้ความสำคัญกับการปกป้องข้อมูลผู้ใช้

• สรุปความคิดเห็นเกี่ยวกับความสัมพันธ์ระหว่างการพัฒนา AI และการเก็บข้อมูล

  • AI อาศัยข้อมูลเป็นพื้นฐาน และยิ่งเก็บข้อมูลได้มากเท่าไร ก็ยิ่งสามารถฝึก AI ได้ดีขึ้น ซึ่งก่อให้เกิดวงจรที่ผู้ใช้ให้ข้อมูลมากขึ้นเพื่อเติมข้อมูลต่อ

• สรุปความคิดเห็นเกี่ยวกับการเก็บข้อมูลและการตรวจจับการละเมิดของแพลตฟอร์ม

  • เป็นที่ชัดเจนว่าแพลตฟอร์มทั้งหมดเก็บข้อมูลอินพุตของผู้ใช้ไว้เพื่อฝึกโมเดลรุ่นต่อไปและตรวจจับการใช้ผิด