ถาม Microsoft ตรงๆ: กำลังนำข้อมูลส่วนบุคคลของเราไปใช้ฝึก AI อยู่หรือไม่?

 (foundation.mozilla.org)
1 คะแนน โดย GN⁺ 2023-09-02 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • ผู้เชี่ยวชาญ 9 คน ได้แก่ ทนายความ ผู้เชี่ยวชาญด้านความเป็นส่วนตัว และนักรณรงค์ ได้ตรวจสอบ ข้อตกลงการให้บริการ (Service Agreement) ฉบับใหม่ของ Microsoft แต่ ไม่มีใครสามารถตัดสินได้ ว่ามีการนำข้อมูลส่วนบุคคลไปใช้ฝึกโมเดล AI หรือไม่
  • ขอบเขตการตรวจสอบครอบคลุมข้อมูลส่วนบุคคล เช่น เสียง วิดีโอ แชต และไฟล์แนบ ที่เก็บจาก 130 ผลิตภัณฑ์ รวมถึง Office, Skype, Teams และ Xbox
  • แม้แต่ผู้เชี่ยวชาญด้านข้อมูลส่วนบุคคลทั้ง 9 คนยังไม่เข้าใจเงื่อนไขนี้ จึงแทบเป็นไปไม่ได้เลยที่ ผู้ใช้ทั่วไป จะทำความเข้าใจได้
  • Mozilla เรียกร้องให้ Microsoft ตอบให้ชัดเจน ต่อคำถามง่ายๆ ว่า "มีการใช้ข้อมูลส่วนบุคคลเพื่อฝึก AI หรือไม่"
  • ประเด็นสำคัญที่ถูกยกขึ้นมาคือการ ขาดความโปร่งใส ในการใช้ข้อมูล

ประเด็นหลักของแคมเปญ

  • มีการให้ทนายความ 4 คน ผู้เชี่ยวชาญด้านความเป็นส่วนตัว 3 คน และนักรณรงค์ 2 คน ตรวจสอบข้อตกลงการให้บริการฉบับใหม่ของ Microsoft
    • ในบรรดาผู้เชี่ยวชาญทั้ง 9 คน ไม่มีใครสามารถตัดสินได้ว่า Microsoft มีแผนจะใช้ข้อมูลส่วนบุคคลเพื่อฝึกโมเดล AI หรือไม่
  • ความกำกวมของเงื่อนไขทำให้ไม่สามารถยืนยันได้ว่ามีการใช้ข้อมูลอย่างไร
    • เมื่อแม้แต่ผู้เชี่ยวชาญด้านข้อมูลส่วนบุคคลทั้ง 9 คนยังไม่เข้าใจเงื่อนไขนี้ คนทั่วไปโดยเฉลี่ยก็แทบไม่มีทางเข้าใจได้

ขอบเขตของข้อมูลที่อยู่ในการตรวจสอบ

  • ครอบคลุมข้อมูลส่วนบุคคลที่เก็บจาก 130 ผลิตภัณฑ์
    • ตัวอย่างผลิตภัณฑ์ที่รวมอยู่ด้วย: Office, Skype, Teams, Xbox
    • ประเภทข้อมูล: เสียง วิดีโอ แชต ไฟล์แนบ

ข้อเรียกร้องของ Mozilla

  • ขอให้ Microsoft เปิดเผยโดยตรง ว่ามีการใช้ข้อมูลส่วนบุคคลเพื่อฝึก AI หรือไม่
  • มีการทำแคมเปญเพื่อกดดันให้ตอบคำถามนี้ผ่านการมีส่วนร่วมของผู้ใช้ เช่น การลงชื่อสนับสนุน

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-09-02
ความคิดเห็นจาก Hacker News

  • โครงสร้างการกำกับดูแล Big Tech เป็นหายนะโดยสิ้นเชิง
    เราไม่ควรปล่อยให้จุดสัมผัสดิจิทัลของผู้คนจำนวนมากทั่วโลกถูกครอบงำโดยบริษัทเพียงสองแห่งโดยพฤตินัย
    ไม่มีเหตุผลเลยที่จะเชื่อว่าบริษัทเหล่านี้จะไม่ใช้อำนาจในทางที่ผิดด้วยวิธีที่ไม่โปร่งใสและติดตามได้ยาก พวกเขาเป็นบริษัทแสวงหากำไรที่มีเงินทุนระดับล้านล้าน มีทั้งกองทัพทนายและล็อบบี้ยิสต์ที่สามารถคุกคามได้แม้กระทั่งประเทศขนาดกลาง และจะใช้ประโยชน์จากจุดอ่อนทั้งหมดของระบบกำกับดูแลและการเมืองที่ไร้ความสามารถ สับสน และถูกครอบงำ
    พวกเขายังถูกกดดันให้ทำเช่นนั้นเพื่อผู้ถือหุ้น และผู้ถือหุ้นเหล่านั้นก็แค่อยากมี “ผู้ชนะ” ด้านเทคโนโลยีสักไม่กี่รายอยู่ในพอร์ต โดยไม่สนว่าระบบผูกขาดแบบสองขั้วนี้จะทำลายอนาคตดิจิทัลทั้งหมดหรือไม่ ยิ่งมาตรการจริงจังล่าช้าเท่าไร ภายหลังก็ยิ่งแก้ยากขึ้นเท่านั้น

    • คำพูดที่ว่า “ตามกฎหมายแล้วต้องทำเพื่อผู้ถือหุ้น” ไม่ใช่แค่ความเชื่อเก่า ๆ ที่ไม่มีฐานในโลกความจริงหรือ?
    • ผมไม่คิดว่าความอยากฉวยโอกาสจะมีอยู่แค่ในบริษัทยักษ์ใหญ่เท่านั้น แม้แต่ในข้อพิพาทเล็ก ๆ ขององค์กรสมัครเล่นอย่างธุรกิจขนาดเล็กหรือสมาคมเจ้าของบ้าน ก็ยังเห็นความพยายามยึดอำนาจได้
      เครื่องมืออาจต่างกัน แต่ลักษณะนิสัยของมนุษย์ที่ผลักดันพฤติกรรมแบบนั้นมีอยู่เสมอ ไม่มีสวิตช์อะไรที่พอทรัพย์สินเกินระดับหนึ่งแล้วจะเปิดขึ้นมาอย่างฉับพลัน
      อีกอย่าง ผมก็ไม่คิดว่าบริษัทมี “ภาระผูกพันตามกฎหมาย” ต่อใครบางคน หรือแม้แต่มี “ภาระผูกพัน” แบบนั้นอยู่จริง ผู้บริหารก็แค่พยายามใช้เครื่องมือที่หยิบถึงเพื่อบรรลุเป้าหมาย และในทางปฏิบัติก็ทำแบบนั้นจริง
    • ผมโทษทั้งบริษัทเทคโนโลยี แต่ก็โทษ โปรแกรมเมอร์, สตาร์ทอัพสายเทคโนโลยี, วิทยาการคอมพิวเตอร์ ที่สร้างทั้งหมดนี้ขึ้นมาด้วย พวกเขาสร้างระบบที่เอาไปใช้เป็นเครื่องมือรวมศูนย์ความมั่งคั่งประสิทธิภาพสูงได้ง่ายเกินไป และบริษัทเทคโนโลยีทุกวันนี้ก็คือผลลัพธ์นั้น

  • นี่คือ เธรดที่ชวนขำขันแบบ Kafkaesque ที่สุดเท่าที่เคยเห็นบน Hacker News
    ถ้าข้อมูลวิเคราะห์ถือเป็นข้อมูลส่วนบุคคล Microsoft ก็ใช้ข้อมูลวิเคราะห์อย่างแน่นอน: https://www.microsoft.com/insidetrack/blog/microsoft-uses-an...
    ถ้าถามว่า Microsoft กำลังอ่านข้อความในบัญชี Gmail, เอกสาร Word, หรือกิจกรรมดูหนังโป๊ แล้วป้อนให้ OpenAI หรือไม่ ตามเงื่อนไขการใช้งานแล้วไม่ใช่: https://learn.microsoft.com/en-us/legal/cognitive-services/o...
    แต่ถ้าถามว่า Microsoft กำลังทำเรื่องต่าง ๆ ที่คนทั่วไปไม่มีทางรู้หรือไม่ ผมคิดว่าใช่

  • ผมคัดค้าน นโยบายความเป็นส่วนตัวที่เหมือนเขาวงกต ของ Microsoft มานานแล้ว
    เมื่อก่อน ก่อนที่ผู้ช่วยเขียนโค้ด “AI” จะถูกใช้อย่างแพร่หลาย ผมเคยถามในฟอรัมอื่นว่า หากเปิด telemetry ใน VS Code นโยบายความเป็นส่วนตัวของ Microsoft อนุญาตให้อัปโหลดและนำโค้ดของผมไปใช้หรือไม่
    ตอนนั้นคำถามนี้ถูกกลบไปพร้อมเสียงตอบกลับทำนองว่าเป็นไปไม่ได้ แต่ก็ไม่มีใครชี้ให้เห็นได้เลยว่าที่ไหนในเงื่อนไขหรือในนโยบายความเป็นส่วนตัวของ Microsoft ที่ระบุยกเว้นการประมวลผลลักษณะนั้นไว้อย่างชัดเจนและโปร่งใส
    ทุกวันนี้มีความหมกมุ่นที่จะเอาชุดข้อมูลขนาดใหญ่ทุกอย่างที่หาได้ไปฝึกโมเดลแมชชีนเลิร์นนิง ดังนั้นความระมัดระวังในอดีตอาจไม่ได้ดูน่าขันขนาดนั้นอีกต่อไป

    • เอกสารนโยบายแบบนี้ไม่ได้มีไว้เพื่อบอกว่าบริษัทจำกัดตัวเองไว้อย่างไร แต่มันมีไว้เป็น เครื่องมือป้องกันตัว เพื่อต่อสู้กับผู้ใช้ที่พยายามห้ามบริษัทไม่ให้ทำอะไรบางอย่าง โดยอ้างว่าคุณยังคงใช้บริการต่อไปจึงถือว่ายอมรับนโยบายแล้ว
      หากไม่มีข้อได้เปรียบทางการค้าหรือทางกฎหมายจากการพูดว่า “เราจะไม่ทำ X” บริษัทใหญ่จะไม่ตั้งใจผูกมัดตัวเองด้วยข้อจำกัดแบบนั้น

  • เผื่อใครสนใจ นี่คือข้อความเต็มของ ข้อตกลงการให้บริการ ฉบับที่จะมีผลของ Microsoft
    https://www.microsoft.com/en-us/servicesagreement/upcoming.a...
    สรุปการเปลี่ยนแปลงอยู่ที่นี่
    https://www.microsoft.com/en-us/servicesagreement/upcoming-u...

    • ยังมีประโยคที่ว่า “เพื่อปรับปรุงผลิตภัณฑ์และบริการของ Microsoft คุณได้มอบสิทธิ์ใช้งานทรัพย์สินทางปัญญาแบบทั่วโลกและปลอดค่าลิขสิทธิ์แก่ Microsoft เพื่อใช้เนื้อหาของคุณ” อยู่เหมือนเดิม
      ข้อจำกัดที่ระบุชัดดูเหมือนจะมีเฉพาะเรื่องโฆษณาแบบเจาะเป้าหมาย เช่น “เราไม่ใช้เนื้อหาในอีเมล แชต วิดีโอคอลหรือข้อความเสียง เอกสาร รูปภาพ หรือไฟล์ส่วนตัวอื่น ๆ ของคุณเพื่อเจาะเป้าหมายโฆษณาให้คุณ”
      ในสรุปการเปลี่ยนแปลงไม่มีการพูดถึงการเปลี่ยนนโยบายความเป็นส่วนตัว และนโยบายความเป็นส่วนตัวนั้นเองก็ดูเหมือนไม่ได้ตัดความเป็นไปได้ของการใช้ข้อมูลผู้ใช้เพื่อ ฝึกโมเดล AI ออกไป

  • เคยทำงานในวงการโฆษณา และกฎหมายที่เกี่ยวกับ ข้อมูลระบุตัวบุคคล ก็น่าสนใจดี ใน California มี CCPA อยู่ เท่าที่เข้าใจคือถ้าขอให้ลบข้อมูลระบุตัวบุคคลของฉันผ่านแบบฟอร์ม ก็ต้องลบภายในราว 90 วัน
    แต่ถ้าเอาข้อมูลระบุตัวบุคคลของชาว California ไปฝึกโมเดลก่อน แล้วมีคำขอให้ลบเข้ามา จากนั้นอีก 3 เดือนต่อมามีใครถามถึงคนนั้น แล้วโมเดลยังคายข้อมูลระบุตัวบุคคลที่ “ถูกลบแล้ว” ออกมาจะเกิดอะไรขึ้น?
    สุดท้ายก็คงต้องให้ศาลตัดสิน แต่ถ้ามีใครที่รู้กฎหมาย California ดี ก็สงสัยว่าทำไมถึงยังไม่มีใครพยายามเล่นประเด็นนี้ อย่างน้อยก็เพื่อหวังเงินยอมความ

    • พวกเขาก็คงแค่ปฏิเสธ หรือไม่ก็อ้างว่า ไม่สามารถกู้คืนได้ จากโมเดลที่ผ่านการฝึกแล้ว
      ไม่รู้กฎหมาย California แต่กฎหมายคุ้มครองข้อมูลส่วนบุคคลที่คล้ายกันหลายฉบับก็ยอมให้มีข้อยกเว้นสำหรับข้อมูลแบบสรุปรวม แม้จะได้รับคำขอให้ “ลบ” ก็ตาม
    • ไม่ค่อยรู้เรื่อง CCPA แต่รู้กฎหมายของ EU ตอนนี้ “สิทธิในการลบ/สิทธิที่จะถูกลืม” ยังคลุมเครือมากในประเด็นนี้ และดูเหมือนยังไม่มีบรรทัดฐานคำพิพากษาที่เป็นที่ยอมรับอย่างกว้างขวาง
      โดยทั่วไปกฎหมายใช้กับบันทึกข้อมูลดิบ ไม่ได้ใช้กับข้อมูลสรุปรวม เมตริก หรือโมเดล แต่ที่พูดถึงโมเดลตรงนี้ เหมือนจะอิงจากคำตัดสินเฉพาะคดีหนึ่งในวงการประกันภัยหรือเครดิต
      โมเดลไม่จำเป็นต้อง “คาย” ข้อมูลที่ถูกลบออกมาก็ได้ เพราะมันอาจไม่ใช่ generative model แต่อาจเป็น classifier หรือ regression model และในอุดมคติคือแต่แรกก็ไม่ควรฝึกจากข้อมูลของฉันอยู่แล้ว
      จุดสำคัญคือมันยากในเชิงเทคนิค สมมติว่าโมเดลหนึ่งถูกสร้างขึ้นด้วยต้นทุนมหาศาล X และปกติฝึกใหม่ทุก 6 เดือน แต่ถ้ามีคำขอให้ลบเข้ามาเรื่อย ๆ การต้องฝึกใหม่บ่อย ๆ เพื่อให้ทำตามได้ก็แพงเกินไป
      มีงานวิจัยเรื่อง machine unlearning ที่พยายามจัดการเรื่องนี้ให้มีประสิทธิภาพ แต่จนถึงตอนนี้ก็ค่อนข้างน่าผิดหวัง
    • ไม่เข้าใจว่าทำไมถึงตั้งสมมติฐานตั้งแต่แรกว่าข้อมูลระบุตัวบุคคลของฉันยังอยู่ในนั้น และยังไม่ได้ลบส่วนที่ใช้ระบุตัวตนออก
      ถ้าส่วนที่เป็นข้อมูลเฉพาะตัวหายไปแล้ว ก็ไม่แน่ใจว่ายังมีฐานให้เรียกร้องอะไรได้หรือเปล่า

  • ทีมกฎหมายของ Microsoft ทำภารกิจระดับนี้สำเร็จได้ยังไงกัน? หรือว่าแค่มีทีมที่ใหญ่พอจนซ้อน ชั้นนามธรรมทางภาษา ไว้มากพอให้มีแต่ Microsoft หรือคณะลูกขุนใหญ่เท่านั้นที่สกัดความหมายออกมาได้?
    หรือเป็นประโยคเหยื่อที่ซ่อนกับดักไว้ในที่ที่ดูไม่เป็นพิษเป็นภัย? หรือเป็นการพูดอ้อมไปอ้อมมาโดยไม่ให้คำตอบที่ตรงเป๊ะเลย?

    • ถ้าเกินระดับหลายล้านดอลลาร์ไปแล้ว ทีมทนายก็แทบจะกลายเป็น legal red team ไปเลย ได้รับมอบหมายให้หาวิธีเลี่ยงข้อจำกัดที่มีอยู่ และพวกเขาก็หาเจอจริง ๆ
    • ถามว่าทีมกฎหมายของ Microsoft ทำเรื่องแบบนั้นได้ยังไง? ก็ใครจะไปห้ามล่ะ?
    • M$ คืออะไร?

  • ถ้าไม่ได้มีการระบุห้ามการใช้งานบางอย่างไว้อย่างชัดเจน ก็แทบสรุปได้เลยว่าข้อมูลนั้นสุดท้ายจะถูกใช้เป็น ข้อมูลฝึก ตราบใดที่มันยังมีประโยชน์ ถึงไม่ใช่ตอนนี้ก็สักวันหนึ่งอยู่ดี ใช้ได้กับทุกบริษัทบนโลกที่สะสมข้อมูลเอาไว้
    นี่ควรเป็นสมมติฐานตั้งต้นของทุกคน และก็น่าจะถูกต้องเป็นส่วนใหญ่จนกว่าจะมีกฎหมายออกมา ต่อให้มีกฎหมายแล้ว ก็อาจใช้ไม่ได้ผลกับข้อมูลเก่าเพราะการเลี่ยงเขตอำนาจศาล และข้อมูลใหม่ก็อาจได้รับการคุ้มครองแบบอ่อน ๆ เท่านั้น
    ยินดีต้อนรับสู่ยุคของน้ำมันใหม่

  • ข้อมูลส่วนบุคคลกับ ข้อมูลระบุตัวบุคคล ไม่เหมือนกัน ในหลายกรณีก็เลี่ยงการใช้ข้อมูลส่วนบุคคลไม่ได้
    ระบบพิมพ์คาดเดาใช้ข้อมูลส่วนบุคคล เพราะมัน “เรียนรู้” จากทุกคน ประโยคกับย่อหน้าถือเป็นข้อมูลส่วนบุคคลไหม? เสิร์ชเอนจินก็บันทึกสิ่งที่ฉันพิมพ์เข้าไป จะจัดให้คำค้นเป็น “ข้อมูลส่วนตัว” ไหม? ฉันก็อาจคัดลอกคอมเมนต์แรกในเธรดนี้มาแปะได้ แบบนั้นถือเป็นข้อมูลส่วนบุคคลไหม?
    ฉันอาจจะเข้าใจผิดทั้งหมด และบางทีเราอาจไม่ควรพิมพ์อะไรลงในหน้าเว็บเลยก็ได้
    ดูเหมือนแม้แต่ทนายสี่คนกับผู้เชี่ยวชาญด้านความเป็นส่วนตัวอีกสามคนก็ยังสรุปไม่ได้ว่าข้อมูลส่วนบุคคลคืออะไร ถ้าถามว่า Big Tech เอาข้อมูลที่คนสร้างขึ้นไปใส่ในเครื่องมือ “AI” ไหม คำตอบคือใช่ บริษัทเทคขนาดเล็กก็ทำเหมือนกันไหม ก็ใช่อีก
    ฉันพร้อมจะถือคราดไปกับ Mozilla อยู่แล้ว แต่อยากรู้ว่ากำลังทำไปเพื่ออะไร ต้องการคนที่อธิบายให้ชัดว่าเราจะปกป้องผลประโยชน์ของตัวเองอย่างไร แทนที่จะปลุกเร้ามวลชน
    การใช้ข้อมูล ไม่ว่าข้อมูลแบบไหน ก็อยู่ภายใต้สัญญา ลองไปอ่าน “เอกสารทางกฎหมาย” ที่คุณกดยอมรับตอนใช้ Hacker News ดู ก็มีทั้งส่วนที่ว่าด้วยวิธีใช้ข้อมูลส่วนบุคคล HN ก็สมควรโดนถือคราดใส่ด้วยไหม หรือที่นี่ถือว่าโอเค?

    • Microsoft พยายาม ฆ่า Linux มาหลายปีแล้ว และยังคงลับมีดอยู่

  • อะไรในนี้ที่นับว่าเป็น “การฝึก AI”?
    ระบบตรวจจับการใช้งานในทางที่ผิดที่เรียนรู้จากพฤติกรรมผู้ใช้และข้อมูล เพื่อส่งผู้ใช้ที่น่าสงสัยให้มนุษย์ตรวจทาน ฟังก์ชันจัดอันดับตอนค้นหาเว็บที่เรียนรู้จากพฤติกรรมของผู้ใช้ทั้งหมด ระบบช่วยเขียนอีเมลที่แนะนำข้อความต่อจากประวัติการพิมพ์ของฉัน อินเทอร์เฟซแชต LLM ที่เปิดให้สาธารณะใช้แล้วเอาไปฝึกจากอีเมลส่วนตัวของฉัน
    “การฝึก AI” ในหลายกรณีดูจะใกล้เคียงกับ รายละเอียดการนำไปใช้ มากกว่าจะเป็นสิ่งที่ควรอยู่ในนโยบายความเป็นส่วนตัว อยากให้ Mozilla ระบุให้ชัดกว่านี้ว่ากำลังกังวลพฤติกรรมแบบไหน

  • ใช่ บริษัทยักษ์ใหญ่ทำแบบนั้นอยู่แล้ว และก็จะทำต่อไป ถ้าคุณเชื่อว่า บริษัทยักษ์ใหญ่ ไหนสักแห่งคำนึงถึงผลประโยชน์สูงสุดของเราและมีธรรมาภิบาลที่สมบูรณ์แบบ ฮ่า ๆ ขำดังมากจริง ๆ