หลังถูกต่อต้าน Zoom ระบุว่าจะไม่ใช้ข้อมูลลูกค้าเพื่อฝึกโมเดล AI

 (darkreading.com)
1 คะแนน โดย GN⁺ 2023-08-15 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • หลังเปิดตัวฟีเจอร์ generative AI แล้วเกิดกระแสต่อต้านว่าการขอสิทธิใช้ข้อมูลกว้างเกินไป Zoom จึงแก้ไขเงื่อนไขการใช้งานและผลิตภัณฑ์เพื่อให้ ไม่นำเนื้อหาของลูกค้าไปใช้ฝึกโมเดล AI
  • ข้อมูลที่ถูกยกเว้นครอบคลุมถึง เสียง วิดีโอ แชต การแชร์หน้าจอ ไฟล์แนบ รวมถึงเนื้อหาที่มีลักษณะเป็นการสื่อสาร เช่น ผลสำรวจ ไวต์บอร์ด และรีแอ็กชัน
  • จุดเริ่มต้นของข้อถกเถียงคือ นโยบายเดิมที่เปิดทางให้นำข้อมูลลูกค้าบางส่วนไปใช้ฝึกสำหรับฟีเจอร์อย่าง Zoom IQ Meeting Summary และ Zoom IQ Team Chat Compose
  • หลังลูกค้าไม่พอใจ Zoom เพิ่มตัวเลือก opt-out ก่อน แต่ต่อมาในวันที่ 11 สิงหาคมก็แก้เงื่อนไขการใช้งานอีกครั้ง โดยลบถ้อยคำที่เกี่ยวกับการใช้ AI ออกไปเป็นส่วนใหญ่
  • อย่างไรก็ดี เงื่อนไขฉบับใหม่ยังคงรักษาสิทธิใน ข้อมูลที่เกิดจากบริการ เช่น telemetry, การใช้งานผลิตภัณฑ์ และข้อมูลวินิจฉัย จึงยังสะท้อนความตึงเครียดระหว่างฟีเจอร์ AI กับความเชื่อมั่นของผู้ใช้

เงื่อนไขการใช้งานของ Zoom ที่เปลี่ยนมาเป็นยกเว้นเนื้อหาลูกค้าจากการฝึก AI

  • หลังได้รับเสียงสะท้อนจากลูกค้า Zoom ได้อัปเดต Terms of Service โดยระบุชัดเจนว่าจะไม่นำเนื้อหาของลูกค้าไปใช้ฝึก โมเดล AI ของ Zoom หรือของบุคคลที่สาม
  • เนื้อหาลูกค้าที่ไม่ถูกนำไปใช้ฝึก AI มีดังนี้
    • เสียง
    • วิดีโอ
    • แชต
    • การแชร์หน้าจอ
    • ไฟล์แนบ
    • เนื้อหาลูกค้าที่มีลักษณะเป็นการสื่อสาร เช่น ผลสำรวจ ไวต์บอร์ด และรีแอ็กชัน
  • เบื้องหลังข้อถกเถียงนี้คือฟีเจอร์ generative AI ของ Zoom
    • Zoom IQ Meeting Summary: ฟีเจอร์สรุปการประชุมอัตโนมัติด้วย AI
    • Zoom IQ Team Chat Compose: ฟีเจอร์ช่วยเขียนแชตด้วย AI
  • นโยบายก่อนหน้านี้ให้สิทธิ Zoom ในการใช้ข้อมูลลูกค้าบางส่วนเพื่อฝึกโมเดล AI ที่อยู่เบื้องหลังฟีเจอร์เหล่านี้ และการที่ทำได้โดยไม่ต้องได้รับความยินยอมจากลูกค้าได้ก่อให้เกิดแรงต่อต้าน

สิทธิการใช้ข้อมูลที่กว้างและภาระด้านความเชื่อมั่นที่เพิ่มขึ้น

  • เงื่อนไขเดิมให้สิทธิ Zoom อย่างกว้างขวางมากในการใช้ข้อมูลลูกค้า
    • สิทธิแบบ “perpetual, worldwide, non-exclusive, royalty-free, sublicensable, and transferable”
    • ครอบคลุมวัตถุประสงค์อย่างกว้าง รวมถึง machine learning, ปัญญาประดิษฐ์, การฝึก และการทดสอบ
    • รวมถึงการกระทำกับข้อมูลอย่าง “redistribute, publish, import, access, use, store, transmit, disclose”
  • เมื่อเสียงคัดค้านจากลูกค้ากระจายไปบนโซเชียลมีเดีย Zoom จึงแก้นโยบายก่อนเป็นลำดับแรก โดยระบุว่า “จะไม่ใช้เนื้อหาลูกค้าประเภทเสียง วิดีโอ และแชตเพื่อฝึกโมเดล AI โดยไม่ได้รับความยินยอมจากลูกค้า”
  • ต่อมาในวันที่ 11 สิงหาคม Zoom ได้แก้เงื่อนไขการใช้งานอีกครั้ง และแทบจะลบถ้อยคำที่เกี่ยวกับ การใช้ปัญญาประดิษฐ์ ออกไปเกือบทั้งหมด
  • อย่างไรก็ตาม เงื่อนไขฉบับใหม่ยังคงสิทธิของ Zoom เหนือข้อมูลที่เกิดจากบริการไว้
    • ข้อมูล telemetry
    • ข้อมูลการใช้งานผลิตภัณฑ์
    • ข้อมูลวินิจฉัย
  • Shomron Jacob หัวหน้าฝ่าย machine learning ของ iterate.ai มองว่า บริษัทเทคโนโลยีใช้ข้อมูลลูกค้ามาอย่างยาวนานเพื่อปรับปรุงประสบการณ์ผู้ใช้และเพิ่มฟีเจอร์ใหม่
    • นี่เป็นบริบทเดียวกับที่ Google, Facebook และ Amazon ใช้ข้อมูลผู้ใช้เพื่อปรับแต่งบริการและปรับปรุงอัลกอริทึม AI
  • เมื่อการจับตาเรื่องความเป็นส่วนตัว ความปลอดภัย และประเด็นจริยธรรมของ AI เพิ่มขึ้น ความคาดหวังเรื่อง ความโปร่งใส และ ความยินยอมของผู้ใช้ ก็สูงขึ้นตามไปด้วย
  • เมื่อกรอบกำกับดูแลอย่าง GDPR และ CCPA ของรัฐแคลิฟอร์เนียกำหนดมาตรฐานการเก็บและใช้ข้อมูล บริษัทเทคโนโลยีจึงต้องจัดการทั้งการใช้ข้อมูลเพื่อพัฒนา AI การปฏิบัติตามข้อกำกับ และการรักษาความเชื่อมั่นของผู้ใช้ไปพร้อมกัน

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-08-15
ความคิดเห็นบน Hacker News

  • ถ้าข้อมูลถูกเก็บไว้ในฐานข้อมูลที่บริษัทสามารถอ่านและเข้าถึงได้อย่างอิสระ กล่าวคือ ไม่ใช่การเข้ารหัสแบบปลายทางถึงปลายทาง สุดท้ายบริษัทก็จะเปลี่ยนเงื่อนไขการใช้งานเพื่อพยายามนำข้อมูลนั้นไปใช้ ฝึก AI
    ผมมองว่าแรงจูงใจมันแรงเกินกว่าจะต้านไหว

    • ผมคิดว่าตรรกะนี้ไม่ค่อยถูกนัก
      ลูกค้าที่จ่ายเงินไม่ชอบมากจริง ๆ ที่ข้อมูลของตัวเองถูกใช้ฝึกโมเดล AI โดยไม่ได้รับอนุญาต และกรณี Zoom ครั้งนี้ก็เป็นตัวอย่างล่าสุด
      บริษัทที่พยายามทำแบบนี้จะเจ็บหนัก และ Zoom ก็เจ็บหนักไปแล้วด้วย ส่วนตัวผมคิดว่า Zoom ไม่ได้ตั้งใจจะทำจริง ๆ แต่เป็นกรณีที่สื่อสารให้ชัดเจนไม่พอว่าจะไม่ทำ จนกลายเป็นหายนะด้าน PR มากกว่า
      ถ้าลูกค้าที่จ่ายเงินไม่ชอบ แรงจูงใจในมุมบริษัทกลับจะเทไปทาง ไม่ทำ อย่างแรงกว่ามาก
    • ควรมีกฎหมายเข้ามาแทรกแซง โดยห้ามนำเงื่อนไขใหม่หรือเงื่อนไขที่เปลี่ยนแปลงไปใช้กับข้อมูลที่เก็บมาก่อนที่ผู้ใช้จะยอมรับอย่างชัดเจน
      สำหรับบริษัทแล้วคงปวดหัว เพราะต้องติดตามว่าข้อมูลแต่ละชิ้นถูกเก็บภายใต้ เวอร์ชันของเงื่อนไขการใช้งาน ใด แต่ก็ควรทำให้มันยุ่งยากถึงขนาดนั้น เพื่อให้บริษัทปฏิบัติต่อข้อมูลเหมือนเป็น หนี้สิน อย่างที่ควรจะเป็น
    • ทำให้นึกถึงกฎการกลืนซอฟต์แวร์ของ Jamie Zawinski: “ทุกโปรแกรมพยายามขยายตัวจนกว่าจะอ่านเมลได้ โปรแกรมที่ขยายไปถึงจุดนั้นไม่ได้จะถูกแทนที่ด้วยโปรแกรมที่ทำได้”
    • ถ้ามีลูกค้าองค์กรขนาดใหญ่จำนวนมาก ก็เป็นปัจจัยยับยั้งที่ค่อนข้างแรง ลูกค้าองค์กรที่มีสามัญสำนึกคงพูดว่า “ดีล่ะ ถึงเวลาใช้ MS Teams แล้ว” เมื่อเกิดเรื่องแบบนี้ขึ้น
    • ข้อมูลผู้ใช้ส่วนใหญ่น่าจะไร้ประโยชน์โดยสิ้นเชิงต่อการ ฝึก AI
      ไม่มีบริบท และไม่มีการควบคุมคุณภาพ ต่อให้สมมติว่าด้วยปัญญาของฝูงชน ค่าเฉลี่ยจะเข้าใกล้คำตอบที่ถูกต้อง ก็เท่ากับฝึกให้ AI ให้คำตอบธรรมดา ๆ อยู่ดี
      ในยุคกระแส Big Data ร้อนแรง บริษัทจำนวนมากบอกว่าข้อมูลมีมูลค่าและเก็บทุกอย่างไว้ แต่ส่วนใหญ่ไม่ได้มีมูลค่าแม้เท่าต้นทุนฮาร์ดดิสก์ด้วยซ้ำ มันจะมีมูลค่าก็ต่อเมื่อมีผู้ซื้อที่ยอมจ่ายต้นทุนเพื่อนำไปใช้
      โลกนี้มีข้อมูลมากมาย แต่สิ่งที่มีมูลค่าจริง ๆ คือ สารสนเทศและความรู้

  • Zoom แค่ผิดหวังที่การเปลี่ยนเงื่อนไขการใช้งานแพร่กระจายออกไป และคงผิดหวังด้วยว่าชื่อเสียงด้านความเป็นมิตรต่อความเป็นส่วนตัวของตัวเองดีพอจนเรื่องนี้กลายเป็นประเด็นถกเถียงได้
    ผมสงสัยว่า Teams จะโดนกระแสตีกลับคล้ายกันไหม ถ้าในเงื่อนไขการใช้งานยังไม่มีข้อความทำนองนั้นอยู่แล้ว

    • อาจเป็นอย่างนั้นก็ได้ แต่ Teams เก่งมากในการเมินกระแสตีกลับ
      บางคนอาจรู้สึกต่างออกไป แต่คนที่ผมรู้จักทุกคนเกลียด Teams อยู่แล้ว และใช้เฉพาะตอนที่บริษัทบังคับให้ใช้เท่านั้น
    • Teams จะใช้ข้อมูล O365 ขององค์กรเพื่อให้บริการ AI Copilot ซึ่งเป็นฟีเจอร์ที่ลูกค้าเรียกร้องอย่างแท้จริง
    • วัฒนธรรมของ Microsoft ระมัดระวังอย่างยิ่งกับการใช้ ข้อมูลลูกค้า ในลักษณะนี้
      ผมเคยคุยกับผู้บริหาร Microsoft คนหนึ่ง เขาบอกว่าเคยมีไอเดียจะใส่โฆษณาตามบริบทใน Hotmail แบบ Gmail แต่ถูกปฏิเสธอย่างหนัก
      แนวคิดที่จะใช้ข้อมูลลูกค้า แม้แต่ข้อมูลของผู้ใช้ฟรี ในแบบนั้นถือเป็นเรื่องต้องห้าม Microsoft หาเงินจากสัญญาองค์กรขนาดใหญ่ และถ้าข้อมูลลูกค้าถูกนำไปใช้ในทางใดทางหนึ่งที่เป็นประโยชน์ต่อคู่แข่ง สัญญาเหล่านั้นก็อาจถูกคุกคามได้

  • บทความที่เกี่ยวข้อง:
    Zoom's TOS Permit Training AI on User Content Without Opt-Out - https://news.ycombinator.com/item?id=37038494 - สิงหาคม 2023 (ความคิดเห็น 35 รายการ)
    How Zoom’s terms of service and practices apply to AI features - https://news.ycombinator.com/item?id=37037196 - สิงหาคม 2023 (ความคิดเห็น 177 รายการ)
    Ask HN: Zoom alternatives which preserve privacy and are easy to use? - https://news.ycombinator.com/item?id=37035248 - สิงหาคม 2023 (ความคิดเห็น 16 รายการ)
    Not Using Zoom - https://news.ycombinator.com/item?id=37034145 - สิงหาคม 2023 (ความคิดเห็น 194 รายการ)
    Zoom terms now allow training AI on user content with no opt out - https://news.ycombinator.com/item?id=37021160 - สิงหาคม 2023 (ความคิดเห็น 510 รายการ)

  • Zoom มี โมเดล AI หลายตัวอย่างแน่นอน และ Teams หรือ Google Chat ฯลฯ ก็เช่นกัน
    การทำคำบรรยายและถอดเสียงการประชุมอัตโนมัติต้องใช้โมเดลเหล่านั้น และการเบลอพื้นหลังหรือแยกพื้นหลังอัตโนมัติก็ต้องใช้โมเดลด้วย น่าจะกำลังทำผลิตภัณฑ์ “สรุปการประชุม” อยู่ด้วย
    ฟีเจอร์เหล่านี้เป็นฟีเจอร์ที่ผู้คนชอบและใช้ตลอด ผมสงสัยว่าคาดหวังให้ Zoom ปรับปรุงฟีเจอร์เหล่านี้ได้อย่างไรโดยไม่เก็บข้อมูลผู้ใช้จริงจากแพลตฟอร์ม

    • ปัญหาที่แท้จริงไม่ใช่ข้อเท็จจริงที่ว่าสามารถใช้ข้อมูลลูกค้าเพื่อวัตถุประสงค์แบบนั้นได้ แต่คือการที่สามารถใช้ข้อมูลลูกค้าได้โดยไม่ขอ ความยินยอม ก่อน

  • สายไปแล้ว ผมใช้เวลาหนึ่งชั่วโมงตั้งอินสแตนซ์ Jitsi แบบโฮสต์เอง และไม่มีเหตุผลให้กลับไปอีก

    • ใช่เลย หลังอ่านโพสต์นั้น ภายใน 2 ชั่วโมงผมก็รัน Jitsi ที่ปรับแต่งเล็กน้อยบนโฮสต์ Docker ของ Hetzner ได้แล้ว
      ผมทึ่งกับประสิทธิภาพและความเสถียรของ Jitsi
    • โฮสต์ Jitsi ไว้ที่ไหน?
    • ถ้ามีข้อค้นพบหรือบทเรียนอะไรที่ได้มา ก็น่าจะช่วยได้มาก
      คนรู้จักหลายคนรวมถึงผมกำลังจะเดินเส้นทางนี้เร็ว ๆ นี้

  • กำลังทำรายชื่อบริษัท AI ที่ใช้ข้อมูลผู้ใช้ในการฝึก: https://github.com/skiff-org/skiff-org.github.io/blob/main/b...
    จะอัปเดตรายการของ Zoom แต่ก็ยังมองว่าน่าสงสัยอยู่ดี

    • อะไรคือเส้นแบ่งระหว่าง “AI” กับ “แมชชีนเลิร์นนิง” หรือโมเดลเชิงพยากรณ์อื่น ๆ ที่อยู่ในแอปพลิเคชัน?
      สัปดาห์ที่แล้วผม/ฉันเพิ่ง fit โมเดลถดถอย ด้วยข้อมูลลูกค้าบางส่วน แบบนั้นถือว่าใช้ข้อมูลลูกค้าฝึก AI หรือไม่? เป็นเรื่องของเจตนา เรื่องว่ามุ่งให้ผู้ใช้ทั่วไปใช้งาน หรือเป็นเรื่องว่าเป็นโมเดลสร้างสรรค์เนื้อหาหรือไม่?
    • ยังไงก็แน่นอนว่าพวกเขายังจะทำการวิเคราะห์เชิงสถิติด้วยข้อมูลผู้ใช้อยู่ และผม/ฉันมองว่านั่นก็อยู่ในหมวด “AI ที่อิงข้อมูลผู้ใช้” ด้วย
      ดังนั้นจึงไม่คิดว่าเกณฑ์นั้นใช้ได้

  • Zoom เก็บ ข้อมูลวิดีโอหรือเสียง ของการโทรไว้หรือไม่? นี่คือคำถามสำคัญจริง ๆ
    ถ้ามีการเก็บอะไรไว้แม้แต่นิดเดียว ก็ไว้ใจไม่ได้

    • ถ้าบันทึกวิดีโอคอล Zoom จะเก็บให้แทน นอกเหนือจากนั้นไม่ควรมีการเก็บไว้
      นอกจากนี้ ถ้าใช้โปรโตคอลสตรีมมิงวิดีโออย่าง HLS หรือ MPEG-DASH สตรีมจะถูกจัดเก็บเป็นชิ้นวิดีโอ แล้วลบภายหลัง

  • น่าผิดหวังอีกแล้วที่บริษัทใหญ่ ๆ พยายามดันนโยบายแบบนี้ให้ผ่านไปแบบไม่เป็นที่สังเกต
    ใครกันที่คิดว่านี่โอเค? เป็นผู้บริหารที่หวังแค่กอบโกยเงินหรือเปล่า? เราควรทำได้ดีกว่านี้

  • “หลังเกิดกระแสต่อต้าน Zoom ระบุว่าจะไม่ใช้ข้อมูลลูกค้าในการฝึกโมเดล AI”
    อย่างน้อยก็ในตอนนี้

  • ถ้าทุกอย่างเป็น การเข้ารหัสแบบปลายทางถึงปลายทาง ตั้งแต่แรก แล้วจะฝึกได้อย่างไร?

    • มีอยู่สองทาง: แมชชีนเลิร์นนิงเก่งมากจนดึงรายละเอียดออกมาจากสตรีมที่เข้ารหัสได้ หรือไม่ก็บริษัทใช้คำว่า “ปลายทางถึงปลายทาง” ในความหมายว่า “ปลายทาง-คนกลาง-ปลายทาง” และกำลังบันทึกทุกอย่างไว้ตรงกลาง
      ดูเหมือนทุกคนคงเห็นค่อนข้างชัดว่าอย่างไหนน่าจะเป็นไปได้มากกว่า แต่แปลกที่น่าจะมีความเห็นต่างกันว่าอย่างไหนฟังไม่ขึ้น
    • ไม่ใช่แบบนั้น E2EE ต้องเปิดเอง: https://support.zoom.us/hc/en-us/articles/360048660871-End-t...
    • มีคอมเมนต์มากมายเกี่ยวกับความหมายของการเข้ารหัสแบบปลายทางถึงปลายทาง แต่ดูเหมือนมีคนพูดถึงน้อยกว่าว่าจริง ๆ แล้วที่นี่เกิดอะไรขึ้น
      Zoom นั้น “เข้ารหัส” เหมือนบริการจำนวนมากที่ผม/ฉันรู้จัก เช่น Meet, Teams, WebEx แต่ค่าเริ่มต้นไม่ใช่ “การเข้ารหัสแบบปลายทางถึงปลายทาง” ในความหมายทั่วไป บางบริการมีตัวเลือก E2EE แต่ถูกซ่อนไว้ลึกในตั้งค่าของบริการ และเปิดใช้งานไม่ง่าย
      ดังนั้นโดยการออกแบบแล้ว เซิร์ฟเวอร์สามารถเห็นเสียงและวิดีโอได้ และก็เห็นจริง ๆ หากโครงสร้างพื้นฐานถูกเจาะ ผู้โจมตีก็เห็นได้เช่นกัน การเข้ารหัสในโหมดพื้นฐานเพียงแค่กันไม่ให้ ISP เห็นเนื้อหาการโทรเท่านั้น
      ในทางตรงกันข้าม การโทรของ Signal เป็น E2EE แม้การโทรที่ relay ผ่านเซิร์ฟเวอร์ของ Signal ตัว Signal ก็ไม่เห็นวิดีโอหรือเสียงที่ถอดรหัสแล้ว อย่างไรก็ตาม แม้ในกรณีนี้ก็ยังรู้ได้ว่าใครเป็นผู้เข้าร่วมสาย แต่ไม่รู้ว่าพูดอะไรกัน
      นอกเรื่องนิดหนึ่ง นั่นคือเหตุผลที่เราสร้าง Booth.video เพื่อแสดงให้เห็นว่านี่ไม่ใช่ trade-off พื้นฐาน และ E2EE กับการประชุมวิดีโอที่ปลอดภัยด้านเมทาดาตา ก็ทำได้แม้บนเบราว์เซอร์
    • ไม่ใช่ทุกการประชุมจะถูกเข้ารหัสแบบ E2E เพราะถ้าเปิดการเข้ารหัส ฟีเจอร์จำนวนมากอย่าง การบันทึกบนคลาวด์ และแอปต่าง ๆ จะถูกปิดใช้งาน
    • นิยามคำว่าปลายทางถึงปลายทางของ Zoom คืออะไร?