การฝึก Slack AI ด้วยข้อมูลลูกค้า
(slack.com)- Slack ไม่ได้พัฒนาโมเดล AI เชิงสร้างสรรค์ด้วยข้อมูลลูกค้า แต่สำหรับ โมเดลทำนาย เช่น การแนะนำอีโมจิและช่องทาง อาจมีการวิเคราะห์ข้อความ คอนเทนต์ ไฟล์ และข้อมูลการใช้งาน
- โมเดลทั่วโลกถูกออกแบบมาไม่ให้สร้างข้อมูลบางส่วนของลูกค้าขึ้นมาใหม่ และมีมาตรการควบคุมไม่ให้พนักงานเข้าถึง เนื้อหาพื้นฐาน ระหว่างการพัฒนา AI/ML หรือกระบวนการวิเคราะห์
- ลูกค้าสามารถขอให้ยกเว้นข้อมูลของเวิร์กสเปซหรือองค์กรจากการฝึก Slack global models ได้ และหลังจากยกเว้นแล้วก็ยังใช้ประโยชน์จากโมเดล ML ที่ฝึกในระดับทั่วโลกได้ต่อไป
- การแนะนำช่องทาง ผลการค้นหา การเติมข้อความอัตโนมัติ และการแนะนำอีโมจิ ทำงานโดยใช้โมเดลภายนอก คะแนนเชิงตัวเลข จำนวนการโต้ตอบในอดีต และวลีสาธารณะ เพื่อลดการเปิดเผยข้อมูลลูกค้า
- ฟีเจอร์ AI เชิงสร้างสรรค์ของ Slack ใช้ LLM จากบุคคลที่สาม แต่ข้อมูลลูกค้ายังคงอยู่ภายใน ขอบเขตความไว้วางใจ ของ Slack และจะไม่ถูกใช้ฝึกโมเดล AI เชิงสร้างสรรค์หากไม่มีการ opt-in อย่างชัดเจน
หลักการใช้ข้อมูล AI/ML ของ Slack
- หลักการพัฒนาผลิตภัณฑ์ของ Slack ให้ความสำคัญกับ ความเป็นส่วนตัวและความปลอดภัยของข้อมูลลูกค้า เป็นศูนย์กลาง
- ML และ AI ถูกใช้เป็นเครื่องมือเพื่อปรับปรุงผลิตภัณฑ์ Slack
- ไม่พัฒนา โมเดล AI เชิงสร้างสรรค์ ด้วยข้อมูลลูกค้า
- ในการพัฒนาโมเดลทำนาย เช่น การแนะนำอีโมจิและการแนะนำช่องทาง อาจมีการวิเคราะห์ข้อมูลต่อไปนี้
- ข้อมูลลูกค้า ที่ส่งเข้า Slack: ข้อความ คอนเทนต์ ไฟล์ ฯลฯ
- ข้อมูลอื่น ๆ ที่นิยามไว้ในนโยบายความเป็นส่วนตัวและสัญญาลูกค้า: รวมถึงข้อมูลการใช้งาน
โมเดลทั่วโลกและการควบคุมการเข้าถึง
- Slack ไม่สร้างหรือฝึกโมเดลที่ใช้กันอย่างกว้างขวางในกลุ่มลูกค้าทั้งหมด ในลักษณะที่สามารถสร้างข้อมูลบางส่วนของลูกค้าขึ้นมาใหม่ได้
- ระหว่างการพัฒนาโมเดล AI/ML หรือการวิเคราะห์ข้อมูลลูกค้า พนักงาน Slack ไม่สามารถเข้าถึง เนื้อหาพื้นฐาน ได้
- มีมาตรการทางเทคนิคหลายอย่างเพื่อปกป้องความลับและความปลอดภัยของข้อมูลลูกค้า
- ลูกค้าสามารถ opt-out ไม่ให้ใช้ข้อมูลลูกค้าของตนในการฝึก Slack global models ได้
- ข้อมูลลูกค้าของเวิร์กสเปซที่ opt-out จะถูกใช้เฉพาะเพื่อปรับปรุงประสบการณ์ของเวิร์กสเปซนั้นเท่านั้น
- ยังสามารถใช้ประโยชน์จากโมเดล ML ที่ฝึกแบบทั่วโลกได้ต่อไป
- Org หรือ Workspace Owners, Primary Owner ต้องส่ง Workspace/Org URL และหัวข้อ
Slack Global model opt-out requestไปที่feedback@slack.com - Slack จะตอบกลับหลังจากดำเนินการคำขอ พร้อมแจ้งว่าสำเร็จหรือไม่
การปรับปรุงบริการด้วยข้อมูลลูกค้าและข้อมูลอื่น ๆ
- ทีมผลิตภัณฑ์และทีมวิเคราะห์ของ Slack สามารถใช้ข้อมูลลูกค้าและข้อมูลอื่น ๆ เพื่อพัฒนา อัปเดต และปรับปรุงบริการได้
- การปรับให้เหมาะกับแต่ละบุคคลและการปรับปรุงเหล่านี้เกิดขึ้นได้จากกระบวนการศึกษาและทำความเข้าใจวิธีที่ผู้ใช้โต้ตอบกับ Slack
- ภาระหน้าที่ในการรักษาความลับ ในสัญญาลูกค้าของ Slack และ Privacy Policy มีผลใช้กับแต่ละสถานการณ์
- ลูกค้าเป็นเจ้าของข้อมูลลูกค้าของตนเอง
- Slack รวมและแยกข้อมูลลูกค้า เพื่อให้แม้จะใช้ข้อมูลลูกค้าในการอัปเดตบริการ บุคคลที่สามก็ไม่สามารถระบุได้ว่าลูกค้าหรือบุคคลใดเป็นแหล่งที่มาของการปรับปรุง
- บริษัทในเครือหรือผู้ประมวลผลช่วงของ Slack อยู่ในข้อยกเว้น
วิธีปกป้องข้อมูลตามฟีเจอร์ทำนาย
-
การแนะนำช่องทาง
- อาจแนะนำให้เข้าร่วมช่องทางสาธารณะใหม่ภายในบริษัท
- คำแนะนำอ้างอิงจากสมาชิกของช่องทาง กิจกรรม และหัวข้อที่ทับซ้อนกัน
- โมเดลเรียนรู้จากคำแนะนำในอดีตและการที่ผู้ใช้เข้าร่วมช่องทางหรือไม่
- โมเดลภายนอกที่ไม่ได้ฝึกด้วยข้อความ Slack จะประเมินความคล้ายกันของหัวข้อและส่งออกเป็น คะแนนเชิงตัวเลข
- โมเดลทั่วโลกใช้เพียงคะแนนเชิงตัวเลขนี้และข้อมูลที่ไม่ใช่ข้อมูลลูกค้าเพื่อทำคำแนะนำ
-
ผลการค้นหา
- โมเดล ML สำหรับการค้นหาช่วยระบุผลลัพธ์ที่ตรงกับคำค้นเฉพาะ เพื่อให้ผู้ใช้พบข้อมูลที่ต้องการ
- อ้างอิงจากผลการค้นหาในอดีตและประวัติการมีส่วนร่วมก่อนหน้า
- ถูกออกแบบมาไม่ให้โมเดลสร้างคำค้นหาหรือผลลัพธ์ขึ้นมาใหม่ได้
-
การเติมข้อความอัตโนมัติ
- สามารถเติมคำค้นหาหรือข้อความอื่น ๆ โดยอัตโนมัติได้
- ตัวอย่างเช่น เมื่อผู้ใช้พิมพ์ตัวอักษรแรก ๆ ของ
Customer Supportระบบจะเติมวลีนั้นให้สมบูรณ์ - คำแนะนำเกิดขึ้นในเครื่อง และนำมาจากวลีข้อความสาธารณะทั่วไปในเวิร์กสเปซของผู้ใช้
- อัลกอริทึมที่เลือกคำแนะนำที่เป็นไปได้เรียนรู้ในระดับทั่วโลกจากกรณีการเติมข้อความที่เคยถูกเสนอและยอมรับก่อนหน้านี้
- ใช้กฎที่ให้คะแนนความคล้ายกันระหว่างข้อความที่ป้อนกับคำแนะนำ และอัลกอริทึมรับเข้าเฉพาะ คะแนนเชิงตัวเลขและจำนวนการโต้ตอบในอดีต
-
การแนะนำอีโมจิ
- สามารถเสนออีโมจิสำหรับรีแอ็กชันโดยอ้างอิงจากเนื้อหาและอารมณ์ของข้อความ การใช้อีโมจิในอดีต และความถี่ที่ทีมใช้อีโมจิในบริบทเฉพาะ
- หากในช่องทางหนึ่ง การตอบสนองด้วย 🎉 ต่อข้อความแสดงความยินดีเป็นเรื่องที่พบได้บ่อย ก็อาจแนะนำรีแอ็กชัน 🎉 ให้กับข้อความใหม่ที่มีความเชิงบวกคล้ายกัน
- โมเดลภายนอกที่ไม่ได้ฝึกด้วยข้อความ Slack อาจจัดประเภทอารมณ์ของข้อความได้
- โมเดลของ Slack พิจารณาเฉพาะความถี่ที่ข้อความที่มีอารมณ์บางประเภทเชื่อมโยงกับอีโมจิบางตัวในเวิร์กสเปซนั้น เพื่อแนะนำอีโมจิ
การจัดการข้อมูลลูกค้าใน AI เชิงสร้างสรรค์
- AI เชิงสร้างสรรค์เป็นหมวดหมู่ของระบบ AI ที่สามารถสร้างคอนเทนต์ เช่น ข้อความ เพื่อตอบพรอมป์ที่ผู้ใช้ป้อน
- หมวดหมู่นี้รวมถึง โมเดลภาษาขนาดใหญ่ (LLM)
- AI in Slack ใช้ AI เชิงสร้างสรรค์ และใช้ LLM จากบุคคลที่สาม
- ข้อมูลลูกค้าจะไม่ถูกใช้ฝึกโมเดล AI เชิงสร้างสรรค์ เว้นแต่ลูกค้าจะให้ ความยินยอมแบบ opt-in อย่างชัดเจน
- AI in Slack ใช้ LLM สำเร็จรูป และโมเดลเหล่านี้จะไม่ถูกอัปเดตด้วยข้อมูลลูกค้าหลังจากคำขอ และไม่เก็บรักษาข้อมูลลูกค้าไว้ในรูปแบบอื่น
- โมเดลดังกล่าวโฮสต์บนโครงสร้างพื้นฐานของผู้ให้บริการคลาวด์ เช่น AWS
- ข้อมูลลูกค้ายังคงอยู่ภายในขอบเขตความไว้วางใจของ Slack และผู้ให้บริการ LLM ไม่สามารถเข้าถึงข้อมูลลูกค้าได้
- สามารถรับการแจ้งเตือนการเปลี่ยนแปลงผู้ประมวลผลช่วงได้ที่ Trust and Compliance webpage
แหล่งที่มาของคำตอบจากการค้นหา Slack AI
- ฟีเจอร์ค้นหาของ AI in Slack ดึงแหล่งที่มาของคำตอบจากฟีเจอร์ภายใน Slack และเอกสารที่เชื่อมต่อไว้
- แหล่งที่มาของการค้นหารวมถึงรายการต่อไปนี้
- ฟีเจอร์ Slack: canvas, huddles canvas notes, clip transcripts, text snippets
- ไฟล์ที่อัปโหลดไปยัง Slack: PDF, อีเมล, docx, pptx, Keynote
- เอกสารที่เชื่อมต่อจาก Google Drive: Docs, Slides
- เอกสารจาก Sharepoint/OnDrive: Word, Powerpoint
- แอปพาร์ทเนอร์จัดเก็บไฟล์ เช่น Box: หากติดตั้งไว้
- ผู้ใช้ต้องผ่านการยืนยันตัวตนผ่านการผสานรวมกับ Slack จึงจะเข้าถึงไฟล์เหล่านั้นได้
- ผู้ดูแลสามารถปิดใช้งานผลลัพธ์จากไฟล์ทั้งหมด หรือตั้งค่าไม่ให้ใช้ไฟล์ที่โฮสต์ภายนอกเป็นแหล่งที่มาได้
- ดูคำแนะนำที่เกี่ยวข้องได้ที่ Help Center
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
ติดต่อทีมซัพพอร์ตเพื่อขอ opt out แล้ว คำตอบที่ได้รับคือดำเนินการตามคำขอเสร็จแล้ว
Slack อธิบายว่ามี โมเดลแมชชีนเลิร์นนิงระดับแพลตฟอร์ม เช่น การแนะนำช่อง/อีโมจิ และผลการค้นหา แต่ไม่ได้สร้างหรือฝึกในลักษณะที่สามารถเรียนรู้ จดจำ หรือสร้างข้อมูลลูกค้าซ้ำได้
Slack AI เป็นแอดออนที่ต้องซื้อแยกต่างหาก และบอกว่าไม่ได้ฝึก LLM ด้วยข้อมูลลูกค้า แต่ใช้ LLM ที่โฮสต์อยู่ภายในโครงสร้างพื้นฐาน AWS ของ Slack ทำให้ข้อมูลไม่ถูกแชร์กับผู้ให้บริการ LLM ภายนอก
ลิงก์นโยบาย: https://slack.com/trust/data-management/privacy-principles, https://slack.engineering/how-we-built-slack-ai-to-be-secure...
ก็คงเป็นแบบนั้นแค่จนกว่าจะมี การอัปเดตข้อกำหนดการใช้งาน ครั้งถัดไป
ก็คงทำแบบนั้นใช่ไหม?
ถ้าโครงสร้างคือ “สามารถ opt out เพื่อไม่ให้ใช้ข้อมูลลูกค้าในการฝึกโมเดลทั่วทั้ง Slack ได้ แม้ opt out แล้ว ข้อมูลเวิร์กสเปซจะถูกใช้เฉพาะเพื่อปรับปรุงประสบการณ์ของเวิร์กสเปซนั้น และยังคงได้รับประโยชน์จากโมเดลการฝึกระดับทั่วโลกต่อไป” ก็อดคิดไม่ได้ว่าทำไมใคร ๆ ถึงจะไม่ opt out
แน่นอนว่ายกเว้นกรณีที่ไม่รู้ว่าตัวเองต้อง opt out ดูเหมือนเป็นทางเลือกที่มีแต่เสียล้วน ๆ
ผู้ใช้รายบุคคลดูเหมือนไม่มีสิทธิ์มีเสียงในการกำหนดวิธีใช้ข้อมูลของตนเอง และต้องติดต่อ Workspace Owner
ถ้าต้องติดต่อแบบนั้น ผมคงขอให้พิจารณาแพลตฟอร์มทางเลือกไปเลยดีกว่า
สุดท้ายกลายเป็น เกมตีตัวตุ่นของการ opt out วิธีทำก็เป็นแค่การติดต่อสอบถามทั่วไป และดูเหมือนว่าแม้ opt out แล้วก็ยังมีการเรียนรู้อยู่ดี
อาจจะซ่อนคำใบ้เล็ก ๆ ไว้ในที่ที่แทบมองไม่เห็น แถว ๆ หน้าที่ 300 ของข้อกำหนดก็ได้
ถ้ามองว่าการไม่ opt out คือ “การช่วยสร้างผลิตภัณฑ์ที่ดีกว่า” ในเมื่อเป็นผลิตภัณฑ์ที่จ่ายเงินใช้อยู่แล้ว และทำให้รุ่นถัดไปดีขึ้นได้โดยไม่ต้องลงทุนเวลาเพิ่ม ทำไมจะไม่ทำล่ะ
ได้ผลิตภัณฑ์ที่ดีกว่าในราคาเดิม ส่วนบริษัทก็ได้ผลิตภัณฑ์ที่ขายง่ายขึ้น
ดีลนี้บริษัทอาจได้ประโยชน์มากกว่า แต่การที่ฝ่ายหนึ่งชนะมากกว่าไม่ได้แปลว่าอีกฝ่ายแพ้
ถ้าให้ความสำคัญกับความเป็นส่วนตัวของข้อมูลมาก หรือเชื่อว่าการอนุญาตให้นำไปฝึกทำให้เกิดความเสี่ยงจริงที่จะเปิดเผยข้อมูลที่ไม่เป็นสาธารณะ เรื่องก็จะต่างออกไป และตอนนั้นก็มีตัวเลือกให้หยุดได้ ดังนั้นแต่ละคนก็ชั่งน้ำหนักเองระหว่าง “ผลิตภัณฑ์ที่ดีกว่า” กับ “ความเสี่ยงโดยประมาณของการเปิดเผยข้อมูลที่ไม่เป็นสาธารณะ”
ข้อความที่ว่า “โมเดลที่จะถูกใช้อย่างแพร่หลายในหมู่ลูกค้าทั้งหมด จะไม่ถูกสร้างหรือฝึกในลักษณะที่สามารถเรียนรู้ จดจำ หรือสร้างข้อมูลลูกค้าบางส่วนซ้ำได้” มีเงื่อนงำละเอียดอ่อนและ ถ้อยคำกันความรับผิด มากเกินไป จนยิ่งทำให้ไม่ไว้ใจมากกว่าเชื่อใจ
เพราะใช้ได้เฉพาะกับโมเดลที่ถูกใช้ “อย่างแพร่หลายในหมู่ลูกค้าทั้งหมด” ดังนั้นถ้าไม่ได้ใช้อย่างแพร่หลาย หรือใช้กับลูกค้าบางส่วนเท่านั้น ทั้งประโยคนี้ก็จะไม่ครอบคลุม
ในเชิงตรรกะมันฟังเหมือนบอกเป็นนัยว่าในกรณีแบบนั้นข้อมูลอาจรั่วได้ ซึ่งแย่มาก
ข้อความนี้ควรแก้ และคนที่เขียนก็เป็นความเสี่ยง
กลายเป็นว่าข้อมูลลูกค้าไม่ได้ถูกใช้เพื่อฝึก “โมเดลที่ใช้กันอย่างแพร่หลายในหมู่ลูกค้าทั้งหมดในลักษณะนั้น” แต่ก็ช่วยในการ ฝึกโมเดลระดับทั่วโลก อยู่ดี
แต่ปัญหานั้นใหญ่สำหรับเรามากกว่าสำหรับพวกเขา
ถ้ามีคนถามเหมือนกำลังคุยถึงสถานการณ์ที่เฉพาะเจาะจงมาก ๆ แม้จะไม่ถูกโยงกลับไปยังชื่อลูกค้า แต่ดูเหมือน ข้อมูลลับ ก็อาจหลุดออกมาได้
ใช่ว่าจะถาม LLM ไม่ได้ว่า บริษัทเฉพาะแห่งหรือบริษัทใดก็ได้ในอุตสาหกรรมหนึ่งจะออกแบบบางสิ่งอย่างไร
บอกว่าโมเดลแนะนำช่องเรียนรู้จากคำแนะนำในอดีตและผู้ใช้เข้าช่องที่ถูกแนะนำหรือไม่ แต่ปกป้องความเป็นส่วนตัวด้วยการแยกข้อมูลลูกค้าออกจากโมเดล
อธิบายว่าใช้โมเดลภายนอกที่ไม่ได้ฝึกด้วยข้อความ Slack เพื่อประเมินความคล้ายกันของหัวข้อและสร้าง คะแนนตัวเลข แล้วโมเดลทั่วโลกใช้แค่คะแนนนั้นกับข้อมูลที่ไม่ใช่ข้อมูลลูกค้าในการแนะนำ
การค้นหาก็ไม่ได้เรียนรู้จากตัวคำค้นหรือข้อความผลลัพธ์โดยตรง แต่เรียนรู้ข้อมูลบริบทแยกตามทีม เช่น จำนวนครั้งที่ข้อความถูกคลิกจากการค้นหา หรือคำที่ซ้อนทับกันระหว่างคำค้นกับข้อความที่แนะนำ
คำแนะนำการเติมข้อความอัตโนมัตินำมาจากวลีที่พบบ่อยในข้อความสาธารณะของเวิร์กสเปซ ส่วนในระดับทั่วโลกจะเรียนรู้จากผลการเติมข้อความที่เคยถูกเสนอและยอมรับ แต่ในอัลกอริทึมใช้เพียงคะแนนและจำนวนการโต้ตอบในอดีต
การแนะนำอีโมจิก็ทำนองเดียวกัน คือใช้โมเดลภายนอกที่ไม่ได้ฝึกด้วยข้อความ Slack เพื่อจำแนกอารมณ์ แล้วพิจารณาเฉพาะความถี่ที่ข้อความอารมณ์นั้นกับอีโมจิบางตัวถูกใช้ร่วมกันในเวิร์กสเปซนั้น
สรุปคือ หากต้องการยกเว้นข้อมูลออกจาก โมเดลส่วนกลาง จะต้อง opt out
ขณะเดียวกันก็พูดแบบคลุมเครือว่า “ข้อมูลจะไม่รั่วไหลข้ามเวิร์กสเปซ” จึงชวนสับสนมาก
ควรใช้เครื่องมือที่ไม่ใช่แค่ “จะไม่รั่ว” แต่เป็น “รั่วไม่ได้”
ประโยคที่ว่า “เมื่อพัฒนาโมเดล AI/ML หรือวิเคราะห์ข้อมูลลูกค้า Slack ไม่สามารถเข้าถึงเนื้อหาพื้นฐานได้ มีมาตรการทางเทคนิคหลายอย่างเพื่อป้องกันเรื่องนี้” ทำให้สับสน
“ไม่สามารถ” เป็นคำที่หนักแน่นมาก จึงสงสัยว่าเป็นไปได้อย่างไรที่โมเดล AI เข้าถึงข้อมูลได้ แต่ Slack, Inc เองกลับเข้าถึงไม่ได้
ถ้าไม่ได้พลาดอะไรไป คำนี้ดูใกล้กับ “ไม่ทำ” มากกว่า “ทำไม่ได้”
คงหมายถึง “พนักงาน Slack” แต่ “Slack” อาจรวมถึงทรัพย์สิน ตัวแทน ระบบ คอมพิวเตอร์ เซิร์ฟเวอร์ โมเดล AI ฯลฯ ของบริษัททั้งหมดได้
ต่อให้ Signal บอกว่า “เราไม่สามารถเข้าถึงเนื้อหาของผู้ใช้ได้” ก็ยังฟังดูเป็นถ้อยคำที่ไม่มั่นคงและมองโลกในแง่ดีเกินไป
เมื่อได้ยินว่า “ไม่สามารถ” คนย่อมเข้าใจว่าหมายถึงไม่มีใครในบริษัททำสิ่งนั้นได้ภายใต้ขอบเขตที่ถูกกฎหมาย
พนักงาน Slack อาจปิดมาตรการทางเทคนิคนั้นได้ และพนักงาน Signal ก็อาจอัปเดตแอปให้ส่งต่อข้อความทั้งหมดอ้อมไปยังเซิร์ฟเวอร์อื่นได้
ถ้อยคำที่ดีกว่าคือ “พนักงาน Slack ไม่เข้าถึงเนื้อหาพื้นฐาน”
ถ้าเช่นนั้นก็ดูเหมือนว่า เข้าถึงได้ อย่างชัดเจนมาก
ตัวอย่างเช่น งาน batch สำหรับฝึกโมเดลอาจรันในฐานะผู้ใช้ระบบที่เข้าถึงข้อมูลซึ่งถูกใส่ annotation ว่าเป็น “interaction” ได้ แต่ไม่มีสิทธิ์เข้าถึงข้อมูล “content” เช่น เนื้อหาข้อความหรือข้อความคิวรีของผู้ใช้
หากงานฝึกส่ง RPC เพื่อดึงเนื้อหาเช่นนั้น ก็จะถูกปฏิเสธ เหมือนตอนพยายามเข้าถึง DM ของคนอื่นโดยไม่ได้ล็อกอิน
ในบริษัทขนาดใหญ่ วิศวกรหรือผู้จัดการผลิตภัณฑ์ไม่สามารถกำหนด access control list ได้ตามใจ แต่ต้องร้องขอสิทธิ์การเข้าถึงสำหรับงาน batch ไปยังระบบบางระบบ และคนที่ดูแลระบบนั้นก็ต้องทำตามนโยบายของบริษัท
คล้ายกับพนักงานธนาคารที่จัดการเลขบัญชีได้ แต่ไม่สามารถแอบโอนเงินเข้าบัญชีส่วนตัวได้ หรือทำแล้วก็จะถูกจับได้
ประโยคนี้น่าจะหมายความว่า ในเชิงระบบแล้ว PM ของ Slack คนใดคนหนึ่งไม่สามารถมองข้ามนโยบายเพื่อดัน OKR ของทีมตัวเอง แล้วแอบนำข้อมูลลูกค้าที่ทีมอื่นไม่ได้ใช้ไปฝึกโมเดลได้
แน่นอนว่าอุปมานี้ไม่สมบูรณ์แบบ
พนักงานธนาคารใกล้เคียงกับเจ้าหน้าที่ซัพพอร์ตลูกค้า Slack ที่อาจดูข้อความแทนลูกค้าได้หลังได้รับความยินยอม และมีความเป็นไปได้สูงว่าไม่มีวิธีจริง ๆ ที่จะถ่ายโอนสิทธิ์การเข้าถึงแบบจำกัดที่ให้กับบุคคลไปสู่งานฝึกโมเดล
บริษัทที่มีวุฒิภาวะควรป้องกันไม่ให้พนักงานใช้สิทธิ์เข้าถึงข้อมูลส่วนบุคคลไปฝึกโมเดลบนโน้ตบุ๊กใด ๆ แล้วนำโมเดลนั้นไป deploy ขึ้น production ได้ด้วย
แม้สตาร์ทอัพบางแห่งอาจดำเนินงานแบบนั้นก็ได้
Telegram หรือ WhatsApp ก็เหมือนกัน
คิดว่าถ้ามีรายชื่อบริษัทที่ทำเรื่องแบบนี้ไว้ ก็คงจะหลีกเลี่ยงได้
ถ้ารู้จักบริษัทอื่นที่ ฝึกโมเดลด้วยข้อมูลลูกค้า โดยไม่มีปุ่ม opt out ที่มองเห็นง่ายและชัดเจน ก็อยากให้ช่วยคอมเมนต์ไว้ข้างล่าง
ก่อนหน้านี้ระบุว่าข้อมูลที่ได้จากคำขอซัพพอร์ตทางเทคนิคจะใช้เพื่อแก้ปัญหาเท่านั้น และหลังลบข้อมูลส่วนบุคคลแล้ว อาจใช้รายละเอียดทางเทคนิคบางส่วนเพื่อสร้างรายงานบั๊กได้
ถ้อยคำใหม่ระบุว่า หลังลบข้อมูลส่วนบุคคลแล้ว อาจใช้ข้อมูลทางเทคนิคบางอย่างเพื่อสร้างรายงานบั๊ก และอาจส่งข้อมูลทางเทคนิคที่ทำให้ไม่ระบุตัวตนแล้วไปยัง Microsoft Azure เพื่อใช้บริการ OpenAI ในการปรับปรุงประสบการณ์ซัพพอร์ตทางเทคนิค
ระบุว่าจะยกเว้นข้อมูลที่ระบุตัวบุคคลได้ เช่น ชื่อ หมายเลขโทรศัพท์ ที่อยู่ อีเมล ที่อยู่ IP และหมายเลขซีเรียลของผลิตภัณฑ์
เมื่อก่อนอีเมลอัปเดตนโยบายความเป็นส่วนตัวก็ลบทิ้งไปเฉย ๆ แต่ตอนนี้เริ่มติดนิสัยดู diff ว่ามีถ้อยคำแบบนี้ถูกแทรกเข้ามาหรือไม่
แรงจูงใจแรงเกินกว่าจะต้านทานได้ยาก
https://twitter.com/kepano/status/1688610782509211648
https://twitter.com/kepano/status/1682829662370557952
รายชื่อนั้นว่างเปล่า
ไม่เข้าใจเหมือนกันว่าสิ่งนี้จะอยู่ร่วมกับกฎหมาย สิทธิที่จะถูกลืม ของยุโรปได้อย่างไร
เอาจริง ๆ ก็สงสัยว่าโมเดล AI แบบนี้ตัวไหนกันที่จะรักษาสิทธินั้นได้
ถ้าผู้ใช้ขอให้ลบ จะฝึกโมเดลทั้งหมดใหม่หรือ? คงไม่ใช่แบบนั้น
ลิขสิทธิ์ไม่มีอีกต่อไปแล้ว บอกว่าไม่ใช่การขโมยแต่เป็นการแปลงสภาพ และบอกว่าต้อง opt-out ก่อนที่จะนำทั้งอินเทอร์เน็ตไปฝึกโมเดล ทั้งที่ยังไงก็คงไม่ทำให้อยู่ดี
บอกว่างานจะไม่ลดลงเลย แต่ทุกบริษัทกลับปลดคน 15% ทันที และบังคับให้กลับเข้าออฟฟิศเพื่อหวังเก็บข้อมูลรถยนต์เพิ่มด้วย
ขายฝันว่า “เคล็ดลับแปลก ๆ เพียงข้อเดียว” จะทำให้กลายเป็นโปรแกรมเมอร์ที่มีผลิตภาพสูงสุด แต่ดูเหมือนตั้งใจขายให้บุคคลทั่วไปมากกว่าจะสร้างผลิตภัณฑ์ที่ทำกำไรได้ด้วยตัวเอง
สิ่งที่ร้ายแรงและอันตรายที่สุดคือการที่ข้อมูลถูก เซ็นเซอร์ในระดับต่ำที่สุด ก่อนจะไปถึงปลายนิ้วหรือสายตาของผู้คนด้วยซ้ำ
[0] https://ai.stanford.edu/~kzliu/blog/unlearning
เท่าที่รู้ หากโมเดลถูกฝึกไปแล้ว ก็ไม่จำเป็นต้องลบเพราะคำขอใช้สิทธิที่จะถูกลืม แต่ความไม่แน่นอนทางกฎหมายยังสูงมาก
ถ้าดูคำตัดสิน GDPR ล่าสุด ก็ยังมีโอกาสสูงที่จะเป็นการละเมิด เพราะประเด็นคือเป็น opt-out ไม่ใช่ opt-in
เดาว่าน่าจะกำลังกรองข้อมูลทั้งหมดที่สร้างใน EEA ออกอยู่
สำหรับการส่งข้อความในทีม ควรใช้โซลูชัน self-hosted อย่าง Matrix/Element จริง ๆ
ถ้าไม่อยากมีอุปกรณ์ของตัวเองไว้ในบริษัทก็ไม่เป็นไร แต่ทางออกคือใช้โซลูชันที่เข้ารหัสแบบ end-to-end เพื่อไม่ให้ผู้ให้บริการโฮสติ้งเข้าถึงข้อมูลได้
cryptpad.fr ก็เป็นซอฟต์แวร์ที่ยอดเยี่ยมเช่นกัน
เป็นแบบรับซอร์สโค้ด (Ruby on Rails) แล้วนำไป deploy ที่ไหนก็ได้ตามต้องการ ส่วนเราใช้งานบน DigitalOcean droplet
แรงจูงใจให้ผู้ให้บริการเครื่องมือ SaaS ทั้งหมด ไม่ว่าจะเป็น Slack, Google, Microsoft และรายอื่น ๆ ทำเรื่องแบบนี้นั้นมหาศาลมาก
หากองค์กรต้องการหลีกเลี่ยงการถูกเวนเดอร์ ทำให้กลายเป็นสินค้าโภคภัณฑ์ สุดท้ายก็ต้องควบคุมข้อมูลและกลยุทธ์ AI ของตัวเอง
นั่นน่าจะหมายถึงการปิดฟีเจอร์เล็ก ๆ ราคาแพง และอาจทำธุรกิจพังได้เหล่านั้น สร้างฐานความรู้ส่วนกลางที่มีการควบคุมการเข้าถึงและ governance ที่ดี แล้วจึงเสียบใช้ LLM แบบโอเพนซอร์สหรือแบบกล่องดำจากผู้ให้บริการใดก็ได้
เพราะแบบนั้นจึงอยากให้บริษัทใช้ Mattermost แบบ self-hosted แทน Slack
อนึ่ง Windows 11 ซิงก์ไฟล์ไปยังเซิร์ฟเวอร์ของ Microsoft เป็นค่าเริ่มต้น
คงจะกลายเป็นแนวว่า “เราจะใช้แค่ช่วยเลือกอีโมจิ แล้วก็ใช้อีกนิดกับ เครื่องมือแนะนำหุ้น สนุก ๆ สำหรับใช้ภายในเท่านั้น”
หมายถึงเครื่องมือที่แนะนำหุ้นน่าสนใจที่ควรซื้อ โดยอิงจากความคิดในใจแบบเรียลไทม์ที่ถูกทำให้ไม่ระบุตัวตนของบริษัทเทคโนโลยีหลายแสนแห่งนั่นแหละ