Meta ระงับโปรแกรมติดตามพนักงาน หลังข้อมูลภายในรั่วไหล

 (wired.com)
1 คะแนน โดย GN⁺ 5 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Meta ระงับโครงการ Model Compatibility Initiative(MCI) ชั่วคราว หลังข้อมูลที่เก็บจากการป้อนข้อมูลบนคอมพิวเตอร์ของพนักงานถูกเปิดเผยภายในบริษัทมากเกินไป
  • MCI ถูกนำมาใช้กับพนักงานในสหรัฐฯ เมื่อเดือนเมษายน และก่อให้เกิดเสียงคัดค้านจากพนักงาน เนื่องจากเก็บข้อมูลอย่าง การเคลื่อนไหวของเมาส์·ตำแหน่งการคลิก·การกดแป้นพิมพ์·เนื้อหาบนหน้าจอ
  • ฝ่ายบริหารมองว่า AI จำเป็นต้องใช้ข้อมูลของพนักงานเพื่อเรียนรู้วิธีที่มนุษย์ใช้งานซอฟต์แวร์ แต่ความกังวลด้านความเป็นส่วนตัวและความปลอดภัยก็พัฒนาไปสู่ปัญหาการเปิดเผยข้อมูลภายในจริง
  • Stephane Kasriel แจ้งพนักงานว่าปัญหาความปลอดภัยที่พบเมื่อวันที่ 18 มิถุนายนถูกจัดการภายใน 4 ชั่วโมง แต่เนื่องจากการแก้ไขเบื้องต้นไม่คงอยู่ จึงได้จำกัดการเข้าถึงข้อมูลเพิ่มเติม
  • Meta อธิบายว่าจะกลับมาเปิดใช้ MCI อีกครั้งก็ต่อเมื่อมั่นใจว่า การควบคุมการปกป้องข้อมูล มีประสิทธิภาพ และได้เก็บข้อมูลเพียงพอแล้วสำหรับประเมินคุณค่าในระยะยาว

การหยุด MCI และการเปิดเผยข้อมูลภายใน

  • Meta ระงับโปรแกรมติดตามพนักงาน MCI ชั่วคราว
  • การระงับเกิดขึ้นหลังจากข้อมูลที่อาจมีความอ่อนไหวซึ่งเก็บผ่าน MCI ถูกเปิดเผยให้พนักงานคนอื่นภายในบริษัทเห็น
  • Tracy Clayton โฆษกของ Meta อธิบายว่าโปรแกรมนี้ถูกออกแบบให้มีมาตรการคุ้มครองความเป็นส่วนตัว และขณะนี้ยังไม่มีสัญญาณว่าพนักงาน Meta เข้าถึงข้อมูลอย่างไม่เหมาะสม แต่จะระงับไว้ระหว่างการสอบสวน

ข้อมูลที่เก็บและแรงต้านจากพนักงาน

  • MCI เป็นเครื่องมือที่แจกจ่ายให้พนักงานในสหรัฐฯ เมื่อเดือนเมษายน
  • ข้อมูลที่เก็บซึ่งพนักงานชี้ประเด็นในคำร้องคัดค้านมีดังนี้
    • การเคลื่อนไหวของเมาส์
    • ตำแหน่งการคลิก
    • การกดแป้นพิมพ์
    • เนื้อหาบนหน้าจอ
  • ตอนเปิดตัว พนักงานไม่สามารถ opt-out จาก MCI ได้ แต่หลังการประท้วงก็มีการเปลี่ยนแปลงในวงจำกัด
  • พนักงานกังวลมาโดยตลอดว่า MCI อาจละเมิด ความเป็นส่วนตัว·ความปลอดภัย·เสรีภาพส่วนบุคคล

เหตุผลที่ Meta ผลักดัน MCI

  • ผู้บริหาร Meta ปกป้องการเก็บข้อมูลของ MCI ซ้ำแล้วซ้ำเล่าว่าจำเป็นต่อการฝึกระบบ AI
  • เป้าหมายคือให้ AI เรียนรู้วิธีที่มนุษย์ควบคุมซอฟต์แวร์บนคอมพิวเตอร์
  • ฝ่ายบริหารมองว่าพนักงานคือกรณีตัวอย่างที่ดีที่สุดที่ AI สามารถเรียนรู้ได้

ประกาศความปลอดภัยภายในและปฏิกิริยาของพนักงาน

  • เมื่อวันจันทร์ วิศวกรของ Meta คนหนึ่งแจ้งในประกาศความปลอดภัยภายในว่าฐานข้อมูลที่บรรจุข้อมูลซึ่งเก็บผ่าน MCI ถูกเปิดให้ใครก็ตามภายในบริษัทเข้าถึงได้
  • อดีตพนักงานที่เคยร่วมกิจกรรมคัดค้าน MCI เรียกปัญหานี้ว่า “a mess” และบอกว่าเป็นสิ่งที่พนักงานคาดไว้แล้ว
  • อดีตพนักงานรายดังกล่าววิจารณ์ว่าผู้นำยังคงดันโครงการนี้ต่อ แม้พนักงานจะกังวล และไม่ยอมรับความเสี่ยงด้านความปลอดภัยและความเป็นส่วนตัวของข้อมูลพนักงานและลูกค้า
  • ในฟอรัมภายในเมื่อวันจันทร์ มีคอมเมนต์วิจารณ์ปัญหาความปลอดภัยอย่างหนัก และหลังจากนั้น Meta ก็ระงับ MCI ทั้งหมดจนทำให้พนักงานบางส่วนถึงกับประหลาดใจ
  • พนักงานบางคนบอกว่ายังสับสน เพราะก่อนมีประกาศระงับ เครื่องมือนี้ยังคงทำงานอยู่บนโน้ตบุ๊กของพวกเขา

ประกาศของ Kasriel และเงื่อนไขการกลับมาใช้งาน

  • Stephane Kasriel รองประธานที่กำกับดูแลงานวิจัย AI ของ Meta แจ้งพนักงานเมื่อช่วงดึกวันจันทร์ถึงการระงับ MCI
  • ตามคำบอกของ Kasriel ปัญหาความปลอดภัยถูกพบเมื่อวันที่ 18 มิถุนายน และจัดการภายใน 4 ชั่วโมง
  • อย่างไรก็ตาม เนื่องจากการแก้ไขเบื้องต้นไม่คงอยู่ จึงต้องล็อกการเข้าถึงข้อมูลเพิ่มเติม
  • ปัญหานี้ทำให้ “ข้อมูลอนุพันธ์ของ MCI บางส่วน” ถูกเข้าถึงได้โดยคนมากกว่าที่ตั้งใจไว้ แต่ไม่มีการให้รายละเอียดที่เจาะจง
  • MCI จะถูกเปิดใช้งานอีกครั้งก็ต่อเมื่อ Meta มั่นใจในประสิทธิภาพของ การควบคุมการปกป้องข้อมูล
  • Meta ระบุว่าได้เก็บข้อมูลเพียงพอแล้วสำหรับประเมินคุณค่าระยะยาวของ MCI และจะมีการแบ่งปันเพิ่มเติมเกี่ยวกับอนาคตของ MCI ต่อไป

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 5 시간 전
ความเห็นจาก Hacker News

  • Meta ยังคงเป็นบริษัทที่ หน้าด้านที่สุด และแทบจะเป็นบริษัทที่น่าอับอายเกินกว่าจะไปทำงานด้วย
    นึกไม่ออกเลยว่ามีผลิตภัณฑ์ของบริษัทนี้ชิ้นไหนที่ไม่ได้ทำให้โลกแย่ลงอย่างเห็นได้ชัด
    แม้แต่การบุกตลาดฮาร์ดแวร์ล่าสุดก็ยังหาทางไปในทิศแบบผู้ชายใช้ Ray-Ban ถ่ายผู้หญิงที่เมา การสอดส่อง และการทำลายความไว้วางใจในการปฏิสัมพันธ์ประจำวัน
    คนรู้จักของผมหลายคนที่อยู่ในแล็บ frontier ที่ “รอบคอบกว่า” บอกว่าแค่เหตุผลนี้ก็พอให้คัดผู้สมัครจาก Meta ทิ้งได้ทันที

    • ตัวอย่างเช่น Facebook ทำเงินให้ผู้ถือหุ้นได้มาก และเราก็รู้กันว่านั่นเท่ากับการทำให้โลกน่าอยู่ขึ้นนี่เอง
    • ถ้าจะพูดถึงผลิตภัณฑ์ที่ไม่ได้ทำให้โลกแย่ลงอย่างชัดเจน ก็มี zstd
      ส่วน React กับ PyTorch ยังเป็นประเด็นที่ตัดสินกันได้หลายทาง
    • Meta เหมือน คุกทองคำ สำหรับวัยรุ่นที่โตไม่เป็น ไม่ว่าจะทำอะไร ก็ยังเติบโตไม่ได้อยู่ดี น่าอับอายมาก
    • ผลิตภัณฑ์ของ Meta เป็นผลเสียต่อสังคมก็จริง แต่ถ้าถามว่าบริษัทไหนน่าอายกว่าถ้าจะไปทำงานด้วย ผมว่าเป็น Palantir
    • Facebook ในช่วงปี 2004~2005 ดีมากจริงๆ
      มันแพร่กระจายเหมือนไฟลามทุ่ง และก็สนุกมากที่จะใช้ เป็นยุคที่มีแค่ผม เพื่อนมหาวิทยาลัย และเพื่อนของเพื่อนพวกนั้นอยู่ในนั้น

  • ถ้าพวกเขายังทำแบบนี้กับพนักงานที่ตัวเองจ่ายเงินเพื่ออยากรั้งตัวไว้ แล้วกับข้อมูลผู้ใช้พวกเขาจะคิดทำอะไรอีก
    แล้วกับระบบของตัวเองที่เชื่อมเข้าไปในระบบของผู้ใช้ พวกเขาจะคิดทำอะไรอีก
    “Dumb f*cks” ดูจะเป็น แนวทางประจำบริษัทตั้งแต่วันแรก

  • ผมยิ่งมั่นใจขึ้นเรื่อยๆ ว่าการรั่วไหลแบบนี้คือการต่อต้านที่ได้ผลจริงเพียงอย่างเดียวต่อ สังคมแห่งการสอดส่อง ที่เรากำลังเดินเข้าไปหา
    Meta จะทำแบบนี้ต่อไป นายจ้างรายอื่นก็คงทำตาม และรัฐบาลก็จะเอาข้อมูลเหล่านั้นไปเพิ่มในแฟ้มของตัวเองผ่าน “กระบวนการทางกฎหมายที่เหมาะสม”
    การขยายกล้องวงจรปิด การควบคุมแชต และการลบความไม่เปิดเผยตัวตน กำลังเกิดขึ้นต่อหน้าต่อตาแบบเรียลไทม์
    เมื่อข้อมูลแบบนี้รั่วออกมา ทุกคนก็จะเห็นชัดว่ามันเป็น ความเสี่ยงด้านความรับผิด ที่ใหญ่แค่ไหน ข้อมูลของผู้บริหาร Meta ก็อยู่ในกองนั้น และทหารกับสมาชิกสภาก็อยู่ในฐานข้อมูลของ Flock
    จะมีสมาชิกวุฒิสภากี่คนกันที่ PornHub น่าจะมีโปรไฟล์รสนิยมที่แม่นยำของพวกเขาอยู่
    แน่นอนว่าการรั่วไหลของข้อมูลแบบนี้สร้างความเสียหาย แต่ความเสียหายนั้นมากกว่าการที่ทุกคนถูกเฝ้าดูโดยทุกคนจากทุกที่จริงหรือ

    • ถ้าไม่รั่ว ความเสียหายอาจยิ่งมากกว่า
      เพราะมันสามารถถูกใช้แบล็กเมลคนมีอำนาจได้ แค่มีคำพูดที่เป็นประเด็น หรือรสนิยมทางเพศที่แปลกไปหน่อย ก็จบแล้ว โดยไม่ต้องทำอะไรผิดกฎหมายเป็นพิเศษเลย
      แน่นอนว่าอาจมีเรื่องผิดกฎหมายจริงด้วย และถึงจะไม่มีเรื่องผิดกฎหมายเลย ก็อาจมากพอที่จะปั้นการสืบสวนแบบ parallel construction ขึ้นมาได้

  • ถ้าอ่านบทความที่ลิงก์ไว้ จะเห็นว่าข้อมูลที่รั่วมีทั้ง ภาพหน้าจอที่ดูเหมือนเป็นบทสนทนาส่วนตัวแบบข้อความล้วน ของพนักงานบางคน และข้อมูลด้านผลงาน
    การอัดวิดีโอทั้งหน้าจอไว้แล้วหวังว่ามันจะถูกทำให้นิรนามได้ดี ถือว่าใจกล้ามากทีเดียว

  • คนที่พูดว่า “ถ้าคุณไม่ทำผิดกฎ ก็ไม่มีอะไรต้องกลัว” ควรคิดด้วยว่าบริษัทส่วนใหญ่มองการ ทำงานตามกฎระเบียบอย่างเคร่งครัด ว่าเป็นการประท้วงอย่างหนึ่ง
    ต่อให้คุณแค่ทำตามกฎเป๊ะๆ การสอดส่องนี้ก็จะถูกใช้เพื่อระบุตัวคุณและลงโทษคุณอยู่ดี

  • ระบบนั้นน่าจะเป็นฝันร้ายในกระบวนการ discovery

    • ฟังดูเหมือนเป็นไอเดียที่ยอดเยี่ยมเลยด้วยซ้ำ
      สงสัยเหมือนกันว่าพวกเขาคิดเผื่อเรื่องนี้แล้วหรือยัง และยกเว้นตำแหน่งงานที่มีโอกาสสร้าง “หลักฐานมัดตัว” มากที่สุดออกจากการเฝ้าดูไปแล้วหรือเปล่า

  • บริษัทห่วยแตกกำลังเข้าสู่ death spiral

    • น่าเสียดายที่ด้วยเงินสดที่กองไว้และ Facebook ที่เป็น ห่านออกไข่ทองคำ พวกเขาคงยังประคองตัวไปได้อีกสักพัก

  • แค่หยุดชั่วคราวเท่านั้น และชัดเจนว่าตั้งใจจะกลับมาเปิดใช้อีก
    ไม่เข้าใจว่าทำไมถึงโดนโหวตลบ เพราะในบทความก็เขียนไว้ตรงตัวว่า
    “We will only re-enable MCI when we are confident in the effectiveness of our data protection controls,” Kasriel said.

  • Meta คงจ่ายหนักมากจริงๆ

  • ยูทิลิตีนั้นน่าจะเขียนด้วย AI ด้วยซ้ำ และที่ AI รักษาความปลอดภัยได้ไม่ดีนักก็ไม่ใช่เรื่องน่าแปลกอะไร