Meta ยุบทีม Responsible AI

 (theverge.com)
3 คะแนน โดย GN⁺ 2023-11-20 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Meta ยุบทีม Responsible AI (RAI) และย้ายสมาชิกทีมไปยังทีมผลิตภัณฑ์ generative AI อื่น ๆ และฝั่งโครงสร้างพื้นฐาน AI
  • ทีม RAI ทำหน้าที่ระบุปัญหาในวิธีการฝึก AI มาตั้งแต่ปี 2019 และกำกับดูแลการฝึกโมเดลด้วยข้อมูลที่หลากหลาย
  • ทีมนี้เคยผ่านการปรับโครงสร้างมาแล้วเมื่อต้นปีนี้ และในเวลานั้น Business Insider เคยรายงานว่าถูกเลิกจ้างจนเหลือเพียง "เปลือก"
  • ระบบอัตโนมัติของ Meta เคยก่อปัญหา เช่น การจับกุมผิดพลาดจากข้อผิดพลาดในการแปลของ Facebook, การสร้างภาพที่มีอคติระหว่างการสร้างสติกเกอร์ AI ของ WhatsApp, และอัลกอริทึมของ Instagram ที่ช่วยให้ค้นหาเนื้อหาการล่วงละเมิดทางเพศเด็กได้

แนวโน้มการกำกับดูแล AI ทั่วโลก

  • ความเคลื่อนไหวของ Meta ครั้งนี้เกิดขึ้นท่ามกลางความพยายามของรัฐบาลทั่วโลกในการออกกฎกำกับการพัฒนา AI เช่น รัฐบาลสหรัฐฯ ที่สั่งให้จัดทำกฎด้านความปลอดภัยของ AI และทำข้อตกลงกับบริษัท AI ต่าง ๆ
  • สหภาพยุโรป (EU) ได้ประกาศหลักการด้าน AI แล้ว และยังคงพยายามผลักดันร่างกฎหมาย AI ให้ผ่านต่อไป

ความเห็นของ GN⁺

  • ประเด็นสำคัญที่สุดของบทความนี้คือ Meta ได้ยุบทีมที่รับผิดชอบการพัฒนา AI อย่างมีความรับผิดชอบ และย้ายสมาชิกทีมไปยังแผนกอื่น
  • การเปลี่ยนแปลงนี้เป็นกรณีศึกษาที่น่าสนใจว่าบริษัทต่าง ๆ จัดการจริยธรรมและความปลอดภัยของ AI อย่างไร ท่ามกลางการพัฒนาเทคโนโลยี AI ที่รวดเร็วและความสำคัญที่เพิ่มขึ้นของการใช้ AI อย่างมีความรับผิดชอบ
  • นอกจากนี้ บทความนี้ยังสะท้อนสถานการณ์ปัจจุบันที่การถกเถียงเรื่องกฎระเบียบ AI กำลังเข้มข้นขึ้นทั่วโลก จึงเป็นเนื้อหาที่น่าสนใจสำหรับผู้ที่สนใจจุดตัดระหว่างเทคโนโลยีกับกฎหมาย

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-11-20
ความเห็นจาก Hacker News
  • Meta ถูกมองว่าเป็นบริษัท AI รายใหญ่ที่มีจริยธรรมมากที่สุดจากการเปิดเผยโมเดล AI ของตน
    • มีความเห็นว่าการเก็บโมเดล AI ไว้เป็นความลับโดยอ้างเรื่อง 'จริยธรรม' เป็นสิ่งที่ผิดจริยธรรม เพราะทำให้ผู้คนต้องพึ่งพาการตัดสินใจตามอำเภอใจของบริษัทยักษ์ใหญ่มากขึ้น
  • ทุกทีม AI ควรคำนึงถึงความรับผิดชอบด้านจริยธรรม และการรวมเรื่องนี้ไว้ที่ทีมเดียวเป็นสิ่งที่ไม่มีประสิทธิภาพ
    • 'ทีม AI ที่มีความรับผิดชอบ' อาจกลายเป็นคอขวดที่ต้องตรวจทานงาน AI ทั้งหมด หรือทำให้ทีมอื่นพัฒนา AI อย่างไร้ความรับผิดชอบได้อย่างเสรี
  • ความปลอดภัยของ AI เป็นกลุ่มที่อาศัยผลงานของคนอื่น และ Meta ควรยุบออกไปเสีย
  • ทีมจริยธรรมด้านเทคโนโลยีในช่วงแรกให้ความสำคัญกับภาพลักษณ์มากกว่าความเป็นจริง
    • มีคนเพียงไม่กี่คนที่กำหนดทิศทางหลักของเทคโนโลยีและต้องรับผิดชอบทางจริยธรรม และหากพวกเขากระทำอย่างไม่รับผิดชอบก็อาจก่อความเสียหายอย่างมากได้
  • ไม่มีตัวอย่างที่เป็นรูปธรรมว่าทีมจริยธรรมของ Meta มีส่วนช่วยในทางบวกอย่างไร
    • จำเป็นต้องทบทวนผลงานของ Meta ในช่วงหลายปีที่ผ่านมาเพื่อประเมินว่าทีมนี้มีประสิทธิภาพเพียงใดในการรักษาความจริง
  • เมื่อเงินทุนขาดแคลนและเกิดวิกฤตขึ้น (เช่นที่ OpenAI) ทางเลือกที่ดีที่สุดคือการปิดแผนกที่มีไว้เพื่อภาพลักษณ์เท่านั้น
  • เนื่องจากค่าใช้จ่ายในการฝึกโมเดล AI สูงมาก เมื่อเทคโนโลยีก้าวหน้า ผู้ที่ต้องการควบคุมสิ่งนี้ก็จะพยายามหาผลประโยชน์ แต่ในระยะยาวอาจส่งผลย้อนกลับได้
  • การเปรียบเทียบความปลอดภัยของ AI กับทีมกฎหมายหรือทีมความปลอดภัยนั้นไม่เหมาะสม
    • เพราะไม่มีใครรู้จริงว่าการสร้าง AI ที่ปลอดภัยหมายถึงอะไร ดังนั้นทีมเหล่านี้อาจทำได้เพียงชะลอความก้าวหน้าเท่านั้น
  • วิธีที่ดีที่สุดในการทำให้ AI มีความรับผิดชอบคือทำให้มันเป็นโอเพนซอร์ส
    • วิธีนี้จะทำให้ไม่มีบริษัทใดบริษัทหนึ่งควบคุมทั้งหมด และช่วยให้นักวิจัยเข้าใจทั้งโอกาสในการถูกนำไปใช้ในทางที่ผิดและวิธีใช้งานที่เป็นประโยชน์ได้ดียิ่งขึ้น
  • ความรับผิดชอบของ AI ควรอยู่ที่ผู้ใช้ แต่ในปัจจุบันยังไม่มีบริษัทใดมอบอำนาจให้ผู้ใช้กำหนดรูปแบบการใช้งานผลิตภัณฑ์อย่างมีความรับผิดชอบได้
    • กรอบกฎหมายมีไว้จัดการผลกระทบภายนอกเหล่านี้อยู่แล้ว และความพยายามของบริษัทในการหลีกเลี่ยงความรับผิดชอบกลับสร้างระบบที่ไร้ความสามารถและไร้ประโยชน์มากขึ้น