Yann LeCun: สถานการณ์วันสิ้นโลกที่แท้จริงคือเจ้าของ AI 1% จะยึดอำนาจไว้ตลอดกาล

 (businessinsider.com)
1 คะแนน โดย GN⁺ 2023-11-03 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • ยานน์ เลอคุน หัวหน้านักวิทยาศาสตร์ AI ของ Meta วิจารณ์คำพูดเชิงหดหู่ของบรรดาผู้นำ AI เกี่ยวกับความเสี่ยงของ AI โดยอ้างว่าพวกเขาอาจกำลังก่ออันตรายมากกว่าเดิม
  • เลอคุนกล่าวหาเหล่าผู้บุกเบิก AI เช่น แซม อัลต์แมน แห่ง OpenAI, เดมิส ฮัสซาบิส แห่ง Google DeepMind และดาริโอ อาโมเดอี แห่ง Anthropic ว่าใช้ "การปลุกปั่นความกลัว" และ "การล็อบบี้ของบริษัทยักษ์ใหญ่" เพื่อผลประโยชน์ของตนเอง
  • เขากล่าวว่าหากความพยายามเหล่านี้สำเร็จ บริษัทเพียงไม่กี่แห่งจะเข้าควบคุม AI ซึ่งเขามองว่าเป็น "หายนะ"
  • คำพูดของเลอคุนเป็นการตอบสนองต่อโพสต์ของนักฟิสิกส์ แม็กซ์ เทกมาร์ก ที่เสนอว่าเลอคุนไม่ได้ให้ความสำคัญกับแนวคิดวันสิ้นโลกจาก AI อย่างจริงจังเพียงพอ
  • เลอคุนยืนยันว่าความเสี่ยงที่แท้จริงและใกล้ตัวของ AI ไม่ใช่ความเสี่ยงเชิงสมมุติฐานที่มักถูกขยายความ แต่เป็นการเอารัดเอาเปรียบแรงงานและการขโมยข้อมูลที่สร้างประโยชน์ให้กับผู้เล่นเพียงไม่กี่ราย
  • เขาปัดตกแนวคิดเรื่อง "การขึ้นบินและลงจอดอย่างฉับพลัน" ที่ว่ามนุษยชาติจะล่มสลายในทันทีที่ระบบอัจฉริยะเหนือมนุษย์ถูกเปิดใช้งาน
  • เลอคุนเน้นย้ำความสำคัญของการมุ่งความสนใจไปที่วิธีการพัฒนา AI ในปัจจุบัน และเตือนถึงความเสี่ยงที่การพัฒนา AI จะถูกผูกขาดโดยบริษัทเอกชนที่มุ่งแสวงหากำไร
  • เขาปกป้องนักพัฒนาโอเพนซอร์ส และวิจารณ์เป็นพิเศษถึงการขาดความโปร่งใสในการพัฒนา AI โดยบริษัทเทคโนโลยีขนาดใหญ่
  • เลอคุนแสดงความกังวลว่าผู้กำกับดูแลอาจถูกชักจูงได้ง่ายด้วยการถกเถียงเรื่อง AI แบบหวือหวา จนทำให้ขาดการกำกับดูแลต่อกระบวนการพัฒนาที่เกิดขึ้นจริง

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-11-03
ความคิดเห็นจาก Hacker News
  • การถกเถียงบทความเกี่ยวกับมุมมองของ Yann LeCun ต่อการใช้งานเทคโนโลยี AI ในทางที่ผิด
  • แสดงความกังวลต่อความพยายามของผู้มีอำนาจในการยึดกุมกฎระเบียบ โดยอาศัยคำกล่าวอ้างเรื่อง "X-Risk" และการสูญพันธุ์ฉับพลันของมนุษยชาติ
  • วิจารณ์แรงผลักดันที่จะปิดกั้น AI ด้วยการกำหนดให้ต้องมีใบอนุญาตและข้อกำหนดการรายงาน
  • แสดงการสนับสนุนมาตรการเพื่อควบคุมการวิจัย AI โดยอ้างถึงความจำเป็นที่ต้องระมัดระวังในสาขานี้
  • ถกเถียงเรื่องการพัฒนาและการเผยแพร่เทคโนโลยีใหม่ โดยมีข้ออ้างว่าความเสี่ยงของเทคโนโลยีอาจถูกซ่อนไว้จนกว่าจะมีการเผยแพร่อย่างกว้างขวาง
  • วิจารณ์การติดป้ายให้นักวิจัย AI ชั้นนำว่าเป็น "เจ้าพ่อ AI" โดยชี้ว่าสิ่งนี้ทำให้เกิดความเข้าใจผิดและไม่จำเป็น
  • ถกเถียงถึงความเป็นไปได้ของการใช้งาน AI ในทางที่ผิด โดยมีข้ออ้างว่าหากแบนโมเดลโอเพนซอร์ส เราอาจไม่รู้วิธีรับมือกับการนำไปใช้ผิดลักษณะนี้
  • มีความเห็นที่ไม่เห็นด้วยกับมุมมองของ Yann LeCun โดยอ้างว่าเขาไม่ได้ตอบสนองต่อความเสี่ยงของ AI อย่างจริงจัง
  • ถกเถียงถึงความเป็นไปได้ที่ AI จะถูกใช้ในการคัดเลือกหุ้นและการพยากรณ์ โดยอ้างว่า AI ลักษณะนี้อาจดูดซับความมั่งคั่งจนถึงขั้นครอบครองสังคมโดยพฤตินัย
  • มีข้ออ้างว่าสายเกินไปแล้วที่จะผูกขาด large language models โดยชี้ว่าเทคโนโลยีนี้เป็นที่รู้จักแล้วและต้นทุนก็กำลังลดลง
  • คาดการณ์อนาคตทางธุรกิจในยุคแห่งความอุดมสมบูรณ์ โดยอ้างว่ามีแนวโน้มจะยิ่งผูกขาดมากขึ้น