Google ตัดสินใจหยุดการสร้างภาพของ Gemini หลังเกิดปัญหาความผิดพลาดในการพรรณนาภาพทางประวัติศาสตร์

 (theverge.com)
4 คะแนน โดย GN⁺ 2024-02-23 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Google แสดงความเสียใจที่เครื่องมือปัญญาประดิษฐ์ Gemini ของบริษัทสร้างภาพทางประวัติศาสตร์ที่มีผลลัพธ์ไม่ถูกต้อง
  • Gemini มีข้อผิดพลาด เช่นการวาดภาพผู้ก่อตั้งสหรัฐอเมริกา หรือทหารเยอรมนีในยุคนาซี ให้มีลักษณะเป็นคนเชื้อชาติผิวสี
  • Google ระบุว่าได้ตระหนักถึงปัญหาดังกล่าวและพยายามแก้ไขอย่างเร่งด่วนทันที

ความท้าทายด้านความแม่นยำทางประวัติศาสตร์ของ AI

  • Google เพิ่มความสามารถการสร้างภาพให้กับแพลตฟอร์ม Gemini AI เมื่อช่วงต้นเดือนนี้
  • บนสื่อสังคมมีการวิพากษ์ว่า Google พยายามผลักดันความหลากหลายทางเชื้อชาติและเพศ แต่พลาดความถูกต้องทางประวัติศาสตร์
  • มีการชี้ให้เห็นว่าในคำสั่งเช่น "สร้างรูปผู้หญิงชาวสวีเดน" AI มักหรือทั้งหมดจะสร้างภาพที่เป็นคนเชื้อชาติผิวสี
  • Google ไม่ได้ระบุถึงภาพที่เกิดข้อผิดพลาดแต่ละภาพ แต่ยอมรับว่าตัวกำเนิดภาพ AI ซึ่งเรียนรู้จากข้อมูลรูปภาพและคำอธิบายขนาดใหญ่เพื่อสร้างผลลัพธ์ที่ "ดีที่สุด" ให้ตรงกับ prompt ที่กำหนด อาจเสริมทัศนคติแบบเหมารวม
  • โดยเฉพาะกลุ่มผู้มีแนวคิดทางการเมืองฝ่ายขวาได้วิจารณ์ผลลัพธ์ของ Google และกล่าวหาว่าเกิดทฤษฎีสมคบคิดว่าบริษัทพยายามหลีกเลี่ยงการนำเสนอคนผิวขาวอย่างตั้งใจ

ความพยายามเพิ่มความหลากหลายของ AI และข้อจำกัด

  • ตัวสร้างภาพ AI เรียนรู้จากข้อมูลรูปภาพและคำบรรยายจำนวนมากเพื่อสร้างผลลัพธ์ที่เหมาะสมที่สุดตามคำสั่งที่ได้รับ
  • ในกระบวนการนี้ มักมีแนวโน้มเสริมสร้างอคติเกี่ยวกับเชื้อชาติและเพศ
  • Google พยายามแก้ปัญหานี้ด้วยการเพิ่มความหลากหลาย แต่ดูเหมือนว่าจะยังขาดความเข้าใจต่อความแตกต่างที่ละเอียดอ่อน

ความสมดุลระหว่างความถูกต้องทางประวัติศาสตร์กับความหลากหลาย

  • สำหรับคำขอทางประวัติศาสตร์บางรายการ Gemini ยังคงให้ผลลัพธ์ที่แทนความเป็นจริงทางประวัติศาสตร์อย่างไม่ถูกต้อง
  • ตัวอย่างเช่น คำสั่ง "สร้างภาพวุฒิสมาชิกสหรัฐฯ ในศตวรรษที่ 19" Gemini สร้างผลลัพธ์ที่เน้นความหลากหลาย แม้ว่าผู้หญิงคนแรกที่เป็นวุฒิสมาชิกสหรัฐจะเข้ารับตำแหน่งในปี 1922
  • การตอบสนองเช่นนี้ทำให้เกิดผลลัพธ์ที่ลบประวัติศาสตร์การกดขี่เชื้อชาติและเพศที่เกิดขึ้นจริงออกไป และ Google เรียกสิ่งนี้ว่า "ไม่แม่นยำ"

ความเห็นของ GN⁺

  • การพัฒนาเทคโนโลยี AI แม้เปิดมิติใหม่มากมาย แต่การสร้างสมดุลระหว่างความแม่นยำทางประวัติศาสตร์และความหลากหลายทางเชื้อชาติยังคงเป็นความท้าทายสำคัญ
  • กรณีของ Google แสดงให้เห็นว่าเทคโนโลยีที่ก้าวหน้าสามารถปะทะกับคุณค่าทางสังคมอย่างไร และชี้ให้เห็นการพิจารณาด้านจริยธรรมของ AI
  • ประเด็นนี้เน้นว่าการวิจัยและพัฒนา AI ควรให้ความสำคัญกับความหลากหลายและอคติของข้อมูลด้วยความรอบคอบ
  • ประเด็นนี้ก็ก่อให้เกิดคำถามกว้างใหญ่ว่า AI ควรสะท้อนความหลากหลายของมนุษย์อย่างไร และผ่านมัน เราควรจดจำและนำเสนอประวัติศาสตร์เช่นใด

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-02-23
ความคิดเห็นบน Hacker News
  • เป็นสัญญาณเตือนถึงการเสื่อมสลายเชิงสถาบันภายในกูเกิลในความเห็นส่วนตัวที่ว่า ความกังวลเรื่อง DEI (ความหลากหลาย ความเสมอภาค และการรวมผู้คนเข้าไว้ด้วยกัน) เกินเลยจากการโฟกัสเรื่องคุณภาพไปแล้ว หากเทคโนโลยีของกูเกิลยังคงยึดตัวตนเป็นจุดศูนย์กลาง สุดท้ายแล้วก็คงเป็นไปได้ว่าบริษัทอื่นจะแซงหน้าได้ ซึ่งเป็นความกังวลที่เกิดขึ้นในหมู่นักลงทุน
  • Dall-E 3 เปิดเผยพรอมต์ที่ปรับให้เหมาะสมไว้ และหากใช้งานผ่าน API โดยตรงก็จะเห็นพรอมต์ที่ถูกแก้ไข ผู้ใช้จึงอาจพยายามมีผลต่อวิธีที่ GPT ตีความพรอมต์ได้ แต่ในบางครั้ง GPT ก็ยังล้มเหลวในการเข้าใจเจตนาของผู้ใช้
  • ในสังคมสมัยใหม่ สิ่งที่ไม่ใช่ปัญหากำลังถูกทำให้เป็นปัญหา คำตอบที่ตรงไปตรงมาควรสะท้อนความจริงที่มีอยู่ในข้อมูลปัจจุบัน วิศวกรซอฟต์แวร์และCEO ส่วนใหญ่เป็นผู้ชายเชื้อชาติผิวขาว แรปเปอร์อเมริกันส่วนใหญ่เป็นผู้ชายผิวดำ และผู้ดูแลเด็กและพยาบาลส่วนใหญ่คือผู้หญิงจากหลากหลายเชื้อชาติ หากมีความต้องการเรื่องเชื้อชาติหรือเพศของตัวละคร ควรเติมข้อมูลนั้นในพรอมต์
  • ในเธรดนี้มีการโต้เถียงทางวัฒนธรรมอย่างเข้มข้น เหตุการณ์นี้เน้นให้เห็นความสำคัญของโมเดลแบบเปิด และบอกเป็นนัยว่า หาก AI จะทำงานด้านการศึกษา การควบคุมแบบนี้อาจเป็น “ฝัน” สำหรับนักประวัติศาสตร์แบบแก้ไขใหม่
  • ปัญหาคือ โมเดลที่ไม่ผ่านการเซ็นเซอร์อาจสะท้อนความเป็นจริงได้แม่นเกินไป ราวกับเรื่องราวประวัติศาสตร์
  • สิ่งที่น่าทึ่งคือความสามารถของมนุษย์ในการพัฒนาเทคโนโลยีด้วยเหตุผลและการสรุปเชิงนามธรรมในทางวิทยาศาสตร์ แต่ยังไม่ชำนาญเลยในการจัดการประสบการณ์และพื้นเพที่หลากหลายอย่างเหมาะสม
  • ผู้เขียนสังเกตว่าพรอมต์ที่เน้นความหลากหลายรวมคนพื้นเมืองเข้าไว้ด้วย แต่กลับตัดชาวพื้นเมืองกลุ่มอื่น ๆ ทุกกลุ่มออกไปหมด
  • เมื่อเคยพยายามสร้างรูปครอบครัวผ่าน DALL-E ในที่สุดก็สำเร็จ แต่เคยได้รับการเตือนว่าเคยละเมิดเงื่อนไขการให้บริการมาก่อน
  • เมื่อมีปฏิกิริยาในโซเชียลมีเดียเมื่อ Gemini ปฏิเสธการสร้างภาพคนผิวขาว จนเกิดการสร้างภาพที่ไม่ตรงตามประวัติศาสตร์ ข้อนี้อาจละเอียดอ่อนกว่าสิ่งเล่าเล่มหลักของกระแสหลัก แต่ผู้คนที่ไวต่อการเมืองกำลังทำศึกกันเรื่องนี้
  • Gemini ดูเหมือนถูกฝึกมาแบบยึดติดกับ PR และสื่อการตลาดของกูเกิลเกินไป โดยยกตัวอย่างเว็บไซต์ Google Store