OpenAI ยกเลิกข้อห้ามใช้ ChatGPT เพื่อ "การทหารและสงคราม"

 (theintercept.com)
3 คะแนน โดย GN⁺ 2024-01-14 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

OpenAI ลบข้อกำหนดห้ามใช้งานเพื่อวัตถุประสงค์ทางทหารออก

  • OpenAI ได้ลบถ้อยคำที่เคยระบุห้ามใช้เทคโนโลยีของตนเพื่อวัตถุประสงค์ทางทหารออกจากนโยบายการใช้งานอย่างเงียบ ๆ ในสัปดาห์นี้
  • จนถึงวันที่ 10 มกราคม หน้านโยบายการใช้งานของ OpenAI ยังระบุชัดว่าห้ามกิจกรรมที่อาจเพิ่มอันตรายทางกายภาพ รวมถึง "การพัฒนาอาวุธ" และ "การทหารและสงคราม"
  • นโยบายใหม่ยังคงแนวทางว่า "อย่าใช้บริการเพื่อทำอันตรายต่อตนเองหรือผู้อื่น" แต่ข้อห้ามแบบครอบคลุมเกี่ยวกับการใช้งานด้าน "การทหารและสงคราม" ได้หายไป

เบื้องหลังการเปลี่ยนแปลงนโยบาย

  • OpenAI ปรับแก้หน้านโยบายครั้งใหญ่เพื่อให้ "ชัดเจนและอ่านง่ายขึ้น"
  • โฆษกของ OpenAI อธิบายว่านโยบายใหม่เน้นการปฏิบัติตามกฎหมาย และหลักการ "ไม่ทำอันตรายต่อผู้อื่น" สามารถนำไปใช้ได้อย่างกว้างขวาง
  • ผู้เชี่ยวชาญชี้ว่านโยบายใหม่หลีกเลี่ยงคำถามเกี่ยวกับสัญญาทางทหารและปฏิบัติการสงคราม โดยมุ่งเน้นเฉพาะเรื่องอาวุธเป็นพิเศษ

ความกังวลต่อการใช้งานทางทหารและสงคราม

  • ผู้เชี่ยวชาญระบุว่า ด้วยอคติและความแม่นยำที่ยังไม่เพียงพอของโมเดลภาษาขนาดใหญ่ (Large Language Models, LLMs) การนำไปใช้ในสงครามอาจนำไปสู่ปฏิบัติการที่ผิดพลาดและมีอคติ
  • แม้เครื่องมือของ OpenAI จะมีโอกาสต่ำที่จะถูกใช้ในการสังหารโดยตรงของกองทัพ แต่ก็อาจถูกนำไปใช้ในงานหลากหลายรูปแบบที่สนับสนุนกำลังทหารได้
  • เนื่องจากภารกิจหลักขององค์กรทางทหารคือการรักษาความสามารถในการสังหาร การช่วยเหลือองค์กรทางทหารจึงอาจยังเป็นปัญหาอยู่ แม้จะไม่ได้เกี่ยวข้องกับความรุนแรงโดยตรงก็ตาม
  • ความร่วมมืออันใกล้ชิดระหว่าง OpenAI และ Microsoft เปิดความเป็นไปได้ให้ OpenAI ขยายธุรกิจไปสู่การใช้งานทางทหาร

ผลกระทบที่แท้จริงของการเปลี่ยนแปลงนโยบาย

  • ผลลัพธ์ที่เกิดขึ้นจริงในโลกจริงจากการเปลี่ยนแปลงนโยบายนี้ยังไม่ชัดเจน
  • OpenAI ยังไม่ได้แสดงจุดยืนอย่างชัดเจนว่าจะบังคับใช้นโยบายห้ามใช้เพื่อการทหารและสงครามอย่างไร
  • ผู้เชี่ยวชาญมองว่า OpenAI กำลังผ่อนจุดยืนเกี่ยวกับการทำธุรกิจกับองค์กรทางทหาร

การใช้เทคโนโลยี AI ขององค์กรทางทหาร

  • กองทัพทั่วโลกกำลังพยายามใช้เทคโนโลยี machine learning เพื่อสร้างความได้เปรียบ และ Pentagon ยังคงสำรวจการใช้ ChatGPT หรือ LLMs อื่น ๆ อยู่
  • โมเดลภาษาขนาดใหญ่เรียนรู้จากหนังสือ บทความ และข้อมูลเว็บจำนวนมหาศาล เพื่อเลียนแบบการตอบสนองของมนุษย์ต่อพรอมป์ต์ของผู้ใช้

ความเห็นของ GN⁺:

  • การเปลี่ยนแปลงนโยบายของ OpenAI อาจเพิ่มความเป็นไปได้ที่เทคโนโลยีปัญญาประดิษฐ์จะถูกนำไปใช้เพื่อวัตถุประสงค์ทางทหาร และอาจจุดชนวนการถกเถียงสำคัญเกี่ยวกับจริยธรรมและความปลอดภัยของเทคโนโลยี
  • การเปลี่ยนแปลงนี้แสดงให้เห็นว่าบริษัทเทคโนโลยีกำลังพยายามสร้างสมดุลระหว่างหลักการของตนเองกับโอกาสทางตลาดที่เกี่ยวข้องกับสัญญาด้านกลาโหมอย่างไร
  • การลบข้อห้ามที่ชัดเจนเกี่ยวกับการใช้ AI เพื่อวัตถุประสงค์ทางทหารและสงคราม อาจกลายเป็นจุดเริ่มต้นของการถกเถียงทางสังคมในวงกว้างเกี่ยวกับความปลอดภัยและการใช้งานเทคโนโลยีอย่างมีจริยธรรม

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-01-14
ความคิดเห็นจาก Hacker News

  • การเติบโตของ OpenAI และการเปลี่ยนหลักการ

    • น่าประทับใจที่ OpenAI ละทิ้งหลักการก่อตั้งและเดินตามกลยุทธ์ของ Google
    • Google ใช้เวลา 17 ปีก่อนจะถอดคำว่า "Don't be Evil" ออก แต่ OpenAI เติบโตอย่างรวดเร็วและเปลี่ยนแปลงแบบฉับพลัน
    • ดูเหมือนว่า OpenAI จะเป็นบริษัทหรือเทคโนโลยีที่มาแทน Google เหมือนกับที่ Google เคยมาแทน Microsoft ซึ่งก็น่าขันดี

  • ความเป็นไปได้ในการใช้โมเดล GPT ทางทหาร

    • โมเดล GPT มีโอกาสอย่างมากที่จะถูกนำไปใช้กับฐานข้อมูลทางทหารและงานวิจัยต่างๆ อย่างทั่วไป
    • การห้ามใช้งานทางทหารอาจครอบคลุมถึงการห้ามใช้โดยกองทัพเพื่อปรับปรุงการเตรียมพร้อมรับมือภัยพิบัติ เป็นต้น
    • บริษัทใหญ่ส่วนมากสุดท้ายก็มักยอมผ่อนปรนเรื่องแบบนี้ เพราะเพนตากอนมีงบประมาณมหาศาล

  • การพัฒนาผลิตภัณฑ์ทางทหารของบริษัทอุตสาหกรรม

    • บริษัทอุตสาหกรรมจำนวนมากอาจพัฒนาผลิตภัณฑ์ทางทหารด้วยเช่นกัน
    • ตัวอย่างเช่น อาจต้องการผู้ช่วย LLM ในเครื่องมือ CAD ที่ใช้พัฒนาเครื่องยนต์เรือซึ่งสามารถถูกนำไปใช้ทางทหารได้
    • โครงสร้างพื้นฐานและซอฟต์แวร์มักถูกใช้ร่วมกัน หรือพัฒนาให้ประยุกต์ใช้ได้ทั่วทั้งบริษัท

  • ความเข้าใจต่อนโยบายใหม่

    • ชวนสงสัยว่ามีใครอ่านนโยบายใหม่จริงๆ หรือไม่
    • ยังมีนโยบายในวงกว้างเกี่ยวกับอาวุธและการก่ออันตรายอยู่

  • AI และอำนาจทางทหาร

    • AI ขั้นสูงเป็นสิ่งจำเป็นต่อแสนยานุภาพทางทหารขั้นสูง
    • ปัญหาเหล่านี้ไม่ใช่ปัญหาทางเทคนิค แต่เป็นปัญหาของมนุษย์
    • มนุษย์คือไพรเมตที่จัดลำดับชั้นและแข่งขันกันเพื่อดินแดนกับทรัพยากร

  • ความแตกต่างของนโยบายเกี่ยวกับการพัฒนาอาวุธและกิจกรรมทางทหาร

    • มีความแตกต่างที่ชัดเจนระหว่างสองนโยบาย โดยนโยบายเดิมห้ามการพัฒนาอาวุธและกิจกรรมทางทหาร ขณะที่นโยบายใหม่เน้นการปฏิบัติตามกฎหมายและความยืดหยุ่น
    • ผลกระทบที่อาจเกิดขึ้นต่อความปลอดภัยของ AI เป็นประเด็นสำคัญ

  • ข้อจำกัดของ LLM

    • เป็นความคิดที่แย่มากที่ ChatGPT ยังไม่สามารถหยุดหลอนข้อมูลอย่างสม่ำเสมอในงานพื้นฐาน และไม่ได้เข้าใจสิ่งต่างๆ จริงๆ
    • วงการ AI/ML เองไม่ใช่การเสียเวลา แต่ LLM ส่วนใหญ่มีแต่ความหวือหวาและแทบไม่มีคุณค่าเชิงปฏิบัติจริง

  • ความหลีกเลี่ยงไม่ได้ของการตัดสินใจของ OpenAI

    • เป็นเรื่องที่เลี่ยงไม่ได้ว่า OpenAI จะไม่ยอมทิ้งเงินจำนวนมหาศาลแบบนั้น
    • รู้สึกว่าเป็นเรื่องแปลกที่จะกังวลว่าผลิตภัณฑ์จะถูกนำไปใช้อีกแบบหนึ่ง

  • ซิลิคอนแวลลีย์และอุตสาหกรรมการทหาร

    • ซิลิคอนแวลลีย์เป็นผลผลิตของกลุ่มอุตสาหกรรมการทหาร

  • มุมมองที่ต่างกันของพลเรือนกับทหารต่อการพัฒนาอาวุธ

    • สำหรับพลเรือน การพัฒนาอาวุธในกรณีส่วนใหญ่เป็นเรื่องอันตราย แต่สำหรับทหาร ความเสี่ยงคือการไม่พัฒนาอาวุธที่ดีกว่าให้เร็วกว่าศัตรู