Google ถอนคำมั่นว่าจะไม่ใช้ AI กับอาวุธและการเฝ้าระวัง

 (washingtonpost.com)
3 คะแนน โดย GN⁺ 2025-02-05 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

  • เบื้องหลังการเปลี่ยนแปลงหลักการ AI ของ Google

    • คำมั่นที่เคยระบุไว้ในหลักการ AI เดิมว่าจะไม่ใช้ AI เพื่ออาวุธหรือการเฝ้าระวังได้หายไป
    • Demis Hassabis และ James Manyika ของ Google ประกาศเปลี่ยนนโยบาย โดยให้เหตุผลเรื่องการแพร่หลายของ AI และความต้องการด้านความมั่นคงแห่งชาติ
    • ย้ำว่า “ประเทศประชาธิปไตยควรเป็นผู้นำการพัฒนา AI และควรร่วมมือกับภาครัฐและภาคความมั่นคง”

  • สาระสำคัญของนโยบาย AI ใหม่

    • ยังคงข้อความว่าจะใช้เทคโนโลยีให้สอดคล้องกับกฎหมายระหว่างประเทศและหลักสิทธิมนุษยชน
    • เพิ่มข้อว่า “มีการทดสอบเพื่อลดความเสียหายที่ไม่คาดคิด”
    • แต่ได้ลบข้อยกเว้นที่ระบุชัดเจนเกี่ยวกับการไม่นำไปใช้กับอาวุธหรือการเฝ้าระวังออกไป
    • โฆษกของ Google ปฏิเสธตอบคำถามเชิงเจาะจงเกี่ยวกับการเปลี่ยนแปลงนโยบายด้านอาวุธและการเฝ้าระวัง

  • กระแสคัดค้านภายใน Google ในอดีตและสัญญา Maven

    • ในปี 2018 ระหว่างดำเนินโครงการวิเคราะห์ภาพโดรน Project Maven ร่วมกับกระทรวงกลาโหมสหรัฐฯ ได้เกิดการคัดค้านอย่างรุนแรงจากพนักงาน
    • พนักงานระบุว่า “Google ไม่ควรเข้าไปเกี่ยวข้องกับธุรกิจสงคราม”
    • บริษัทไม่ได้ต่อสัญญา Maven และหลังจากนั้นได้เผยแพร่หลักการ AI พร้อมใส่คำมั่นว่าจะห้ามการใช้กับอาวุธและการเฝ้าระวัง
    • การอัปเดตนโยบายครั้งนี้ลบคำมั่นที่ระบุไว้อย่างชัดเจนนั้นออก ทำให้กระแสคัดค้านจากพนักงานในอดีตกลับมาได้รับความสนใจอีกครั้ง

  • ผลกระทบต่ออุตสาหกรรม

    • ความร่วมมือกับภาคทหารและกลาโหมในซิลิคอนแวลลีย์กำลังขยายตัวอย่างรวดเร็ว
    • มีการประเมินว่าการคัดค้าน Project Maven ของพนักงาน Google เคยเป็นจุดเปลี่ยนสำคัญของอุตสาหกรรม
    • การเปลี่ยนนโยบายครั้งนี้ทำให้มีการวิเคราะห์ว่า AI ของ Google อาจถูกนำกลับไปใช้ในด้านทหารและการเฝ้าระวังได้มากขึ้น

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2025-02-05
ความคิดเห็นจาก Hacker News

  • มีการถกเถียงถึงอันตรายของโดรนและอาวุธ AI โดยมีความเป็นไปได้ของการนำไปใช้ในทางที่ผิดหลายรูปแบบ เช่น การลอบสังหารจากระยะไกล ความปั่นป่วนทางการเมือง และการเลือกกำหนดเป้าหมายโดยเผด็จการ

    • หลายประเทศจะครอบครองเทคโนโลยีเหล่านี้ และขณะนี้ก็มีโมเดล AI จำนวนมากที่ถูกเผยแพร่ออกมาแล้ว
    • ชุมชนเทคโนโลยีควรคิดหาวิธีรับมือกับปัญหานี้
    • มีการตั้งคำถามสำคัญเกี่ยวกับมาตรการป้องกัน วิธีการกำกับดูแล และวิธีที่ประชาชนจะตรวจสอบการใช้อาวุธของรัฐบาลได้

  • บริษัทขนาดใหญ่อย่าง Google ไม่ได้ดีงามหรือมีศีลธรรมโดยเนื้อแท้ และภาพลักษณ์ดังกล่าวก็เป็นเพียงกลยุทธ์การตลาดเท่านั้น

  • มีการตระหนักถึงความจริงที่ว่าโลกกำลังมุ่งหน้าไปสู่การทำลายตนเอง และยังมีความก้าวหน้าที่น่ากลัวซึ่งดำเนินอยู่เบื้องหลังอย่างไม่เปิดเผย

  • บริษัทเอกชนส่วนใหญ่จะใช้เทคโนโลยีเพื่อผลกำไร และจะผิดคำมั่นสัญญาที่เคยให้ไว้

  • เป็นเรื่องน่าสนใจที่บริษัทต่าง ๆ เปลี่ยนแปลงไปตามสถานการณ์ทางการเมือง

    • Google กำลังใส่ใจกับการจัดการภาพลักษณ์เพื่อตอบสนองต่อกระแสตอบรับต่อการประกาศด้าน AI

  • มีการเปรียบเทียบสัญญาของ OpenAI กับกระทรวงกลาโหมสหรัฐฯ กับการกระทำของ Google และอ้างว่าท่าทีที่ตรงไปตรงมานั้นซื่อสัตย์กว่ามาก

  • มีการอ้างว่าบางประเทศจำเป็นต้องใช้อาวุธเพื่อควบคุมฝูงชน

    • พร้อมทั้งวิจารณ์ว่าวิกฤตระหว่างประเทศส่วนใหญ่มีต้นตอมาจากสหรัฐฯ และรัสเซีย

  • ท่ามกลางสถานการณ์โลกที่วุ่นวาย มีความเห็นว่าการที่บริษัทอย่าง Google, OpenAI และ Microsoft เข้าร่วมโครงการด้านกลาโหมเป็นเรื่องในเชิงบวก

  • มีการแสดงความกังวลต่อความสามารถของ LLMs ในการขยายการวิเคราะห์ข้อความให้กับหน่วยงานข่าวกรอง