1 คะแนน โดย GN⁺ 2025-02-13 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • ในงาน AI Action Summit ที่ปารีส มีราว 60 ประเทศเห็นพ้องต่อคำประกาศร่วมด้านความปลอดภัย AI แต่สหรัฐฯ และสหราชอาณาจักรไม่ลงนาม สะท้อนรอยร้าวเรื่องกฎระเบียบ AI และการช่วงชิงความเป็นผู้นำอุตสาหกรรม
  • คำประกาศระบุหลักการว่า AI ต้อง เปิดกว้าง ครอบคลุม โปร่งใส มีจริยธรรม ปลอดภัย มั่นคง และเชื่อถือได้ โดยไม่มีผลผูกพันทางกฎหมาย
  • JD Vance รองประธานาธิบดีสหรัฐฯ เน้นย้ำว่ากฎระเบียบ AI ไม่ควร “กดทับ” การพัฒนาเทคโนโลยี และแสดงจุดยืนว่าจะสร้างระบบ AI ที่ทรงพลังที่สุด ภายในสหรัฐฯ ด้วยชิปที่ผลิตในอเมริกา
  • แหล่งข่าวใกล้ชิดรัฐบาลอังกฤษมองว่าถ้อยคำในคำประกาศ “เข้มงวดเกินไป” ขณะที่เจ้าหน้าที่จากประเทศผู้ลงนามรายหนึ่งเผยว่าสหรัฐฯ ไม่เห็นด้วยกับถ้อยคำเรื่อง พหุภาคีนิยมและความร่วมมือระหว่างประเทศ
  • ยุโรปกำลังเร่งสร้างฐานอุตสาหกรรม AI เพื่อลดการพึ่งพาสหรัฐฯ และจีน โดยในการประชุมสุดยอดมีการเปิดเผยแผนลงทุนราว 2 แสนล้านยูโร ใน ดาต้าเซ็นเตอร์และคลัสเตอร์คอมพิวต์

รอยร้าวเรื่องการลงนามที่ปรากฏในเวทีประชุมสุดยอด AI ปารีส

  • สหรัฐฯ และสหราชอาณาจักรไม่ได้ลงนามในคำประกาศร่วมของ AI Action Summit ที่จัดขึ้นในปารีส
  • คำประกาศร่วมดังกล่าวมีประมาณ 60 ประเทศ เห็นพ้อง โดยมีเป้าหมายให้เทคโนโลยี AI “ปลอดภัย มีความมั่นคง และเชื่อถือได้”
  • คำประกาศยังรวมหลักการว่า AI ควรเปิดกว้าง ครอบคลุม โปร่งใส และมีจริยธรรม
    • มีข้อความว่าด้วยการพิจารณากรอบความร่วมมือระหว่างประเทศสำหรับทุกคน
    • แม้คำมั่นนี้จะ ไม่มีผลผูกพัน แต่สหรัฐฯ และสหราชอาณาจักรเคยลงนามในคำประกาศลักษณะคล้ายกันจากการประชุมสุดยอด AI ครั้งก่อน

จุดโฟกัสของสหรัฐฯ คือความเป็นผู้นำ AI มากกว่ากฎระเบียบ

  • JD Vance รองประธานาธิบดีสหรัฐฯ เตือนว่ายุโรปไม่ควรใช้กฎระเบียบ AI ที่ “ระมัดระวังเกินไป”
  • Vance ระบุว่ารัฐบาล Trump จะทำให้ระบบ AI ที่ทรงพลังที่สุดถูกสร้างขึ้นในสหรัฐฯ
    • ระบบดังกล่าวควรใช้ ชิปที่ออกแบบและผลิตโดยสหรัฐฯ
    • ถูกตีความว่าเป็นสัญญาณว่าสหรัฐฯ ต้องการรักษาตำแหน่งผู้นำเหนือเทคโนโลยี AI
  • เขายังย้ำว่าระบบกำกับดูแลระหว่างประเทศควรส่งเสริมการสร้างเทคโนโลยี AI ไม่ใช่กดขี่มัน
  • Keegan McBride จาก Oxford Internet Institute ประเมินว่าสุนทรพจน์ของ Vance เป็น “การกลับทิศ 180 องศา” เมื่อเทียบกับยุครัฐบาล Biden

ความเห็นต่างของสหรัฐฯ และสหราชอาณาจักรต่อถ้อยคำในคำประกาศ

  • ท่าทีแข็งกร้าวของสหรัฐฯ สอดคล้องกับแนวคิด “America First” ของรัฐบาล Trump
  • บุคคลใกล้ชิดรัฐบาลอังกฤษรายหนึ่งมองว่าถ้อยคำในคำประกาศ “เข้มงวดเกินไป
  • เจ้าหน้าที่จากหนึ่งในประเทศผู้ลงนามเปิดเผยว่าสหรัฐฯ ไม่เห็นด้วยกับถ้อยคำที่เกี่ยวกับพหุภาคีนิยมและความร่วมมือระหว่างประเทศ
  • ในคำประกาศร่วมได้ระบุให้ การเสริมสร้างความร่วมมือระหว่างประเทศ เพื่อส่งเสริมการประสานงานด้านธรรมาภิบาลระหว่างประเทศเป็นหนึ่งในลำดับความสำคัญ
  • แหล่งข่าวคนเดิมยังกล่าวว่าสหรัฐฯ มีความกังวลต่อ Current AI ซึ่งฝรั่งเศสเปิดตัวในที่ประชุมสุดยอด
    • ความกังวลคือ Current AI อาจถูกใช้เป็นช่องทางส่งเงินทุนไปยังประเทศในกลุ่มที่ใช้ภาษาฝรั่งเศส

การแข่งขันกับจีน และความตึงเครียดที่ DeepSeek จุดขึ้น

  • จุดยืนแข็งกร้าวของสหรัฐฯ เกิดขึ้นท่ามกลาง การแข่งขันกับจีน ด้าน AI ที่ร้อนแรงขึ้น
  • พื้นที่แข่งขันได้ขยายจากการผลิตชิป โมเดลพื้นฐาน AI แชตบอต ไปจนถึงพลังงานที่จำเป็นต่อการจ่ายไฟให้ซูเปอร์คอมพิวเตอร์
  • ห้องแล็บจีนที่ไม่ค่อยเป็นที่รู้จักอย่าง DeepSeek เปิดตัวโมเดล AI ราคาประหยัด จนสร้างแรงสั่นสะเทือนให้บริษัทใน Silicon Valley
    • บริษัทอย่าง OpenAI เคยเชื่อว่าตนมีความได้เปรียบอย่างมาก
  • Vance เตือนว่าอย่าร่วมมือกับ “ระบอบอำนาจนิยม” ในดีลด้าน AI ซึ่งเป็นการพาดพิงถึงจีนโดยอ้อม
    • เขายกกรณี CCTV และ 5G เป็นตัวอย่างในอดีต โดยระบุว่าระบอบอำนาจนิยมส่งออกเทคโนโลยีราคาถูกที่ได้รับเงินอุดหนุนจำนวนมาก
    • เขามองว่าความร่วมมือเช่นนั้นเท่ากับผูกประเทศไว้กับผู้มีอำนาจนิยมที่ต้องการแทรกซึมและครอบงำโครงสร้างพื้นฐานด้านข้อมูล

การตอบสนองของยุโรป: สร้างฐานอุตสาหกรรม AI ของตนเอง

  • ยุโรปต้องการสร้างหลักยืนในอุตสาหกรรม AI เพื่อลดการพึ่งพาสหรัฐฯ หรือจีน
  • ในการประชุมสุดยอดสองวันที่ Emmanuel Macron ประธานาธิบดีฝรั่งเศสเป็นเจ้าภาพ ผู้นำยุโรปและภาคธุรกิจได้เปิดเผยแผนลงทุนมูลค่าราว 2 แสนล้านยูโร
  • การลงทุนดังกล่าวมุ่งไปที่ ดาต้าเซ็นเตอร์ และคลัสเตอร์คอมพิวต์ เพื่อสนับสนุนความพยายามด้าน AI ของยุโรป
  • Frederike Kaltheuner จาก AI Now Institute กล่าวว่า หลัง DeepSeek เปิดตัวโมเดลแบบเปิดที่ทรงพลัง ชาวยุโรปรู้สึกว่าตนมีโอกาสช่วงสั้น ๆ ที่จะแข่งขันในสนาม AI
  • McBride ประเมินว่าบรรยากาศของการประชุมสุดยอดภายใต้ Macron เดิมมุ่งผลักดันทางเลือกนอกเหนือจากการพัฒนา AI ที่สหรัฐฯ เป็นผู้นำ แต่คำกล่าวของ Vance ได้ทำให้บรรยากาศนั้นสะดุดลง

1 ความคิดเห็น

 
GN⁺ 2025-02-13
ความคิดเห็นจาก Hacker News
  • ส่วนหนึ่งของชีวิตที่ถูกขับเคลื่อนด้วย การเร่งความเร็วทางเทคโนโลยี ในอีกหลายทศวรรษข้างหน้า คงให้ความรู้สึกเหมือนกำลังถูกผ่าตัดตัดสมองกลีบหน้าขณะยังมีสติ และต้องนั่งดูขั้นตอนนั้นไปด้วย
    เราอาจนึกเส้นทางสมมติได้เป็นพัน ๆ แบบว่าแม้แต่เทคโนโลยีที่ยังไม่ถึง AGI เต็มรูปแบบก็อาจผิดทิศอย่างหายนะ และถกเถียงกันได้ไม่รู้จบ แต่ความคืบหน้าไปในทิศทางนั้นกลับไม่ได้ชะลอหรือหยุดลง
    แค่ต้องมีกลุ่มเดียวที่มีปัญญารวมและการค้นพบทะลุกรอบมากพอ AI รุ่นถัดไปก็อาจถูกส่งมาถึงหน้าประตูเรา ไม่ว่าเราจะต้องการหรือไม่ก็ตาม
    คล้ายกับประสบการณ์ที่หนังสือที่อ่านตอนเด็ก ๆ กำลังส่งสารสำคัญของชีวิตมาให้ แต่เพิ่งเข้าใจความหมายหลังจากนั้น 20 ปี สารนั้นอยู่ตรงนั้นมาตลอด แต่ตอนนั้นยังไม่มีความฉลาดทางอารมณ์และการรับรู้พอจะรับมันได้

    • ปัญหาคือจะคัดคำแนะนำที่สอดคล้องกันจริง ๆ ออกมาจาก สัญญาณเตือนผิดพลาด แบบวันสิ้นโลกสารพัดอย่างได้อย่างไร
      ตอนแท่นพิมพ์ถูกประดิษฐ์ขึ้น ก็มีคนบรรยากาศเดียวกันนี้อยู่ และสุดท้ายพวกเขาก็ผิด หากทำตาม “บทเรียน” ของพวกเขา สังคมมนุษย์คงแย่ลงกว่านี้มาก
      คำวิจารณ์ AI/AGI ในตอนนี้สมเหตุสมผลหรือไม่ สุดท้ายแล้วคงรู้ได้หลังเหตุการณ์เท่านั้น
    • ความจริงอันเย็นชาคือ วัฒนธรรมเห็นแก่ตัว แพร่หลายเกินไปแล้ว
      โดยเฉพาะในวงการเทคโนโลยี มีคนมากเกินไปที่ไม่ค่อยใส่ใจว่าจะเกิดอะไรขึ้นกับคนอื่น ตราบใดที่ตัวเองทำเงินได้ พวกเขาพร้อมจะสละคนอื่น และแม้แต่ในชุมชนของตนเองก็ไม่อยากแบ่งปันสวัสดิการ
      นี่เป็นผลลัพธ์ที่หลีกเลี่ยงไม่ได้เมื่อสังคมความไว้วางใจต่ำแทรกซึมเข้าสู่สังคมความไว้วางใจสูง และยิ่งเทคโนโลยีที่มีนัยอันตรายต่อสังคมแพร่หลายมากขึ้น ก็จะมีคนมากพอที่ทำงานเพื่อความล่มสลายของสังคม ดังนั้นจึงไม่มีความหวังที่เป็นจริงได้ว่ารถไฟขบวนนี้จะหยุดลง
    • จะหยุด ความก้าวหน้าของซอฟต์แวร์ ได้อย่างไร? อุปสรรคในการเข้าสู่วงการต่ำเกินไป แค่มีแล็ปท็อปราคาถูกกับการเชื่อมต่ออินเทอร์เน็ต ก็สามารถผลักดันนวัตกรรมแนวหน้าได้ตั้งแต่วันแรก
      ตอนนี้การฝึก AI ต้องใช้ฮาร์ดแวร์จำนวนมากก็จริง แต่แค่มีแล็ปท็อปกับอินเทอร์เน็ต ก็ยังทำงานวิจัยและนวัตกรรมระดับแนวหน้าในด้านโครงสร้างและอัลกอริทึมได้
      ต่อให้ผ่านกฎหมายว่า “ความก้าวหน้าของ AI เป็นสิ่งผิดกฎหมาย” ก็ยังน่าสงสัยว่าจะบังคับใช้ได้อย่างไร
    • ผมไม่คิดว่าการที่เรานึกภาพสมมติได้เป็นพัน ๆ แบบว่าเทคโนโลยีอาจผิดทิศอย่างหายนะ จะเป็นเหตุผลให้ต้องมี กฎหมายเชิงป้องกันล่วงหน้า
      ความกลัวในจินตนาการไม่ใช่ความกลัวจริง ผมไม่เห็นด้วยกับแนวทางของรัฐบาลชุดปัจจุบัน เราควรเฝ้าระวัง และก็ดูไม่ดีนักที่คนซึ่งจะได้ผลประโยชน์มหาศาลจากเทคโนโลยีนั้นอยู่ในวงถกเถียงด้วย
      แต่นอกเหนือจากนั้น ผมยังไม่เห็นเหตุผลจริง ๆ ที่ต้องทำอะไรมากกว่ารอดูไปพร้อมกับเฝ้าระวัง
    • ตัวเลือกอีกฝั่งหนึ่งก็ชวนขนลุกไม่ต่างกันในบางความหมาย
      คงไม่มีใครอยากติดอยู่ในประเทศที่แบน AI โดยเฉพาะ AI จากประเทศอื่น และสูญเสียความสามารถในการแข่งขันในโลกที่กำลังเกิดใหม่
      อนาคตคงยากอยู่แล้ว แล้วทำไมต้องมัดมือตัวเองข้างหนึ่งด้วย ความรอบคอบ กับความกลัวไม่ใช่สิ่งเดียวกัน
  • AI ต่างจาก นิวเคลียร์ฟิชชัน เราตรวจจับจากระยะไกลไม่ได้ว่าใครกำลังฝึก AI อยู่ และสายเกินไปแล้วที่จะกักกันข้อมูลที่เกี่ยวข้องกับ AI เหมือนตอนเสริมสมรรถนะยูเรเนียม
    อุปกรณ์ที่จำเป็นสำหรับการฝึก AI นั้นถูกและพบได้ทั่วไป “คำประกาศด้านความปลอดภัย” แบบนี้เป็นคำประกาศที่ไม่มีเขี้ยวเล็บ และบังคับใช้ไม่ได้
    เราหยุด AI ไม่ได้ ต้องปรับตัว วิดีโอและภาพถ่ายจะหมดคุณค่าในฐานะหลักฐานในไม่ช้า และเราควรให้ความสำคัญกับความสัมพันธ์มนุษย์จริง ๆ มากกว่าความสัมพันธ์ออนไลน์ เพราะเรารู้ได้ว่าอีกฝ่ายเป็นคนจริง
    เป็นเรื่องน่าเศร้า แต่ไม่มีสิ่งใดในบรรดาสิ่งที่ AI “ทำลาย” ที่มีอยู่มาตั้งแต่ 200 ปีก่อน และผู้คนก็จะปรับตัวเหมือนที่เคยทำมาเสมอ เหมือนคำพูดของ Toyo Harada วายร้ายในการ์ตูนว่า “ไม่มีพวกเจ้าคนใดหยุดข้าได้ ไม่ว่าจะเป็นรายบุคคลหรือรวมกันเป็นกลุ่ม”

    • ผมคิดว่าปัญหาที่วิดีโอและภาพถ่ายสูญเสียคุณค่าในฐานะหลักฐาน สุดท้ายอาจนำไปสู่ การรับรองความถูกต้องของกล้อง
      มีความเป็นไปได้ที่จะถูกบังคับใช้ทางกฎหมาย ด้วยเหตุผลและวิธีการคล้ายกับที่ญี่ปุ่นบังคับให้กล้องดิจิทัลต้องมีเสียงชัตเตอร์
      เมื่อ 200 ปีก่อน ประชากรโลกมีประมาณ 1 พันล้านคน แต่ตอนนี้มีประมาณ 8 พันล้านคน พวกอนาธิปไตยแบบดั้งเดิมหรือกลุ่มสนับสนุนการลดการเติบโตก็มักปัดความก้าวหน้าในช่วง 200 ปีที่ผ่านมาไปในทำนองเดียวกัน แต่ความก้าวหน้านั้นสำคัญต่อการค้ำจุนระบบที่ช่วยให้ผู้คนจำนวนมากมีชีวิตอยู่
    • ยากที่จะรู้ว่าใครกำลังพัฒนา อาวุธเคมี อยู่ แต่เรารู้ได้ว่าเขาใช้อาวุธนั้นหรือไม่ จุดนี้คล้ายกับ AI มาก
      ถึงอย่างนั้น ข้อตกลงระหว่างประเทศเรื่องการไม่ใช้อาวุธเคมีก็ยังคงอยู่ได้ดีอย่างน่าประหลาดใจ
    • ศาลยังคงรับ คำให้การของพยานผู้เห็นเหตุการณ์ วิดีโอและภาพถ่ายก็น่าจะยังใช้ได้ และสิ่งสำคัญคือบริบท
      ที่จะเกิดความสับสนคือพื้นที่สาธารณะ คนรุ่นที่เกิดตั้งแต่ราวก่อนปี 1975 จนถึงปัจจุบันจะเกิดความสับสนสักหนึ่งชั่วรุ่น เมื่อเห็นภาพที่ตนอยากเชื่อแล้วไม่คิดอย่างวิพากษ์
    • การรันฝึกบางส่วนที่กำลังดำเนินอยู่ตอนนี้ใช้ ไฟฟ้าและ GPU มูลค่าหลายพันล้านดอลลาร์ ค่อนข้างตรวจจับได้ และหากรัฐบาลต้องการหยุดเรื่องแบบนั้นในดินแดนของตน ก็อาจทำได้
      หากแบนบริการที่ใช้ AI อย่าง ChatGPT ก็จะลดแรงจูงใจทางเศรษฐกิจในการลงทุนเงินกับการฝึกแบบนั้นได้ด้วย
    • ปัญหาคุณค่าในฐานะหลักฐานของวิดีโอและภาพถ่ายมีทางแก้ทางเทคนิค Canon มีฟังก์ชันลักษณะนี้มาตั้งแต่ต้นทศวรรษ 2000 แล้ว: https://www.bhphotovideo.com/c/product/319787-REG/Canon_9314...
      โครงการริเริ่มที่ใหม่กว่านั้นคือ https://c2pa.org/
  • การถกเถียงเรื่อง ความปลอดภัยของ AI ทั้งหมดนี้เป็นเพียงการสร้างคูเมืองของบริษัทอย่าง OpenAI เพื่อกันคู่แข่งหน้าใหม่อย่าง DeepSeek เท่านั้น
    LLM จะไม่นำไปสู่ AGI ไม่ใกล้เคียงเลยด้วยซ้ำ การที่ Altman พูดถึงความเสี่ยงแบบนี้ก็คล้ายกับที่ Musk พูดถึงแท็กซี่ไร้คนขับ

    • ครึ่งหนึ่งคือ การสร้างคูเมือง อีกครึ่งหนึ่งคือการตลาด การบอกว่าจำเป็นต้องมี “ความปลอดภัย” ทำให้เกิดภาพว่ามันมีพลังมหาศาล
      แน่นอนว่ามันเป็นเทคโนโลยีที่น่าประทับใจจริง ๆ LLM ดูเหมือนว่าสักวันหนึ่งอาจเพิ่มผลิตภาพของผู้คนในงานที่ต้องโต้ตอบกับคอมพิวเตอร์ตลอดทั้งวันได้ 10 เท่า
    • แท็กซี่ไร้คนขับของ Waymo กำลังให้บริการอยู่ใน San Francisco, Los Angeles และ Phoenix ในปัจจุบัน
    • การถกเถียงเรื่องความปลอดภัยของ AI สมัยใหม่เริ่มต้นจากคนอย่าง Eliezer Yudkowsky, Nick Bostrom และ LessWrong/ขบวนการเหตุผลนิยม
      พวกเขาไม่ได้พูดเรื่องนี้เพื่อสร้างคูเมืองให้ OpenAI เลยแม้แต่น้อย เพราะตอนนั้น OpenAI ยังไม่มีอยู่ด้วยซ้ำ AI ก็ยังห่างไกลจากระดับปัจจุบันมาก และแทบทุกคนมองข้อโต้แย้งของพวกเขาว่าเหลวไหล
      คุณอาจไม่เห็นด้วยก็ได้ แต่การปัดทิ้งอย่างง่าย ๆ ว่าเป็นแค่ข้ออ้างเพื่อพยุงบริษัท AI เดิมนั้นผิดและไม่ซื่อสัตย์
    • ผมมองว่า AGI คล้ายกับตอนที่ Musk พูดถึง การเดินทางระหว่างดวงดาว
    • AGI เป็นคำที่ไม่มีความหมาย โครงสร้าง LLM แสดงศักยภาพในทุกขอบเขตที่เคยใช้เครือข่ายประสาทแบบเพอร์เซ็ปตรอนในอดีต
      สำหรับสิ่งที่ LLM รับรู้ได้ผ่านประสาทสัมผัส ตามคำอธิบายทั้งหมดแล้ว มันฉลาดกว่ามนุษย์ทั่วไปมาก
  • หากเป็นมหาอำนาจครอบงำของโลก ก็จะไม่ปล่อยให้ประเทศอื่นมากำหนดยุทธศาสตร์ของตนเอง เรื่องมันง่ายแค่นั้น
    ความพยายามควบคุม AI จะมาจากฝ่ายที่กำลังแพ้ในการแข่งขัน เหมือนบทสัมภาษณ์ที่ Edward Teller เคยเล่าไว้ สหภาพโซเวียตใช้การพักการทดลองนิวเคลียร์เพื่อไล่ตามสหรัฐฯ ในเรื่อง ระเบิดไฮโดรเจน และ Teller ก็เป็นคนที่บอกนักวิทยาศาสตร์อุดมคตินิยมไว้ว่ามันจะเกิดเรื่องแบบนั้น

    • ในหนังสือ Supermen เกี่ยวกับ Cray ผมอ่านเจอว่าการพักการทดลองเป็นข้อได้เปรียบเชิงยุทธศาสตร์ของสหรัฐฯ เพราะห้องแล็บของสหรัฐฯ สามารถจำลองอาวุธนิวเคลียร์ด้วยระบบ คอมพิวติ้งสมรรถนะสูง ได้
    • ก็ยังน่าสงสัยเหมือนกันว่าอำนาจครอบงำของสหรัฐฯ จะอยู่ได้นานแค่ไหน
      เป็นที่รู้กันดีว่าจีนไล่ทันสหรัฐฯ แทบทุกด้านแล้ว และกำลังจะนำหน้าในส่วนที่เหลือในไม่ช้า แค่ดู DeepSeek ก็มีประสิทธิภาพเท่า OpenAI แต่ต้นทุนต่ำกว่ามาก ยังมี Baidu, Alibaba AI ฯลฯ อีกด้วย
      เศรษฐกิจจีนอยู่บนเส้นทางที่จะแซงสหรัฐฯ ภายใน 5 ปี แต่จีนก็ยังลงนามในข้อตกลงนั้น อันที่จริงประเทศส่วนใหญ่ลงนาม รวมถึงอินเดียด้วย
      นี่ไม่ใช่สถานการณ์ที่ผู้แพ้กำลังสร้างกติกาใหม่ แต่เป็นการที่ประเทศใหญ่ ๆ กำลังหารือว่าจะรับมือสถานการณ์นี้อย่างไร และประเทศที่คิดว่าตัวเองเจ๋งเกินไปต่างหากที่ดูเหมือนกำลังตามหลัง
    • นี่คือคำตอบที่ถูกต้อง
      แต่ความพยายามแบบนั้นก็เป็นเพียงเชิงสัญลักษณ์ และคนที่เกี่ยวข้องก็รู้ดี มันเป็นแค่ความพยายามทำทีให้ผู้บริโภคข้อมูลที่ไร้เดียงสา หรือพวกคนโง่ที่มีประโยชน์ เห็นว่ากำลังทำอะไรบางอย่างอยู่
  • แม้จะพลาดยุค 80s ไป แต่ในฐานะ “แฮกเกอร์” ที่ผ่านยุค 90s และ 00s มา กระแสการสนทนารอบ AI ทำให้รู้สึกเศร้าและอึดอัดอย่างลึกซึ้ง
    ลองจินตนาการว่าบอกแฮกเกอร์ในอดีตว่า ในเว็บไซต์ชื่อ “hacker news” ผู้คนจะถกเถียงกันว่ารัฐบาลควรทำให้ การรันโค้ดบนคอมพิวเตอร์ของตัวเอง เป็นอาชญากรรม
    สิ่งนี้ขัดแย้งอย่างตรงไปตรงมาเหลือเกิน ทั้งในเชิงจริยธรรมและปรัชญา กับทุกสิ่งที่ทำให้ผมหลงใหลคอมพิวเตอร์ ผมสงสัยว่าผู้คนเชื่อแบบนี้จริง ๆ หรือมันเป็นเรื่องเล่าที่ประณีตซึ่งสะดวกต่อบริษัทและนักการเมืองบางราย

    • เท่าที่ผมเข้าใจ ในการถกเถียงด้านความปลอดภัยระดับรัฐบาล แทบไม่มีเนื้อหาใดเลยที่พยายามจำกัด การสร้างและรัน AI โดยตรง
      ทั้งกฎระเบียบ AI ของ EU หรือการอภิปรายที่ผมเคยเห็น ก็ไม่มีเนื้อหาที่จำกัดการแฮก AI เอง
      กฎระเบียบพูดถึงการนำไปใช้โดยบริษัทและรัฐบาล รวมถึงกรณีใช้งานจริง เช่น ไม่ให้ AI ที่ไม่มีผู้รับผิดชอบตัดสินใจจ้างงานขั้นสุดท้าย ห้ามการจดจำใบหน้าอย่างกว้างขวางในพื้นที่สาธารณะ กำหนดให้การใช้ AI ในด้านความเสี่ยงสูงอย่างสาธารณสุข การศึกษา และกระบวนการยุติธรรมต้องมีความโปร่งใส และห้าม AI ที่ถืออาวุธ เป็นต้น
    • ใครพูดแบบนั้นอยู่? มีคอมเมนต์เฉพาะเจาะจงที่นึกถึงไหม? แถว ๆ ด้านบนแทบหาอะไรที่ใกล้เคียงกับเรื่องนั้นไม่ได้เลย
    • 3 ปีก่อนก็เคยมองแบบนี้แล้ว: https://news.ycombinator.com/item?id=30142353
    • การถกเถียงในปัจจุบันใกล้เคียงกับ “สิ่งที่จะมาแทนที่แรงงานบางส่วนต้อง เชื่อถือได้ อย่างน้อยในระดับหนึ่ง และคนที่ได้ประโยชน์จากการทดแทนนั้นก็ยังต้องรับผิดชอบอยู่” มากกว่า “การรันโค้ดบนเครื่องของตัวเอง”
    • มีแหล่งอ้างอิงไหมว่ารัฐบาลประชาธิปไตยใด ๆ กำลังพยายามทำให้ การรันโค้ดบนคอมพิวเตอร์ของตัวเอง เป็นอาชญากรรม? ผมไม่เห็นเนื้อหาแบบนั้นในคำประกาศ AI Action Summit ที่สหรัฐฯ และสหราชอาณาจักรไม่ได้อยู่ในกลุ่มผู้ลงนาม: https://www.politico.eu/wp-content/uploads/2025/02/11/02-11-...
      ในเมื่อพูดถึงจริยธรรม ขอถามว่า ควรใช้จริยธรรมแบบใดกับ AI? ไม่มีเลย บางส่วน หรือแบบเดียวกับมนุษย์? หาก AI มาแทนมนุษย์ในการตัดสินใจ ก็ต้องรับผิดชอบเหมือนมนุษย์
  • ประเทศที่มี AGI แบบไร้ข้อจำกัด มีแนวโน้มสูงที่จะก้าวนำหน้าแบบก้าวกระโดดในเชิงเทคโนโลยี
    ในทางกลับกัน ประเทศที่ตั้งข้อจำกัดจะยังคงอยู่ใน “ยุคหิน” ในสาขานั้น

    • ต่อให้ AGI ไม่ได้นำไปสู่ฉากจบแบบวันสิ้นโลกในทันที ก็มีแนวโน้มมากกว่าที่จะกลายเป็นสิ่งคล้าย คำสาปทรัพยากร[1] แทนที่จะให้ประโยชน์แก่คนส่วนใหญ่
      โดยทั่วไป ประเทศที่รายได้ของชนชั้นนำพึ่งพาแรงงานของประชาชน มักให้ผลลัพธ์ที่ดีกว่าสำหรับคนส่วนใหญ่เมื่อเทียบกับประเทศที่ไม่เป็นเช่นนั้น ดูประเทศกำลังพัฒนาที่มีแหล่งน้ำมันอุดมสมบูรณ์ก็ได้
      แล้ว AGI จะนำไปสู่อะไร? งานความรู้ส่วนใหญ่จะถูกแทนที่ เช่นเดียวกับที่แรงงานภาคการผลิตถูกแทนที่ และชนชั้นนำเดิมก็จะเป็นผู้ควบคุม AGI มันอาจถูกใช้เพื่อกดปราบการกบฏตลอดไปด้วยการเฝ้าระวังที่เป็นอัตโนมัติอย่างสมบูรณ์และมีอยู่ทุกหนทุกแห่ง
      ไม่ใช่สิ่งที่ควรมุ่งหวังจริง ๆ
      [1]: https://en.wikipedia.org/wiki/Resource_curse
    • ไม่เข้าใจว่าทำไมต้องคาดเดาเกี่ยวกับเทคโนโลยีที่ยังไม่มีอยู่จริง และ LLM ก็ไม่มีวันกลายเป็นสิ่งนั้นได้
      สักวันหนึ่งอาจมีอยู่จริงก็ได้ แต่ “AI” ในปัจจุบันไม่สามารถกลายเป็น AGI ได้ และก็ไม่มีเส้นทางที่จะเดินหน้าไปถึงจุดนั้น
    • คิดว่าควรโฟกัสกับระบบ AI ที่มีอยู่ตอนนี้ และไม่ต้องกังวลว่า AGI จะมาในเร็ว ๆ นี้ ตัวชี้วัดทั้งหมดบอกว่าไม่เป็นเช่นนั้น
    • อาจเป็นอย่างนั้นก็ได้ แต่ในระหว่างนั้น การมอบเทคโนโลยี AI สำหรับทำ racial profiling ให้รัฐบาลและบริษัทถือไว้ได้อย่างถูกกฎหมาย เป็นอันตรายอย่างมากต่อเสรีภาพและความเป็นส่วนตัว
      อย่าเชื่อเรื่องเล่านั้นไปทั้งหมด กฎระเบียบของ EU ไม่ได้พยายามห้าม AGI แต่พยายามให้เทคโนโลยีเมื่อมีอยู่แล้วต้องรักษาความเหมาะสมขั้นพื้นฐานไว้ ดูเหมือนชาวอเมริกันจะแพ้เรื่องแบบนี้อย่างรุนแรงแทบถึงตาย
    • น่าสนใจที่ในภาพยนตร์ Creator เรื่องดำเนินไปในโครงแบบที่ New Asia ยอมรับ AI และหุ่นยนต์ ขณะที่ตะวันตกไม่ยอมรับ
      ตอนนี้ผ่านไปไม่กี่ปี เรากำลังพิจารณากันอย่างจริงจังแล้วว่าส่วนหนึ่งของโลกยอมรับ AI ขณะที่อีกส่วนหนึ่งไม่ยอมรับ
      การนำไปใช้แบบบางส่วนเช่นนี้พอคาดเดาได้ แต่ไม่คิดว่าเราจะมาถกเถียงเรื่องนี้กันเร็วขนาดนี้
  • เข้าใจได้ไหมว่า “คำประกาศ” นี้ไม่ใช่คำมั่นต่อการดำเนินการที่เป็นรูปธรรม? ถ้าอย่างนั้นก็ไม่ค่อยเข้าใจว่าทำไมการที่ใครลงนามหรือไม่ลงนามจึงสำคัญ

    • เด็ก ๆ ที่บริหารประเทศยุโรปชอบละครแบบนี้ เพราะพวกเขาสามารถแสร้งทำเหมือนกำลังทำอะไรที่มีประสิทธิผลได้โดยไม่ต้องคิด
    • ใช่ มีผลบังคับใช้ได้แค่ระดับ ปณิธานปีใหม่ เท่านั้น
      ความเป็นรูปธรรมก็ดูไม่ได้ดีไปกว่านั้นเท่าไร ความยาวประมาณหน้าครึ่ง และรายชื่อประเทศก็ยาวพอ ๆ กับตัวคำประกาศเอง โดยพื้นฐานแล้วมีเนื้อหาว่า “เราได้พูดแล้วว่าเราจะไม่ทำเรื่องไม่ดี”
    • ถ้าไม่มีผลผูกพัน ก็สงสัยเหมือนกันว่าทำไมถึงไม่ลงนาม
    • เป็นละครทางการทูต และเป็นข้ออ้างสำหรับจ้างหรือรักษาข้าราชการไว้เพิ่ม
    • เป็นสัญญาณเพื่อแสดงค่านิยมร่วมกัน หรือในกรณีนี้คือค่านิยมที่ไม่ได้ร่วมกัน
  • พวกเขาพูดถูก คำประกาศนั้นไร้ประโยชน์ และเป็นแค่ ความพยายามสูญเปล่า

  • ยุโรปชอบลงนามในคำประกาศและจดหมายแสดงความกังวลจริง ๆ ต่อให้ลงนามไปก็คงไม่ต่างอะไร

    • การนำหน้าใน ละครเรื่องความปลอดภัยของ AI แย่กว่าการนำหน้าใน AI จริง ๆ เพราะอำนาจนำด้านความปลอดภัยของ AI สุดท้ายก็เป็นแค่อำนาจนำของ AI เอง
    • ผู้นำยุโรปเหมือนเด็กที่โตเป็นผู้ใหญ่แล้ว น่าสมเพชทีเดียว
  • คำประกาศประเภท “อย่ากลายเป็นคนชั่วร้ายกันเลย” แบบนี้มักเป็นเพียงท่าทีที่ไร้ความหมาย
    อย่างไรเสีย ผู้เล่นนอกกระแสที่ไม่ได้จะเข้าร่วมอยู่แล้วก็แค่โอ้อวดความเหนือกว่าทางศีลธรรม แต่ไม่มีผลต่อกระแสจริงเลย
    Ottawa Treaty ก็คล้ายกัน ประเทศที่ไม่ได้ลงนามมีสหรัฐฯ จีน รัสเซีย ปากีสถาน อินเดีย อียิปต์ อิสราเอล อิหร่าน คิวบา เกาหลีเหนือและเกาหลีใต้ เป็นต้น กล่าวคือประเทศที่คาดว่าจะใช้ทุ่นระเบิดตั้งแต่แรกต่างก็ไม่อยู่ในนั้น
    เมื่อสถานการณ์เกิดขึ้นจริง ประเทศผู้ลงนามอย่างยูเครนก็จะใช้ทุ่นระเบิดเช่นกัน เพราะการป้องกันประเทศสำคัญกว่าการรักษากระดาษแผ่นหนึ่งและรู้สึกว่าตนเหนือกว่าทางศีลธรรม