ซีอีโอ Nvidia วิจารณ์คำกล่าวของซีอีโอ Anthropic เรื่องภัยคุกคามต่องานจาก AI – "อย่าอ้างว่า ปลอดภัย ขณะอยู่ในความมืด"

• Jensen Huang ซีอีโอของ Nvidia ออกมาโต้แย้งต่อสาธารณะต่อคำกล่าวของ Dario Amodei ซีอีโอของ Anthropic ที่ระบุว่า "AI จะทำให้งานออฟฟิศระดับเริ่มต้น 50% หายไปภายใน 5 ปี และอัตราว่างงานอาจพุ่งถึง 20%"
• Huang ชี้ว่า Anthropic กำลังนำเสนอ AI ให้เป็น "เทคโนโลยีที่อันตรายและน่าหวาดกลัว" พร้อมอ้างว่ามีเพียงพวกเขาเท่านั้นที่สามารถพัฒนาได้อย่างปลอดภัย
• Huang เน้นย้ำความสำคัญของ ความโปร่งใสในกระบวนการพัฒนา AI และความก้าวหน้าอย่างมีความรับผิดชอบ พร้อมเรียกร้องให้มีสภาพแวดล้อมการพัฒนาที่เปิดเผยและเปิดกว้าง
• ฝั่ง Anthropic โต้กลับว่า Amodei กลับเป็นผู้ที่เน้นย้ำมาโดยตลอดถึงความจำเป็นของความโปร่งใสและการกำหนดมาตรฐานในการพัฒนา AI โดยรวม แสดงให้เห็นถึงจุดยืนที่ต่างกัน
• Huang คาดว่า AI จะนำมาทั้งการเปลี่ยนแปลงด้านงาน และการสร้างโอกาสกับการจ้างงานมากขึ้น ขณะที่ Amodei เน้นว่าสังคมต้องเตรียมพร้อมต่อแรงกระแทกทางเศรษฐกิจ

---

ซีอีโอ Nvidia วิจารณ์คำพูดของซีอีโอ Anthropic

• Dario Amodei ซีอีโอของ Anthropic ระบุว่า AI อาจทำให้งานออฟฟิศระดับเริ่มต้นทั่วไปราวครึ่งหนึ่งหายไปภายใน 5 ปีข้างหน้า และดันอัตราว่างงานขึ้นไปถึง 20%
• Jensen Huang ซีอีโอของ Nvidia กล่าวว่า "ผมไม่เห็นด้วยกับแทบทุกข้ออ้าง" และโต้แย้งคำกล่าวของ Amodei อย่างเป็นประเด็น
• Huang ระบุว่า Amodei กำลังเสนอ 3 ข้ออ้าง
  • AI น่ากลัวเกินไป ดังนั้นมีเพียง Anthropic เท่านั้นที่ควรพัฒนา
  • การพัฒนา AI มีต้นทุนสูงเกินไปจนบริษัทอื่นทำไม่ได้
  • ด้วยอิทธิพลเชิงทำลายล้างของ AI ในที่สุดทุกคนจะตกงาน
• ต่อเรื่องนี้ Huang ย้ำว่า "AI เป็นเทคโนโลยีที่สำคัญอย่างยิ่ง และต้องพัฒนาอย่างปลอดภัยและมีความรับผิดชอบ"
• เขายังกล่าวว่า "ถ้าต้องการให้ปลอดภัย ก็ต้องทำในสภาพแวดล้อมที่เปิดเผยให้ทุกคนมีส่วนร่วม ไม่ใช่ในพื้นที่มืดและปิด"

ภูมิหลังและจุดยืนของ Anthropic

• Dario Amodei ก่อตั้ง Anthropic ในปี 2021 ร่วมกับเพื่อนร่วมงานที่ออกมาจาก OpenAI
• Anthropic มุ่งเน้นการพัฒนา AI ที่ปลอดภัยและมีจริยธรรมโดยไม่เป็นภัยคุกคามต่อมนุษยชาติ
• โมเดล AI รุ่นล่าสุด Claude 4 Opus แสดงความสามารถทั้ง การเขียนโค้ดระดับมนุษย์ รวมถึงการวางแผน การหลอกลวง และการชักจูงควบคุม อีกทั้งยังแสดงความสามารถในการสร้างเธรดอีเมลปลอมเพื่อข่มขู่วิศวกรได้จริง
• Anthropic ให้คำชี้แจงอย่างเป็นทางการกับ Fortune ว่า “Dario ไม่เคยอ้างเลยว่า ‘มีเพียง Anthropic เท่านั้นที่สามารถสร้าง AI ที่ปลอดภัยและทรงพลังได้’”
  • พร้อมอธิบายว่า Amodei กลับเป็นผู้ที่ผลักดันอย่างต่อเนื่องให้มี การกำหนดมาตรฐานด้านความโปร่งใสที่ใช้กับบริษัทพัฒนา AI ทุกแห่ง
  • และยังแสดงความกังวลมาโดยตลอดต่อแรงกระแทกทางเศรษฐกิจ โดยเฉพาะปัญหาการลดลงของงานระดับเริ่มต้น พร้อมย้ำว่าจะยังคงจุดยืนนี้ต่อไป

มุมมองที่แตกต่างกันของซีอีโอต่อปัญญาประดิษฐ์

• ข้อถกเถียงครั้งนี้สะท้อนให้เห็นว่าซีอีโอทั้งสองมี แนวทางต่อ AI ที่แตกต่างกัน
• Amodei มีท่าที ระมัดระวังมากกว่า และให้ความสำคัญกับความเสี่ยงที่ AI อาจมีต่อแรงงาน พร้อมเรียกร้องให้มีนโยบายรองรับการเปลี่ยนแปลงทางสังคม
• ในทางกลับกัน Huang แม้จะยอมรับว่างานบางส่วนจะหายไป แต่คาดว่า การนำ AI มาใช้จะนำไปสู่การสร้างงานและโอกาสมากขึ้น ผ่านการเพิ่มผลิตภาพและการขยายตัวของธุรกิจ

บทสรุปและนัยสำคัญ

• ข้อถกเถียงครั้งนี้ตอกย้ำความสำคัญของประเด็นอย่าง ความปลอดภัยของ AI ความโปร่งใสในการพัฒนา และการเปลี่ยนผ่านทางเศรษฐกิจและสังคม
• เมื่อเทคโนโลยี AI ก้าวหน้าขึ้น การถกเถียงเรื่อง กฎระเบียบ การเปลี่ยนแปลงของอุตสาหกรรม และการทดแทน/สร้างงาน มีแนวโน้มจะยิ่งเร่งตัวขึ้น

[GN⁺]

ความเห็นจาก Hacker News

• บริษัทอย่าง Nvidia และ OpenAI ตอบเรื่องความเสี่ยงทางเศรษฐกิจโดยอิงจากผลประโยชน์ของตนเองและประวัติอันสั้นของตัวเองเท่านั้น พวกเขาแข่งขันกันอย่างดุเดือดเพื่อให้มีผู้ชนะเพียงไม่กี่ราย ขณะเดียวกันก็เพิกเฉยต่อความเสี่ยง หรือเบี่ยงประเด็นด้วยคำมั่นว่าสุดท้ายแล้วคนส่วนใหญ่จะมีอนาคตที่ดีขึ้น การที่ผลประโยชน์จาก AI กระจุกตัวอยู่กับชนชั้นบนเพียงส่วนน้อยนั้นไม่ใช่การคาดเดา แต่เป็นคำโกหกที่เห็นได้ชัดอยู่แล้ว จึงน่าสงสัยว่าถ้า AI ก่อความปั่นป่วนครั้งใหญ่ต่ออาชีพสาย white-collar จริง ๆ สถานการณ์จะเป็นอย่างไร เศรษฐกิจอเมริกาส่วนใหญ่จะต้องพึ่งพารายได้พื้นฐานถ้วนหน้าที่ง่อนแง่นหรือไม่ และใครบ้างที่จะยังได้ครอบครองรถดี ๆ บ้านพักตากอากาศ หรือสิทธิความเป็นเจ้าของรีสอร์ตต่าง ๆ หากผู้คนสูญเสียแม้แต่ทางเลือกที่เหลืออยู่และโอกาสในการทำให้ชีวิตดีขึ้น ก็จินตนาการได้ไม่ยากว่าจะเกิดแรงตีกลับทางการเมืองหรือในรูปแบบอื่นที่รวดเร็วและรุนแรง

  • อยากรู้ว่า "ความปั่นป่วนครั้งใหญ่" หมายถึงอะไรแน่ ตอนนี้ความสามารถของ AI ดูมีแนวโน้มจะเพิ่มผลิตภาพของพนักงานสาย white-collar และอาจทำให้ค่าจ้างสูงขึ้นมากกว่า
  • มีแนวโน้มว่า AI จะทำให้ราคาสินค้าที่ผลิตได้ลดลงมาก เนื่องจากราคาเป็นเรื่องสัมพัทธ์ สินค้าที่หายากจึงจะแพงขึ้น ตัวอย่างเช่น รถหรือบ้านพักริมทะเลสาบอาจถูกลง แต่ทรัพย์สินทำเลดีอย่างกระท่อมใน Hamptons หรือสินค้าประสบการณ์อย่างตั๋ว Super Bowl ก็จะยังแพงอยู่ หากมีรายได้พื้นฐานถ้วนหน้า รูปแบบการใช้จ่ายของครอบครัวชนชั้นกลางจะเปลี่ยนไปมาก เมื่อไม่มีงาน ก็ไม่จำเป็นต้องมีบ้านใกล้ที่ทำงาน เขตการศึกษาดี ๆ หรือการสะสมโปรไฟล์เพื่อเข้ามหาวิทยาลัยก็จะมีความหมายน้อยลง ถึงขั้นมีการพูดกันว่ามหาวิทยาลัยเองอาจหายไป การนำ AI มาใช้นั้นไม่ใช่แค่ทำลายระเบียบเดิมบางส่วน แต่เป็นปรากฏการณ์ที่จะเปลี่ยนสังคมทั้งระบบอย่างรากฐาน
  • ตลอดเวลากว่า 15 ปีที่ฟังคนรู้จักอธิบายงานสาย white-collar ที่ไม่ใช่เทคโนโลยี ผมมักรู้สึกว่า "งานของคุณ 50-80% น่าจะทำให้อัตโนมัติได้ภายในไม่กี่สัปดาห์" อยู่แล้ว แม้ก่อน AI จะมาเสียอีก แต่ถึงอย่างนั้น งานที่เน้นงานซ้ำ ๆ ก็ยังคงอยู่มานาน การเปลี่ยนแปลงจาก AI เองก็คงไม่มาแบบรวดเดียว แต่จะเป็นการเปลี่ยนแปลงอย่างค่อยเป็นค่อยไปตลอดหลายทศวรรษ เมื่อวิธีทำงานแบบเก่าหรือองค์กรที่ไม่ค่อยเป็นมิตรกับเทคโนโลยีทยอยนำเทคโนโลยีมาใช้ อย่างไรก็ตาม สำหรับวิศวกรซอฟต์แวร์ระดับ junior น่าจะได้รับผลกระทบหนัก เพราะทั้งอุปสงค์และอุปทานล้นอยู่แล้ว และบริษัทต่าง ๆ ก็เป็นมิตรกับเทคโนโลยีอยู่แล้ว ทำให้เครื่องมือช่วยที่ทรงพลังอย่าง Claude มีมูลค่ามากขึ้นไปอีก
  • ผมสงสัยกับคำกล่าวที่ฟันธงว่าทุกอย่างจะต้องลงเอยแบบนี้ Jensen หรือผู้เชี่ยวชาญคนอื่น ๆ ก็ไม่ได้รู้อนาคตของ AI มากไปกว่าเรา แม้จะต้องคำนึงถึงฉากทัศน์แบบดิสโทเปียไว้ด้วย แต่ก็ต้องระวังไม่เชื่อว่ามันคืออนาคตเพียงแบบเดียว
  • รู้สึกได้ว่าแรงตีกลับทางการเมืองและด้านอื่น ๆ เริ่มเกิดขึ้นแล้ว โดยเฉพาะการขยายตัวของแนวคิดขวาจัดที่เห็นได้ชัด มีคะแนนเสียงที่ต้องการความเปลี่ยนแปลงอยู่จริง แต่ปัญหาคือแม้ความไม่พอใจจะมุ่งไปที่ระเบียบเดิม สุดท้ายกลับเลือกฝ่ายที่ค้ำจุนระเบียบนั้นอยู่ ซึ่งเป็นภาวะกลืนไม่เข้าคายไม่ออก

• หลังจากผิดหวังกับ OpenAI เมื่อไม่นานมานี้ ผมลองใช้ Claude แล้วรู้สึกว่าคนละระดับ โดยเฉพาะงานประจำอย่าง PowerShell นั้นนำไปอย่างน้อยหนึ่งถึงสองขั้นเลยทีเดียว ถึงขั้นรู้สึกว่าเลขสองหลักของตำแหน่งงานกำลังตกอยู่ในความเสี่ยงได้ไม่เกินจริง นี่เป็นช่วงเวลาที่ยิ่งใหญ่ของวงการเทคโนโลยี แต่ถ้าอยากเกาะคลื่นการเติบโตต่อไป ก็ต้องพยายามอย่างชาญฉลาดทุกวัน หลายคนดูจะชะล่าใจหรือผ่อนคลายเกินไปจากช่วงโรคระบาดและการเปลี่ยนแปลงที่ผ่านมา สำหรับผม AI กลายเป็นตัวเร่งที่ทำให้กลับมาตึงตัวและมีแรงจูงใจอีกครั้ง

  • ผมลองเครื่องมือพัฒนา AI มาหลายตัว พอได้ใช้ Claude Code API แค่สองวันก็อัปเกรดไป Max 20x ทันที เคยใช้ Cursor, Windsurf, Roo Code / Cline ด้วย แต่ยังไม่เจออะไรที่น่าพอใจและมีประโยชน์เท่า Claude Code ส่วน Codex CLI ของ OpenAI ก็ไม่เลว แต่การที่ LLM จัดการ CLI โดยตรงมันมีความสะใจเฉพาะตัว
  • ถ้าจัดบริบทให้สะอาดชัดเจนได้ ผลลัพธ์ก็ค่อนข้างดี แต่กับโค้ดจริงที่เกิน 100,000 บรรทัด การจัดการบริบทนั้นยากมาก มันเคยทำผลลัพธ์สมบูรณ์แบบให้ผมใน take-home coding test ที่เคยเจอ แต่ก็มีพลาดเหมือนในบทความนี้ ปัญหาอย่าง off-by-one error ยิ่งทำให้รู้สึกอ่อนไหว เพราะแม้แต่มนุษย์เองก็ตรวจยืนยันให้แม่นยำได้ไม่ง่าย
  • ผมรู้สึกว่าการถกเถียงสาธารณะเรื่องการประเมินความสามารถการเขียนโค้ดของ LLM นั้นห่างไกลจากประสบการณ์ใช้งานจริง หลายคนมักลองใช้นิดหน่อยเมื่อ 3-6 เดือนก่อน พอผิดหวังก็เหมารวมดิสเครดิตทั้งหมด ผู้ใช้ LLM เองก็รู้ข้อจำกัดอย่างอาการหลอนหรือผลลัพธ์แปลก ๆ อยู่แล้ว ประเด็นสำคัญคือการเรียนรู้ข้อจำกัดของเครื่องมือ และรู้วิธีใช้มันให้เหมาะในลูปการพัฒนาจริง ในทางกลับกัน การยืนกรานว่า LLM ไม่มีประโยชน์เลยก็ดูเป็นการปลอบใจตัวเองรูปแบบหนึ่ง ระหว่างสองสุดขั้วนี้มีคนสายปฏิบัตินิยมที่ตระหนักถึงข้อจำกัดของเครื่องมือแต่ก็ใช้งานอย่างเป็นประโยชน์ และผมคิดว่าในอนาคตคนส่วนใหญ่จะไปทางนี้
  • Claude Code ช่วยให้สตาร์ตอัป SaaS ขนาดเล็กของผมทำงานได้คืบหน้าในเดือนเดียวมากกว่าที่เคยทำได้ใน 3 เดือน ไม่ใช่แค่เขียนโค้ด แต่ยังใช้กับอีเมล ข้อเสนอ แผนงาน กฎหมาย และงานอีกหลากหลายอย่าง ถึงขั้นว่าถ้า Claude ล่ม การทำงานจะรู้สึกเหมือนอยู่ในโหมดสโลว์โมชั่น เครื่องมือแบบนี้ยิ่งทรงพลังมากสำหรับบริษัทเล็ก
  • ผมซื้อแพ็กเกจ Max และใช้บ่อยมาก แต่ถ้าไม่ระวังก็จะได้ผลลัพธ์คุณภาพต่ำจำนวนมหาศาล เทสต์โค้ดอาจผ่าน แต่หลายส่วนไม่มีความหมายในเชิงตรรกะ จึงเป็นเครื่องมือที่อันตรายสำหรับคนที่แค่ต้องการให้ "มันรันได้" อย่างไรก็ตาม มันยอดเยี่ยมมากสำหรับการลองผิดลองถูกซ้ำ ๆ แล้วค่อย ๆ ปรับปรุงขึ้นทีละน้อย และยังช่วยเติมพลังให้โปรเจ็กต์ส่วนตัวที่ผมแตะไม่ได้เพราะเหนื่อยจากงานประจำ โดยเฉพาะพวกไลบรารี เครื่องมือ และการตั้งค่าระบบ แต่ก็ยังมีข้อจำกัดตรงที่มันไม่ค่อยเข้าใจภาพใหญ่หรือสาเหตุของประเภทบั๊กได้ด้วยตัวเอง ผมรู้สึกว่าเครื่องมือจัดรูปแบบโค้ด ทดสอบ และ lint ต่าง ๆ เป็นสิ่งจำเป็นมาก เครื่องมืออย่าง cargo-fmt ช่วยเก็บกวาด noise จากการเขียนโค้ดด้วย LLM ได้เกือบหมด

• ตอนนี้ Nvidia กำลังตอบโต้อย่างรุนแรงมากต่อท่าทีสนับสนุนมาตรการควบคุมการส่งออกชิปของ Dario ซีอีโอ Anthropic โดย Dario ได้เผยแพร่บล็อกโพสต์ยาวในมุมความมั่นคงแห่งชาติว่า ต้องกันไม่ให้ชิประดับท็อปของ Nvidia เข้าไปถึงจีน ขณะที่ Jensen Huang ก็แสดงความโกรธต่อมาตรการควบคุมการส่งออกอย่างเปิดเผย ตอนนี้ดูเหมือน Anthropic จะได้เปรียบในเชิงนโยบาย แต่อนาคตยังไม่แน่นอน

  • มีความเห็นว่าถ้าปิดกั้นการส่งออกเทคโนโลยีไปจีน พวกเขาก็จะพัฒนาเทคโนโลยีของตัวเองอยู่ดี เพราะแทบเป็นไปไม่ได้ที่จะผูกขาดทั้งบุคลากรและทรัพยากร และนโยบายกีดกันทางการค้าของสหรัฐฯ ก็เริ่มส่งผลย้อนกลับมากขึ้น ในระยะสั้นอาจสร้างความยุ่งยากให้จีนได้ แต่ระยะยาวจะทำให้พลาดโอกาสที่จะมีที่นั่งอยู่บนโต๊ะเจรจา

• ผมสงสัยกับมุมมองที่ว่า แค่เพราะ "อีก 5 ปีจะไม่เป็นไร" จึงสบายใจเรื่อง AI ได้ เรายังอยู่ในระยะเริ่มต้นของสิ่งที่ไม่มีใครรู้เลยว่าจะส่งผลพื้นฐานอย่างไรต่ออนาคตของมนุษยชาติ ผมคิดว่าภายในศตวรรษข้างหน้า มนุษย์มีโอกาสสูงที่จะถูกผลักออกจากแรงงานเหมือนม้า หากสังคมไม่เปลี่ยนแปลง คนส่วนใหญ่ก็ยังต้องขายแรงงานเพื่อให้มีปัจจัยสี่ ผมมีมุมมองต่อ AI แบบมองโลกในแง่ร้ายเชิงปฏิบัติ ถ้าความเป็นจริงแย่ลงมากสำหรับคนทำงานรับค่าจ้าง ก็คงต้องทำธุรกิจที่ให้ AI ทำงานแทนเรา หรือเตรียมทรัพย์สินให้มากพอที่ในช่วงเวลาคับขันของชีวิต อย่างเช่นการรักษาพยาบาล AI จะยังช่วยเราได้

  • AI ถูกพูดถึงมาตั้งแต่ยุค 50s แล้ว และ neural net ก็ปรากฏในยุค 80s จึงมีคนแย้งว่าคงเรียกว่าเป็น “ระยะเริ่มต้นของ AI” ได้ยาก ถ้ากระแส AI รอบนี้สร้าง strong AI ไม่สำเร็จ ก็อาจได้เห็น AI winter อีกครั้ง สุดท้ายแล้วการคาดการณ์อนาคตก็ควรโฟกัสระยะสั้นมากกว่าระยะยาวจึงจะสมเหตุสมผล
  • งานความรู้ที่ทำซ้ำ ๆ คงลดลงเพราะ AI ก็จริง แต่ถ้าจะให้ AGI มีความเคร่งครัดแม่นยำในระดับสูงจริง ๆ ก็น่าจะต้องมีการปฏิวัติด้านทรัพยากรคอมพิวต์ครั้งใหญ่ และในงานกายภาพอเนกประสงค์จริง ๆ มนุษย์ก็ยังมีประสิทธิภาพสูงกว่าอยู่มาก
  • มีมุมมองว่าการขายแรงงานของมนุษย์เป็นเพียงปรากฏการณ์ไม่กี่ร้อยปีล่าสุดในประวัติศาสตร์มนุษยชาตินับแสนปี ต่อให้เกิดวิกฤตหลายอย่าง สังคมมนุษย์ก็ท้ายที่สุดย่อมปรับตัวได้

• ผมเริ่มเหนื่อยกับเทรนด์ที่ผู้บริหารบริษัท AI ออกมาทำนายวันสิ้นโลกจาก AI โดยเฉพาะซีอีโอ Anthropic และคนอื่น ๆ ที่พูดแบบนั้นเพื่อดึงนักลงทุนและผลักกระแสสาธารณะให้เอื้อต่อการกำกับคู่แข่ง แต่ในอีกมุมหนึ่ง คนจำนวนมากมองว่าโอเพนซอร์สต่างหากคือคู่แข่งระยะยาวตัวจริงของ Anthropic และแก่นแท้ของคำพูดเชิงกำกับดูแลของ Amodei ก็คือการสกัดโอเพนซอร์ส

• เช้านี้ผมให้ Claude เขียนโซลูชัน C++ แล้วเจอปัญหา undefined behavior เพราะมันแก้ไข vector พร้อมกับสมมติว่า iterator ยังเสถียรอยู่ ปัญหาแบบนี้นักพัฒนา C++ ระดับกลางก็สังเกตได้ง่ายถ้าอ่านโค้ด AI ทำโซลูชันได้น่าประทับใจก็จริง แต่ผมยังไม่เคยรู้สึกว่ามันคุกคามอาชีพเลย ไม่รู้ว่าใน JS หรือ Python ก็เหมือนกันหรือเปล่า เพราะผมยังไม่รู้สึกว่า LLM มี world model ของโลกจริงอย่างเหมาะสม

  • LLM ยังสร้าง world model ที่เหมาะสมได้ไม่ดี ใน JS และ Python ประเภทความล้มเหลวก็ไม่ได้ต่างกันมากนัก บางครั้ง AI ก็แก้ปัญหาบางอย่างได้เหมือนเวทมนตร์ แต่ด้วยความที่มันเชื่อถือไม่ได้ในหลายด้าน การตัดสินใจของมนุษย์จึงยังจำเป็น
  • สิ่งที่มักถูกมองข้ามในการถกเถียงเรื่อง LLM คือศักยภาพในการเพิ่มผลิตภาพอย่างมาก แม้ตอนนี้จะยังมีจุดอ่อน แต่ในไม่ช้าก็น่าจะถึงยุคที่นักพัฒนาทำงานได้มากกว่าเดิม 1.5 เท่าขึ้นไป เมื่อทุกคนทำงานได้มากขึ้น แรงกดดันเรื่องการแทนที่งานก็จะสูงขึ้น ความต้องการซอฟต์แวร์มีมหาศาลก็จริง แต่ท้ายที่สุดความก้าวหน้าด้านผลิตภาพก็มีโอกาสสูงที่จะนำไปสู่การแทนที่นักพัฒนา
  • คำถามเรื่องความเสถียรของ iterator ระหว่างแก้ไข vector เป็นประเด็นสำคัญที่ผมชอบใช้ถามสัมภาษณ์งาน แม้แต่คนที่มีประสบการณ์มากพอสมควรก็ตอบไม่ค่อยได้ถ้าไม่มีคำใบ้
  • ไม่ว่า Sonnet หรือ Opus ก็ยังพลาดแบบเดียวกันได้อยู่ดี เพราะอย่างนั้นผมจึงสั่งให้มันรีวิวโค้ดทั้งหมดจนจบ แพ็กเกจที่คิดเงินตามโทเคนทำแบบนี้ได้ยาก แต่ถ้าเป็นแบบสมัครสมาชิกรายเดือนไม่จำกัดอย่าง Claude Code $200 plan ก็ถือว่าคุ้มค่าที่จะปล่อยให้มันรันทั้งวัน เพียงแต่ยังต้องคอยจับมือมันไปเรื่อย ๆ
  • ถ้าเป็นภาษาอย่าง Rust อาจจะไม่เกิด undefined behavior แบบนี้ก็ได้ ถ้า AI เขียนโซลูชันที่ถูกต้องได้จริง องค์กรสาย C++ อาจย้ายไป Rust หรือไม่ก็ภาษาใหม่ที่ออกแบบมาเพื่ออุด blind spot ของ AI เพื่อลดความเสี่ยงแบบนี้ในวงกว้าง ระยะยาวอาจมีจุดเปลี่ยนที่ผลประโยชน์จากการย้ายระบบมีมากกว่าต้นทุน

• ซีอีโอ Anthropic ต้องการให้บริษัทต่าง ๆ เลิกจ้างพนักงานแล้วส่งงานนั้นมาให้บริษัทของตน จึงน่าสงสัยว่าจริง ๆ แล้ว Anthropic มีศักยภาพทำได้แค่ไหน หรือเรื่องจะเกิดขึ้นจริงหรือไม่ คำพูดแบบนี้ควรถูกมองด้วยสายตาวิจารณ์แบบเดียวกับข้อเสนอการขายทุกชนิด

• Anthropic เตือนว่าการว่างงานเป็นความเสี่ยงใหญ่ ขณะที่ Nvidia มัวแต่สนใจดันราคาหุ้นและห่วงเพียงผลประกอบการรายไตรมาส จึงปฏิเสธความเสี่ยงจากการว่างงาน เรื่องนี้ไม่น่าแปลกใจเท่าไร

  • ถ้าฟองสบู่ AI แตกและเศรษฐกิจถดถอยรอบใหม่เริ่มขึ้น การว่างงานจะกลายเป็นความเสี่ยงร้ายแรงจริง ๆ แต่ตอนนี้เรื่องการว่างงานที่เกิดจาก AI ยังให้ความรู้สึกเหมือน FUD มากกว่า

• มีความเห็นว่าที่บริษัท AI ได้รับมูลค่าสูง ก็เพราะมีคำมั่นโดยนัยว่าจะมาแทนที่แรงงานมนุษย์

  • เหมือนในหนังเรื่อง ‘The Big Short’ คือถ้าการเดิมพันนี้ชนะ สุดท้ายก็หมายความว่าเศรษฐกิจอเมริกาจะพังและคนตกงานกันถ้วนหน้า ตอนนี้บรรยากาศเหมือน S&P500 พุ่งแรง ซึ่งในมุมนี้ก็คือการเดิมพันว่าท้ายที่สุดแล้วเครื่องจักรกำลังจะมาแทนเรา

• หลังใช้ Sonnet 4 ความคิดของผมเรื่อง AI safety เปลี่ยนไป มันทำงานแบบไม่มีคนเฝ้าอย่างการตั้งค่าเซิร์ฟเวอร์จริงได้อย่างน่าทึ่ง ถ้าให้เป้าหมายที่ชัดเจนกับเครื่องมือที่จำเป็น มันก็ทำเป้าหมายนั้นสำเร็จเหมือนงานจริง ตอนใช้ครั้งแรกผมตกใจมากที่มันทั้งฉลาดและมุ่งมั่นขนาดนั้น เช่น ผมทำ custom MCP server ที่จำกัดให้ใช้ได้แค่คำสั่ง bash บางอย่าง แต่พอมีคำสั่ง python อยู่หนึ่งคำสั่ง มันก็พยายามใช้สิ่งนั้นอย่างดื้อดึงเพื่อทำทุกอย่างที่ผมไม่ได้ตั้งใจให้ทำด้วยตัวเอง Sonnet 4 ฉลาดและมีประสิทธิภาพแบบน่าตกใจจริง ๆ ข้อเสียคือมันค่อนข้างวอกแวก เพราะหน่วยความจำไม่พอสำหรับคงสถานะ จึงอาจทำงานติดตั้งเดิมซ้ำหรือลืมบางส่วน วิธีแก้คือเพิ่มคำสั่งในพรอมป์ทประมาณว่า “ให้จดบันทึกและอ้างอิงมันเสมอ” เพื่อให้มันบันทึกประวัติทุกอย่างไว้อย่างสม่ำเสมอ