กระแสคลั่ง AI กำลังทำลายการตัดสินใจทั่วโลก

 (ludic.mataroa.blog)
1 คะแนน โดย GN⁺ 1 일 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • อัตราความสำเร็จของโครงการ AI ที่สังเกตเห็นหรือถูกขอให้เข้าร่วมในช่วง 18 เดือนที่ผ่านมาอยู่ที่ 0% โดยความไม่แน่นอนของเทคโนโลยีซ้อนทับกับการบริหารโครงการซอฟต์แวร์แบบเดิมที่ย่ำแย่ ทำให้การลงทุนไม่กลายเป็นผลลัพธ์
  • ในองค์กรที่มีพนักงานมากกว่า 500 คน แค่ตั้งข้อสงสัยต่อประโยชน์ของ AI ก็ทำให้การเลื่อนตำแหน่งและการจ้างงานตกอยู่ในความเสี่ยง พนักงานจึงยอมทำตามสิ่งที่องค์กรต้องการด้วย AI washing และการปั่นตัวเลขการใช้ token
  • เดโม AI ที่ดูหวือหวา เช่น การถามข้อมูลด้วยภาษาธรรมชาติ กระตุ้นความอยากซื้อแม้จะมีคำเตือนเรื่องความแม่นยำและข้อจำกัดในการดำเนินงาน และอาจทำให้ผู้ขายเสี่ยงทั้งด้านชื่อเสียงและกฎหมาย
  • เพราะ ปัญหาการประสานงาน ที่ลูกค้าและบอร์ดบริหารไม่อาจหักล้างคำกล่าวอ้างเรื่องผลิตภาพที่เกินจริงของกันและกันได้ แม้ผู้บริหารที่กังขาก็ยังสนับสนุนการลงทุน AI อย่างเปิดเผย และธุรกิจที่ไม่ใช่ AI ก็ถูกบังคับให้แปะองค์ประกอบ AI เข้าไป
  • หากต้องการแก้องค์กรให้เข้าที่ จำเป็นต้องใช้ การคุยแบบตัวต่อตัว·แบบสำรวจนิรนาม·การตรวจสอบหน้างาน ส่วนพนักงานที่เลี่ยงการเมืองภายในได้ยากควรเตรียมหางานใหม่หรือเปลี่ยนไปทำสัญญาจ้าง ก่อนจะหมดไฟกับโค้ดที่ AI สร้างขึ้น

ความล้มเหลวของโครงการ AI ที่สังเกตเห็นตลอด 18 เดือน

  • จากประสบการณ์ในช่วงปีที่ผ่านมา ที่รับผิดชอบงานขายและงานเทคนิคส่วนใหญ่ของบริษัท และได้พูดคุยกับผู้เชี่ยวชาญทั่วโลกราว 300 ครั้ง ผู้รับผิดชอบในองค์กรทั้งภาคเอกชนและภาครัฐต่างกำลังหมกมุ่นกับ AI โดยไร้แผน หรือไม่ก็เงียบเฉย
  • เหตุที่ยืนยันผลลัพธ์จริงของโครงการ AI ได้ยาก เป็นเพราะบอร์ดบริหาร ผู้บริหาร พนักงาน ผู้ขาย และที่ปรึกษา ล้วนไม่มีแรงจูงใจที่จะเปิดเผยความล้มเหลว
    • ผู้บริหารอาจเสียตำแหน่งหากยอมรับความล้มเหลว
    • พนักงานอาจกลายเป็นเป้าหมายของการเลิกจ้างหรือปรับโครงสร้าง
    • บริษัทมหาชนบางแห่งซื้อไลเซนส์ Copilot แล้วประกาศว่าเป็น การเพิ่มผลิตภาพด้วย AI
  • โครงการที่สังเกตเห็นหรือถูกขอให้เข้าร่วมทั้งหมดล้มเหลวตลอด 18 เดือน และทีมปฏิเสธงานติดตั้งใช้งาน AI ทั้งหมด คงไว้เฉพาะสัญญาที่ไม่ได้ขึ้นอยู่โดยตรงกับการอยู่รอดของ OpenAI
  • แม้เครื่องมือ AI จะทำให้งานบางอย่างเร็วขึ้น แต่วิธีและขนาดการลงทุนในปัจจุบันก็ไม่สมเหตุสมผล
    • ปัจจัยความล้มเหลวทั้งหมดของโครงการซอฟต์แวร์ทั่วไปยังคงอยู่ครบ
    • มีความเสี่ยงเพิ่มเติมจากการเป็นเทคโนโลยีใหม่ ทำให้แม้ติดตั้งใช้งานได้ถูกต้องก็ยังล้มเหลวได้
    • มีบริษัทน้อยมากที่มีความสามารถด้านการส่งมอบซอฟต์แวร์ดีพอจะรับความเสี่ยงนี้ได้

เหตุผลที่แชตบอตภายในและสำหรับลูกค้าไม่สร้างผลลัพธ์

  • แชตบอตภายใน ไม่สามารถให้คำตอบที่เพียงพอได้ เพราะคุณภาพเอกสารองค์กรต่ำ และอัตราการใช้งานจริงของพนักงานก็ไม่มีนัยสำคัญ
  • แชตบอตสำหรับลูกค้าก็มีกรณีที่น่าพอใจน้อยมาก โดยมีข้อยกเว้นคือการถอดเสียงแบบเรียลไทม์ระหว่างการรักษาพยาบาล
  • ผู้รับผิดชอบโครงการหลีกเลี่ยงตัวชี้วัดพื้นฐานที่แสดงว่าเครื่องมือถูกใช้งานจริงหรือไม่ และเลือกตัวชี้วัดที่ปั่นได้ง่ายแทน
  • บอตเสียงช่วยเหลือรถเสียของ Mitsubishi มีความสมบูรณ์สูง ทั้งเสียงที่เป็นธรรมชาติ การตอบสนองรวดเร็ว และอยู่ในสภาพแวดล้อมใช้งานจริง แต่การติดต่อกลับที่สัญญาไว้ ไม่เคยมาถึงตลอด 6 เดือน
    • ไม่อาจรู้ได้ว่าคำขอหายไป หรือถูกนับว่าแก้ไขแล้วโดยไม่มีมนุษย์เข้าแทรกแซง
    • แม้ระบบจะไม่เห็นข้อผิดพลาด ลูกค้าก็ตัดสินใจว่าจะไม่ซื้อรถ Mitsubishi อีก
  • แค่ถามถึงเป้าหมาย ผู้ใช้ และผลลัพธ์ของโครงการ AI ที่กำลังดำเนินอยู่ ก็อาจถูกมองว่าเป็นการโจมตีระบบความรับผิดชอบ ทำให้เข้าไปแทรกแซงได้ยากก่อนวิกฤตจะเกิด
  • ตามหลักของ Gerry Weinberg ที่ว่าการให้คำปรึกษาคือการมีอิทธิพลต่อผู้คนเมื่ออีกฝ่ายร้องขอ จึงไม่เข้าไปแทรกแซงโครงการ เว้นแต่จะถูกขอคำแนะนำเรื่องกลยุทธ์ข้อมูลทั่วไปอย่างชัดเจน

วัฒนธรรมองค์กรที่ไม่อนุญาตให้สงสัย

  • ในทุกบริษัทที่สังเกตเห็นซึ่งมีพนักงานมากกว่า 500 คน การจะรักษาโอกาสเลื่อนตำแหน่งและการจ้างงานไว้ได้ ต้อง ประกาศซ้ำๆ ถึงพลังการเปลี่ยนแปลงของ AI
  • ไม่ใช่แค่ระดับเสนอแนวทางใช้งานเชิงเทคนิค แต่ใกล้เคียงกับการประกาศศรัทธาทางศาสนา โดยมักนำโดยบุคลากรที่ไม่ใช่สายเทคนิค และมีนักเทคนิคบางส่วนขานรับ
  • มีกรณีที่พูดว่า “AI จะเปลี่ยนทุกอย่าง” แต่กลับยกตัวอย่างการใช้ LLM จริงภายในองค์กรหรือสิ่งที่เปลี่ยนไปไม่ได้แม้แต่ข้อเดียว
    • เคยมีกรณีผู้บริหารที่สร้างกลยุทธ์เทคโนโลยีซึ่งมี AI เป็นศูนย์กลางให้องค์กรที่มีรายได้ต่อปี มากกว่า 2 พันล้านดอลลาร์ ไม่เคยใช้เครื่องมือ AI รวมถึง ChatGPT เลยแม้แต่ครั้งเดียว
  • อันตรายกว่าการโกหกเชิงประชาสัมพันธ์ธรรมดา คือกรณีที่ผู้รับผิดชอบซึ่งไม่มีพื้นฐานเทคนิคเชื่อสิ่งที่ตนพูดจริงๆ
    • กับคนโกหกยังสามารถเจรจาผ่านผลประโยชน์ส่วนตัวได้ แต่ผู้ศรัทธาอย่างแท้จริงจะไม่หวั่นไหวแม้ต่อผลประโยชน์ของตนเอง
    • องค์กรหนึ่งเลิกจ้างผู้มีผลงานสูงสุด เพราะพวกเขาทำผลงานได้ดีโดยไม่ใช้ LLM
  • แม้จะมีจุดยืนเชิงวิจารณ์ต่างจาก “My AI Skeptic Friends Are All Nuts” แต่ก็เห็นตรงกันว่า การบังคับให้ใช้ LLM โดยผู้บริหารเป็นกลยุทธ์ที่แย่ และสร้างข้อจำกัดการทำงานที่ผิดปกติให้กับพนักงานมืออาชีพ

AI washing และตัวชี้วัดที่ปั่นได้

  • เมื่อผู้จัดการให้ความสำคัญกับการใช้ AI มากกว่าผลลัพธ์ วิศวกรจึงเริ่มทำงานด้วยวิธีเดิม แล้วรายงานว่า Claude เป็นผู้ทำ ซึ่งเป็น AI washing
  • บางองค์กรใช้ตารางจัดอันดับที่ให้คะแนนสูงขึ้นตามปริมาณ token ที่ใช้มากขึ้น
    • พนักงานที่ถูกจ้างมาเพราะความสามารถด้านการปรับแต่งระบบ ตั้งค่าให้ LLM ทำ prompt ซ้ำเอง
    • แม้ผลลัพธ์ไม่เหมาะกับการ deploy ก็ใช้ token ให้ครบแล้วไปทำงานอื่น
  • วิศวกรซอฟต์แวร์รายหนึ่งส่งสำเนา repository ภาษา Go ให้ AI แล้วให้เขียนใหม่ทั้งหมดเป็น Zig จากนั้นทิ้งผลลัพธ์ เพื่อเติม quota การใช้งานให้ครบ
  • คนที่ถูกเลิกจ้างจริงคือผู้ที่ตั้งคำถามต่อกลยุทธ์ AI อย่างเห็นได้ชัด และพนักงานเรียนรู้ว่าการชมวิสัยทัศน์ AI ของผู้บริหารเป็นทางที่ปลอดภัย
  • เช่นเดียวกับที่ผู้บริหารที่ไม่ใช่ผู้เชี่ยวชาญในโรงพยาบาลหรือบริษัทวิศวกรรมโยธาไม่ควรบังคับขั้นตอนเฉพาะโดยไม่มีความยินยอมจากผู้เชี่ยวชาญหน้างาน การที่ผู้บริหารที่ไม่ใช่สายเทคนิคบังคับผู้เชี่ยวชาญซอฟต์แวร์ให้ใช้เครื่องมือบางอย่างก็ไม่เหมาะสมเช่นกัน

เดโม Snowflake Cortex ที่จุดกระแสซื้อ

  • Snowflake คิดค่าบริการตามการใช้งาน และสำหรับข้อมูลบริษัททั่วไปสามารถประมวลผลได้ราววันละ 1 นาที จึงถูกใช้เป็นฐานข้อมูลเพื่อการวิเคราะห์ แต่ไม่ได้ใช้ Cortex ซึ่งเป็นชั้นแชตบอต AI
  • Cortex แปลงคำถามภาษาธรรมชาติ เช่น “ยอดขายสัปดาห์ที่แล้วเท่าไร?” ให้เป็น query ฐานข้อมูล โดยอาศัย metadata เช่น ความหมายของคอลัมน์ข้อมูล
  • ในการนำเสนอของพนักงาน Snowflake ความแม่นยำเมื่อปรับแต่งดีที่สุดอยู่ที่ประมาณ 92% และกับข้อมูลขององค์กรขนาดใหญ่ ตัวเลขราว 1 ใน 10 ค่าอาจผิดได้ อีกทั้งยังมีปัญหาร้ายแรงด้านการจัดการ deployment
  • แม้จะแสดงเดโมพร้อมคำเตือนว่าไม่เหมาะกับสภาพแวดล้อมใช้งานจริง แต่ลูกค้าเป้าหมายทุกคนที่เคยไม่ค่อยสนใจกลับต้องการซื้อทันที
    • ข้อเสนอที่ว่าวิธีแบบไม่ใช้ AI สามารถสร้างมูลค่าได้หลายล้านดอลลาร์ก็ถูกเบียดออกจากความสนใจ
    • มองว่าการใช้ประโยชน์จากช่องว่างของการตัดสินใจอย่างมีเหตุผลเป็นเรื่องไร้ความรับผิดชอบ จึงหยุดขายและนำ Cortex ออกจากรายการเดโม
  • แม้แต่เดโมคุณภาพต่ำที่ทีมทำขึ้นในสองชั่วโมง ก็ยังดีกว่าผลงานที่ลูกค้าเป้าหมายเคยเห็นมาก่อน
    • แม้แต่ บริษัทจดทะเบียนใน ASX ที่ประชาสัมพันธ์การใช้ AI อยู่แล้ว ก็ยังไม่มีผลลัพธ์จากการลงทุนเดิมให้แสดง
  • ลูกค้าเป้าหมายที่แสดงความสนใจ AI มากกว่าความอยากรู้อยากเห็นชั่วคราว เผยพฤติกรรมไม่สมเหตุสมผลและสภาพแวดล้อมการบริหารที่ใกล้เคียงการบูชาในกระบวนการขาย และเพราะสัญญาอาจสร้างความเสี่ยงด้านชื่อเสียงและกฎหมาย จึงยกเลิกการทำธุรกรรมทั้งหมด

ปัญหาการประสานงานที่ทำให้ผู้บริหารหยุดพูดเกินจริงไม่ได้

  • ผู้รับผิดชอบ AI บางรายในบริษัทที่มีรายได้ประจำต่อปี มากกว่า 1 พันล้านดอลลาร์ บอกว่าแม้คิดว่าตำแหน่งของตนแทบจะเป็นเรื่องหลอกลวง แต่ก็รับตำแหน่งเพราะเป็นเส้นทางเลื่อนตำแหน่งเพียงทางเดียวในองค์กร
  • ผู้บริหารที่มีความสามารถด้านเทคโนโลยีในบริษัท Fortune 500 แห่งหนึ่ง ก็ไม่สามารถปกป้องคำกล่าวสาธารณะของบริษัทอย่าง “ผลิตภาพเพิ่ม 100 เท่า” เป็นการส่วนตัวได้
  • แรงขับหลักของการพูดเกินจริงไม่ใช่ถ้อยคำการขาย แต่เป็น หน้าตาของผู้บริหารลูกค้าและความสัมพันธ์ตามสัญญา
    • หากผู้บริหารฝั่งผู้ขายปฏิเสธคำกล่าวอ้างของลูกค้าว่าผลิตภาพเพิ่ม 100 เท่า อาจถูกมองว่าเป็นการโจมตีที่บั่นทอนความน่าเชื่อถือของผู้บริหารฝั่งลูกค้า
    • หากผลคือสัญญาระดับองค์กรขนาดใหญ่ถูกยกเลิก ผู้บริหารฝั่งผู้ขายคนนั้นก็อาจถูกเลิกจ้างด้วย
  • ในความสัมพันธ์ที่บริษัทต่างเป็นทั้งลูกค้าและซัพพลายเออร์ของกันและกัน ไม่มีผู้บริหารคนใดกล้าพูดความจริงก่อน
    • หากทุกคนร่วมมือกับการพูดเกินจริง ก็รักษาตำแหน่งไว้ได้
    • หากมีคนหนึ่งแยกตัวออกมา ก็เท่ากับทำให้เพื่อนร่วมงานกลายเป็นคนโกหก คนขี้ขลาด หรือคนไร้ความสามารถ และอาจถูกเลิกจ้าง
    • หากทุกคนยอมรับพร้อมกัน ก็เปลี่ยนสถานการณ์ได้ แต่ไม่มีวิธีประสานงานให้เกิดขึ้น
  • สมาชิกบอร์ดของบริษัทใน S&P 500 ก็สงสัยความเสี่ยงของการลงทุน AI แต่รู้สึกว่าต้องเรียกร้องการลงทุนเพื่อรักษาตำแหน่งของตนเอง
    • กรรมการคนหนึ่งประเมินว่า “การลงทุนเร็วขนาดนี้ดูเหมือนรับแต่ความเสี่ยงโดยไม่มี upside”
    • ราว 2 ปีต่อมา องค์กรขนาดหลายพันล้านดอลลาร์นั้นเริ่มประชาสัมพันธ์ตนเองว่าเป็น AI-native

การทดสอบความบริสุทธิ์ที่บรรจุทุกธุรกิจให้เป็น AI

  • ข้อเสนอทุกอย่างที่เกี่ยวข้องกับการเมืองภายในองค์กร ต้องมี การสอดคล้องกับ AI จึงจะได้รับอนุมัติ แม้มูลค่าจริงจะไม่ชัดเจน
  • โครงการ AI จำนวนมากเป็นรูปแบบที่นำโครงการเดิมซึ่งไม่ใช่ AI มาแปะองค์ประกอบ AI ภายหลังเพื่อผ่านการทดสอบความบริสุทธิ์
  • ในกรณีย้ายฐานข้อมูลจาก Oracle ไป Snowflake ผู้ขายเพิ่มขั้นตอนใช้ LLM อัตโนมัติแปลง Oracle SQL เป็น Snowflake SQL
    • เมื่อระบบอัตโนมัติล้มเหลวเพราะสิทธิ์ไม่เพียงพอ มนุษย์จึงแปลงเอง
    • เพียงเพราะ SQL บางส่วนถูกแปลด้วย AI จึงรายงานทั้งโครงการว่าเป็นความสำเร็จที่ขับเคลื่อนด้วย AI
    • สิ่งที่ซื้อจริงคือ การย้ายฐานข้อมูล ทั่วไป เพื่อทิ้งระบบเดิมก่อนต่ออายุไลเซนส์
  • โครงการ AI แท้ๆ ที่ LLM เป็นกลไกหลักเพียงหนึ่งเดียว และวัดความสำเร็จได้ด้วยตัวเลขเฉพาะนั้นมีน้อย
    • มักพบใน startup แต่มีคำขอซ้ำๆ ให้ช่วยสร้างผลิตภัณฑ์แทน ทั้งที่ช่วงท้ายของกระบวนการขายได้ประชาสัมพันธ์ไปแล้วว่าทำเสร็จ จึงหยุดทำธุรกรรม
  • ธุรกิจที่แปะ AI ได้ยากจะถูกปฏิเสธคำขอทุน หรือการสื่อสารจะล่าช้าไปจนกว่าจะกลายเป็นข้อเสนอที่ “ดูเป็น AI พอ”
  • บางบริษัทกำหนดว่าเมื่อขอคนเพิ่ม ต้องพิสูจน์ก่อนว่าได้ลองใช้ AI แล้ว
    • หากบอกว่าใช้ AI แล้วแต่ยังต้องการคนเพิ่ม ก็อาจถูกจัดเป็น “คนที่ใช้ AI ไม่เป็น” และถูกเลิกจ้าง
  • ยกเว้นบริษัทจำนวนน้อยมากที่ AI สอดคล้องกับลำดับความสำคัญสูงสุดจริงๆ องค์กรขนาดใหญ่จะโฟกัสกับการซื้อซอฟต์แวร์ที่เหมาะสม การจ้างคนเก่ง การรายงานโครงการอย่างซื่อสัตย์ และการเดินหน้าธุรกิจใหม่อย่างสมเหตุสมผลได้ยากขึ้น

เมื่อต้องแก้ไขโครงการใดโครงการหนึ่งให้เข้าที่

  • ปัญหาของโครงการ AI จัดการผ่าน การคุยแบบตัวต่อตัว ได้มีประสิทธิภาพกว่าการประชุมกลุ่ม
    • ในที่สาธารณะ ผู้เข้าร่วมแต่ละคนกลัวว่าจะถูกเพื่อนร่วมงานมองว่าเป็นผู้กังขา
    • ต้องสัญญาว่าจะปิดบังตัวตนเมื่อนำความเห็นไปถ่ายทอดที่อื่น
    • ควรหลีกเลี่ยงวิธีที่อาจเดาแหล่งที่มาได้ เช่น การอ้างคำพูดตรงๆ
    • หากมีเพียงประมาณ 1 ใน 6 คนที่พูดถึงปัญหา อาจดีกว่าที่จะย้ายไปองค์กรที่มีโอกาสปรับปรุงสูงกว่า
  • สำหรับโครงการที่กำลังดำเนินอยู่ สามารถใช้วิธี แบบสำรวจนิรนาม จาก Secrets of Consulting
    • หากให้ประเมินโอกาสสำเร็จ 1–10 คะแนน อาจได้การกระจายแบบสองขั้ว คือบางคนให้ 3 คะแนน บางคนให้ 8 คะแนน
    • แม้ในโครงการที่ล่าช้าไปแล้ว 3 ปี ก็ยังพบช่องว่างเช่นนี้ และสามารถชี้ให้ CEO เห็นว่ามีข้อมูลสำคัญถูกปิดบังอยู่
  • ความสำเร็จจริงของโครงการต้องตรวจสอบกับ พนักงานหน้างาน ที่ใช้เครื่องมือทุกวัน
    • ต้องทำให้พวกเขาได้แสดงความเห็นในสภาพแวดล้อมที่ได้รับความเคารพ
    • ในลูกค้ารายหนึ่ง พนักงานไม่รู้ด้วยซ้ำว่าตนได้รับไลเซนส์เครื่องมือ AI ทำให้ฐานของคำกล่าวอ้างเรื่องผลิตภาพสั่นคลอน
  • หากสถานการณ์คือการแก้ปัญหาเฉพาะเรื่อง ควรหลีกเลี่ยงการโต้แย้งข้อเสนอแบบกว้างๆ อย่าง “AI จะเปลี่ยนทุกอย่าง”
    • หากต้องการท้าทายมุมมองต่อความเป็นจริงขององค์กรเอง ต้องได้รับความไว้วางใจจากผู้มีอำนาจสูงสุดก่อน
    • ควรลดความกังวลในมื้ออาหารส่วนตัว มากกว่าทำให้อีกฝ่ายอับอายในที่สาธารณะ
  • เพราะไม่อาจรู้ได้ว่าผู้เข้าร่วมประชุมเคยพูดอะไรต่อสาธารณะไว้บ้าง แม้แต่สามัญสำนึกอย่าง “LLM ไม่ควร deploy โค้ดโดยไม่มีมนุษย์ตรวจทาน” ก็อาจทำลายความไว้วางใจช่วงต้นได้
  • หากต้องบรรลุเป้าหมายสาธารณประโยชน์อื่น และแนวทางที่ซื่อสัตย์เป็นไปไม่ได้ แม้แต่วิธีแปะ แชตบอต AI มูลค่า 10,000 ดอลลาร์ เข้าในโครงการแล้วเน้นเฉพาะส่วนนั้น ก็ถือเป็นตัวเลือกที่สมจริง

เมื่อต้องเอาตัวรอดมากกว่าจะเปลี่ยนองค์กร

  • ความหมกมุ่นรวมหมู่ต่อ AI เป็นปัญหาของ วัฒนธรรมองค์กรที่ผิดปกติ มากกว่าตัวเทคโนโลยีเอง จึงยากที่ปัจเจกบุคคลจะต่อต้านได้อย่างมีนัยสำคัญ
  • การเปลี่ยนจากพนักงานประจำเป็นสัญญาจ้างอาจทำให้ได้ค่าตอบแทนมากขึ้นและหลุดจากการเมืองภายใน อีกทั้งมีวันสิ้นสุดชัดเจนแม้อยู่ในสภาพแวดล้อมที่ทนได้ยาก
  • ควรเสพข่าว AI เท่าที่จำเป็น และหลีกเลี่ยงช่องทางที่ป้อนข่าวลักษณะนี้ต่อเนื่องอย่าง Hacker News หรือ Reddit เพื่อลดภาระทางใจ
    • แม้ตอนบ่นกับเพื่อน ก็ควรบอกว่าทำไมบทสนทนานี้จำเป็น และหยุดในระดับที่เหมาะสม
  • หากคนรอบตัวใช้ AI อย่างไม่เหมาะสมในงานที่ไม่อันตราย ให้ปล่อยผ่านโดยไม่เถียง และหากถูกขอความเห็นในฐานะโปรแกรมเมอร์ ให้ตอบสั้นๆ ว่า “มีส่วนที่ถูกพูดเกินจริง” แล้วเปลี่ยนเรื่อง
  • หากต้องรีวิว PR ที่ AI สร้างขึ้นยาว 2,000 บรรทัด อย่างต่อเนื่อง ควรตั้งสมมติฐานเรื่องหมดไฟและถูกเลิกจ้าง แล้วเริ่มหางานตอนที่ยังมีพลังเหลือ
    • ยากที่จะโน้มน้าวผู้สร้างให้หยุดผลิตโค้ดคุณภาพต่ำจำนวนมาก
    • การทำงานช้าลงและความไม่พอใจของผู้จัดการเป็นสิ่งที่เลี่ยงได้ยาก ไม่ว่าจะเกิดตอนนี้เพราะหางาน หรือเกิดภายหลังเพราะหมดไฟ
  • หากผู้จัดการตอบกลับด้วยประโยคที่เห็นชัดว่า AI สร้างขึ้น ให้ใช้ AI ตอบเพื่อประหยัดพลังงาน พร้อมกับหางานใหม่
  • แม้ในกรณีถูกสั่งให้ใช้ token ให้เต็มเพดาน ก็ควรเตรียมย้ายงานก่อนจะสูญเสียการรับรู้ความเป็นจริง
    • บริษัทแบบนี้อาจอยู่ในองค์กรขนาดเล็กที่ไม่ค่อยปรากฏบนแพลตฟอร์มรับสมัครงาน
    • เพราะอาจใช้เวลาหลายเดือนในการหา จึงควรเริ่มแต่เนิ่นๆ

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 1 일 전
ความคิดเห็นบน Hacker News

  • พวกเราส่วนใหญ่ค่อนข้างมั่นใจว่า AI จะปฏิวัติสังคมอย่างสิ้นเชิงและนำมาซึ่ง Singularity แต่ความจริงไม่เป็นเช่นนั้น แทนที่จะยอมรับความผิดพลาดและประเมินใหม่ กลับยัด AI เข้าไปในทุกซอกทุกมุมแบบฝืน ๆ แล้วตะโกนว่านี่คือความก้าวหน้า เหมือนเล่นบทบาทสมมติอนาคต
    คล้ายเด็กยุค 1990 ที่เชื่อว่าใส่ Nintendo Power Glove แล้วจะกลายเป็นแฮกเกอร์ นี่ไม่ใช่ Singularity หวังว่ากระแสคลั่งนี้จะจบลง แล้วทุกคนจะกลับไปสู่ช่วงที่รอคอยยาครอบจักรวาลตัวถัดไป

    • ยากจะเข้าใจว่าคิดกันได้อย่างไรว่าเราจะกลับไปสู่ โลกก่อน LLM ได้ ผมสงสัยว่าอาจไม่ได้ลองใช้มาตั้งแต่ Opus 4.5 หรือเปล่า
      สำหรับผมที่ออกจากวงการซอฟต์แวร์แล้ว ไม่สามารถเขียนโค้ดสัปดาห์ละ 40 ชั่วโมงได้ AI แบบเอเจนต์คือการก้าวกระโดดทางเทคโนโลยีระดับเดียวกับเสิร์ชเอนจิน เว็บบอร์ด และคอมไพเลอร์ ให้ Claude Code ตั้งค่า SMTP สำหรับโฮมแล็บ ปรับปรุงและเซ็น Android app ปี 2017 ให้ทันสมัย ตั้งค่า GitHub Actions runner สำหรับหลายระบบปฏิบัติการและสถาปัตยกรรม ระหว่างที่ผมล้างจาน มันก็สร้างผลลัพธ์ออกมาให้
      ฝ่ายที่ปฏิเสธว่าเรื่องนี้ไม่สำคัญต่างหากที่กำลังติดอยู่ใน โรคจิตต่อโรคจิต AI ต่อให้ความฉลาดของโมเดลชนเพดานแล้วในตอนนี้ มันก็เป็นเทคโนโลยีที่เปลี่ยนเกมไปแล้ว
    • ไม่มีการปฏิวัติใดดำเนินไปตรงตามที่วางแผนหรือโฆษณาไว้ และเมื่อเริ่มขึ้นแล้ว มันจะคลี่คลายในรูปแบบที่เป็นผลจากพฤติกรรมมนุษย์ แต่ไม่ได้ถูกมนุษย์ออกแบบ
      แต่ละคนจะใช้ LLM ในงานอย่างพอเหมาะ ขณะเดียวกันก็จะทำผิดพลาดมากมายเพราะไม่เข้าใจงานของตนเองและผลลัพธ์ที่คนอื่นต้องการอย่างแท้จริง ผู้บริหารที่แทบไม่ใช้เทคโนโลยีนอกจากอีเมล ข้อความ และโทรศัพท์ จะยังพูดต่อไปโดยไม่เข้าใจเทคโนโลยี
      ไม่มีใครรู้ผลลัพธ์สุดท้าย แต่แค่ ลองใช้ Claude สัก 5 นาที ก็ยากจะจินตนาการว่างานออฟฟิศทั้งหมดจะยังคงเหมือนเดิมกับอดีต
    • ตอนเป็นวัยรุ่น Singularity ก็ยังฟังไม่ขึ้นอยู่ดี สงสัยว่าเหตุใดความสามารถของ AI ที่รันบนฮาร์ดแวร์และซอฟต์แวร์ที่มนุษย์ออกแบบ จู่ ๆ จึงจะพุ่งสูงขึ้นระดับดาราศาสตร์ได้
      ต่อให้เทียบเท่าสมองมนุษย์ได้ ก็ต้องเพิ่มประสิทธิภาพอีกหลายลำดับขั้นจึงจะไล่ทันผลผลิตของสังคมมนุษย์ทั้งระบบ และถึงจะก้าวแซงความเร็วในการพัฒนาของมนุษย์ได้ แม้ AI Singularity จะเป็นไปได้ การเร่งความเร็วอาจต้องใช้เวลาทั้งชีวิต
    • Singularity เป็นเพียงหนึ่งในหลายความเป็นไปได้ที่บุคคลมีชื่อเสียงบางคนเสนอไว้ เส้นทางที่ AI จะพัฒนาไปมีหลากหลายมาก และน่าจะมีอีกหลายทิศทางที่เราคาดไม่ถึง
    • ดูเหมือนจะคาดการณ์ความเร็วของการเปลี่ยนแปลงไว้เร็วเกินไป การปฏิวัติอุตสาหกรรม เองก็กินเวลาหลายร้อยปี ตั้งแต่เครื่องจักรไอน้ำ Newcomen ปี 1712 ไปจนถึงรถยนต์ที่ผลิตจำนวนมาก
      AI ก็เช่นกัน หลังจากมีการเสนอ Turing test ในปี 1950 กว่าจะมีระบบที่ดูเหมือนผ่านการทดสอบก็ใช้เวลาราว 75 ปี ดังนั้นควรให้เวลาอีกหน่อย

  • เห็นด้วยกับท่อนที่ว่า “องค์กรที่สั่งให้คุณรีวิว PR ยาว 2,000 บรรทัดซึ่งเต็มไปด้วยโค้ด AI แย่ ๆ จำนวนมาก สุดท้ายจะทำให้คุณหมดไฟแล้วไล่คุณออก ดังนั้นให้หางานใหม่เหมือนถูกไล่ออกไปแล้ว” ยิ่ง การพัฒนาแบบเอเจนต์ ถูกนำมาใช้อย่างแพร่หลาย เรื่องแบบนี้น่าจะเกิดบ่อยขึ้น

    • ถ้าเป็นหัวหน้าฝ่ายวิศวกรรม ก็ควรแก้โดยตรงด้วยการฝึกอบรม ปรับปรุงกระบวนการ ตรวจคุณภาพอัตโนมัติ และวางแผนให้ดีขึ้น การปิดหูปฏิเสธไม่ใช่วิธีที่ยั่งยืน
      ต้องหาว่าเงื่อนไขใดจะเพิ่ม throughput ได้สองถึงสามเท่า แล้วจัดองค์กรตามนั้น และโฟกัสที่ คอขวดกับส่วนที่ยากที่สุด พูดจากประสบการณ์จริงที่เคยทำมา

  • คำว่า “โปรเจกต์ AI ทุกโปรเจกต์ที่สังเกตมาตลอดปีครึ่งล้มเหลว อัตราสำเร็จ 0%” เป็นการพูดเกินจริงจนลดความน่าเชื่อถือ เมื่อพูดถึง AI มันครอบคลุมกว้างมาก ตั้งแต่ expert system, LLM, transformer ไปจนถึง diffusion model
    มีการเพิ่มผลิตภาพให้เห็นทั้งในการค้นหาเชิงความหมาย การสร้างคอนเทนต์ด้วย diffusion model และแม้แต่ linear regression ในบริบทของ supervised learning ต่อให้จำกัดเฉพาะ transformer LLM ที่ปลุกความสนใจขึ้นมาใหม่ในช่วงหลัง โปรเจกต์เล็ก ๆ ที่ทำงานง่ายและน่าเบื่อให้เป็นอัตโนมัติก็โดยทั่วไปสำเร็จ
    โปรเจกต์ทะเยอทะยานที่เรียกร้องเกินความสามารถของโมเดลมักล้มเหลว และส่วนใหญ่คาดการณ์ได้ล่วงหน้า แต่บางโปรเจกต์ที่อยู่ตรงขอบเขตความเป็นไปได้ก็เป็น โปรเจกต์วิจัยและพัฒนา ที่สมเหตุสมผล

    • ถ้าดูเชิงอรรถ จะเห็นว่าพวกเขาบอกว่า ปฏิเสธ 100% ของโปรเจกต์ AI ที่ถูกขอให้ตรวจสอบ บนหน้าเว็บก็ขายคอนซัลติ้งเพื่อกู้โปรเจกต์ที่กำลังมีปัญหา และยังชู “เทคนิคโบราณ” ที่เรียนจากหนังสือก่อนปี 2000 เป็นจุดแข็งด้วย
      นี่คือ selection bias: โฆษณาไปยังบริษัทที่กำลังล้มเหลวเพราะไม่มีความเชี่ยวชาญภายใน แล้วเขียนว่าโปรเจกต์ทั้งหมดที่พวกเขาเห็นล้วนล้มเหลว แถมยังปฏิเสธไม่เข้าไปช่วย จึงปิดโอกาสที่มันจะเปลี่ยนเป็นกรณีสำเร็จ
    • ผู้เขียนมักใช้การพูดเกินจริงอยู่แล้ว ชื่อบทความก่อน ๆ ก็เป็นแนว “I Will Fucking Dropkick You If You Use That Spreadsheet”(https://ludic.mataroa.blog/blog/i-will-fucking-dropkick-you-...), “I Will Fucking Piledrive You If You Mention AI Again”(https://ludic.mataroa.blog/blog/i-will-fucking-piledrive-you...) แบบนี้
      ดูเหมือนจะไม่ชอบภาษาสุภาพแบบองค์กร แต่ผมชอบสไตล์นี้ และเขาก็มักเสนอ มุมมองที่เฉียบคม ซึ่งสวนทางกับธรรมเนียมปฏิบัติของอุตสาหกรรมอยู่บ่อย ๆ
    • หากจะอ้างว่า ผลิตภาพเพิ่มขึ้น ต้องระมัดระวังมาก แม้บางส่วนของเวิร์กโฟลว์จะเร็วขึ้น แต่ก็อาจทำให้ส่วนอื่นช้าลงได้ และการเพิ่มขึ้นโดยรวมยังไม่ได้ถูกวัดและยืนยันเชิงประจักษ์
      ตัวชี้วัดอย่างจำนวนบรรทัดโค้ด unit test เอกสาร และความเร็วของ PR เพิ่มขึ้น แต่ผลลัพธ์ทางธุรกิจจริงยังไม่ชัดเจน PR ที่เพิ่มขึ้นอาจทำให้ปล่อยฟีเจอร์เร็วขึ้นก็ได้ แต่อาจทำให้การรีวิวช้าลงหรือทำให้ประสบการณ์ผู้ใช้แย่ลงเพราะบั๊กก็ได้ บริษัทต่าง ๆ ไม่ได้บอกว่าโค้ดที่มากขึ้นเชื่อมโยงกับรายได้จริงอย่างไร
    • การที่พนักงานแต่ละคนใช้ Claude Code หรือ Codex เพื่อเพิ่มผลิตภาพ กับ โปรเจกต์ AI ที่บริษัทสร้างซอฟต์แวร์เฉพาะบน LLM นั้นต่างกันมาก
      อย่างแรก วิศวกรซอฟต์แวร์มักได้ผลลัพธ์ที่เป็นประโยชน์ได้ง่าย หากไม่ได้ปฏิเสธเทคโนโลยีอย่างแข็งขัน ส่วนอย่างหลังยากมาก เพราะต้องสร้างบนฐานที่แปลกเฉพาะอย่าง LLM และโปรเจกต์ที่ดูธรรมดาอย่างแชตบอตภายในองค์กรก็มักนำไปสู่การสัญญาเกินจริงและผลลัพธ์ต่ำกว่าคาด

  • ผมเคยเห็นผู้บริหารในสองบริษัทที่แตกต่างกันคนละซีกโลก พยายามให้ LLM เขียนเอกสารภายนอกที่มีผลกระทบทางกฎหมายและการเงินสูง พวกเขามักบอกว่าจะมีผู้เชี่ยวชาญอ่านและตรวจข้อเท็จจริงก่อนส่งเสมอ แต่คนที่ไม่ได้เชี่ยวชาญด้าน การแก้ไขและตรวจข้อเท็จจริง มีแนวโน้มสูงที่จะตรวจหลุดลุ่ยกว่าการเขียนให้ถูกต้องตั้งแต่แรก

  • เกร็ดที่ยอดเยี่ยม เช่น “ต้องให้เขียนสำเนาทั้งหมดของรีโพซิทอรี Go ใหม่เป็น Zig ระหว่างที่ไปทำอย่างอื่น ถึงจะรักษางานไว้ได้” หรือกรณีที่ผู้บริหารฝั่งลูกค้าอ้างว่า เพิ่มผลิตภาพ 100 เท่า จนถ้าผู้บริหารของซัพพลายเออร์บอกว่าเป็นไปไม่ได้ ก็อาจบั่นทอนความน่าเชื่อถือของผู้บริหารลูกค้าและทำให้สัญญาระดับองค์กรถูกยกเลิกได้

  • บอกว่า “อัตราความสำเร็จของทุกโปรเจกต์ AI ที่สังเกตเห็นคือ 0%” แต่ไม่มี นิยามของโปรเจกต์ AI ว่าหมายถึงการเขียนซอฟต์แวร์ตั้งแต่ศูนย์ การที่คนไม่ใช่นักพัฒนาใช้แชตบอต LLM ทั้งภายในและภายนอกองค์กร หรืออย่างอื่น จึงต้องมีตัวอย่างที่เป็นรูปธรรม

    • จากบริบทและข้อเท็จจริงที่ว่าบริษัทนี้ทำโปรเจกต์ด้านข้อมูล ดูเหมือนจะหมายถึงการทำงานอัตโนมัติในกระบวนการภายในและอินเทอร์เฟซแบบสนทนา
      เห็นด้วยอย่างยิ่งกับคำวิจารณ์แบบ จักรพรรดิเปลือย เกี่ยวกับระบบอัตโนมัติในงาน แต่ก็น่าแปลกใจที่ไม่ได้พูดถึงงานวิศวกรรมที่มี AI ช่วย ซึ่งให้ผลบวกกับคนจำนวนมาก แชตบอตเองก็อาจสำเร็จได้หากจำกัดขอบเขตปัญหาให้แคบและเลือกใช้อย่างเหมาะสม บริษัทก่อนหน้าของผมได้ผลดีจากอินเทอร์เฟซแบบสนทนาสำหรับฐานข้อมูลเวกเตอร์ แต่แก่นแท้จริง ๆ คือฐานข้อมูลเวกเตอร์ และ UI แบบดั้งเดิมอาจเร็วกว่าและแม่นยำกว่าก็ได้
      โดยรวมแล้วทิศทางของบทความส่วนใหญ่ถูกต้อง โดยเฉพาะส่วนที่ว่าด้วย กระแสคลั่ง AI และความคาดหวังที่ไม่สมจริง ซึ่งกวาดไปทั่วผู้บริหารระดับสูง
    • พวกเขาบริหารบริษัทที่ปรึกษาชื่อ “Hermit Tech” และในหน้าเว็บก็อวด “เทคนิคโบราณ” จากหนังสือก่อนปี 2000 ด้วยแนวโน้มแบบนี้ จึงดูเป็นธรรมดาที่จะไม่ชอบทุกอย่างที่เกี่ยวกับ AI และก็ดูไม่น่าเป็นไปได้ที่บริษัทจริงจังจะมอบหมายให้ช่วยสนับสนุนโปรเจกต์ AI
    • แอปพลิเคชัน AI ที่มีประโยชน์มักถูกผสานเข้าไปในเวิร์กโฟลว์เดิมอย่างเงียบ ๆ ขณะที่แผนการใหญ่เกินตัวที่ทำขึ้นเพื่อคนที่ไม่ใช่สายเทคนิคเท่านั้นที่ถูกติดป้ายว่า โปรเจกต์ AI หรือ “AI initiative” แล้วล้มเหลว

  • ประสบการณ์ของผมที่ใช้ Claude เขียน SQL ขั้นสูงและโค้ด Python ไม่สอดคล้องกับข้อกล่าวอ้างในบทความ ผมยังไม่เคยเห็นแชตบอตที่น่าพอใจสำหรับถามข้อมูลด้วยภาษาธรรมชาติ แต่เมื่อเขียนคิวรีที่ซับซ้อนมากด้วยภาษาธรรมชาติ ก็เข้าใกล้ระดับ 80~90% ได้
    บริษัทที่ใช้ AI นำหน้าคู่แข่งมีแนวโน้มจะใช้อย่างเงียบ ๆ โดยไม่โฆษณาใหญ่โต เป้าหมายที่บทความโจมตีคือองค์กรขนาดใหญ่ที่เต็มไปด้วยผู้จัดการ ซึ่งองค์กรแบบนี้ก็เคยทำแบบเดียวกันกับ data science/analytics หรือ blockchain มาก่อน AI อยู่แล้ว

    • ในองค์กรขนาดใหญ่ คนที่ทำลายคุณค่าด้วย LLM อาจมีมากกว่าคนที่สร้างคุณค่าด้วยซ้ำ เมื่อก่อน Bob อาจเสียเวลาแค่ของตัวเองคนเดียว แต่ตอนนี้สามารถทำให้ เวลาของทั้งองค์กร สูญเปล่าได้
      ใคร ๆ ก็ใช้ LLM ห่อไอเดียแย่ ๆ ให้ดูดีมีเหตุผลได้ ทำให้ทั้งองค์กรอาจวิ่งตามไอเดียผิด ๆ ของรองประธานธรรมดา ๆ คนหนึ่ง และเกิดการสูญเสียผลิตภาพมหาศาล
    • ผมไม่เห็นด้วยกับความเกินจริงของบทความ แต่ทิศทางใหญ่ ๆ นั้นถูกต้อง AI เก่งมากกับ งานเล็ก ๆ และงานประจำวัน เช่น เขียนคิวรีซับซ้อนที่เคยใช้เวลาหนึ่งชั่วโมงได้ในไม่กี่วินาที
      การพัฒนาฟีเจอร์ยังคงใช้เวลาใกล้เคียงเดิม หรือมีผลิตภาพเพิ่มขึ้นอย่างจำกัด น่าจะเพราะองค์กรส่วนใหญ่มีปัญหาเรื้อรังในการสร้างซอฟต์แวร์เองอยู่แล้ว

  • สัปดาห์ที่แล้วผมได้รับแบบสำรวจจากสองแห่งต่างกัน ถามว่าใช้ AI ในงานอย่างไร ทั้งคู่เป็นคำถามแบบเลือกได้หลายข้อ แต่ ไม่อนุญาตให้เลือก 0 ข้อ และตั้งเป็นคำถามบังคับ

  • ไม่ว่าการนำ AI มาใช้ในองค์กรจะก่อให้เกิดผลิตภาพเพิ่มขึ้นมหาศาลจริงหรือไม่ แต่สำหรับ Nvidia และ Anthropic ซึ่งเป็น คนขายพลั่ว แล้ว มันสมเหตุสมผลอย่างสมบูรณ์

  • ต่อให้เปิดโปงว่าจักรพรรดิเปลือย ก็หยุดกระแสคลั่งไม่ได้ ไม่ใช่แค่กระแสคลั่งทิวลิปในศตวรรษที่ 17 เท่านั้น แต่กระบวนการ Agile ตารางเวลางาน และการวัดผลิตภาพจากจำนวนบรรทัดโค้ดก็คล้ายกัน บริษัทต่าง ๆ ทำซ้ำ กระแสคลั่งหมู่ แบบใหม่ในแต่ละยุค
    สิ่งนี้ถูกจุดชนวนโดยลัทธิกระบวนการของที่ปรึกษา การควบคุมเกินขอบเขตของฝ่ายความปลอดภัย ความกลัวว่าจะตามไม่ทัน และเป้าหมายในการนำเสนอให้ดูเหมือนองค์กรสมัยใหม่ที่ขับเคลื่อนด้วย AI ลูกค้า บริษัท ซัพพลายเชน รัฐบาล และนักคิดต่างเข้าร่วมการเต้นรำระดับโลกนี้ สักวันหนึ่งดนตรีจะเปลี่ยน และการเต้นก็จะเปลี่ยนไปด้วย

    • กระแสคลั่งแบบนี้อาจเรียกว่า พฤติกรรมฝูงชน หรือจิตวิทยามวลชนก็ได้ ความโง่เขลาและความบ้าคลั่งของฝูงชนพบได้บ่อยกว่าปัญญาของฝูงชนมาก
      ธุรกิจและการเมืองถูกขับเคลื่อนโดยสิ่งนี้เป็นหลัก และวงการเทคโนโลยีก็ตกหลุมแฟชั่น คำโฆษณาเกินจริง และความผิดพลาดยาวนานหลายทศวรรษที่ภายหลังดูชัดเจน ซ้ำแล้วซ้ำเล่า
    • คำถามที่ถูกต้องคือจะ หาเงินจากกระแสคลั่งของคนอื่นได้อย่างไร