การอำลา Meta และ PyTorch

 (soumith.ch)
7 คะแนน โดย GN⁺ 2025-11-08 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Soumith Chintala ผู้ขับเคลื่อน PyTorch มาราว 8 ปี ประกาศว่าจะอำลา Meta และ PyTorch หลังทำงานที่นั่นมา 11 ปี
  • ปัจจุบัน PyTorch รองรับ การฝึกระดับเอ็กซาสเกล และสร้างผลงานอย่างกว้างขวาง ทั้ง การรัน foundation models และ การใช้งานในภาคการศึกษาทั่วโลก
  • เขามองว่า PyTorch เติบโตเต็มที่จนสามารถดำเนินงานได้อย่างอิสระ และมั่นใจใน เสถียรภาพของผู้นำรุ่นถัดไป
  • กล่าวขอบคุณและย้อนมองถึง การทำงานร่วมกับเพื่อนร่วมงาน, วัฒนธรรมโอเพนซอร์ส และการเติบโตของคอมมูนิตี้ผู้ใช้ ตั้งแต่ยุค FAIR
  • ในด้านส่วนตัว เขาวางแผนเริ่ม โปรเจกต์เล็ก ๆ นอก Meta เพื่อรับความท้าทายใหม่

การอำลาที่ Meta และ PyTorch

  • ทำงานที่ Meta มา 11 ปี และนำ PyTorch มาราว 8 ปี จนบรรลุ อัตราการยอมรับในอุตสาหกรรม AI มากกว่า 90%
    • ปัจจุบัน PyTorch รองรับ การฝึกระดับเอ็กซาสเกล และขับเคลื่อน foundation models ที่กำลังกำหนดนิยามของปัญญาใหม่
    • ถูกใช้งานในภาคการศึกษาตั้งแต่ MIT ไปจนถึงพื้นที่ชนบทในอินเดีย และเกือบจะบรรลุเป้าหมายด้านการเพิ่มการเข้าถึงแล้ว
  • เขาระบุว่าแม้ AI จะพัฒนาอย่างรวดเร็วและ PyTorch ยังต้องพัฒนาต่อไป แต่ก็ได้สร้างความสำเร็จไว้มากมายแล้ว
  • กล่าวขอบคุณทุกผู้ร่วมงานที่เชื่อในพลังของโอเพนซอร์สและวัฒนธรรมการวิจัยที่สนุก
  • แม้จะสามารถย้ายไปทำงานตำแหน่งอื่นภายใน Meta ได้ แต่เขาตัดสินใจออกไปภายนอกเพื่อ ความท้าทายใหม่และความอยากรู้อยากเห็น
  • ปิดท้ายข้อความด้วยประโยค “มาทำให้ AI อร่อยและเข้าถึงได้” พร้อมระบุว่าจะยังมีส่วนร่วมกับคอมมูนิตี้ต่อไป

เสถียรภาพของ PyTorch ในอนาคต

  • เขาไม่เคยต้องการดูแล PyTorch ไปตลอด และวางแผนจะ จากไปในจังหวะที่องค์กรมีความมั่นคง
    • เริ่มเตรียมตัวลาออกตั้งแต่ปลายปี 2024 และในเดือนสิงหาคม 2025 ก็มั่นใจว่าทีมสามารถดำเนินงานได้อย่างอิสระ
  • บุคลากรหลักอย่าง Edward, Suo, Alban, Greg, John, Joe, Jana สามารถ แก้ปัญหาด้านผลิตภัณฑ์และองค์กรได้ด้วยตนเอง
  • ยกเรื่องราวผลิตภัณฑ์ที่สอดคล้องกันในงาน PyTorch Conference และการปรับปรุงปัญหาเดิม ๆ มาเป็นหลักฐานยืนยัน ความยืดหยุ่นขององค์กร
  • Greg, Alban, Ed, Jason, Joe และคนอื่น ๆ ยังคงสืบทอด คุณค่าและวัฒนธรรมของ PyTorch และยังมีคนอีกมากที่มีคุณค่าสอดคล้องกัน
  • กล่าวถึงความสามารถทางเทคนิคและประสบการณ์การทำงานร่วมกันของ John, Suo, Jana อย่างเป็นรูปธรรม พร้อมแสดง ความมั่นใจในความยั่งยืนของทีม

ช่วงเวลาที่ Meta

  • ย้อนถึงช่วงแรกของ FAIR ว่าเป็น “ช่วงเวลาที่เหมือนเวทมนตร์” โดยมีส่วนร่วมในหลายโปรเจกต์ เช่น งานวิจัย GAN, บอต Starcraft, การสร้างคลัสเตอร์ FAIR, การตรวจจับวัตถุ, และการพัฒนา PyTorch
  • ประเมินว่าช่วงปี 2015~2016 เป็นช่วงที่มีประสิทธิผลและสนุกที่สุด
  • กล่าวว่าการได้รับคำแนะนำจาก Andrew Tulloch ในช่วงแรกที่เข้าทำงานช่วยเขาอย่างมาก

เส้นทางการพัฒนา PyTorch

  • มีส่วนร่วมโดยตรงในทุกขั้นตอนของ PyTorch ทั้งการออกแบบ การบริหาร การเขียนเอกสาร และการปล่อยใช้งาน จนเติบโตเป็นผลิตภัณฑ์ระดับหลายร้อยคน
  • กล่าวขอบคุณวิศวกร นักวิจัย ผู้มีส่วนร่วมโอเพนซอร์ส ผู้เขียนเอกสาร และพาร์ตเนอร์ด้านฮาร์ดแวร์ ทั้งในและนอก Meta
  • เอ่ยถึงบุคคลสำคัญหลายคน เช่น Adam Paszke, Sam Gross, Greg Chanan, Joe Spisak, Alban Desmaison, Edward Yang
  • ย้อนความถึงเหตุการณ์ในงาน NeurIPS ปี 2017 ที่นักศึกษาบัณฑิตศึกษาคนหนึ่งบอกว่าสามารถทำวิจัยเสร็จได้เพราะ PyTorch ทำให้เขารับรู้ถึง ผลกระทบต่อผู้ใช้ อย่างชัดเจน
  • แม้งาน PyTorch Conference จะเติบโตจากงานรวมตัวแบบครอบครัวขนาด 300 คน ไปเป็นอีเวนต์อุตสาหกรรมขนาด 3,000 คน เขาก็แสดง ความภาคภูมิใจต่ออิทธิพลที่ขยายตัวขึ้น

คำขอบคุณ

  • ระบุว่า Mark Zuckerberg และ Mike Schroepfer ที่สนับสนุนกลยุทธ์โอเพนซอร์ส คือเหตุผลสำคัญที่ทำให้ FAIR และ PyTorch เกิดขึ้นได้
  • ส่งคำขอบคุณถึง Yann LeCun และ Rob Fergus สำหรับการสร้าง FAIR ในช่วงแรก
  • ชื่นชมภาวะผู้นำทางเทคนิคและความสามารถในการลงมือทำของ Aparna Ramani อย่างมาก
  • กล่าวถึงการต้อนรับและความร่วมมือจากทีมโครงสร้างพื้นฐาน เช่น Santosh, Kaushik, Delia, Oldham, Ben
  • ส่งคำขอบคุณถึงผู้จัดการหลายคน เช่น Serkan, Howard, Jerome, Abhijit, Yoram, Joelle, Aparna, Damien

คำอำลาส่งท้าย

  • ย้ำว่า “นี่ไม่ใช่การเดินทางของผมคนเดียว แต่เป็นการเดินทางของพวกเราทุกคน” เพื่อเน้นย้ำความสำเร็จร่วมกัน
  • ระบุว่าจากนี้จะลองทำ “งานเล็ก ใหม่ และชวนอึดอัด”
  • ฝากข้อความให้กำลังใจคอมมูนิตี้ PyTorch ว่า “จงทำงานเพื่อทำให้ AI อร่อยและใช้งานง่ายต่อไป”

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2025-11-08
ความคิดเห็นจาก Hacker News

  • ดูเหมือนว่าหลายคอมเมนต์กำลัง ตัดสิน PyTorch จากผลลัพธ์ที่เกิดขึ้นแล้ว แต่ในช่วงที่ Soumith Chintala ร่วมพัฒนา PyTorch นั้น แทบไม่มีสภาพแวดล้อมการพัฒนาที่รวดเร็วและโต้ตอบได้แบบนี้เลย JAX ก็ยังไม่มีอยู่ด้วย
    มันดีกว่ามากจนถึงขั้นที่นักวิจัยทุกคนที่ได้ลองใช้ PyTorch ในยุคนั้นอยากย้ายมาใช้ทันที Andrej Karpathy ก็เคยทวีตไว้ในปี 2017 ว่า “ใช้ PyTorch มาไม่กี่เดือนแล้ว ชีวิตเปลี่ยนไปเลย” (ลิงก์ทวีต)
    ขอขอบคุณ Soumith สำหรับ ความทุ่มเทอย่างยาวนาน ตลอดหลายปีที่ผ่านมา และขอให้ประสบความสำเร็จในเส้นทางต่อจากนี้

    • Chainer เคยนำเสนอ โมเดล define-by-run มาก่อนแล้ว เป็นเฟรมเวิร์กที่พัฒนาโดยบริษัทเล็ก ๆ จากญี่ปุ่น และ PyTorch เวอร์ชันแรก ๆ ก็ระบุไว้อย่างชัดเจนว่าได้รับอิทธิพลจาก Chainer อย่างมาก
    • PyTorch ได้แรงบันดาลใจจาก ไลบรารี Autograd ของ Python ราวปี 2015 จริง ๆ แล้วระบบ automatic differentiation ของ PyTorch ก็ใช้ชื่อว่า ‘autograd’ ด้วย JAX เป็นผู้สืบทอดโดยตรงของ Autograd และนักพัฒนาบางส่วนก็ยังทำงานอยู่ในทีม JAX จนถึงตอนนี้ Adam Paszke ผู้ร่วมเขียน PyTorch ก็มีส่วนร่วมกับโปรเจ็กต์ JAX และ Dex อยู่ในปัจจุบันเช่นกัน (ประวัติ Autograd, คลังเก็บหน้าแนะนำ PyTorch)

  • ฉันเป็นหนึ่งในคนที่ Soumith รับเข้าทำงานโดยตรงและได้ร่วมงานกับเขา ที่ Meta และ PyTorch
    Soumith มอง PyTorch เป็น โปรเจ็กต์ที่ขับเคลื่อนโดยชุมชน มาโดยตลอด ไม่ใช่แค่ Adam และ Sam ผู้ร่วมสร้างเท่านั้น แต่ยังยกย่องผลงานของทุกคนแม้กระทั่งตอนรวมเข้ากับทีม Caffe2
    PyTorch ถูกออกแบบมาเป็นเฟรมเวิร์กเปิดสำหรับชุมชนนักวิจัยตั้งแต่แรก และ Soumith ก็ผลักดันให้มีคนและองค์กรใหม่ ๆ เข้ามามีส่วนร่วมตลอดช่วงการเติบโตของมัน
    เขาเป็น แม่เหล็กดึงดูดคนเก่ง อย่างแท้จริง และนั่นทำให้มีคนเก่งจำนวนมากทุ่มเทแรงกายแรงใจช่วยพัฒนา PyTorch
    ถึงตอนนี้แม้เขาจะจากไป PyTorch ก็อยู่ในจุดที่ยืนได้ด้วยตัวเองอย่างเต็มที่แล้ว และนี่แหละคือภาพของโอเพนซอร์สที่ประสบความสำเร็จ

    • ฉันก็เคยร่วมงานกับ Soumith เช่นกัน และเขาเป็น บุคคลระดับตำนาน จริง ๆ เป็นผู้นำที่สร้างความเปลี่ยนแปลงครั้งใหญ่ได้ แต่ยังคงถ่อมตัว ไม่เล่นการเมือง และช่วยให้คนรอบตัวเติบโต ขออวยพรให้เขาโชคดีจากใจ

  • สิ่งที่น่าสนใจในเรื่องนี้คือ มันดูเหมือนเป็นสัญญาณว่า Meta ภายในนั้น ไม่มีทรัพย์สินผูกขาดด้าน AI ซ่อนอยู่
    ให้ความรู้สึกคล้ายกับภาพลวงที่ว่าการวิจัยทางทหารล้ำหน้าความเป็นจริงไปไกลมาก
    สุดท้ายแล้ว ห้องวิจัย AI ของบิ๊กเทคก็ดูเหมือนกำลังทำสิ่งเดิม ๆ ซ้ำไปมา โดยไม่ได้มีเทคโนโลยีลับพิเศษอะไร

    • นี่น่าจะตีความเกินไปหน่อย Soumith ทำงานที่ Meta มา 11 ปีแล้ว และก็น่าจะได้รับผลตอบแทนจากหุ้นมากพอสมควร อีกทั้งเพิ่งมีลูกเมื่อไม่นานนี้ และ work-life balance ของ Meta ก็ไม่ได้ดีนัก
      นอกจากนี้ Meta ก็กำลัง เปลี่ยนทิศทางไปเน้น LLM ทำให้บทบาทเดิมของ PyTorch ลดลง เมื่อดูจากจุดเหล่านี้แล้วก็ถือเป็นจังหวะเปลี่ยนงานที่เป็นธรรมชาติ
    • เทคโนโลยีทางทหารในหลายกรณีกลับ ล้าหลังกว่าภาคเอกชน จริง การต้องปิดเป็นความลับขัดขวางความร่วมมือ และปัจจัยทางการเมืองก็ยิ่งทำให้ไร้ประสิทธิภาพ
    • การลาออกของ Soumith ดูไม่เกี่ยวกับความเป็นต้นฉบับด้าน AI ของ Meta เลย มันเป็นแค่ ช่วงเวลาที่เขาอยากเจอความเปลี่ยนแปลงใหม่ เท่านั้น
      ทุกวันนี้แม้จะมีคำกล่าวในวงการ AI ว่า ‘AGI กำลังจะมาเร็ว ๆ นี้’ แต่นักพัฒนาภายในก็ไม่ได้ตื่นเต้นกันมาก Karpathy กลับไปสอน หรือ Mira Murati ไปตั้งสตาร์ตอัป ก็อยู่ในบริบทเดียวกัน
    • เขาแค่บอกว่า อยากโฟกัสกับสิ่งเล็ก ๆ เท่านั้นด้วยซ้ำ ยังไม่รู้เลยว่าโปรเจ็กต์ใหม่จะเกี่ยวกับ AI หรือไม่
    • ถ้าใครเคยจับอุปกรณ์ทางทหารจริง ๆ จะรู้ว่า สิ่งที่ถูกเรียกว่า ‘เทคโนโลยีทางทหารล้ำสมัย’ ส่วนใหญ่เป็นแค่ เทคโนโลยีเก่าที่พิสูจน์แล้ว ประกอบด้วยชิ้นส่วนราคาถูก อย่างโดรนของรัสเซียที่ใช้ Raspberry Pi เป็นต้น ของจริงนั้นธรรมดาจนน่าประหลาดใจ

  • ความหลงใหลของ Soumith แพร่ไปสู่คนรอบข้างได้ ฉันเคยเห็นงานวิจัย DCGAN แล้วลองทำการทดลองด้วย Lua Torch ซึ่งก็ทำงานได้ดีแม้กับชุดข้อมูล Oxford flowers ขนาดเล็ก
    Soumith ถึงกับประหลาดใจมากพอที่จะเอาผลลัพธ์นั้นไปแชร์บนโซเชียลมีเดีย
    ในตอนนั้นทั้ง PyTorch และ Lua Torch ใช้งานง่ายกว่า TensorFlow มาก และโค้ดก็มี โครงสร้างที่เหมาะกับการแฮ็กและทดลองต่อยอด ทำให้นักวิจัยทดลองอะไรได้อย่างอิสระ

    • มีคอมเมนต์หนึ่งถามว่าชุดข้อมูล Oxford flowers คืออะไร และหาได้จากที่ไหน

  • คำพูดของ Soumith ที่ว่า “อยากลองทำ สิ่งเล็ก ๆ และสิ่งใหม่ ๆ สิ่งที่ยังไม่เข้าใจอย่างถ่องแท้ และสิ่งที่ทำให้ไม่สบายใจ” ฟังแล้วน่าประทับใจมาก
    แม้ภายใน Meta เขาจะทำอย่างอื่นต่อได้ แต่เขากลับเลือกเดินตาม ความอยากรู้อยากเห็นที่ผลักให้ต้องออกไปข้างนอก ราวกับ ‘สิทธัตถะที่กลับคืนสู่ป่า’

    • เห็นด้วยกับภาพเปรียบเรื่อง “เงาของสิทธัตถะ” แต่ในอีกมุมหนึ่ง เขาก็เป็นคนที่กำลังอยากถอยออกจากเมกะคอร์ปที่มีอิทธิพลทางสังคมสูงสักพักเช่นกัน

  • ในฐานะ ผู้ใช้ JAX ฉันเคารพความสำเร็จของ PyTorch มาก หลังจาก TensorFlow 1 ทำพลาด PyTorch ก็เข้าครองระบบนิเวศ AI
    และก็หวังว่า Matt Johnson ที่ต่อยอด Autograd มาเป็น JAX จะได้รับการยกย่องสูงแบบเดียวกับ Soumith ในสักวันหนึ่ง

    • มีคอมเมนต์ถามว่าทำไมถึงมองว่า TensorFlow ล้มเหลว
    • และก็มีคนถามด้วยว่าเคยใช้ทั้ง JAX และ PyTorch หรือไม่ และทำไมถึงชอบ JAX มากกว่า
    • JAX นั้นยอดเยี่ยม แต่ก็น่ากังวลเรื่อง ความไม่แน่นอนของโปรเจ็กต์จาก Google เพราะมีความเสี่ยงที่จะถูกแทนที่ด้วยเวอร์ชันที่เข้ากันไม่ได้อย่าง JAX 2.0 เมื่อไรก็ได้

  • ไลบรารีพื้นฐานของ Torch เองก็เป็น เครื่องมือที่ใช้งานได้สนุกมาก เช่นกัน ใน Rust ก็มี binding อย่าง tch และ Burn ที่ทำงานร่วมกับ libtorch ได้ดี
    จุดเด่นของ PyTorch คือมันเปิดให้ ดีบักแบบไดนามิก ได้ เราสามารถหยุดโมเดลกลางคันในเทอร์มินัลแล้วตรวจดูสถานะภายในได้โดยตรง ซึ่งเป็นประสบการณ์ที่ยังคิดถึงอยู่เสมอ

    • นั่นก็ทำให้ฉันเคยเขียนโค้ดสุดสยองไว้เยอะเหมือนกัน แต่ช่วงเวลานั้นมัน รุ่งโรจน์มากจริง ๆ

  • คำพูดของเขาที่ว่า “ผมอยู่ในจุดที่สามารถติดต่อบริษัท AI รายใหญ่และผู้ผลิตฮาร์ดแวร์ทุกรายได้ แต่สุดท้ายแล้ว ความอยากรู้อยากเห็นก็ชนะ” นั้นน่าประทับใจมาก
    หวังว่าเขาจะสร้างเครื่องมือทรงพลังตัวใหม่ขึ้นมาได้อีกครั้ง

    • เมื่อความอยากรู้อยากเห็นหายไป ทุกอย่างก็พังทลาย ฉันเข้าใจความรู้สึกนั้นดี
      ฉันเองก็เคยต้องทำ งานที่ไร้ความหมาย เพื่อเลี้ยงชีพอยู่เป็นเวลานาน เลยทั้งอิจฉาและชื่นชมที่เขาสามารถตัดสินใจแบบนั้นได้

  • คำพูดที่ว่า “มีการสอน PyTorch ตั้งแต่ MIT ไปจนถึงห้องเรียนในชนบทของอินเดีย” ก็ทิ้งความประทับใจไว้มาก
    กลับกัน ฉันยังคิดว่าห้องเรียนบางแห่งในอินเดียอาจ เข้าถึงการศึกษาและเน้นการลงมือปฏิบัติ ได้ดีกว่าวิศวกรรมศาสตร์ชั้นนำของสหรัฐบางแห่งด้วยซ้ำ

    • ‘วิศวกรรมศาสตร์ชั้นนำ’ ในสหรัฐนั้น ในความเป็นจริงมักถูกประเมินจาก สถานะทางสังคมและผลงานวิจัย มากกว่า และคุณภาพการสอนก็อาจไม่ได้ดีเสมอไป
    • ในทางกลับกัน ก็มีเสียงวิจารณ์ว่าการศึกษาแบบดั้งเดิมของอินเดียยัง เน้นท่องจำและสอบเป็นหลัก แม้ว่าวิศวกรรมศาสตร์ในสหรัฐจะไม่ได้สมบูรณ์แบบ แต่ปัญหาของการศึกษาแบบอินเดียก็ยังรุนแรงอยู่ตามความเห็นของบางคน

  • ในฐานะคนที่ใช้ PyTorch ทุกวัน ฉันอยาก ขอบคุณจากใจจริง Soumith และทีมงาน
    เครื่องมือนี้ทำให้ฉันได้ทดลองไอเดียที่เมื่อก่อนมีแต่จะจินตนาการถึงเท่านั้น
    PyTorch กลายเป็นส่วนสำคัญในชีวิตของฉันไปแล้ว และขอให้เขาโชคดีในเส้นทางถัดไป