TimeGPT-1
(arxiv.org)- TimeGPT คือ โมเดลพื้นฐานสำหรับอนุกรมเวลา ที่ใช้พยากรณ์ข้อมูลอนุกรมเวลาจากหลายโดเมนได้โดยไม่ต้องฝึกเพิ่ม
- เมื่อเทียบกับแนวทางสถิติ, แมชชีนเลิร์นนิง และดีปเลิร์นนิงแบบเดิม แนวทางนี้ชูจุดเด่นเรื่องการปรับปรุงทั้งประสิทธิภาพ, ความคุ้มค่า และความเรียบง่ายในการอนุมานแบบซีโร่ช็อต
- การพยากรณ์อนุกรมเวลาเป็นรากฐานสำคัญในงานที่ต้องตัดสินใจเกี่ยวกับอนาคต เช่น การเงิน การแพทย์ สภาพอากาศ สังคมศาสตร์ ความต้องการพลังงาน และการวางแผนกำลังการผลิตของเซิร์ฟเวอร์ แรงงาน และเครื่องจักร
- วงการพยากรณ์อนุกรมเวลาแบบเดิมยังมีฉันทามติในทางปฏิบัติต่อประสิทธิผลของดีปเลิร์นนิงค่อนข้างน้อย และยังขาด โมเดลพรีเทรนแบบอเนกประสงค์ ที่ได้รับการยอมรับอย่างกว้างขวางเทียบเท่างานด้านภาษาและการรับรู้
- แนวคิดนี้ชี้ให้เห็นว่าโมเดลพรีเทรนแบบอเนกประสงค์อาจช่วยให้การเข้าถึงการพยากรณ์ที่แม่นยำทำได้ง่ายขึ้น พร้อมลดเวลาและความซับซ้อนในการคำนวณ
ทิศทางของโมเดลที่ TimeGPT นำเสนอ
- TimeGPT เป็นโมเดลพื้นฐานสำหรับอนุกรมเวลาที่สามารถสร้างการพยากรณ์ได้แม้กับชุดข้อมูลหลากหลายที่ไม่เคยเห็นระหว่างการฝึก
- แกนสำคัญคือ การอนุมานแบบซีโร่ช็อต ที่พยากรณ์ได้ในหลายโดเมนและหลายแอปพลิเคชันโดยไม่ต้องฝึกเพิ่ม
- โมเดลอเนกประสงค์ที่ผ่านการพรีเทรนสามารถเปลี่ยนงานพยากรณ์อนุกรมเวลาในทางปฏิบัติให้เข้าถึงง่ายขึ้น แม่นยำขึ้น และลดทั้งเวลาที่ใช้กับความซับซ้อนในการคำนวณได้อย่างมาก
ขอบเขตการใช้งานของการพยากรณ์อนุกรมเวลา
- อนุกรมเวลา คือข้อมูลที่เรียงตามลำดับเวลา และถูกใช้เป็นข้อมูลพื้นฐานในการประเมินสถานะในอนาคตของระบบ บริษัท และองค์กร
- ตัวอย่างการใช้งานครอบคลุมหลายด้าน
- ทำความเข้าใจวัฏจักรและแนวโน้มทางเศรษฐกิจ
- วิเคราะห์รูปแบบการใช้จ่ายของผู้บริโภค
- ปรับความต้องการพลังงานให้เหมาะสมเพื่อการผลิตไฟฟ้าและการบริหารโครงข่ายไฟฟ้า
- ปรับกำลังการผลิตและโครงสร้างพื้นฐานของเซิร์ฟเวอร์ แรงงาน และเครื่องจักร
- การวัดระดับน้ำขึ้นน้ำลงในทะเลและการติดตามราคาปิดรายวันของ Dow Jones
- ในการเงิน การแพทย์ สภาพอากาศ และสังคมศาสตร์ การระบุรูปแบบตามเวลา แนวโน้ม และความผันแปรเป็นคาบ มีความสำคัญต่อการพยากรณ์ค่าในอนาคตและการตัดสินใจ
ข้อจำกัดของแนวทางพยากรณ์แบบเดิม
- วงการพยากรณ์อนุกรมเวลา ยังไปไม่ถึงระดับฉันทามติที่ได้รับการยอมรับอย่างกว้างขวางแบบเดียวกับโมเดลเชิงกำเนิดในงานภาษาและการรับรู้
- ในงานพยากรณ์ การประเมินของผู้ปฏิบัติงานต่อ ประสิทธิผลของดีปเลิร์นนิง ยังแตกออกเป็นหลายมุมมอง
- งานวิจัยการพยากรณ์ที่มีอยู่เดิมยังไม่สามารถตอบโจทย์ได้เต็มที่ในระดับที่โมเดลพรีเทรนแบบอเนกประสงค์อย่างแท้จริงสัญญาไว้
ผลการประเมินและนัยสำคัญ
- TimeGPT ถูกประเมินเปรียบเทียบกับ โมเดลเชิงสถิติ โมเดลแมชชีนเลิร์นนิง และโมเดลดีปเลิร์นนิงที่มีอยู่เดิม
- ผลการประเมินสรุปว่า การอนุมานแบบซีโร่ช็อตของ TimeGPT ที่ผ่านการพรีเทรน มีความโดดเด่นในด้านประสิทธิภาพ ความคุ้มค่า และความเรียบง่าย
- สิ่งนี้ถูกใช้เป็นหลักฐานว่า ข้อค้นพบจากความก้าวหน้าในสาขา AI อื่น ๆ สามารถนำมาปรับใช้กับ การวิเคราะห์อนุกรมเวลา ได้เช่นกัน
- โมเดลอนุกรมเวลาขนาดใหญ่สามารถเป็นโอกาสในการเพิ่มการเข้าถึงการพยากรณ์ที่แม่นยำยิ่งขึ้น และช่วยลดความไม่แน่นอนได้
1 ความคิดเห็น
ความคิดเห็นบน Hacker News
ผมทำงานด้านการพยากรณ์อนุกรมเวลามานานพอสมควร แต่ยังไม่เห็นประโยชน์ของ โมเดลดีปเลิร์นนิงเฉพาะทางสำหรับอนุกรมเวลา แบบนี้
สำหรับข้อมูลมิติสูงมาก ๆ ดีปเลิร์นนิงจะเหนือกว่า เช่น ตอนทำโมเดลตรวจจับการฉ้อโกงในบริษัทประมวลผลธุรกรรมบัตร แต่แทบไม่เห็นข้อได้เปรียบของการใช้โมเดล “อนุกรมเวลา” แยกต่างหากที่ปฏิบัติต่อเวลาแตกต่างจากคุณลักษณะอื่น ๆ
เคยลอง N-BEATS, N-HiTS ที่อ้างว่าให้ประสิทธิภาพล้ำสมัย รวมถึง RNN แทบทุกรูปแบบที่เคยนิยมกันก่อนยุคทรานส์ฟอร์เมอร์ แต่ก็ยังเอาชนะ MLP ที่ใส่ค่าหน่วงเวลาเป็นฟีเจอร์ไม่ได้ คุยกับคนอื่น ๆ ในสายงานพยากรณ์ก็ได้ยินว่าพบผลแบบเดียวกัน
สำหรับข้อมูลมิติระดับกลาง LightGBM/XGBoost เหนือกว่าอย่างชัดเจน โดยมักให้ประสิทธิภาพเท่ากับหรือดีกว่าโมเดลดีปเลิร์นนิงใด ๆ แถมต้องจูนละเอียดน้อยกว่ามาก และใช้เวลาคำนวณน้อยมาก
สำหรับข้อมูลมิติต่ำ เพราะมีข้อมูลไม่เพียงพอ จึงต้องใช้สัญชาตญาณของมนุษย์ในการกำหนดโครงสร้าง ทำให้ (V)ARIMA/ETS/โมเดลปัจจัยยังคงแข็งแกร่งที่สุด
ดังนั้นผมจึงสงสัยมากต่อคำกล่าวอ้างว่ามีโมเดล “อนุกรมเวลา” ที่ให้ประสิทธิภาพสูงได้แบบครอบจักรวาล ต่างจากโมเดลภาษา ต่อให้ฝึกด้วยอนุกรมเวลา ขอบเขตที่โมเดลจะเข้าใจโครงสร้างพื้นฐานของการทำงานของโลกก็มีจำกัด ความสามารถในการทั่วไปสู่กรณีใหม่ ๆ จึงจำกัดมากตามไปด้วย
และก็อยากรู้ด้วยว่าในการ พยากรณ์หลายขั้น ที่ต้องทำนายไปข้างหน้าหลายช่วงเวลา จะใช้โมเดลอย่าง XGBoost อย่างไร
วิธีใส่ฟีเจอร์แบบค่าหน่วงเวลาเข้า MLP เทียบกับการใช้ความยาวลำดับที่ยาวขึ้นใน attention ของทรานส์ฟอร์เมอร์แล้วเป็นอย่างไร? อยากรู้ว่าถ้าใส่ค่าหน่วงเวลา 128 จุดเวลาเข้าไปในโครงข่ายประสาทแบบ feedforward จะยังได้ผลดีหรือไม่
ตอนทดลองอัลกอริทึมแมชชีนเลิร์นนิงหลายแบบเพื่อสร้างบอทเทรดอัจฉริยะ https://github.com/asavinov/intelligent-trading-bot ก็ได้ข้อสรุปแบบนั้นเช่นกัน
อย่างไรก็ตาม ก็มีบางกรณีที่ทรานส์ฟอร์เมอร์อาจให้ข้อได้เปรียบมากได้ เช่น เมื่อผสานการพยากรณ์เชิงตัวเลขกับ การวิเคราะห์เหตุการณ์แบบไม่ต่อเนื่อง และลำดับของเหตุการณ์มีความสำคัญ หรือเมื่อแพตเทิร์นบางอย่างที่มองหาในการวิเคราะห์ทางเทคนิคมีความสำคัญ ในกรณีเหล่านี้จะต้องใช้ข้อมูลมากกว่ามาก
แน่นอนว่าจะมีนักวิเคราะห์กราฟจำนวนมากแห่ออกมาขาย การพยากรณ์ตลาดด้วย GPT
ถ้าเป็นโมเดลอนุกรมเวลาที่มีคอร์ปัสฝึกขนาดใหญ่พอ ผมคิดว่ามันอาจจัดการลักษณะผิดปกติที่พบบ่อยอย่างฤดูกาล แรงกระแทก หรือค่าผิดปกติได้ค่อนข้างดี
ผมเห็นด้วยเต็มที่กับสถานการณ์ที่ผ่านมา แต่ก็คาดหวังที่จะได้เห็นผู้ปฏิบัติงานลองทดสอบโมเดลแบบที่นำเสนอไว้ที่นี่ มันอาจใช้ได้จริงก็ได้
ไม่ใช่เลย, Transformer ไม่ใช่ยาครอบจักรวาล
ถึงแม้ Transformer จะให้ความรู้สึกเหมือนเป็นตัวประมาณฟังก์ชันทั่วไปที่ล้ำสมัย แต่เราต้องเข้าใจว่าทำไมมันถึงทำงานได้ดีขนาดนั้นกับภาษาและวิชัน
Transformer ทำ parallelization ได้ดีมาก และเรียนรู้ representation ระดับกลางที่ซับซ้อนได้ แนวคิดเชิงความหมายเริ่มแยกออกจากกันอย่างเป็นระเบียบในปริภูมิ ตรวจจับตัวคั่นได้อย่างเป็นธรรมชาติ และยังเรียนรู้วิธีจัดการกับองค์ประกอบอย่างเส้น เส้นโค้ง สี หูสุนัข ฯลฯ ด้วย ชั้นสุดท้ายจะผสมผสานแนวคิดที่ซับซ้อนเหล่านี้เพื่อเรียนรู้แนวคิดระดับสูงอย่างสุนัข/แมว/บล็อก
แต่ Transformer หรือกว้างกว่านั้นคือวิธี deep learning โดยรวม ยังทำงานได้ไม่ดีนักกับข้อมูลอนุกรมเวลา เพราะยังดึง representation ระดับกลางใหม่ ๆ ออกมาไม่ได้
แค่ดูผิวเผินก็มีคำถามแล้วว่าจะจัดการกับ “หน้าต่างโทเคน” อย่างไร? พูดแบบง่ายที่สุด การทำโมเดลอนุกรมเวลาคือการระบุแพตเทิร์นซ้ำที่มีวงจรชีวิตต่างกันมาก โดยมีเงื่อนไขจากการสังเกตบางอย่างของโลก ตั้งแต่ต้น โมเดลต้องสามารถอนุมานหน่วยระดับ ปี·วัน·วินาที พร้อมกันได้อย่างเป็นธรรมชาติ จึงจะรับมือกับปัญหาได้ น่าขำที่เปเปอร์ streaming LLM ของ MIT เมื่อสัปดาห์ที่แล้วอาจช่วยเรื่องนี้ได้
อย่างที่สอง ขนาดของการปรับปรุงดูเหมือนจะเล็กน้อยอย่างมาก ถ้าจะเสนอการเปลี่ยนแปลงสถาปัตยกรรมขนาดใหญ่พร้อมกับตัด observability และ explainability ออกไป ก็ต้องมีผลลัพธ์ที่เหนือกว่าอย่างท่วมท้นจริง ๆ
ความจริง ถ้ามีใครค้นพบวิธีพลิกเกมในการพยากรณ์อนุกรมเวลา การไปบอกคนอื่นก่อนทำเงิน 1 พันล้านดอลลาร์แรกจากตลาดได้ก็เป็นเรื่องโง่ และผมคิดว่าการหยุดที่ 1 พันล้านดอลลาร์ก็โง่เหมือนกัน การพยากรณ์อนุกรมเวลาเป็นปัญหาที่ให้ผลตอบแทนทางการเงินสูงที่สุดหากแก้ได้ ถ้ามันถูกเผยแพร่เป็นเปเปอร์ ผมก็คาดว่าตัวมันเองคงน่าผิดหวัง
แค่ไล่ดู monotone universal Turing machine ทั้งหมดที่ input tape ประกอบด้วยข้อมูลที่เก็บรวบรวมได้ทั้งหมดกับอนุกรมเวลาที่สนใจมาต่อกัน ข้ามโปรแกรมที่ใช้เวลานานเกินไป เหลือไว้เฉพาะโปรแกรมที่สร้างลำดับอินพุตซ้ำได้ จากนั้นสร้างการแจกแจงความน่าจะเป็นของบิตเอาต์พุตถัดไปด้วยน้ำหนัก 2^- ตามขนาดของโปรแกรม
มันยากตรงไหนกัน?
ในวงการ high-frequency trading มีการนำ deep learning ไปใช้กับข้อมูลตลาดอย่างประสบความสำเร็จมานานพอสมควรแล้ว ครอบคลุมตั้งแต่ packet capture และ tick ไปจนถึง candle
ทำไมทีม quant/software engineer/trader 50 คนที่ทำกำไรได้มากกว่า 1 พันล้านดอลลาร์ต่อปีถึงจะเปิดเผยวิธีการของตัวเอง?
ในการพยากรณ์อนุกรมเวลาแบบมาตรฐาน คุณลักษณะนั้นมักเป็นอย่าง “แพตเทิร์นตามคาบจะดำเนินต่อไป” หรือ “แพตเทิร์นการเติบโตจะดำเนินต่อไป”
Transformer ที่ฝึกด้วยข้อมูลภาษา โดยแก่นแท้แล้วก็เหมือนกำลังเรียนรู้การพยากรณ์อนุกรมเวลาที่มีคุณลักษณะซับซ้อนหลากหลายมากซึ่งส่งผลต่อสิ่งที่จะตามมา ข้อมูลภาษาซับซ้อนและหลากหลายมากจนการเขียนข้อความต่อจำเป็นต้องมี in-context learning นั่นคือความสามารถในการค้นหาคุณลักษณะร่วมจากสตริงสัญลักษณ์ชนิดใด ๆ แล้วใช้มันเขียนต่อ
ในข้อมูลภาษาอาจมีตาราง Excel ขนาดใหญ่ที่บรรจุข้อมูลหลากหลาย เช่น ราคาหุ้นหรือบันทึกสภาพอากาศอยู่ด้วย ดังนั้นจึงฟังดูสมเหตุสมผลที่ in-context learning จะทรงพลังมากจนทำการเขียนต่ออนุกรมเวลาแบบ zero-shot ได้
ยิ่งไปกว่านั้น ผมมองว่าข้อมูลภาษาและสถาปัตยกรรม Transformer มีศักยภาพที่จะให้พฤติกรรมคล้ายปัญญาทั่วไปจริง ๆ ได้ด้วย in-context learning มันคือการรู้จำแพตเทิร์นทั่วไป ข้อมูลภาษาซับซ้อนพอที่ stochastic gradient descent แทบหลีกเลี่ยงไม่ได้ที่จะนำไปสู่การรู้จำแพตเทิร์นทั่วไปและการเขียนต่อ
เรายังอยู่แค่ช่วงเริ่มต้น และตอนนี้กำลังมุ่งไปที่การ fine-tune ซึ่งทำลาย in-context learning แต่ในไม่ช้า เราจะฝึก Transformer ขนาดยักษ์ด้วยทุก modality และสตริงสัญลักษณ์ทุกชนิดที่หาได้
เพียงแต่ท้ายที่สุดวิดีโอก็ดูเหมือนวิชันที่ซ้อนเป็นชั้น ๆ วิชันของเฟรมต่าง ๆ ทำไมถึงทำงานคล้ายกับวิชันไม่ได้? คำตอบในตอนนี้คือมันยังทำไม่ได้ แต่ผมสงสัยว่าเป็นเพราะ neural network ทำไม่ได้ หรือเพราะเรายังไม่พบวิธีทำโมเดลที่ถูกต้องกันแน่
ไม่เข้าใจตรงที่บอกว่า “โมเดลยอดนิยมอย่าง Prophet [Taylor and Letham, 2018] และ ARIMA ถูกตัดออกจากการวิเคราะห์ เพราะต้องใช้การคำนวณมากเกินไปและใช้เวลาเทรนนาน”
อยากรู้ว่าคนที่เคยทำการพยากรณ์อนุกรมเวลามาเยอะ ๆ จะอธิบายละเอียดกว่านี้ได้ไหม
ผมเคยใช้ ARIMA กับงานง่าย ๆ อยู่บ้าง ไม่เข้าใจว่าทำไมต้นทุนการเทรนและการรันถึงแพงกว่าโมเดลทรานส์ฟอร์เมอร์ และต่อให้เป็นเรื่องจริง ARIMA ก็ถูกใช้แพร่หลายมากอยู่ดี ดังนั้นการเทียบทรัพยากรและเวลาก็น่าจะมีประโยชน์
ไม่อย่างนั้นมันฟังดูเหมือนข้อความขายของ และเหมือนโยนตัวย่อเข้าใจยาก ๆ มาเพื่อการตลาดแบบ “ผมเป็นผู้เชี่ยวชาญนะ, abc xyz ศัพท์ย่อในวงการ”
เพื่อตอบข้อกังวลที่สมเหตุสมผลนี้ เหตุผลที่ต้นทุนการคำนวณสูงมีหลายข้อ ข้อแรก ARIMA และวิธี “เชิงสถิติ” อื่น ๆ เป็นโมเดลแบบ local จึงต้องเทรนโมเดลแยกหนึ่งตัวสำหรับอนุกรมเวลาแต่ละชุด ในทางกลับกัน โมเดลแมชชีนเลิร์นนิงและดีปเลิร์นนิงเป็นโมเดลแบบ global จึงใช้โมเดล “ตัวเดียว” กับอนุกรมเวลาทั้งหมด
ข้อสอง โดยทั่วไป ARIMA ทำผลงานได้ไม่ดีนักกับชุดอนุกรมเวลาที่หลากหลายแบบในการทดลองนี้ AutoARIMA เป็นตัวเลือกที่ดีกว่า แต่เมื่อคำนึงถึงจำนวนและความยาวของอนุกรมเวลา เวลาเทรนจะยาวกว่ามาก อีกทั้ง AutoARIMA มีแนวโน้มจะช้ามากกับอนุกรมเวลาที่ยาว
สรุปคือ ถ้านำ ARIMA ไปใช้กับอนุกรมเวลา 500,000 ชุดที่ใช้ในเบนช์มาร์ก ก็จะใช้เวลาหลายสัปดาห์จริง ๆ และมีต้นทุนสูงมาก
ดังนั้นเราจึงรวมโมเดล “เชิงสถิติ” แบบ local หลายตัวที่ทำผลงานดี เช่น Theta และ CES ไว้ด้วย สำหรับ baseline ทั้งหมด เราใช้ implementation จากระบบนิเวศโอเพนซอร์สของเรา รวมถึง StatsForecast, MLForecast และ Neuralforecast เราจะเผยแพร่ชุดการทดลองที่ทำซ้ำได้บนชุดย่อยที่เล็กลงในเร็ว ๆ นี้
ถ้าตัดเทคนิคพยากรณ์จากยุค 1970s ออกด้วยเหตุผลว่า “ใช้เวลาเทรนนาน” ก็ยากที่จะมองงานวิจัยนี้อย่างจริงจัง
มีข้ออ้างได้อยู่บ้างในการตัด ARIMA ออก เพราะหากจะให้ทำงานได้ดีจริง ๆ ต้องใส่ข้อมูลล่วงหน้าที่สำคัญเกี่ยวกับอนุกรมเวลา เช่น ฤดูกาลหรือการปรับจุดเปลี่ยน
แต่ “ปริมาณการคำนวณมากเกินไปและเวลาเทรนนาน” ใช้กับกรณีนี้ไม่ได้
ส่วนนั้นดูเหมือนอวดเกินจริงไปหน่อย แต่นอกเหนือจากนั้น งานวิจัยนี้ โดยเฉพาะ ความสามารถแบบ zero-shot ถ้ายืนยันได้จริงก็น่าสนใจมาก หวังว่าจะเข้าถึงได้ง่ายกว่า API แบบ “ติดต่อเรา” เพื่อจะได้ลองเทียบกับ ARIMA และวิธีอื่น ๆ ด้วยตัวเอง
มันมีข้อบกพร่องและข้อจำกัดหลายอย่าง แต่ ประสิทธิภาพด้านการคำนวณ ไม่ใช่ปัญหา
งานวิจัยนี้เนื้อหาบางมาก แทบไม่มีข้อมูลเกี่ยวกับสิ่งสำคัญ ๆ เลย และพูดถึงสถาปัตยกรรมกับข้อมูลแบบกว้าง ๆ เท่านั้น
แต่กลับใช้พื้นที่ไปกับสูตร MAE หรือแผนภาพที่อธิบายแนวคิดการเทรนและการอนุมาน มี สัญญาณอันตราย อยู่หลายจุด
ผม Max จาก Nixtla ครับ ไม่คิดว่าจะได้รับความสนใจมากขนาดนี้ และดีใจที่ได้เห็นทั้งปฏิกิริยาเชิงบวกและคำวิจารณ์
อยากชี้แจงประเด็นสำคัญบางอย่างให้ชัดเจน
เป้าหมายหลักของเวอร์ชันแรกของงานวิจัยนี้คือการแนะนำ TimeGPT-1 และแสดงผลเบื้องต้นจากการทดลองขนาดใหญ่ เพื่อชี้ให้เห็นว่าการเรียนรู้แบบถ่ายโอนในสเกลระดับนี้ก็ทำได้จริงกับอนุกรมเวลาเช่นกัน อย่างที่กล่าวไว้ในงานวิจัย เราเชื่ออย่างลึกซึ้งว่าโมเดลที่ผ่านการ pretrain อาจเป็นทางออกที่คุ้มค่ามากในแง่ทรัพยากรคำนวณสำหรับแอปพลิเคชันจำนวนมาก อีกทั้งเวอร์ชันนี้ยังเป็น preprint เรากำลังทำงานเพื่อเผยแพร่ชุดการทดลองที่ทำซ้ำได้สำหรับข้อมูลบางส่วน ขอให้รอติดตาม
งานก่อนหน้าทั้งหมดของ Nixtla เป็นโอเพนซอร์ส และเรามองว่า TimeGPT สามารถเป็นผลิตภัณฑ์เชิงพาณิชย์ที่ใช้งานได้จริง ซึ่งมอบการพยากรณ์และการตรวจจับความผิดปกติให้ผู้ปฏิบัติงานได้ทันที รายละเอียดที่น่าสนใจบางส่วนถูกละไว้ เพราะเป็น ความได้เปรียบในการแข่งขัน สำหรับใช้ในการเติบโตของบริษัท การมอบโซลูชันที่ดีกว่า และการสร้างระบบนิเวศต่อไป
อย่างที่คนอื่น ๆ ในเธรดนี้กล่าวไว้ เรากำลังพยายาม onboard ผู้คนให้ทดลองใช้งานฟรีให้ได้มากที่สุด เพื่อให้ผู้ปฏิบัติงานอิสระจำนวนมากขึ้นสามารถตรวจสอบความแม่นยำกับ use case ของตนเองได้ คุณยังดูความประทับใจแรกจากผู้สร้าง Prophet ได้ที่ https://x.com/seanjtaylor/status/1694745912776749296?s=20 และปฏิกิริยาจากผู้สร้าง GluonTS https://www.linkedin.com/posts/tim-januschowski_foundational... รวมถึงการทดสอบเบื้องต้นที่คนของ H20 ทำไว้ https://youtu.be/N0gyDVUFPlg?si=xH8oy5cjgLm-o_WD&t=457 ได้ด้วย หวังว่าจะมีเบนช์มาร์กอิสระออกมาอีกมากในเร็ว ๆ นี้
เวลานักวิชาการเตือนว่า “peer review สำคัญ” หรือ “ถ้าไม่ใช่ผู้เชี่ยวชาญในสาขานั้น อย่าอ่าน preprint บน arxiv” ก็หมายถึงอะไรแบบนี้แหละ
ประโยคที่ว่า “ความไม่แน่นอนเป็นแง่มุมพื้นฐานของชีวิต และเป็นค่าคงที่ที่มนุษย์พยายามฝ่าฟันและทำความเข้าใจอย่างไม่รู้จักเหน็ดเหนื่อย” นี่ก็แปลก ๆ
การทำอะไรด้วยความจริงจังเป็นเรื่องดี แต่ถ้าจะทำแบบนั้น อย่างน้อยก็ควรให้มันเป็นกวีมากกว่าสารคดี BBC หน่อย
ดูเกี่ยวข้องไหม?
Inverted Transformers Are Effective for Time Series Forecasting
https://news.ycombinator.com/item?id=37848321
นี่ดูเหมือน เอกสารการตลาด สำหรับผลิตภัณฑ์ https://www.nixtla.io/
หวังว่าผมจะคิดผิด แต่ดูเหมือนว่าจะดีกว่าโมเดล Seasonal Naive อยู่ประมาณ 20~30% เท่านั้น ถ้าอยู่ในระดับนั้นก็ดูไม่ค่อยมีประโยชน์เท่าไร
จุดที่เป็น zero-shot นั้นน่าประทับใจแน่นอน แต่ในทางปฏิบัติก็ไม่น่าจะเอาไปทำอะไรได้มากนัก