Moneyball ของ Physical AI

• ข้อมูลหุ่นยนต์ไม่สามารถขุดจากคอร์ปัสที่มีอยู่เดิมแบบข้อมูลข้อความได้ และมีต้นทุนเกิดขึ้นทุกช่วงเวลาที่เป็นประโยชน์ ดังนั้นประสิทธิภาพของเงินทุนจึงขึ้นอยู่กับว่าคำนวณ อรรถประโยชน์ส่วนเพิ่มต่อดอลลาร์ และ ความใหม่ของข้อมูล ได้แม่นยำเพียงใด มากกว่าปริมาณการเก็บรวบรวมทั้งหมด
• เมื่อข้อมูลเพิ่มขึ้น loss จะลดลงตามกฎกำลัง แต่ ความหลากหลาย จะเปลี่ยนทั้งขอบเขตของการทำให้เป็นทั่วไปและค่าขอบล่างของข้อผิดพลาด ขณะที่ข้อมูลซ้ำและข้อมูลเกือบซ้ำจะอิ่มตัวอย่างรวดเร็ว ในทางกลับกัน กรณีล้มเหลว OOD ที่พบได้ยากกลับให้ประโยชน์สูงมาก
• ข้อมูลจากการใช้งานจริงในการผลิตเป็นไปตาม เส้นโค้งผลผลิตลดลงของบ่อน้ำมัน ที่ค่อย ๆ เปลี่ยนจากความล้มเหลวเอนโทรปีสูงในช่วงแรกไปสู่ความสำเร็จในชีวิตประจำวันและข้อมูลเกือบซ้ำ ดังนั้นแทนที่จะเพิ่มเวลาการปฏิบัติงาน ควรคัดเลือกส่วนหางของความล้มเหลว
• งานหุ่นยนต์ในระยะแรกจำเป็นต้องจำกัดความแปรปรวนของสภาพแวดล้อมเพื่อให้มีความคุ้มค่าเชิงพาณิชย์ จึงทำให้มิติภายในและความสามารถในการถ่ายโอนต่ำลง และ วงล้อการผลิต ที่หวังจะใช้รายได้จากการใช้งานมาปรับปรุงโมเดลทั่วไปก็ทำงานได้ยาก หากไม่มีขอบเขตการสังเกตจากภายนอกและความหลากหลายของการแทรกแซง
• งบประมาณข้อมูลควรถูกจัดสรรโดยใช้ข้อมูลการสังเกตราคาต่ำเพื่อขยายขอบเขต เก็บข้อมูลการควบคุมทางไกลที่มีต้นทุนสูงเพียงถึงจุดอิ่มตัวของแต่ละงาน และใน telemetry จากการใช้งานจริงให้ คัดเฉพาะความล้มเหลวแบบ OOD

---

Physical AI ที่ตั้งราคาปริมาณข้อมูลผิดพลาด

• ในปี 2002 Oakland Athletics คว้าชัย 103 เกมด้วยยอดรวมเงินเดือนต่ำเป็นอันดับสามใน MLB โดยอาศัยการหา เปอร์เซ็นต์การขึ้นเบส ที่สัมพันธ์กับการทำคะแนนจริง แทนความงามเชิงอัตวิสัย การขโมยเบส หรือค่าเฉลี่ยการตี แล้วใช้ประโยชน์จากราคานักกีฬาที่ตลาดตั้งผิด
• ใน Physical AI เอง ชั่วโมงการปฏิบัติงานสะสมก็ได้รับความสำคัญเพราะเป็นตัวชี้วัดที่มองเห็นง่ายและลงทุนง่าย แต่ความสัมพันธ์กับประสิทธิภาพของโมเดลระดับล่างจริง ๆ นั้นอ่อนมาก
• ข้อมูลหุ่นยนต์ไม่สามารถขุดจากคอร์ปัสเดิมแบบข้อมูลข้อความได้ และต้องจ่ายต้นทุนสำหรับข้อมูลที่มีประโยชน์ทุกหนึ่งชั่วโมง ทำให้ทั้งปริมาณการเก็บและต้นทุนเพิ่มขึ้นแบบเส้นตรง
  • Ken Goldberg ประเมินว่าโมเดลหุ่นยนต์แนวหน้าระดับสูงอาจต้องใช้ข้อมูลราว 100,000 ปี
  • วิธีจัดหาข้อมูลกำกับดูแลที่จำเป็นต่อ AGI ด้วยโครงสร้างพื้นฐานการควบคุมทางไกลแบบใช้แรงงานคนขนาดใหญ่เพียงอย่างเดียวไม่ยั่งยืน
• แม้แต่แนวทางนำหุ่นยนต์ไปวางในหน้างานการผลิตแล้วเก็บ telemetry เป็นผลพลอยได้จากรายได้การปฏิบัติงาน ก็อาจเกิดข้อผิดพลาดทางสถิติแบบเดียวกันได้
  • งานเฉพาะทางที่สามารถนำไปใช้งานได้ในปัจจุบันคือพื้นที่ที่มีความแปรปรวนต่ำที่สุด
  • ข้อมูลที่เกิดขึ้นจากที่นั่นมีเอนโทรปีต่ำและมีความสัมพันธ์ต่อกันสูง ทำให้ อรรถประโยชน์ส่วนเพิ่ม ต่ำ
• ตัวชี้วัดที่เทียบได้กับเปอร์เซ็นต์การขึ้นเบสของ Physical AI คือ ปริมาณการลด loss ส่วนเพิ่มต่อดอลลาร์ ที่สะท้อนทั้งกฎการสเกลและต้นทุนต่อหน่วยของการได้มาซึ่งข้อมูล

ผลประโยชน์ที่ขับเคลื่อนห่วงโซ่อุปทานข้อมูล

• ผู้เล่นแต่ละฝ่ายต่างมีมุมมองต่อข้อมูลที่ทำให้พื้นที่ธุรกิจของตนดูมีคุณค่าที่สุด
  • ห้องวิจัย foundation model ขายขนาดของโมเดลทั่วไป จึงมองว่าการ pretraining ขนาดใหญ่และการเพิ่มปริมาณการคำนวณจะช่วยลบข้อผิดพลาดใน edge case ได้
  • บริษัทรับจ้างควบคุมทางไกลมีรายได้เพิ่มตามชั่วโมงปฏิบัติงาน มากกว่าตามอรรถประโยชน์หรือความใหม่ของข้อมูล จึงให้ความสำคัญกับปริมาณข้อมูลดิบก่อน
  • ผู้ผลิตฮาร์ดแวร์ดั้งเดิมตั้งสมมติฐานว่าสภาพแวดล้อมเป็นปกติและเสถียร เพราะโซลูชันมักล้มเหลวในสภาพแวดล้อมนอกการกระจาย
  • นักวิจัยหุ่นยนต์สายวิชาการจำนวนไม่น้อยมองว่าสามารถปิดช่องว่างได้ด้วยฟิสิกส์ โมเดล และการควบคุม มากกว่าด้วยข้อมูล
• neo-integrator พยายามหลีกเลี่ยงคอขวดการเก็บข้อมูลด้วยการนำหุ่นยนต์เฉพาะทางไปใช้ในการผลิตเชิงพาณิชย์ และใช้การแทรกแซงของมนุษย์จัดการความล้มเหลว
  • Evan Beard เสนอวงล้อเศรษฐกิจที่ telemetry จากการผลิตจะสร้างความใหม่ที่จำเป็นต่อความสามารถแบบหลายงาน
  • Kyle Vedder โต้แย้งว่าสภาพแวดล้อมที่ยินดีจ่ายเงินเพื่อการนำหุ่นยนต์ระยะแรกไปใช้นั้นมีความผันผวนต่ำโดยเนื้อแท้ จึงเกิด ข้อจำกัดของปั๊มความใหม่ (novelty pump)
• กลยุทธ์ใดสร้างความสามารถของโมเดลต่อดอลลาร์ได้สูงที่สุด ต้องตัดสินโดยเปรียบเทียบทั้ง กฎการสเกลเชิงประจักษ์ และ unit economics ของการได้มาซึ่งข้อมูลร่วมกัน

ข้อมูลสามประเภทที่แบ่งตามต้นทุนและรูปแบบการกำกับดูแล

• ข้อมูลการสังเกต มีต้นทุนต่ำและขอบเขตกว้าง เช่น วิดีโอมุมมองบุคคลที่หนึ่งและบุคคลที่สาม ช่วยขยายช่วงรองรับของปริภูมิการแทนค่า แต่ไม่ได้ให้การกำกับการกระทำโดยตรง
• ข้อมูลการแทรกแซง เช่น ตัวอย่างการควบคุมทางไกล มีต้นทุนสูงและขอบเขตแคบกว่า แต่บรรจุวิถีสถานะ-การกระทำไว้อย่างชัดเจน และต้นทุนเพิ่มขึ้นตามปริมาณแรงงานมนุษย์
• ข้อมูลจากการใช้งานจริง คือ telemetry ดิบที่เกิดขึ้นภายในจากระบบการผลิต
  • บางครั้งการปฏิบัติงานเองก็อาจขาดทุน
  • การกระจายของข้อมูลถูกกำหนดโดยเงื่อนไขการดำเนินงานเชิงพาณิชย์ ไม่ใช่โดยการออกแบบอัลกอริทึม
• การเพิ่มข้อมูลให้มากที่สุดอาจเพิ่มสัญญาณรบกวนเอนโทรปีต่ำและลดประสิทธิภาพการเรียนรู้ได้
  • ใน ชุดข้อมูล C4 ของ language model เมื่อกำจัดข้อความสูตรสำเร็จและข้อมูลเกือบซ้ำ แล้วเพิ่มช่วงของโทเค็นที่เป็นเอกลักษณ์ภายใต้งบประมาณคงที่ โมเดลกลับดีขึ้น
• pipeline ข้อมูลคือ ปัญหาการจัดสรรเงินทุน ว่าในข้อมูลแต่ละประเภท เงิน 1 ดอลลาร์ซื้ออะไรได้บ้าง ข้อมูลใหม่เกิดขึ้นที่ไหน และข้อมูลจากการใช้งานจริงสามารถขยายขอบเขตของงานได้หรือไม่

อรรถประโยชน์ของข้อมูลในมุมกฎการสเกล

• ปริมาณข้อมูลกับการลดลงของ loss

  • เมื่อข้อมูล ขนาดโมเดล และปริมาณการคำนวณเพิ่มขึ้น test loss จะลดลงเป็นเส้นตรงบนกราฟ log-log ตาม กฎกำลัง แต่ขนาดการลดลงจะค่อย ๆ น้อยลงและสุดท้ายไปถึงค่าขอบล่าง

  • รูปแบบรวมจาก Kaplan 2020 และ Hoffmann 2022 สำหรับขนาดโมเดล (N) และจำนวนโทเค็น (D) เป็นดังนี้

    [ L(N,D)=E+A N^{-\alpha}+B D^{-\beta} ]

  • ในการจัดสรรที่เหมาะสมต่อปริมาณการคำนวณ จะยุบเหลือเป็นซองห่อหนึ่งมิติตามข้อมูล

    [ L^{*}(D)=E+\tilde B D^{-\beta} ]

• (E) คือความไม่แน่นอนของการคาดการณ์ที่โมเดลไม่สามารถกำจัดได้ และแม้รูปแบบของฟังก์ชันจะสอดคล้องกัน แต่ค่าตัวเลขเป็นเพียงค่าประมาณดังที่ Besiroglu 2024 กล่าวไว้

• ความหลากหลายและมิติเชิงใน

  • การผสมข้อมูลที่หลากหลายก่อให้เกิดผลสองอย่างพร้อมกันโดยไม่ขึ้นกับปริมาณข้อมูล
    • ลด ขอบล่างของความผิดพลาด แบบลู่เข้า ผ่านการถ่ายโอนข้ามโดเมนและการขยายขอบเขตของแมนิโฟลด์
    • เพิ่มมิติเชิงในของชุดข้อมูล (d_{\text{int}})
  • ในช่วงที่ข้อจำกัดของความละเอียดเป็นตัวกำหนดเป้าหมายแบบเรียบ ความสัมพันธ์ (\beta \approx 4/d_{\text{int}}) เป็นจริงตาม Sharma & Kaplan 2020 และ Bahri 2021
  • หากลดมิติเชิงในของงานลงครึ่งหนึ่ง เลขชี้กำลังของสเกลจะเพิ่มขึ้นประมาณสองเท่า ทำให้ loss ลดลงได้เร็วขึ้น
  • แต่ก็อาจลู่เข้าสู่จุดเหมาะที่สุดที่ด้อยกว่าและไม่สามารถทำให้ทั่วไปได้ จึงไม่ควรลดมิติเชิงในของการกระจายข้อมูล pretraining ลงแบบฝืนธรรมชาติ
  • กฎการผสมข้อมูลของ Ye et al. 2024 แยก loss ของการผสมออกเป็นกฎกำลังรายโดเมนและพจน์ coupling ระหว่างโดเมน โดยพจน์ coupling เป็นตัวกำหนดทั้งการถ่ายโอนเชิงบวกและการรบกวนเชิงลบ

• ความอิ่มตัวของการทำซ้ำและประสิทธิภาพที่ลดลง

  • ข้อมูลที่ทำซ้ำมีประสิทธิภาพใกล้เคียงกับโทเค็นใหม่จนถึงราว 4 epoch แต่หลังจากนั้นประโยชน์จะลดลงอย่างรวดเร็วและท้ายที่สุดทำให้ความสามารถถดถอย
  • Muennighoff et al. 2023 ฟิตรูปแบบอิ่มตัวแบบเอ็กซ์โพเนนเชียลที่มีครึ่งชีวิต (R^{*}\approx15)
  • การทำซ้ำ 4 รอบแทบไม่มี loss
  • ตั้งแต่การทำซ้ำ 16 รอบขึ้นไป จะเข้าสู่ช่วงผลตอบแทนลดลงอย่างชัดเจนที่การคำนวณเพิ่มไม่สร้างข้อมูลใหม่อีกต่อไป
  • เมื่อจำนวนตัวอย่างที่ไม่ซ้ำคือ (U) และจำนวนครั้งที่ทำซ้ำคือ (r=T/U) ขนาดข้อมูลเชิงประสิทธิผลคือ (D_{\text{eff}}=U\cdot f(r)) โดย (f(r)) อิ่มตัวแบบเอ็กซ์โพเนนเชียล
  • ตาม Hernandez et al. 2022 หากทำซ้ำข้อมูลเพียงส่วนแคบ ๆ มากเกินไป จะเกิด local double descent ใน test loss และทำให้ induction head กับ copying head ที่จำเป็นต่อ in-context learning เสียหาย
  • เมื่อทำซ้ำ 0.1% ของคอร์ปัสทั้งหมด 100 รอบ ประสิทธิภาพงานย่อยของโมเดลขนาด 800 ล้านพารามิเตอร์ลดลงไปอยู่ในระดับของโมเดล 400 ล้านพารามิเตอร์

• ความซ้ำใกล้เคียงและความอิ่มตัวเฉพาะที่

  • ความซ้ำใกล้เคียงมีประโยชน์ต่อเนื่องอยู่ระหว่างการทำซ้ำแบบสมบูรณ์กับตัวอย่างใหม่ทั้งหมด
  • Lee et al. 2021 พบกรณีที่ประโยคเดียวกันปรากฏใน C4 มากกว่า 60,000 ครั้ง
  • การลบข้อมูลซ้ำช่วยลดการท่องจำแบบคำต่อคำ และเร่งการลู่เข้าโดยจัดสรรงบโทเค็นไปยังแมนิโฟลด์ที่ต่างกัน
  • การเปลี่ยนแปลงขนาดเล็ก (\varepsilon) ทำให้ (x) และ (x+\varepsilon) ถูกแมปไปยังเป้าหมายเดียวกัน จึงทำหน้าที่เป็นการทำ consistency regularization แบบแฝง
    • การเปลี่ยนแปลงที่เล็กมากมีประโยชน์ต่ำ
    • การเปลี่ยนแปลงขนาดปานกลางมีประโยชน์ต่อ regularization
    • เมื่อการเปลี่ยนแปลงมากพอ ก็จะกลายเป็นข้อมูลคนละชุด
  • หากสุ่มตัวอย่างเพื่อนบ้านแคบ ๆ อย่างหนาแน่น ความจุเฉพาะที่ จะอิ่มตัวอย่างรวดเร็วและทำลายประสิทธิภาพของโมเดล

• เหตุการณ์หายากและหางยาว

  • เหตุการณ์ OOD ที่หายากประกอบเป็นหางของความล้มเหลวที่จำกัดประสิทธิภาพของโมเดลตรงขีดจำกัดของการสเกล จึงมีอรรถประโยชน์ส่วนเพิ่มสูง
  • การกระจายทางกายภาพจริงมีลักษณะหางยาว และตาม Michaud et al. 2023 ความสามารถระดับมหภาคเกิดขึ้นจากการค่อย ๆ ได้มาซึ่งทักษะย่อยตามลำดับความถี่ที่เป็นไปตามการกระจายแบบ Zipf
  • ตาม Feldman 2020 การจะไปถึงความแม่นยำระดับแนวหน้า จำเป็นต้องเรียนรู้กลุ่มย่อยหายากที่กินสัดส่วนมากในความหนาแน่นการปฏิบัติงานทั้งหมด
  • Sorscher et al. 2022 แสดงให้เห็นว่าการคัดเลือกตัวอย่างที่ยากและมีความถี่ต่ำสามารถเลี่ยงข้อจำกัดของกฎกำลังทั่วไปได้
  • edge case ที่เกิดจากความน่าจะเป็นของโลกจริงยากต่อการสร้างซ้ำด้วยการสังเคราะห์ข้อมูลหรือการจัดฉากแบบมีโครงสร้าง
  • ยิ่งการกระจายที่รู้จักกว้างขึ้น ความแปรผันใหม่ที่เหลืออยู่จะยิ่งหายากแบบยกกำลัง ทำให้ต้นทุนในการค้นหาพุ่งสูงขึ้น

เศรษฐศาสตร์ของอรรถประโยชน์ส่วนเพิ่มต่อดอลลาร์

• loss รายงานและการจัดสรรทุน

  • ใน language model ข้อจำกัดคือ compute และข้อมูลมีอยู่มาก แต่ใน robotics ข้อจำกัดโดยตรงคือ ต้นทุนการได้มา ของข้อมูลที่มีประโยชน์

  • เป้าหมายความสามารถโดยรวมถูกจำลองเป็นการรวมกันของคลัสเตอร์งาน (j) ที่มีค่าน้ำหนักล่วงหน้า (\pi_j) โดย loss ของแต่ละคลัสเตอร์มีรูปดังนี้

    [ L_j=A_j(\phi)+B_j(\phi)D_j^{-\beta_j} ]

  • (A_j(\phi)) คือขอบล่างภายใต้การกำหนดค่าเซนเซอร์ (\phi), (D_j) คือปริมาณข้อมูล, และ (\beta_j\approx4/d_j) คือเลขชี้กำลังตามมิติเชิงใน (d_j)

  • เพื่อจัดสรรทุนจำกัดอย่างเหมาะสม ต้องใช้จ่ายให้ มูลค่าส่วนเพิ่มต่อดอลลาร์ ของทุกช่องทางเก็บรวบรวมและคัดกรองเท่ากัน

  • ช่องทาง intervention มีพรีเมียมจากการกำกับพฤติกรรมโดยตรง แต่ปริมาณข้อมูลอิ่มตัวเร็ว ดังนั้นคุณค่าทางเศรษฐกิจหลักจึงเกิดจากการถ่ายโอนทักษะข้ามงาน

  • ให้ต้นทุนของช่องทาง (i) เป็น (c_i), ฟังก์ชันอิ่มตัวเป็น (g_i(n_i)), และการฉายผลการถ่ายโอนไปยังงาน (j) เป็น (w_{ij})

  • เมื่อปริมาณการเก็บเพิ่มขึ้นจน (g_i'(n_i)) เล็กลง อรรถประโยชน์ต่อดอลลาร์ก็ลดลงด้วย

  • ช่องทาง observation ช่วยปรับปรุง representation space โดยไม่ต้องมี label พฤติกรรม และส่งผลต่อทั้งขอบล่างของความผิดพลาด (A_j) และสัมประสิทธิ์การสเกล (B_j)

• ขอบล่างของความผิดพลาดที่เซนเซอร์เป็นตัวกำหนด

  • ความผิดพลาดเชิงสุ่มไม่ใช่ค่าคงที่ตายตัวแบบสัมบูรณ์ แต่สัมพันธ์กับสถานะข้อมูลที่เซนเซอร์ของหุ่นยนต์ตัวหนึ่งสังเกตได้

  • ขอบล่างของงาน (j) ภายใต้การกำหนดค่าเซนเซอร์ (\phi) สามารถเขียนเป็นเอนโทรปีมีเงื่อนไข (A_j(\phi)=E[H[a|s_\phi]])

    [ A_j(\phi)=A_j^{\min}+\left(A_j(\phi)-A_j^{\min}\right) ]

  • (A_j^{\min}) คือขีดจำกัดทางกายภาพที่ไม่สามารถกำจัดได้ด้วยเซนเซอร์ใด ๆ ส่วนที่เหลือคือส่วนที่ลดลงได้ด้วยการรับรู้ที่ดีกว่า

  • ความแปรผันของสภาพแวดล้อมที่เซนเซอร์ความละเอียดต่ำแยกไม่ออกจะปรากฏต่อโมเดลเป็น สัญญาณรบกวนเชิงบังเอิญ แต่เซนเซอร์ความละเอียดสูงจะเปลี่ยนมันให้เป็นความคลาดเคลื่อนเชิงญาณวิทยาที่เรียนรู้ได้

  • ข้อมูลพฤติกรรมทำให้ loss เข้าใกล้ (A_j(\phi)) ขณะที่เซนเซอร์ที่ดีกว่าจะลด (A_j(\phi)) ลงโดยตรง

  • สำหรับ loss จุดคุ้มทุนของงาน (L_{\text{neutral}}) ต้องมี (A_j(\phi)\ll L_{\text{neutral}}) จึงจะนำไปใช้งานได้

  • หากแม้ภายใต้การรับรู้ที่ดีที่สุดแล้ว (A_j^{\min}\ge L_{\text{neutral}}) การเพิ่มปริมาณข้อมูลก็ไม่ช่วยอะไร

  • ในกรณีนี้ ต้องเปลี่ยนการกำหนดค่าฮาร์ดแวร์หรือเลือกงานปฏิบัติการอื่น

เส้นโค้งการหักลบของข้อมูล deployment และกับดักการลู่เข้า

• telemetry จากการใช้งานจริงร่อยหรอเหมือนบ่อน้ำมัน

  • ในช่วงต้นของการใช้งานจริงจะเกิด failure mode ที่มีเอนโทรปีสูง แต่เมื่อแก้ความผิดปกติไปเรื่อย ๆ ข้อมูลจะเปลี่ยนเป็นความซ้ำใกล้เคียงและการทำซ้ำ ทำให้อรรถประโยชน์ลดฮวบ

  • อรรถประโยชน์เชิงประสิทธิผลของการกระจายเฉพาะที่อิ่มตัวแบบเอ็กซ์โพเนนเชียล เช่น (U_{\text{eff}}(n)=U_0+\Delta U(1-e^{-n/n_c}))

  • เมื่อเกินจุดอิ่มตัวหรือ covering number (n_c) สตรีมจากการใช้งานจริงจะลู่เข้าเป็นข้อมูลซ้ำที่มีประโยชน์ต่ำ

  • มูลค่าสูงกระจุกอยู่ที่ หางของความล้มเหลว ขณะที่ความสำเร็จในชีวิตประจำวันไม่มีอรรถประโยชน์ส่วนเพิ่ม

  • ต้นทุนสุทธิของข้อมูล deployment ขึ้นอยู่กับอัตราความผิดพลาด ต้นทุนการแทรกแซงและการสูญเสีย throughput และมูลค่าของงานที่ทำสำเร็จ

    [ c_{\text{dep}}(L)=\rho(L)(\kappa_{\text{int}}+\kappa_{\text{prod}})-\nu ]

• ก่อนถึงจุดคุ้มทุนที่ (c_{\text{dep}}\approx0) การเก็บข้อมูลเป็นภาวะขาดทุน ดังนั้นในการ deploy ช่วงแรกต้องอัดฉีดเงินทุนภายนอกในฐานะ สินทรัพย์ R&D ไม่ใช่รายได้จากการดำเนินงาน

  • โดยทั่วไปมักมองว่าเริ่ม deploy พร้อมการแทรกแซงที่ประสิทธิภาพ 95% และเริ่มทำกำไรได้ที่ 99.5% แต่ข้อมูลที่ต้องใช้จาก (L_{\text{start}}) ไปถึง (L_{\text{neutral}}) อาจเพิ่มขึ้นหลายลำดับขั้นตามกฎกำลัง
  • หากเป้าหมายคุ้มทุนเข้าใกล้ขอบล่างของความคลาดเคลื่อนจน (\Delta_{\text{safe}}=L_{\text{neutral}}-A_j(\phi)\to0) ข้อมูลและต้นทุนที่ต้องใช้จะพุ่งขึ้นแบบเหนือเชิงเส้น
  • งานที่ (L_{\text{neutral}}\approx A_j(\phi)) จะกลายเป็น หลุมดูดเงินทุน
  • ก่อนขยายขนาดการ deploy ต้องปรับปรุงขอบเขตข้อมูลและการรับรู้จากเซนเซอร์ก่อน

• การปะทะกันระหว่างการลู่เข้าทางการค้าและการทำให้เป็นแบบทั่วไป

  • หากจะ deploy foundation model ที่ยังไม่เหมาะที่สุดในเชิงพาณิชย์ ต้องจำกัดความแปรปรวนของสภาพแวดล้อมแบบประดิษฐ์เพื่อลดมิติภายในของงาน
  • ค่า (d_j) ที่ต่ำทำให้ (\beta_j) สูงขึ้นและเร่งความเร็วในการลู่เข้า แต่จะลู่เข้าไปยังแมนิโฟลด์ที่แคบและถ่ายโอนไม่ได้
  • ข้อมูลเอนโทรปีต่ำและมีสหสัมพันธ์ที่ได้จาก operating cell แบบมีโครงสร้าง ไม่สามารถขยายขอบเขตการทำให้เป็นแบบทั่วไปของโมเดลทั่วไปได้ จึงผูกระบบไว้กับช่องตลาดเฉพาะเริ่มต้น
  • งานย่อยที่กระจัดกระจายและมีความผันผวนต่ำแต่ละงานก่อให้เกิดต้นทุน non-recurring engineering (NRE) และหากต้องการมาร์จินแบบซอฟต์แวร์ ต้นทุนการรวมระบบส่วนเพิ่มของงานใหม่ที่เพิ่มเข้ามาทีละงานต้องเข้าใกล้ศูนย์
  • อคติของข้อมูลสองแบบสร้างข้อจำกัดคนละชนิด
    • staging bias: ข้อมูลจากการแทรกแซงมีความหนาแน่นของพฤติกรรมสูง แต่ถูกจัดโครงสร้างแบบประดิษฐ์เหมือนในซิมูเลชันหรือห้องแล็บ จึงจับหางความล้มเหลวเชิงสุ่มของสภาพแวดล้อมจริงทางกายภาพไม่ได้
    • distribution bias: ข้อมูลจากการ deploy มาจากสภาพแวดล้อมจริง แต่เพื่อความอยู่รอดทางการค้าจึงถูกจำกัดไว้ในช่องตลาดความผันผวนต่ำ ทำให้สุ่มตัวอย่างส่วนผสมของการกระจายที่บิดเบือน
  • กลยุทธ์ขยายต่อเนื่องจากงานแคบไปสู่งานกว้างจะคุ้มค่าเชิงเศรษฐศาสตร์ก็ต่อเมื่ออัตราการเพิ่มขึ้นของงานที่ deploy ได้ เร็วกว่าการขาดดุล NRE สะสม
  • การขยายนี้ทำได้ยากหากอาศัยเพียงข้อมูลจากการ deploy ในช่องตลาดเชิงพาณิชย์ ดังนั้นจึงต้องมีการป้อน ขอบเขตการสังเกต จากภายนอกเพื่อลดขอบล่างของความคลาดเคลื่อน และเพิ่มความหลากหลายของการแทรกแซงเพื่อขยายขอบเขตการทำให้เป็นแบบทั่วไป จึงจะทำให้ production flywheel หมุนได้

ตัวชี้วัดความหนาแน่นของข้อมูลที่ใช้แทนเวลาปฏิบัติการ

• ต้นทุนการรวมระบบส่วนเพิ่มรายงาน ใช้การทำบัญชีโครงการเพื่อติดตามต้นทุน NRE ที่เกิดขึ้นกับแต่ละงานใหม่
  • หากต้นทุนไม่ลดลงแม้พอร์ตงานจะใหญ่ขึ้น แสดงว่าชั้นโมเดลยังสะสม representation ข้ามงานไม่ได้
  • โครงสร้างธุรกิจก็ใกล้เคียงการรวมระบบเชิงเส้นมากกว่าซอฟต์แวร์ที่ขยายได้
• จุดอิ่มตัวรายงาน (n_c) ใช้หาจุดที่เส้นโค้งการเรียนรู้ของแต่ละงานและสภาพแวดล้อมเริ่มแบนราบ
  • หากหยุดเก็บข้อมูลที่จุดนี้ จะลดการสูญเสียงบประมาณ teleoperation แบบแมนนวลได้มาก
• อัตราการเปลี่ยนแปลงของการกระจาย (v_j) ติดตามความถี่ที่อินพุต OOD เกิดขึ้นและความถี่ในการฝึกใหม่
  • เนื่องจากการกระจายเป้าหมายที่ไม่อยู่นิ่งยังคงสร้างโหมดความล้มเหลวใหม่อยู่เสมอ telemetry จากการ deploy อย่างต่อเนื่องจึงเป็นเงื่อนไขการปฏิบัติการเดียวที่รักษาความได้เปรียบด้านข้อมูลไว้ได้
• ขอบเขตของคลัสเตอร์ วัดจำนวนคลัสเตอร์ของงาน วัตถุ และสภาพแวดล้อมที่ตั้งฉากกันใน data embedding มาตรฐาน แทนการนับจำนวน episode ดิบ
  • การขยายตัวของคลัสเตอร์ตามเวลาเป็นตัวชี้วัดแทนของการทำให้เป็นแบบทั่วไปข้ามโดเมน
• ความหนาแน่นของความใหม่ของข้อมูล ประเมินความหนาแน่นของข้อมูลในสตรีมที่ไหลเข้าด้วย active learning heuristic เช่น ensemble disagreement หรือ predictive variance ของสถานะที่บันทึกไว้
  • กรองความสำเร็จแบบกิจวัตรที่มีเอนโทรปีต่ำออก และให้ความสำคัญกับหางความล้มเหลวที่มีประโยชน์สูงก่อน
• ขอบล่างของความคลาดเคลื่อนแบบบังเอิญ (A_j(\phi)) ที่เป็นตัวตัดสินความเป็นไปได้นั้นวัดโดยตรงไม่ได้
  • อาจประมาณค่าแอสซิมป์โทต (E) ได้ด้วยการฟิต (L(D)=E+BD^{-\beta}) แต่ความคลาดเคลื่อนของการประมาณสูงเกินกว่าจะใช้เป็นตัวชี้วัดการปฏิบัติการโดยตรงได้

ระบบนิเวศหุ่นยนต์ที่จำแนกตามกลยุทธ์ข้อมูล

• ห้องแล็บที่ให้โมเดลมาก่อน จะคัดเลือกและทำความสะอาด observation corpus ขนาดใหญ่จากหุ่นยนต์หลายรูปแบบเพื่อทำ pretraining และพยายามสร้างการทำให้เป็นแบบทั่วไปแบบสะสมภายในขอบเขตนี้
  • ห้องแล็บ world model เดิมพันกับการใช้โมเดลที่เรียนรู้แล้วเพื่อสร้างข้อมูลการแทรกแซงต้นทุนต่ำ
  • ทั้ง pretraining แบบสถิตและซิมูเลชันสังเคราะห์ต่างก็ไม่สามารถจำลองหางความล้มเหลวของ edge case แบบบังเอิญจากการ deploy จริงได้อย่างแม่นยำ
• ผู้เล่นแบบบูรณาการแนวดิ่ง เก็บและคัดข้อมูลด้วยตนเองบนฮาร์ดแวร์กรรมสิทธิ์
  • ข้อมูลที่จัดแนวกับฮาร์ดแวร์มีประสิทธิภาพ
  • ยกเว้นในโดเมนที่มีความผันผวนสูงโดยเนื้อแท้ เช่น การขับขี่อัตโนมัติ พวกเขามักติดกับดักวนซ้ำที่ความใหม่ไม่พอ เพราะต้องจำกัดสภาพแวดล้อมให้มีความผันผวนต่ำเพื่อรักษาความเป็นเชิงพาณิชย์
• neo-integrator มีฐานการดำเนินงานแบบตื้นแต่กว้างในสภาพแวดล้อมอุตสาหกรรมหลากหลาย จึงอยู่ในตำแหน่งที่ดีต่อการได้มาซึ่งความหลากหลายของงาน
  • โมเดลธุรกิจที่มองสิ่งนี้เป็นเพียงพื้นที่ปฏิบัติการที่เก็บเงินได้ แทนที่จะเป็นสภาพแวดล้อมข้อมูลที่ควรขัดเกลาอย่างจริงจัง ถือเป็นความผิดพลาดเชิงกลยุทธ์
• ผู้ให้บริการ teleoperation ขายเวลาปฏิบัติการ จึงมีแรงจูงใจให้เพิ่มปริมาณข้อมูลดิบสูงสุดมากกว่าขอบเขตตัวอย่างที่มีเอกลักษณ์
  • พวกเขาสร้างข้อมูลต่อไปแม้เกินจุดอิ่มตัวรายงาน (n_c) แล้ว และแม้จะให้เครื่องมือโครงสร้างพื้นฐานที่สร้างรายได้เฉพาะจุดได้ แต่ก็ไม่สร้างความได้เปรียบด้านการสเกล
• ผู้ผลิตฮาร์ดแวร์ดั้งเดิม ปกป้องตลาดกำไรสูงที่มีความผันผวนต่ำซึ่งออกแบบมาสำหรับการเล่นซ้ำการทำงานแบบกำหนดแน่นอน
  • แทบไม่เก็บข้อมูลสำหรับการเรียนรู้เลย จึงไม่มีเส้นทางในการไต่ขึ้นไปตามเส้นโค้งการสเกล
• ความสามารถที่หายากที่สุดใน Physical AI คือ การระบุและจับความใหม่ของข้อมูล และมูลค่าจะสะสมอยู่กับทีมปฏิบัติการที่คัดแยกความแปรผัน OOD ได้ โดยไม่ขึ้นกับเส้นแบ่งองค์กรแบบเดิมระหว่างงานวิจัยกับวิศวกรรมฮาร์ดแวร์

ความแตกต่างระหว่าง Physical AI กับแอปพลิเคชัน LLM

• แอปพลิเคชันซอฟต์แวร์อย่าง Cursor และ Harvey สามารถยืม foundation model ในระดับโทเค็นมาใช้ แต่ยังคงจับมูลค่าทางเศรษฐกิจได้ผ่านการรวมเข้ากับเวิร์กโฟลว์และการกระจายแบบกรรมสิทธิ์
• การจับมูลค่าทางเศรษฐกิจกับความสามารถของโมเดลเป็นตัวแปรคนละตัว และ Physical AI มีเงื่อนไขต่างจากแอปพลิเคชันซอฟต์แวร์ในสามแกน

• มิติของงานและความเร็วในการอิ่มตัว

  • การพัฒนาซอฟต์แวร์มีมิติภายในสูง ทำให้ feedback จากเวิร์กโฟลว์อย่างต่อเนื่องยังคงให้ประโยชน์ส่วนเพิ่มต่อไป
  • งานกายภาพอย่างการหยิบสินค้าในคลังแบบมีโครงสร้างมีมิติภายในต่ำ ทำให้สตรีมข้อมูลรายงานอิ่มตัวเร็วและเข้าสู่ช่วงผลตอบแทนลดลงอย่างรวดเร็ว

• ความไม่สมมาตรของชั้น foundation

  • แอปพลิเคชันซอฟต์แวร์ทำงานอยู่ปลายน้ำของ foundation model แบบทั่วไปที่มีขนาดใหญ่และได้รับเงินอุดหนุนมหาศาล
  • Physical AI ไม่มีชั้น foundation แบบทั่วไปที่เทียบเท่าซึ่งสามารถหยิบยืมมาใช้ได้ ดังนั้นการ deploy หุ่นยนต์ในปัจจุบันจึงต้องลดความแปรปรวนของสภาพแวดล้อมแบบประดิษฐ์เพื่อให้ดำเนินงานได้
  • การกระจายย่อยแบบเฉพาะทางที่เก็บมาได้ด้วยวิธีนี้ ไม่สามารถสร้างการทำให้เป็นแบบทั่วไปที่กว้างขึ้นได้

• ต้นทุน telemetry และมาร์จิน

  • ซอฟต์แวร์สามารถสังเกตลูปการปฏิบัติการทั้งหมดได้อย่างครบถ้วนและต้นทุนต่ำ ไม่ว่าจะเป็นซอร์สโค้ด การแก้ไขของผู้ใช้ หรือผลการคอมไพล์
  • telemetry ทางกายภาพมีต้นทุนเก็บสูง และยังมีส่วนที่สังเกตไม่ได้โดยเนื้อแท้จากข้อจำกัดของความละเอียดเซนเซอร์
  • หากข้อมูลการสังเกตพื้นฐานของ Physical AI ยังคงเป็นทรัพย์สินเชิงแข่งขันและผูกขาด แรงงัดจะกระจุกตัวอยู่ที่ชั้นโมเดลต้นน้ำ
  • ผู้ให้บริการโครงสร้างพื้นฐานจะรักษาอำนาจการตั้งราคาแบบผูกขาดไว้ได้ และมาร์จินของแอปพลิเคชันปลายน้ำจะถูกบีบ

วิธีจัดสรรงบประมาณข้อมูล

• ควรตัดเวลาปฏิบัติการสะสมออกจากตัวชี้วัดพื้นฐานของประสิทธิภาพโมเดล และประเมินประสิทธิภาพทางวิศวกรรมกับการสเกลผ่านต้นทุนการรวมระบบส่วนเพิ่มรายงาน เกณฑ์อิ่มตัว ขอบเขตคลัสเตอร์ของ embedding และอัตราการเปลี่ยนแปลงของการกระจาย
• ทั้งข้อมูลการแทรกแซงแบบ staging และข้อมูลการ deploy แบบแคบ ต่างก็ไม่สามารถขยาย foundation model ได้ด้วยตัวเอง
  • staging ปริมาณสูงจะอิ่มตัวเร็วในระดับขอบเขตรายงานและเข้าสู่ภาวะผลตอบแทนลดลง
  • การ deploy เชิงพาณิชย์มีความใหม่ไม่พอในช่องตลาดที่ทำกำไรได้ และก่อให้เกิดต้นทุน NRE สำหรับการจัดการข้อผิดพลาดในแต่ละสภาพแวดล้อม
• สำหรับ ขอบเขตการสังเกต ต้องจัดสรรให้ข้อมูลต้นทุนต่ำและมีความหลากหลายสูงก่อน เพื่อลดขอบล่างของความคลาดเคลื่อนแบบบังเอิญและขยายขอบเขตของความสามารถพื้นฐาน
• intervention staging ควรทำเพียงจนถึงจุดอิ่มตัวของงาน (n_c) และนำงบประมาณที่เหลือไปจัดสรรใหม่ให้กับความหลากหลายของงาน แทนการทำซ้ำงานเดิม
• ใน deployment telemetry ต้องแยก OOD edge case และโหมดความล้มเหลวออกมา และทิ้งความสำเร็จแบบกิจวัตรจำนวนมากที่ไม่มีความหนาแน่นของข้อมูล
• แม้การ deploy ช่วงแรกอาจสร้างสัญญาณที่มีประโยชน์บางส่วนได้ แต่การดำเนินงานต่อเนื่องก่อนถึงจุดคุ้มทุนคือการเผาทุน
• ประสิทธิภาพการใช้ทุนของ Physical AI ไม่ได้สเกลจากการทำปริมาณข้อมูลให้สูงสุด แต่สเกลจาก ความสามารถในการตั้งราคาความใหม่ของข้อมูลได้อย่างแม่นยำ