Apple ต้องการให้ AI ทำงานโดยตรงบนฮาร์ดแวร์ของตัวเอง ไม่ใช่บนคลาวด์

 (arstechnica.com)
12 คะแนน โดย GN⁺ 2023-12-27 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

Apple พยายามให้ AI ทำงานโดยตรงบนฮาร์ดแวร์แทนคลาวด์

  • Apple เปิดเผยแผนในการไล่ตามคู่แข่งในวงการปัญญาประดิษฐ์ ผ่านงานวิจัยล่าสุดที่เสนอวิธีรันโมเดลภาษาขนาดใหญ่บนสมาร์ตโฟน
  • งานวิจัยชื่อ "LLM in a Flash" นำเสนอแนวทางแก้ปัญหาคอขวดด้านการประมวลผลในปัจจุบัน และบุกเบิกวิธีทำ inference ของ LLM ได้อย่างมีประสิทธิภาพบนอุปกรณ์ที่มีหน่วยความจำจำกัด
  • แนวทางนี้เปิดทางให้แอปอย่าง ChatGPT ซึ่งขับเคลื่อนด้วยคลังข้อมูลขนาดใหญ่ สามารถตอบสนองต่อคำถามของผู้ใช้ หรือกล่าวคือทำการอนุมาน ได้

งานวิจัยด้าน AI ของ Apple และแนวโน้มตลาด

  • Apple แสดงความเคลื่อนไหวใหม่ในงานวิจัย AI เช่น การทำให้โมเดลสร้างภาพอย่าง Stable Diffusion สามารถทำงานบนชิปของบริษัทเองได้
  • ผู้ผลิตสมาร์ตโฟนและผู้ผลิตชิปคาดหวังว่าฟีเจอร์ AI ใหม่จะช่วยฟื้นตลาดสมาร์ตโฟน โดย Counterpoint Research คาดว่าในปี 2024 จะมีการจัดส่งสมาร์ตโฟนที่เน้น AI มากกว่า 100 ล้านเครื่อง
  • แม้ Apple จะเปิดตัว Siri ตั้งแต่ปี 2011 แต่ก็มีมุมมองว่าบริษัทค่อนข้างถูกกันออกจากกระแสความตื่นตัวด้านปัญญาประดิษฐ์ที่กวาดผ่าน Silicon Valley หลังการเปิดตัว ChatGPT ของ OpenAI

ความท้าทายทางเทคนิคและความเป็นส่วนตัว

  • การรันโมเดล AI ขนาดใหญ่ เช่น ChatGPT หรือ Bard ของ Google บนอุปกรณ์ส่วนตัวเป็นเรื่องท้าทายอย่างมากในเชิงเทคนิค เพราะสมาร์ตโฟนไม่มีทรัพยากรการประมวลผลและพลังงานมหาศาลแบบเดียวกับดาต้าเซ็นเตอร์
  • หากแก้ปัญหานี้ได้ ผู้ช่วย AI จะตอบสนองได้เร็วขึ้นกว่าการทำงานผ่านคลาวด์ และยังใช้งานแบบออฟไลน์ได้ อีกทั้งการตอบคำถามบนอุปกรณ์ส่วนตัวยังช่วยด้านความเป็นส่วนตัว เพราะไม่จำเป็นต้องส่งข้อมูลขึ้นคลาวด์

บทสรุปของงานวิจัย

  • นักวิจัยของ Apple กล่าวไว้ในบทสรุปของงานวิจัยดังนี้

    “งานของเราไม่เพียงนำเสนอทางออกต่อคอขวดของระบบคอมพิวเตอร์ในปัจจุบัน แต่ยังสร้างแบบอย่างสำหรับงานวิจัยในอนาคตด้วย เราเชื่อว่าเมื่อขนาดและความซับซ้อนของ LLM เพิ่มขึ้นอย่างต่อเนื่อง แนวทางแบบเดียวกับงานนี้จะมีความจำเป็นอย่างยิ่งต่อการปลดล็อกศักยภาพของ LLM อย่างเต็มที่บนอุปกรณ์และแอปพลิเคชันที่หลากหลาย”

ความเห็นของ GN⁺

  • งานวิจัยครั้งนี้ของ Apple เปิดความเป็นไปได้ในการมอบประสบการณ์ AI ที่เร็วขึ้นและเป็นส่วนตัวมากขึ้นให้ผู้ใช้สมาร์ตโฟน
  • เมื่อคำนึงถึงความกังวลของผู้ใช้เกี่ยวกับความเป็นส่วนตัว การประมวลผลข้อมูลบนอุปกรณ์ส่วนตัวแทนการส่งไปยังคลาวด์อาจเป็นทางเลือกที่น่าสนใจสำหรับผู้คนจำนวนมาก
  • หากเทคโนโลยีนี้ถูกนำไปใช้เชิงพาณิชย์ ผู้ใช้จะสามารถเข้าถึงความสามารถ AI ขั้นสูงได้แม้ไม่มีการเชื่อมต่ออินเทอร์เน็ต ซึ่งคาดว่าจะช่วยยกระดับการใช้งานและความสะดวกของสมาร์ตโฟนอย่างมาก

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-12-27
ความเห็นจาก Hacker News

  • การบอกว่า Apple ตามหลังในด้านปัญญาประดิษฐ์ (AI) นั้นเป็นเรื่องเหลวไหล

    • แม้ OpenAI จะได้รับความสนใจ แต่การค้นหานั้นอิงกับโฆษณาลิงก์และการขายข้อมูล จึงมีอนาคตกับ AI น้อยกว่า
    • ตอนนี้ AI "ขนาดใหญ่" ติดข้อจำกัดจากต้นทุนคลาวด์สำหรับการฝึก และผู้เล่นรายใหญ่ต่างพยายามอย่างหนักที่จะย้ายซอฟต์แวร์ลงสู่ฮาร์ดแวร์
    • OpenAI ร่วมมือกับพาร์ตเนอร์เชิงพาณิชย์ทั่วโลกและพูดถึง AGI (ปัญญาประดิษฐ์ทั่วไป) แต่สิ่งนี้ไม่ได้สมจริงไปกว่าสกุลเงินคริปโตที่จะมาแทนธนาคารกลาง
    • ขณะเดียวกัน Apple ใส่ neural processor ลงในอุปกรณ์มานานกว่า 4 ปีแล้ว และฟีเจอร์ AI ก็อยู่ในทุกแคมเปญการตลาด
    • AR ของ VisionOS เปิดพื้นที่ใหม่สำหรับยูทิลิตี้ AI โดยไม่ได้มุ่งแค่ความสนุก แต่ยังเล็งไปที่งานที่การทำงานทางไกลกลายเป็นเรื่องปกติ
    • Apple คือระบบนิเวศเดียวที่ปลอดภัยและคุ้มครองความเป็นส่วนตัวอย่างแท้จริง

  • รู้สึกยินดีที่ AI ซึ่งเป็นส่วนหนึ่งของ iOS รุ่นล่าสุดทำงานบนฮาร์ดแวร์ได้โดยตรง

    • มีการเล่าประสบการณ์ว่า Siri อธิบายเนื้อหาในภาพได้อย่างแม่นยำเมื่อได้รับข้อความระหว่างขับรถ
    • ฟีเจอร์นี้เข้ารหัสแบบต้นทางถึงปลายทาง (E2E) จึงน่าจะเป็นการระบุข้อมูลบนเครื่อง ไม่ใช่ระหว่างที่ข้อความถูกส่ง
    • สิ่งนี้น่าสนใจในฐานะอัปเดตที่ช่วยยกระดับคุณภาพ และแสดงความคาดหวังต่อการเติบโตเมื่อ AI สามารถประมวลผลบนฮาร์ดแวร์ได้มากขึ้น

  • แนะนำให้ลองใช้ Mistral 7B บนอุปกรณ์พกพา

    • มีการลองใช้แอปนั้นบน iPhone 15 และประเมินว่าประสิทธิภาพดีมาก
    • ข้อเสียคือแอปต้องใช้หน่วยความจำของโทรศัพท์เกือบทั้งหมด และถ้าสลับไปแอปอื่นแล้วกลับมา สถานะจะถูกรีเซ็ตและต้องโหลดโมเดลใหม่ตั้งแต่ต้น

  • คิดว่าในโลกปัจจุบันที่มีโทรศัพท์/อุปกรณ์ทรงพลัง การรัน AI บนอุปกรณ์คือก้าวถัดไป

    • ใช้โทรศัพท์รุ่นปี 2021 ที่มีสเปกแรง และมองว่า Apple น่าจะต้องการ offload แอป AI ที่มีต้นทุนสูงไปยังอุปกรณ์ผู้ใช้ที่ทรงพลังเหล่านี้
    • มองว่านี่เป็นชัยชนะด้านความเป็นส่วนตัวสำหรับคนที่ไม่ต้องการให้ข้อมูลส่วนตัวถูกนำไปใช้ฝึก และต้องการควบคุมว่าใช้โมเดลใดรวมถึงจริยธรรมที่โมเดลนั้นยึดถือ

  • ไลบรารี CoreML ของ Apple มีมาหลายปีแล้ว และรวมถึงโมเดล BERT

    • คาดหวังว่าจะมีการนำโมเดลทรานส์ฟอร์เมอร์ที่ก้าวหน้ากว่า BERT เข้ามาใน iOS และ iPadOS
    • iPad Pro มี RAM 16GB และสามารถรันโมเดล 13B ได้
    • หลังจากซื้อ Mac Mini 32GB ก็รู้สึกว่าในช่วง 6 สัปดาห์ที่ผ่านมา โมเดลที่รันได้พัฒนาขึ้นอย่างมาก
    • มีความคาดหวังสูงต่ออนาคต

  • น่าสนใจที่ AI อาจมีศักยภาพในการสร้างรอบการอัปเกรดสมาร์ตโฟนใหม่

    • แต่ยังไม่แน่ชัดว่าฟีเจอร์ AI จะมากพอให้การอัปเกรดคุ้มค่าจริงหรือไม่ และหากกระทบอายุแบตเตอรี่ คุณค่าที่ได้รับก็อาจไม่ได้เปลี่ยนไปมากนัก

  • มองว่าในสถานการณ์ที่ AI ก่อความเสี่ยงต่อความเป็นส่วนตัว การรันแบบ local คือวิธีที่ดีที่สุด

    • ในอนาคตอยากเพิ่มความสามารถด้านการรับรู้ด้วย AI ให้สูงขึ้น 10 เท่า ซึ่งการทำเช่นนั้นต้องมีการแลกเปลี่ยนข้อมูลกับสมองแบบเรียลไทม์
    • ไม่ต้องการเชื่อมกับการซิงก์ข้อมูลบนคลาวด์จนผู้ลงโฆษณาและหน่วยงานสอดแนมสามารถแอบดูความคิดได้

  • Apple ลดต้นทุนการเดินระบบโครงสร้างพื้นฐานเพื่อมอบตัวเลือก AI/ML ให้ผู้ใช้ iPhone

    • วิธีนี้ช่วยประหยัดค่าใช้จ่ายด้วยการกระจายภาระการคำนวณ และใช้ประโยชน์จากต้นทุนที่จ่ายไปแล้วในการผลิตอุปกรณ์
    • ข้อมูลไม่ต้องออกจากโทรศัพท์ จึงมอบความเป็นส่วนตัวให้ผู้บริโภค

  • ชวนสงสัยว่าหาก AI บนอุปกรณ์กลายเป็นกระแสหลัก บริษัทอย่าง OpenAI จะรับมืออย่างไร

    • เพราะโมเดลธุรกิจตั้งอยู่บนการเข้าถึงผ่าน API จึงอาจเริ่มขายโมเดลแบบออฟไลน์
    • แต่ถ้าเป็นเช่นนั้น ก็อาจเกิดปัญหาการละเมิดลิขสิทธิ์ได้

  • Apple แสดงเจตนาอย่างชัดเจนว่าต้องการรัน AI บนอุปกรณ์ แม้ในรุ่นล่าสุดจะจัดสรรพื้นที่บนไดสำหรับ neural engine เพิ่มขึ้นเพียงเล็กน้อย

    • มีคำอธิบายที่เป็นไปได้อยู่หลายข้อ และอยากเห็นมุมมองจากคนที่รู้เรื่องนี้ดีกว่าว่าข้อไหนจริง
    • อาจมองว่าฮาร์ดแวร์ที่มีอยู่แล้วทรงพอ หรือการใช้งาน ANE ยังไม่มากพอจะคุ้มกับทรัพยากรที่เพิ่มขึ้น
    • หรืออาจวางแผนจะทำให้การคำนวณ AI กลับไปเป็นลักษณะทั่วไปมากขึ้นผ่านสิ่งอย่าง vector operations
    • ในสถานการณ์ที่มองร้ายที่สุด อาจกำลังเก็บการเพิ่มครั้งใหญ่ไว้ใช้ตอนที่จำเป็นต้องบังคับให้ผู้ใช้ยอมอัปเกรด