เดโม “เป็ด” ของ Gemini ไม่ได้ดำเนินแบบเรียลไทม์หรือด้วยเสียง

 (twitter.com/parmy)
1 คะแนน โดย GN⁺ 2023-12-08 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • เดโม Gemini เป็ด ที่น่าประทับใจของ Google ไม่ได้ทำงานผ่านการสนทนาแบบเรียลไทม์หรือการป้อนข้อมูลด้วยเสียงตามที่วิดีโอสาธารณะชวนให้เข้าใจ
  • แทนที่จะให้โมเดลประมวลผลวิดีโอตรง ๆ โมเดลได้รับ ภาพนิ่ง ที่ดึงมาจากฉากในวิดีโอ
  • โฆษกยืนยันว่ามีการใช้พรอมป์จากมนุษย์ร่วมด้วย และ เสียงบรรยาย ในวิดีโอถูกเพิ่มเข้ามาภายหลัง
  • วิธีการทำงานจริงแตกต่างจาก ปฏิสัมพันธ์แบบเรียลไทม์·ด้วยเสียง ที่เห็นในวิดีโอสุดท้าย
  • เมื่อต้องประเมินเดโม Gemini ควรแยกให้ออกระหว่างวิดีโอที่มีการจัดฉากกับอินพุตที่ป้อนเข้าโมเดลจริง

วิธีการดำเนินเดโมเป็ดของ Gemini จริง ๆ

  • เดโม Gemini ของ Google ที่มีเป็ดปรากฏอยู่ ไม่ได้ดำเนินแบบเรียลไทม์
  • โมเดลไม่ได้ประมวลผลวิดีโอโดยตรงแบบเรียลไทม์ แต่รับ ภาพนิ่ง ที่นำมาจากฉากในวิดีโอเป็นอินพุต
  • มีการส่งพรอมป์จากมนุษย์ให้กับโมเดล และ เสียงบรรยายของพรอมป์ดังกล่าวถูกเพิ่มภายหลัง
  • วิธีดำเนินการนี้ได้รับการเปิดเผยผ่านโฆษก

ลิงก์ที่เกี่ยวข้อง

  • รายละเอียดเพิ่มเติมเชื่อมไปยังบทความ Bloomberg Opinion: bloomberg.com/opinion/articl…

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-12-08
ความคิดเห็นจาก Hacker News

  • เคยทำอะไรแบบนี้ตอนมหาวิทยาลัย
    ในคาบวิทยาการคอมพิวเตอร์ครั้งแรกได้รับ Raspberry Pi มา แล้วก็ได้โจทย์ให้สร้าง “อะไรสักอย่าง” โดยไม่มีทั้งประสบการณ์เขียนโค้ดหรือคำแนะนำใด ๆ สิ่งที่ต้องส่งไม่ใช่โค้ด แต่เป็นแค่การสาธิตว่าใช้งานได้
    พวกเรา 3 คนเลยซื้อเซ็นเซอร์ความชื้นมาต่อกับ Pi แล้วบอกว่าจะทำ ระบบตรวจจับน้ำท่วม ที่ติดตั้งไว้ใต้สะพานและส่งอีเมลถึงผู้เกี่ยวข้องก่อนน้ำท่วม
    ตอนสาธิตจริง เพื่อนอีกคนเปิด Gmail ไว้หลังห้องเตรียมส่งอีเมล “เตือนน้ำท่วม” ส่วนสคริปต์ก็แค่พิมพ์ประโยคออกมาคั่นด้วย wait เท่านั้นเอง หลังจากพิมพ์ “กำลังรอความชื้น” แล้วอีก 3 วินาทีก็ขึ้น “ตรวจพบความชื้น” ระหว่างนั้นเราก็เอาเซ็นเซอร์จุ่มลงแก้วน้ำ แล้วพอขึ้น “กำลังส่งอีเมลไปยัง xxx@yyy.com” เพื่อนด้านหลังก็กดส่ง อีเมลก็มาถึง แล้วพวกเราก็ได้คะแนนเต็ม

    • ในฝั่งระบบควบคุมอุตสาหกรรมเรียกสิ่งนี้ว่า smoke and mirrors
      บางครั้งโปรเจ็กต์ใหญ่ยังไม่พร้อม แต่ลูกค้าอยากเห็นว่ามีบางส่วนเสร็จแล้ว และก็คาดหวังให้มันดูเหมือนของเสร็จสมบูรณ์โดยไม่เข้าใจว่างาน 90% เป็นสิ่งที่ผู้ใช้มองไม่เห็น
      การตั้ง HMI หลอก ๆ ให้มีคนกดปุ่มระหว่างเดโม ขณะที่อีกคนอยู่ในห้องข้าง ๆ คอยปรับเอาต์พุตและอินพุตด้วยมือให้ดูเหมือนระบบทำงานจริง เป็นเรื่องที่พบได้ค่อนข้างบ่อย
    • ตอนเรียนเคยทำ ระบบนำทางท้องถิ่น แล้วก็ทำอะไรคล้าย ๆ กัน
      ระหว่างทางทำเครื่องรับ GPS ที่มีอยู่พังไปหมด เพราะโมเดลของโมดูล GPS แบบ RS-232 นั้นบอบบางมาก สุดท้ายเลยสาธิตระบบนำทางแบบเรียลไทม์จริง ๆ ไม่ได้ และตัวงานเองก็ยังทำไม่เสร็จดีด้วย
      ถึงอย่างนั้นเราก็ทำ GUI เสร็จ แล้วก็แกล้งทำเป็นว่า “เวลาใช้นำทางมันจะหน้าตาแบบนี้” โดยไม่ได้รันโค้ดนำทางจริง มันไม่ได้มีผลต่อเกรด แต่จนทุกวันนี้ก็ยังรู้สึกติดค้างใจอยู่บ้าง
    • เรียกได้ว่าตอนนั้นกำลังเรียนรู้ทักษะการลวงที่จำเป็นต่อ วงการเทค ในภายหลัง
    • แบบนี้ไม่ใช่การโกงเหรอ? ฟังดูเหมือนการโกง และก็ดูไม่ดีกับตัวเองพอสมควร
    • แต่พูดตามตรง อย่างน้อยก็มีแบ็กเอนด์อยู่จริงนี่นะ

  • เรื่องนี้แปลกมาก Google เป็นผู้คิดค้น Transformer ซึ่งเป็นรากฐานของโมเดลพวกนี้ทั้งหมด แต่กลับพลาดแบบนี้ซ้ำ ๆ ได้อย่างไรไม่เข้าใจ
    Google Docs ออกมาตั้งแต่ปี 2006 แต่ Microsoft กลับช่วงชิงตลาดไปกินต่อหน้า Google สร้างความสามารถย้าย VM แบบอยู่กับที่และดาต้าเซ็นเตอร์อัตโนมัติเต็มรูปแบบได้ แต่ในคลาวด์ Amazon กับ Microsoft กลับนำหน้า รถขับเคลื่อนอัตโนมัติก็ทำมานานกว่าใคร แต่ Tesla ก็ไล่ทันและอาจชนะได้ด้วยซ้ำ
    ขนาดของความพลาดนี่มหาศาลจริง ๆ

    • เดือนกันยายน 2008 เคยอยู่ที่ Microsoft และภายในมี เว็บ Office ที่สวยมากและใช้งานได้ดีอยู่แล้ว
      ชื่อมันไม่ใช่ชื่อนี้ และน่าจะไม่ใช่ SharePoint เหมือนจะเกี่ยวกับพวกค่าใช้จ่ายหรือรายงานอะไรสักอย่าง มันดีเสียจนทำให้ Google Docs ตอนนี้ยังดูน่าอายได้เลย แต่พวกเขาไม่อยากให้มันไปกินผลิตภัณฑ์ของตัวเอง
    • Google ทำอย่างอื่นนอกจากแบบนั้นไม่เป็น
      ผลิตภัณฑ์ต้องการความทุ่มเทและการขัดเกลาซ้ำ ๆ และ 10% สุดท้ายนั้นสำคัญที่สุด แต่ Google มีชื่อเสียเรื่องไม่ยอมผลักดันผลิตภัณฑ์ให้ข้ามเส้นชัย สุดท้ายก็ล้มเลิกแล้วเอาไปเพิ่มใน Google Product Graveyard
      พูดตรง ๆ ก็ไม่แน่ใจว่ามันมีประโยชน์อะไร แค่รักษาแกนหลักอย่าง Search/Ads ไว้ก็น่าจะพอ โดยไม่ต้องเผาเงินหลายพันล้านดอลลาร์กับวิศวกรราคาแพงนับหมื่นคนที่ผ่านกระบวนการสัมภาษณ์ห่วย ๆ เข้ามา
    • แม้จะน่าตกใจ แต่ก็ไม่ถึงกับเหนือความคาดหมาย Google มีชื่อเสียงเรื่อง ไร้ความสามารถด้านผลิตภัณฑ์ พอ ๆ กับชื่อเสียงด้านเทคโนโลยี
      การครองงานวิจัยพื้นฐานของ generative AI แต่กลับล้มไม่เป็นท่าในผลิตภัณฑ์สำหรับผู้บริโภค ก็เป็นแนวเดียวกับบริษัทที่เคยมี Stadia, GMail/Inbox และทำแอปแชตออกมาตั้ง 17 ตัว
    • เทคโนโลยีของ Google Docs มาจากบริษัทที่ซื้อมา และ Google ก็แค่อาศัยอำนาจผูกขาดด้านการค้นหาเพื่อทำให้มันดังขึ้น กลยุทธ์เดียวกันนี้ก็ใช้กับ YouTube
      แทบไม่มีผลิตภัณฑ์ที่ Google เปิดตัวเองแล้วดีจริงหลังจาก Gmail และแม้แต่ Gmail เองก็โตได้เพราะใช้อำนาจผูกขาดด้านการค้นหาเป็นเหมือนป้ายโฆษณาฟรี
      มีข้อมูลด้วยว่า “Google Docs เริ่มต้นจาก Writely ซึ่งเป็นโปรแกรมประมวลผลคำบนเว็บที่บริษัทซอฟต์แวร์ Upstartle เปิดตัวในเดือนสิงหาคม 2005”
    • ถึงจะพูดกันว่า Google พลาด แต่ Google ก็มี ผลิตภัณฑ์ที่มีผู้ใช้เกิน 1 พันล้านคน มากกว่าบริษัทไหนในโลก
      สิ่งที่ Google ใส่ใจมาตลอดคือการพาแอปพลิเคชันไปสู่ผู้ใช้ระดับหลายพันล้านคน
      ตอนนี้คนก็ลืมกันไปแล้วว่า Google คือบริษัท AI ที่ทำกำไรได้มากที่สุดในโลก ทุกผลิตภัณฑ์ล้วนใช้แมชชีนเลิร์นนิงและ AI
      ถ้าอย่างนั้นใครกันแน่ที่กำลังแพ้? เป้าหมายของ Gemini ไม่ใช่การทำแชตบอตแบบ ChatGPT ทั้งที่มี Bard อยู่แล้ว แต่คือการผสานเข้าไปในผลิตภัณฑ์ระดับพันล้านผู้ใช้ 10 ตัว

  • ทั้งหน้าเว็บ Gemini และคอนเทนต์ทั้งหมดให้ความรู้สึกแปลก ๆ เหมือนพยายามให้ดูและให้ความรู้สึกแบบสื่อการตลาดของ Apple แต่กลับตกลงไปใน uncanny valley
    ทั้งถ้อยคำโอ้อวด ความหลากหลายทางเชื้อชาติ/เพศที่จัดวางอย่างแม่นยำราวกับผ่าตัด แอนิเมชันที่ไม่จำเป็น ไปจนถึงการนำเสนอแบบเซลส์ของ CEO ทั้งหมดทำให้ดูเหมือนผู้เล่นรายเล็กในวงการกำลังพยายามทำตัวให้เหมือนผู้เล่นรายใหญ่

    • ตอนนี้คีย์โน้ตของ OpenAI ดูเหมือนกำลังเลียนแบบคีย์โน้ตของ Google เมื่อ 5 ปีก่อน และคีย์โน้ตของ Google ก็ดูเหมือนกำลังเลียนแบบคีย์โน้ตของ Apple เมื่อ 5 ปีก่อน
      ส่วนคีย์โน้ตของ Apple ก็ดูเหมือนหุ่นยนต์ที่เพิ่งหลุดพ้นจาก uncanny valley หมาด ๆ แล้วกำลังแสร้งทำเป็นมนุษย์ อีก 5 ปีถ้าคีย์โน้ตถูกสร้างด้วย AI ทั้งหมดก็คงออกมาหน้าตาแบบนี้ ซึ่งก็แปลว่า Apple ยังนำเทรนด์คีย์โน้ตอยู่เสมอ
    • ก็รู้สึกเหมือนกัน แม้แต่ชื่ออย่าง Ultra กับ Pro หรือการประกาศเข้าสู่ ยุค Gemini ทั้งที่ยังใช้งานอะไรไม่ได้จริง ก็ฟังดูเชย ๆ
      Google เหมือนอยากให้คนเห็นว่าตัวเองก็อยู่ในสนามเดียวกัน
    • นึกภาพพวกผู้จัดการผลิตภัณฑ์ตบหลังให้กันเองที่ติ๊ก เช็กลิสต์เพื่อโชว์ภาพลักษณ์ ครบทุกข้อ โดยไม่รู้เลยว่าภาพนั้นเองดูเหมือนงานเสียดสีเต็มรูปแบบ
    • ไม่เข้าใจว่า “ความหลากหลายทางเชื้อชาติ/เพศที่จัดวางอย่างแม่นยำราวกับผ่าตัด” หมายถึงอะไร และทำไมถึงเป็นเรื่องแย่
      เหตุผลที่การตลาดใช้ความหลากหลายก็เพราะตลาดที่ต้องการเข้าถึงนั้นมีความหลากหลายอยู่แล้ว เพียงแต่ก็ไม่ค่อยเข้าใจเหมือนกันว่าคำว่า “แม่นยำราวกับผ่าตัด” หมายถึงอะไร

  • ประเด็นอันตรายอย่างมากคือ Sundar ใส่พรอมป์ให้โมเดลพูดข้อเท็จจริงจำนวนมากที่อาจตัดสินได้ว่าจริง/เท็จ
    ถ้าดูตัวเลขเบนช์มาร์กที่เปิดเผยออกมา ส่วนใหญ่เป็นการปรับดีขึ้นเพียงเล็กน้อย ซึ่งแปลว่าปัญหา hallucination ยังไม่ได้รับการแก้ไข แต่เดโมกลับทำให้ดูเหมือนแก้ได้แล้ว สุดท้ายจึงดูเหมือนคัดเลือกกรณีที่โมเดลตอบถูกโดยบังเอิญหรือพูดข้อมูลได้อย่างสอดคล้องกันมาเป็นหลัก
    แม้จะมีการพูดเกินจริงเรื่องความสามารถ แต่ถ้าจะให้บรรจบไปสู่แนวคิดที่สอดคล้องกันเกี่ยวกับปรากฏการณ์ที่น่าจะสังเกตได้จริงในหลายรูปแบบ ก็ดูเหมือนว่าจะต้องใช้ โมเดลหลายสื่อ (multimodal model) อยู่ดี ถือเป็นความคืบหน้าที่ดี แต่จากนี้ต้องแสดงให้เห็นอย่างน่าเชื่อถือว่าโครงสร้างแบบใดแบบหนึ่งสามารถจำลองความเป็นเหตุเป็นผลได้จริง

    • แม้แต่ในวิดีโอโปรโมตของ Mark Rober[1] ก็มีฉากที่ถามว่าทำไมเครื่องบินกระดาษถึง stall พร้อมคำถามชี้นำอย่างโจ่งแจ้ง
      ประมาณว่า “คุณเชื่อไหมว่ากระเป๋าอากาศร้อนทำให้เกิดความกดอากาศต่ำจนเครื่องบิน stall?” และตัวคำถามเองก็ฟังแปลกมากจนดูเหมือนพูดออกมาได้ไม่เป็นธรรมชาติ น่าอายจริง ๆ
      [1] https://www.youtube.com/watch?v=mHZSrtl4zX0&t=277s
    • วิธี Retrieval-Augmented Generation (RAG) ไม่ได้แก้ปัญหา hallucination เรื่องนี้ไม่ใช่แค่ความเห็นของผม แต่ Yann LeCun ก็พูดแบบนั้น
      ลองใช้เองก็เข้าใจได้ไม่ยาก ด้วยธรรมชาติแบบ autoregressive ทำให้ LLM ไม่สามารถสร้างแบบจำลองภายในที่สอดคล้องกันได้ก่อนจะตอบ จะมีแนวทางอย่าง chain-of-thought อยู่ก็จริง แต่ก็เป็นเพียงมาตรการเฉพาะหน้าและแตะปัญหาแค่ผิวเผิน
    • หลังจากคำวิจารณ์เรื่อง “นกแก้วเชิงสถิติ” และ “autocomplete ที่ทรงพลังมาก” ก็เกิดคำถามขึ้นมาว่า hallucination ของ LLM นั้นแก้ได้ในระดับหลักการจริงหรือไม่
      ถ้าแก้ได้ มันก็น่าจะมีความสำคัญทางวิทยาศาสตร์แบบพื้นฐานและลึกซึ้งมาก และอาจเป็นอีกหนึ่งความก้าวหน้าเล็ก ๆ ของวงการ AI
    • LLM แบบนี้ไม่มีแนวคิดเรื่อง ความถูกต้องเชิงข้อเท็จจริง (factual accuracy) และก็ไม่ได้ถูกฝึกหรือปรับให้เหมาะกับสิ่งนั้นด้วย การที่ผู้คนคาดหวังให้มันทำตัวเหมือนบอตตอบคำถามความรู้จึงเป็นความเข้าใจผิดอย่างสิ้นเชิงเกี่ยวกับธรรมชาติของ LLM เชิงกำเนิด ซึ่งก็ดูน่าขันดี
      มันแค่พ่นลำดับเอาต์พุตที่ดูน่าเป็นไปได้มากที่สุดต่อจากลำดับอินพุตเท่านั้น การนิยามว่า “น่าเป็นไปได้มากที่สุด” คืออะไรยังเป็นหัวข้อวิจัยจำนวนมาก แต่การปรับให้เหมาะกับความถูกต้องเชิงข้อเท็จจริงนั้นเป็นอีกเรื่องหนึ่งโดยสิ้นเชิง
      ในบางกรณีอย่างโจทย์เขียนโค้ด มันอาจดูฉลาดได้ เพราะฉันทามติคร่าว ๆ ของข้อความบนอินเทอร์เน็ตสำหรับพรอมป์บางแบบค่อนข้างใกล้เคียงข้อเท็จจริง และปนเปื้อนด้วยคอนเทนต์ขยะจากคนที่ไม่เชี่ยวชาญน้อยกว่า มันยังสร้าง “คอนเทนต์” ทั่วไปแบบฟู ๆ ได้ดีด้วย แต่ผมก็ไม่รู้ว่ามันมีคุณค่าอะไร
      สุดท้ายคุณภาพของข้อมูลที่ได้กลับมาก็ไม่ได้ดีกว่าการค้นหา Google อย่างพิถีพิถัน แค่ให้คำตอบที่เร็วกว่า กระชับกว่า และจัดรูปแบบให้อ่านง่ายกว่าเท่านั้น
    • เดโมก็เป็นแบบนี้กันอยู่แล้วไม่ใช่หรือ

  • โดนหลอกเข้าเต็ม ๆ ในประกาศเปิดตัวโมเดลบอกว่าสามารถรับ อินพุตหลายสื่อ (multimodal input) ทั้งวิดีโอและเสียงได้
    ผมรู้ว่ามีการตัดต่อและคัตหลายจุด แต่ก็เชื่อว่ากำลังเห็นตัวอย่างการรับอินพุตวิดีโอและเสียงจริง ๆ การก้าวจากข้อความกับภาพนิ่งไปสู่ “ตาและหู” เป็นก้าวกระโดดครั้งใหญ่ เลยทึ่งมากจริง ๆ ยังมีช่วงที่วาดเครื่องดนตรีแล้วมีเพลงถูกสร้างขึ้นมา ทำให้คิดว่ากำลังดูโมเดลที่สร้างเพลงจาก language prompt แบบเดียวกับโมเดลเฉพาะทางต่าง ๆ
    แต่ทั้งหมดเป็นของปลอม เป็นเพียงการนำตัวอย่าง prompt engineering ที่คัดมาแล้วมาร้อยเรียงและทำให้ดราม่าเพื่อเร้าอารมณ์ผู้ถือหุ้นให้ได้มากที่สุด ตัวอย่างเพลงก็ไม่ได้สร้างเพลงที่เราได้ยินในวิดีโอด้วยซ้ำ แค่แสดงคำอธิบายเพลงออกมาเท่านั้น
    วิดีโอขายฝันแบบ “สิ่งนี้อาจเป็นไปได้” นั้นต่างจากการปั่นเบนช์มาร์กและหลอกลวงด้วยเดโม พร้อมอ้างว่าโมเดลหลายสื่อใหม่ของตัวเองดีที่สุดโดยสิ้นเชิง
    ดูเหมือน Google จะเข้าสู่ ช่วงตัวร้าย แล้ว OpenAI กับ Microsoft คงยิ้มกันเลย

    • เห็นด้วยเลย สำหรับผมส่วนตัวมองว่าทั้งสองแบบพอรับได้
      เดโมเชิงอนาคตที่โชว์ ภาพอนาคตของผลิตภัณฑ์ พร้อมบอกชัดว่ายังไปไม่ถึงแต่กำลังมุ่งหน้าไปทางนั้น หรือเดโมที่มีการเขียนสคริปต์และตัดต่อเพื่อให้ความสามารถปัจจุบันดูดีที่สุด เป็นธรรมเนียมมาตรฐานและพอรับได้
      แต่สิ่งที่ Google ทำนั้นผิดไปเลย สมควรโดนกระแสตีกลับ
    • การฉ้อโกงทางศีลธรรม และพฤติกรรมไร้จริยธรรมแบบนี้กลับถูกยอมรับไม่ว่าด้วยเหตุผลอะไร
      ดูเหมือนนักลงทุนเองก็อยากถูกหลอก ไม่มีทางตรวจสอบข้อเท็จจริงได้จริง ๆ แล้วก็ฟังคำโกหกไปพร้อมกับกรี๊ดอย่างตื่นเต้นเหมือนแฟน Taylor Swift
    • “ช่วง” งั้นเหรอ?
      บริษัทยักษ์ใหญ่พวกนี้จะโกยให้ได้มากที่สุดและนานที่สุดเท่าที่จะทำได้ น้ำเสียงเหมือนกับว่าเราทำได้แค่รอให้วันหนึ่งพวกเขาเมตตากลับเข้าสู่ “ช่วงที่ไม่เป็นตัวร้าย” แต่ความจริงคือเราต้องฟื้น การกำกับดูแลการผูกขาด (antitrust regulation) ที่ถูกรื้อถอนอย่างเป็นระบบมาตลอด 30 ปีที่ผ่านมา
    • ผมก็นึกว่าจะรับวิดีโอเป็นอินพุตได้
      เพราะข้อมูลวิดีโอมีปริมาณมหาศาล เลยคิดว่าคงดึงภาพออกมาประมาณหนึ่งเฟรมต่อวินาทีเพื่อประมวลผลเป็นภาพ แต่รับอินพุตแรกเริ่มเป็นวิดีโอทั้งก้อน
      ที่ไหนได้ แม้แต่แบบนั้นก็ยังไม่ใช่
    • มันทำให้นึกถึงวิดีโอทำนองว่าฝ่ายวิจัยแนวหน้าภายใน Google จริง ๆ แล้วเป็นสตูดิโอแอนิเมชัน อยากจำให้ได้ว่าเป็นวิดีโอไหน
      การทำวิดีโอขายฝันเกินจริงแบบนี้เพื่อเอาใจผู้ถือหุ้น ทำให้หมดความเชื่อมั่นในฝ่ายวิจัย ตอนประกาศ Bert ดูเหมือนจะไม่ได้ทำอะไรแบบนี้

  • ใช้การป้อนแบบ T9 มาตั้งแต่สมัยนั้น และใช้การพิมพ์แบบ Swype มาตลอด
    ถ้าฉันสาธิต การพิมพ์แบบ Swype ในแบบที่ฉันใช้จริงทุกวันให้คนที่คุ้นกับคีย์บอร์ด QWERTY ดู ก็คงไม่มีใครเลือกใช้มัน
    สัดส่วนที่มันเดาคำผิดหรือต้องแก้น่าจะราว 10~20% แต่แก้ง่ายเลยไม่เป็นปัญหาและไม่ได้ทำให้ช้าลงเลย ในบรรดาวิธีป้อนข้อความหลายแบบ ส่วนตัวฉันว่ามันดีที่สุด แต่ต้องใช้เวลาพอสมควรในการเรียนรู้วิธีใช้
    ฉันคิดว่าทุกผลิตภัณฑ์ก็เป็นแบบนี้ ถ้าเอาสิ่งที่ผ่านการฝึกใช้มา 100 ชั่วโมง ปรับจนเข้ามือและเก็บ edge case แล้ว ไปโชว์ตามสภาพการใช้งานจริง ก็คงไม่มีใครรับอะไรไปใช้เลย
    ทั้งสองแบบก็แย่ทั้งคู่ เลยไม่รู้ว่าคำตอบคืออะไร
    แก้ไข: กำลังพิมพ์ด้วย Swype บนมือถือ เลยจะปล่อยคำพิมพ์ผิดให้คงอยู่ตามบริบทนี้

    • การทำให้ผลิตภัณฑ์ดูดีที่สุด กับการสาธิต วิธีการทำงาน ที่ไม่มีอยู่จริง เป็นคนละเรื่องกันโดยสิ้นเชิง
      มันเหมือนใส่การควบคุมจิตแบบโทรจิตเพื่อแก้คำผิดเข้าไปในเดโมคีย์บอร์ด Swype
    • Swype ทำให้การแก้ไขง่ายขึ้นหรือเปล่า? ระบบตรวจสะกดของ iOS มีค่าติดลบเลย ปิดมันไปตั้งแต่หลายปีก่อนแล้วความผิดพลาดลดลง แต่ก็ยังมีคำพิมพ์ผิดที่ต้องแก้อยู่
      น่าเสียดายที่ การแก้ไขข้อความบน iOS ก็ไร้ประโยชน์โดยสิ้นเชิงเหมือนกัน มันบังคับช่วงการเลือกแปลก ๆ และแทรกข้อความที่แก้แล้วด้วยวิธีที่ประหลาด
      ฉันพิมพ์ข้อความด้วย QWERTY แต่การป้อนข้อความของ iOS เป็นหายนะเต็มรูปแบบ และยิ่งแย่ลงเรื่อย ๆ ตามเวลา
    • นั่นเป็นปัญหาคนละแบบกับอาการหลอนของ LLM
      กับ Swype เรารู้อยู่แล้วว่าผลลัพธ์ที่ถูกต้องควรหน้าตาเป็นอย่างไร ถ้าผลลัพธ์ไม่ตรงกับที่ต้องการก็จะรู้ทันทีและแก้ได้
      แต่เวลาเราถาม LLM เราไม่ได้รู้คำตอบที่ถูกต้องเสมอไป ถ้าผลลัพธ์ดูมั่นใจพอ คนก็จะยอมรับว่าเป็นความจริง นอกจากในการทดลองและการทดสอบแล้ว คนไม่ได้ถาม LLM ในเรื่องที่รู้อยู่แล้วว่าคำตอบคืออะไร
    • ประเด็นสำคัญตรงนี้คือ ความเร็วในการแก้ไข เป็นตัวชี้ขาดต่อการรับรู้คุณค่าระยะยาวของเทคโนโลยีอินเทอร์เฟซ
      นี่ก็เป็นเหตุผลหลักที่การรู้จำลายมือไม่สามารถมาแทนคีย์บอร์ดได้ หลังจากแปลงลายมือเป็นข้อความแล้ว การใช้ตัวชี้กับคีย์บอร์ดแก้ข้อผิดพลาดยังง่ายกว่า พอทำซ้ำไม่กี่ครั้ง คนส่วนใหญ่ก็มักจะคิดว่า “งั้นเริ่มด้วยตัวชี้และคีย์บอร์ดตั้งแต่แรกเพื่อประหยัดเวลาดีกว่า”
      ดังนั้นคำถามก็คือ การตรวจพบและแก้ข้อผิดพลาดในผลลัพธ์ของ generative AI ทำได้ง่ายแค่ไหน น่าเสียดายว่า ถ้าไม่ใช่กรณีที่เรารู้อยู่แล้วว่าคำตอบคืออะไร การแยกข้อผิดพลาดออกมาอาจยากมาก
    • ผมรู้ว่าการตลาดก็คือการตลาด แต่การ “เดโม” ในแบบที่ห่างไกลจากการใช้งานจริงโดยสิ้นเชิง เป็นรูปแบบที่แย่มาก
      คีย์บอร์ด Swype ต้องอาศัยการฝึกฝนเพื่อให้ชำนาญ แต่เดโมของวิธีป้อนแบบนั้นปกติก็ยังแสดงการใช้งานที่สมจริง แม้ผู้สาธิตจะเป็น “ผู้เชี่ยวชาญ” ก็ตาม
      เดโมแบบนี้ทำให้คนเข้าใจผิดว่าผลิตภัณฑ์ทำอะไรได้จริงบ้าง และสุดท้ายก็ยิ่งก่อให้เกิดกระแสตีกลับแบบประชดประชันที่หลีกเลี่ยงไม่ได้ ถ้าผลิตภัณฑ์ยอดเยี่ยมจริง คนก็ดูออกได้จากเดโมฟังก์ชันที่สมจริงเพียงอย่างเดียว

  • ตอนนี้หน้า Bloomberg ที่ลิงก์ไว้ใน Twitter ถูกลบไปแล้ว[1] หน้าทดแทนคือ [2] และหน้าใหม่ระบุว่าบางส่วนเป็นของปลอม ผมหาหน้าเก่าใน archive ไม่เจอ
    [1] https://www.bloomberg.com/opinion/articles/2023-12-07/google...
    [2] https://www.bloomberg.com/opinion/articles/2023-12-07/google...

    • รายงานของ TechCrunch มีรายละเอียดมากกว่า - https://techcrunch.com/2023/12/07/googles-best-gemini-demo-w...
    • ฉันก็หงุดหงิดคล้ายกันเวลาตัวละครในละครทีวีตอบข้อความได้เร็วกว่าความเร็วที่มนุษย์พิมพ์ได้ มันทำลายความสมจริงของโรแมนติกคอเมดี้เรื่องโปรด

  • นี่ดูเป็นตัวอย่างที่ดีมากว่าเราควรตั้งข้อสงสัยต่อความน่าเชื่อถือของวิดีโอ เสียง ภาพ และการตลาดของบริษัท และควรถือไว้ก่อนว่าเป็นสิ่งที่ ถูกสร้างขึ้น จนกว่าจะตรวจสอบได้
    ถ้าทั้งเสียง อีเมล แชต และในไม่ช้าวิดีโอ สามารถถูกสร้างได้แบบเรียลไทม์หรือเกือบเรียลไทม์ แล้วเราจะมั่นใจได้อย่างไรว่าพนักงานที่ทำงานระยะไกลไม่ใช่ตัวตนที่ถูกสร้างขึ้นทั้งหมดหรือบางส่วนจริง ๆ
    ตอนตรวจสอบ ตัวลับที่แชร์ร่วมกันก็ดีอยู่ แต่เมื่อร่างกายอยู่ไกลกันทั้งหมดแล้ว ทางออกคืออะไร?
    ตอนนี้ฉันกำลังเดินทาง แล้วจะยืนยันได้อย่างไรว่าคนที่ส่งคำขอ Venmo โดยอ้างว่ากระเป๋าเดินทางหายคือ ฉัน จริง ๆ?

    • ถ้ายืนยันไม่ได้ว่าพนักงานเป็น AI หรือเปล่า ก็ไล่ออกแล้วแทนที่ด้วย AI ไปเลย
    • PGP
    • ถามข้อมูลที่มีแต่ตัวจริงเท่านั้นที่รู้
    • สร้าง วลี/คำรหัส สำหรับกรณีฉุกเฉินไว้แล้วแชร์กับครอบครัว เพื่อใช้ในสถานการณ์แบบนี้
    • นี่ก็เป็นอีกเหตุผลที่ชุมชนต้องส่งเสียงเมื่อจับเรื่องแบบนี้ได้ เพราะพวกเขากำลังบ่อนทำลายความน่าเชื่อถือของเดโมเทคโนโลยี
      คำโกหกจะวิ่งรอบโลกไปก่อนที่ความจริงจะได้ออกตัวเสียอีก แต่ถึงอย่างนั้นก็ปล่อยผ่านไม่ได้

  • ทั้งตัววิดีโอเองและคำอธิบายวิดีโอก็มีข้อความปฏิเสธความรับผิดในทำนองนั้นอยู่ ถึงอย่างนั้นก็เห็นด้วยว่าบางคนอาจเข้าใจผิดเกี่ยวกับวิธีการทำงานของ Gemini ได้
    คงจะดีถ้าการโต้ตอบแบบเรียลไทม์กลายเป็นส่วนหนึ่งของแอปในเร็ว ๆ นี้ ดูเหมือนจะไม่ได้มีอุปสรรคทางเทคนิคมากนัก

    • ข้อความปฏิเสธความรับผิดทั้งหมดมีแค่ “ลำดับเหตุการณ์ถูกย่อโดยรวม” ที่ขึ้นเป็นตัวอักษรเล็กมากด้านล่างจอเป็นเวลา 2 วินาที
      ที่อื่นมีการเปิดเผยรายละเอียดส่วนใหญ่ไว้แล้วก็จริง แต่วิดีโอตัวนั้นเองถูกสร้างและตัดต่อมาให้ชวนเข้าใจผิดอย่างมาก มันพยายามทำให้คนเชื่อว่าระบบตอบสนองอย่างซับซ้อนต่อพรอมป์ต์เสียงธรรมดาและวิดีโอฟีด ทั้งที่ความจริงไม่ใช่แบบนั้น
    • ข้อความปฏิเสธความรับผิดในคำอธิบายคือ “สำหรับเดโมนี้ เราได้ลด latency และย่อเอาต์พุตของ Gemini ให้กระชับ”
      นี่ไม่เหมือนกับการบอกว่า “สิ่งที่ป้อนเข้า Gemini คือ ภาพนิ่งที่คัดเลือกแล้ว ไม่ใช่วิดีโอ”
    • คนส่วนใหญ่ไม่ค่อยอ่านข้อความปฏิเสธความรับผิด Google เลือกทำแบบนี้เพราะรู้ว่าคนจะจำ ภาพรวมที่เกินจริง มากกว่าข้อความปฏิเสธความรับผิด
    • ไม่เลย ข้อความปฏิเสธความรับผิดนั้นไม่เพียงพอเลย
      วิดีโอนั้นหลอกคนจำนวนมากรวมถึงฉันด้วย นี่ไม่ใช่เดโมที่ถูกปรับแต่งและเขียนสคริปต์มาอย่างหนักแบบที่พบได้ทั่วไป
      มันคือ โฆษณาอันเป็นเท็จอย่างชัดเจน ที่แสดงความสามารถที่ไม่มีอยู่จริง และพูดตามตรงว่าเป็นพฤติกรรมที่น่าอับอายของ Google
    • โฆษณาใน Google Search เองก็มีแค่ป้าย “โฆษณา” ตัวเล็กจิ๋ว และยังมีแนวโน้มยาวนานในการทำให้โฆษณาชัดเจนขึ้นในแง่ความรุกล้ำ แต่แยกออกได้ยากลง
      เมื่อพิจารณาคอนเท็กซ์ของคอนเทนต์ที่สร้างด้วย AI และการชี้นำโดยรวม ผมมองว่าวิดีโอนี้เป็นการหลอกลวง สำหรับผม สิ่งเดียวที่น่าประทับใจในวิดีโอคือความตอบสนองที่รวดเร็วและยืดหยุ่นราวกับประมวลผลวิดีโอได้แบบเรียลไทม์ แต่ไม่มีอะไรในนั้นเป็นของจริงเลย มันเกือบจะเข้าข่ายการฉ้อโกง

  • ฉันเองก็ถูกทำให้เข้าใจว่า Gemini มองเห็นและได้ยินผ่านวิดีโอ/ออดิโอฟีด ไม่ใช่รับภาพนิ่งกับ text prompt
    ความต่างระหว่างภาพนิ่งกับวิดีโอฟีดอาจดูไม่มาก แต่ในความเป็นจริง ระบบต้องเข้าใจบริบทที่เปลี่ยนไปอย่างมากเพื่อไม่ให้บอตพูดอะไรโง่ ๆ ออกมาตลอด
    นอกจากนี้ ในการสนทนาผ่านวิดีโอฟีดแบบเรียลไทม์ ระบบยังต้องรับรู้สถานะว่า ยังไม่รู้ เพื่อที่จะเงียบได้อย่างเหมาะสม ซึ่งเป็นสิ่งที่ทำได้ยากอย่างฉาวโฉ่ใน generative AI
    แน่นอนว่าอาจใส่แฮ็กกับ heuristic บางอย่างเพื่อให้ง่ายขึ้นได้ แต่การทำให้บอตดูเหมือนเป็นคู่สนทนามนุษย์จริง ๆ นั้นยากมาก ซึ่งนั่นแหละคือส่วนที่น่าประทับใจที่สุดของ “บทสนทนา” ในวิดีโอ แต่เสียดายที่ทั้งหมดเป็นของปลอม :(