ข้อสงสัยว่า Microsoft กำลังพยายามฆ่าตัวตาย

 (antipope.org)
2 คะแนน โดย GN⁺ 2024-06-06 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

ฟีเจอร์ใหม่ของ Microsoft, CoPilot+ และ Recall

สรุปประเด็นสำคัญ

  • การแพร่ขยายของ AI:

    • ช่วงหลังข่าวเทคโนโลยีมุ่งความสนใจไปที่การแพร่ขยายของ AI (ปัญญาประดิษฐ์)
    • หลายบริษัทกำลังแสดงความเคลื่อนไหวที่จะเพิ่ม AI เข้าไปในผลิตภัณฑ์

  • แนะนำ CoPilot+:

    • CoPilot+ เป็นส่วนเสริมของ Windows ที่อิงกับ LLM (โมเดลภาษาขนาดใหญ่) ของ Microsoft
    • คล้ายกับ Clippy ในอดีต แต่ใช้ AI เพื่อช่วยงานของผู้ใช้
    • อย่างไรก็ตาม ด้วยข้อจำกัดของ LLM จึงมีความเป็นไปได้ว่าจะไม่สามารถให้คำตอบที่ถูกต้องได้

  • โปรเซสเซอร์ Windows ARM:

    • Microsoft กำลังผลักดัน Windows บน ARM เพื่อลดการพึ่งพา Intel
    • CoPilot+ PC รุ่นใหม่ติดตั้งโปรเซสเซอร์ ARM ที่ทรงพลัง และถูกออกแบบมาให้เหมาะกับงาน AI

  • ฟีเจอร์ Recall:

    • Recall เป็นฟีเจอร์ที่บันทึกทุกกิจกรรมที่ผู้ใช้ทำบนคอมพิวเตอร์
    • มันถ่ายภาพหน้าจอ ดึงข้อความผ่าน OCR (การรู้จำอักขระด้วยแสง) และการรู้จำเสียง แล้วบันทึกลงฐานข้อมูล
    • ข้อมูลที่บันทึกไว้ไม่ได้ถูกเข้ารหัส จึงอาจก่อให้เกิดปัญหาด้านความปลอดภัย

  • ปัญหาความเป็นส่วนตัว:

    • ฟีเจอร์ Recall อาจละเมิดความเป็นส่วนตัวของผู้ใช้อย่างร้ายแรง
    • ข้อมูลที่จัดเก็บไว้อาจรวมถึงข้อมูลรับรองของผู้ใช้ รหัสผ่าน เป็นต้น
    • ในกระบวนการทางกฎหมาย ฐานข้อมูลนี้อาจถูกหมายเรียกได้ จึงเป็นความเสี่ยงใหญ่ต่อทั้งองค์กรและบุคคล

  • ปัญหาอื่น ๆ:

    • ฟีเจอร์ Recall อาจละเมิดกฎหมายความเป็นส่วนตัว เช่น GDPR และ HIPAA
    • Microsoft มีแผนจะบังคับรวมฟีเจอร์นี้ไว้ในการอัปเดต Windows 11

ความเห็นของ GN⁺

  • การละเมิดความเป็นส่วนตัว:

    • ฟีเจอร์ Recall อาจละเมิดความเป็นส่วนตัวของผู้ใช้อย่างร้ายแรง โดยเฉพาะต่อองค์กรหรือบุคคลที่จัดการข้อมูลอ่อนไหว ซึ่งจะมีความเสี่ยงสูงมาก

  • ช่องโหว่ด้านความปลอดภัย:

    • ฐานข้อมูลที่ไม่ได้เข้ารหัสอาจเปิดเผยต่อแฮกเกอร์หรือผู้ไม่หวังดีได้โดยง่าย ซึ่งมีโอกาสสูงที่จะนำไปสู่เหตุการณ์ด้านความปลอดภัย

  • ปัญหาทางกฎหมาย:

    • ฟีเจอร์ Recall มีความเป็นไปได้สูงที่จะละเมิดกฎหมายความเป็นส่วนตัว เช่น GDPR และ HIPAA ซึ่งอาจนำไปสู่ข้อพิพาททางกฎหมาย

  • ความเชื่อมั่นของผู้ใช้:

    • การนำฟีเจอร์ลักษณะนี้มาใช้ของ Microsoft อาจบั่นทอนความเชื่อมั่นของผู้ใช้อย่างมาก และในระยะยาวอาจส่งผลลบต่อภาพลักษณ์ของบริษัท

  • เทคโนโลยีทางเลือก:

    • องค์กรที่ให้ความสำคัญกับความเป็นส่วนตัวของผู้ใช้ควรพิจารณาทางเลือกอื่นแทนฟีเจอร์ Recall เช่น การนำโซลูชันความปลอดภัยแบบโอเพนซอร์สมาใช้

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-06-06
ความคิดเห็นจาก Hacker News

  • ต่อให้ตัดความกังวลเรื่องความปลอดภัย·ความเป็นส่วนตัวออกไป Recall ก็ไม่ได้ให้ความรู้สึกว่าเป็น ฟีเจอร์ AI เท่าไร
    โครงสร้างมันก็แค่สร้าง OCR บนอุปกรณ์กับฐานข้อมูล SQLite แล้วเอามาค้นหาไม่ใช่หรือ? ต่อให้ใช้คำนิยาม AI แบบหลวมๆ สมัยนี้ก็ดูไม่ค่อยโยงกัน หรือเป็นเพราะ OCR เองอิงแมชชีนเลิร์นนิง? ถ้ามีองค์ประกอบ LLM ใน Recall ที่ผมพลาดไป ก็สงสัยว่ามันจะสร้างเว็บไซต์สำหรับ การโจมตีแบบ prompt injection ที่ทำดัชนีคำสั่งอันตรายลงในฐานข้อมูล SQLite แล้วป้อนให้ LLM ทีหลังได้หรือไม่

    • มีคำพูดกันมานานแล้วว่า ทุกครั้งที่นักวิจัย AI ทำให้บางอย่างเป็นไปได้ สิ่งนั้นจะย้ายจาก “ไซไฟที่เป็นไปไม่ได้” ไปเป็น “นั่นไม่ใช่ AI จริงๆ”
      พอมาเจอปฏิกิริยาแบบนั้นจริงๆ ก็แปลกดี OCR เองครั้งหนึ่งก็เคยถูกมองว่าเป็นไปไม่ได้ที่จะทำให้ได้คุณภาพดีพอ เลยมีการใช้ CAPTCHA เพื่อกันบอตสมัครสมาชิกในฟอรัม ตอนแรกเป็นข้อความ จากนั้นก็บิดเบี้ยวมากขึ้นจนคนยังอ่านยาก ต่อมากลายเป็นเลขที่บ้าน, “คลิกรูปทั้งหมดที่มี XYZ” แล้วสุดท้ายก็แทบหายไป กลายเป็นการวิเคราะห์ตำแหน่งเคอร์เซอร์เมาส์กับเว็บไซต์ที่เข้าแทน
    • ลองหาคำตอบเองดูแล้ว เหมือนจะมี การวิเคราะห์เชิงความหมาย อยู่พอสมควรที่เกินกว่า OCR ธรรมดา ดังนั้นในความหมายแบบหลวมๆ ปัจจุบันก็ดูพอจะนับเป็นฟีเจอร์ AI ได้
      เบาะแสคือเดโมนี้ https://www.youtube.com/watch?v=aZbHd4suAnQ&t=1062s ที่ค้นหา “blue pantsuit with sequin lace” แล้วเจอรายการที่ในข้อความอธิบายว่า “peacock” ดูเหมือนเป็นการค้นหาด้วย embedding บน image embedding
      และในฐานข้อมูล SQLite 3 ตัวที่ Recall สร้างขึ้น มีตัวหนึ่งชื่อ “SemanticImageStore” เลยดูเหมือนว่าจะรัน โมเดล image embedding สไตล์ CLIP บนอุปกรณ์ด้วย ในฐานข้อมูลนั้นยังมีคอลัมน์ “diskann” ซึ่งน่าจะอ้างถึงไลบรารีทำดัชนีเวกเตอร์ของ Microsoft https://github.com/microsoft/DiskANN
    • จากเดโมจะเห็นว่าค้นหาได้แม้บนหน้าจอจะไม่มีคำว่า “Blue bag”
      เช่น ถ้ามีรูปกระเป๋าสีน้ำเงินอยู่ในภาพสไลด์ PowerPoint ก็หาเจอ
    • ดูเหมือนจะใช้คำนิยาม AI ที่ใกล้กับ “ปัญหาที่คอมพิวเตอร์อาจแก้ไม่ได้”
      OCR เองก่อนที่เราจะรู้วิธีทำ ก็เคยถูกมองว่าเป็น AI แน่ๆ พอเราเข้าใจแล้วมันเลยกลายเป็น “ก็แค่คอมพิวติ้ง” แต่ต่อให้ใช้คำนิยาม AI แบบอื่น ก็ยังสมเหตุสมผลที่จะมองว่าเป็น AI อยู่ดี
    • มีความเป็นไปได้สูงว่าน่าจะใส่ RAG มาด้วย

  • ถ้า Recall ยังไม่ผิดกฎหมายโดยสมบูรณ์ใน EU, Microsoft ก็ดูเหมือนกำลังแข่งกับเวลาแบบไร้ข้อจำกัด ตั้งแต่เปิดตัวไปจนถึงวันที่มี กฎหมายห้ามทั่ว EU ออกมา
    ดูไม่เห็นเลยว่าจะมีสถานการณ์ไหนที่ EU จะยอมให้สิ่งนี้ใช้ในภูมิภาคได้ แค่ความกังวลที่มีเหตุผลมากว่าอาจถูกคู่สมรสที่ชอบใช้ความรุนแรงนำไปใช้ในทางที่ผิด ก็เพียงพอเป็นเหตุผลทางการเมืองแล้ว คงหาสมาชิกสภายุโรปสักคนที่ยอมคัดค้านกฎหมายซึ่งถูกห่อด้วยเหตุผลแบบนั้นได้ยากมาก และสมาชิกที่เพิ่งได้รับเลือกก็น่าจะยินดีกับชัยชนะง่ายๆ ท่ามกลางงานยากและซับซ้อนทั้งหลาย

    • ทำไม Recall ถึงควรผิดกฎหมายใน EU?
    • แล้วถ้าพลเมืองยุโรปต้องการฟีเจอร์นี้ล่ะ? จะไม่มีทางเลือกเลยหรือ?

  • นอกเหนือจากข้อผิดพลาดเชิงตรรกะหลายข้อที่มีคนชี้ไปแล้ว ผมอยากเพิ่มอีกข้อ
    เรื่องนี้ตั้งอยู่บนสมมติฐานว่าอนาคตของ Microsoft คือ Windows ซึ่งผมคิดว่าตั้งแต่ยุคหลัง Satya มาก็ไม่ใช่แล้ว พอเข้าใจจุดนี้ อนาคตก็ดูสดใสพอสมควร ไม่ว่าจะมีพลาดกับการทำฟีเจอร์หนึ่งของ Windows แค่ไหนก็ตาม

    • ถ้าอย่างนั้น อนาคตที่ Microsoft เสนอคืออะไร?
      ไม่ใช่ Xbox แน่ เพราะแพ้สงครามนั้นไปแล้ว และนั่นก็อิง Windows ด้วย ไม่ใช่มือถือ เพราะแพ้ไปแล้วเหมือนกัน และนั่นก็อิง Windows เช่นกัน
      Office ก็ลำบาก ความจำเป็นของชุดโปรแกรมออฟฟิศแบบเสียเงินกำลังลดลง และ MS Office บนเบราว์เซอร์ก็ค่อนข้างแย่
      อาจเป็น Azure แต่ผมมองว่าช่องทางหลักที่พาองค์กรเข้า Azure คือการที่ Microsoft ผลักให้ย้าย ActiveDirectory กับ Exchange ขึ้นคลาวด์ ซึ่งการสิ้นสุดของ Windows ก็คือการสิ้นสุดของ ActiveDirectory และสำหรับเมล·ปฏิทินบนคลาวด์ก็มีทางเลือกอื่น ถ้าไม่ได้อยู่ที่นั่นเพราะ Exchange อยู่ก่อนแล้ว Azure ยังดึงดูดคนจำนวนมากหรือ?
      อนาคตอาจสดใสก็จริง แต่ถ้าไม่มี Windows ให้เห็น แล้วเราจะรู้ได้อย่างไรว่าอนาคตนั้นหน้าตาเป็นแบบไหน? ;p
    • ใช่ Microsoft มี แหล่งรายได้ระดับหลายพันล้านดอลลาร์ หลายตัว ทั้ง Office, Azure, XBox, ค่ายเกม และอื่นๆ และในฝั่ง “คลาวด์” ของคอมพิวติ้งก็แทบจะเป็น Linux ทั้งหมด จึงมีแรงจูงใจน้อยลงที่จะลงทุนกับ Windows
      จากความเคลื่อนไหวอย่าง WSL, winget, sudo ก็ชัดว่า Windows กำลังขยับไปเป็นเปลือกนอกที่ค่อยๆ เลียนแบบ Linux มากขึ้นในด้านอินเทอร์เฟซบรรทัดคำสั่ง
      Microsoft ในปี 2000 คือ Windows 9x, 2000, Office ส่วนในปี 2004 เราดาวน์โหลดซอฟต์แวร์สำหรับ Windows โดยเฉพาะจากเว็บไซต์ แต่ในปี 2024 ซอฟต์แวร์ที่ทำมาเฉพาะสำหรับ Apple หรือ Linux ก็พบได้ทั่วไป
      ถ้าจะว่าไป “ปีแห่งเดสก์ท็อป Linux” นั้นก็คือ MacOS มานานกว่าสิบปีแล้ว มันแทบเป็นยาเสพติดเริ่มต้นก่อนขยับไปสู่ Linux เต็มตัว เมื่อเทียบกับแรงเสียดทานอย่างพาธไฟล์ของ Windows หรือ Win32 API
    • ถ้าว่าตามนั้น ก็แปลว่าบนเดสก์ท็อป·โน้ตบุ๊ก 80% ของโลกกำลังรัน ระบบปฏิบัติการที่เสื่อมถอย อยู่
      ไม่ได้บอกว่าคุณผิดนะ และผมก็เห็นด้วยว่า Windows กลายเป็นเรื่องรองภายใน Microsoft ไปแล้วจริงๆ แต่มันก็น่ากลัวพอสมควร
      ถ้าดูไลเซนส์ Exchange Server ใหม่ ก็พอจะพูดได้อย่างปลอดภัยว่า Microsoft อยากออกจากธุรกิจซอฟต์แวร์แบบ on-premises ให้เร็วที่สุดเท่าที่จะทำได้ เพียงแต่ยังสงสัยว่าโลกพร้อมจะรับเรื่องนั้นหรือยัง และนั่นใช่สิ่งที่พวกเราต้องการจริงหรือไม่
    • ใช่ ตอนนี้ Windows แทบจะเป็น สินค้าเรียกลูกค้าที่พร้อมขายขาดทุน แล้ว
    • ถ้าจะทำ Windows ให้ยอดเยี่ยม ก็แค่ต้องเอาขยะที่ไม่มีใครขอออกไป
      มี anti-pattern น่าสงสัยเยอะอย่างไม่น่าเชื่อ

  • ต่อให้ Microsoft หรือ FAANG เจ้าอื่นทำข้อมูลของเรารั่วทั้งหมด ก็ไม่แน่ใจว่าพวกเขาจะต้องจ่ายราคาแพงจริงหรือเปล่า
    ครั้งล่าสุดที่มีบริษัท “พังจริง ๆ” เพราะปัญหาความปลอดภัยข้อมูลคือเมื่อไหร่? กรณีข้อมูลรั่วล่าสุดก็มี Snowflake, AWS / Capital One

    • ทุกคนเข้าใจว่าข้อมูลรั่วมันเกิดขึ้นได้
      ประเด็นสำคัญที่กำลังชี้คือ สิ่งที่ไม่ได้เก็บรวบรวมไว้ก็ย่อมรั่วไม่ได้ และ Recall ก็คือข้อมูลที่ Microsoft เก็บมากกว่าที่เคยอย่างมาก แถมยังอ่อนไหวกว่ามากด้วย
    • Snowflake พูดค่อนข้างสม่ำเสมอว่า นี่ไม่ใช่การเจาะระบบพื้นฐานของตัวระบบเอง แต่เป็น การตั้งค่าผิดพลาดของลูกค้า
      มันทำให้นึกถึงช่วงกลางทศวรรษ 2010 ที่ระบบบางอย่างบน AWS เปิดเป็นสาธารณะโดยค่าเริ่มต้น และ “ข้อมูลรั่ว” จำนวนมากก็เกิดขึ้นเพียงเพราะบริษัทไม่ได้ตั้ง data bucket ให้เป็นส่วนตัว
    • สิ่งที่ต้องมีคือค่าปรับก้อนใหญ่และเป็นข้อบังคับสำหรับข้อมูลรั่วทุกกรณี
      เช่น ถ้าบังคับให้จ่าย 10,000 ดอลลาร์ ต่อคนที่ที่อยู่หลุดออกไป บริษัทต่าง ๆ ก็จะเริ่มมองข้อมูลผู้บริโภคเป็นความเสี่ยง ไม่ใช่สินทรัพย์ต้นทุนต่ำ
    • แล้วก็อย่าลืม Equifax

  • ดูเหมือนว่าเว็บเซิร์ฟเวอร์ฝั่งนั้นจะฆ่าตัวตายไปก่อนแล้ว

    • เวอร์ชันบน Web Archive: https://web.archive.org/web/20240605120547/https://www.antip...
    • ฉันเข้าไปที่บล็อก antipope.org จากโพสต์เก่าแล้วกดไปยังโพสต์ล่าสุด มันก็โหลดได้
      หรือไม่ก็อาจเพิ่งแก้ปัญหาไปเมื่อกี้นี้

  • ในรายงานผลประกอบการไตรมาสล่าสุดของ Microsoft มี รายได้เพิ่มขึ้น 17% และราคาหุ้นก็ขึ้นมาเกือบ 25% ในช่วง 1 ปีที่ผ่านมา

    • ก็ดีสิ คงไม่มีความหมายมากนักหรอกถ้าลูกค้าเริ่มกลัวเรื่องแบบนี้แล้วปฏิเสธจะทำธุรกิจด้วย
    • ถ้าทำได้ ฉันคงถือสถานะขายในธุรกิจระบบปฏิบัติการของ Microsoft และยังคงถือสถานะซื้อในธุรกิจผู้ให้บริการคลาวด์กับการลงทุนใน OpenAI ต่อไป
    • ที่บอกว่าหุ้นขึ้นเกือบ 25% ในรอบ 1 ปีที่ผ่านมา นั่นก็แปลว่าทำได้พอ ๆ กับค่าเฉลี่ย S&P500 ไม่ใช่เหรอ? ถ้าเป็นบริษัทยักษ์ใหญ่สายเทคก็น่าจะต้องดีกว่านี้

  • ชัดเจนว่า Microsoft ไม่ได้กำลังฆ่าตัวตาย ดูสิว่าฟีเจอร์นี้เรียกความสนใจได้มากแค่ไหน
    สื่อเทคทุกเจ้ากำลังพูดถึง Windows และจู่ ๆ Windows ก็กลับมามีความเกี่ยวข้องอีกครั้ง แบบนี้จะเรียกว่าฆ่าตัวตายได้ยังไง?
    คนที่กำลังฆ่าตัวตายคือ ลูกค้า Microsoft ที่เปิดฟีเจอร์นี้ทิ้งไว้ต่างหาก ต้องให้ความรู้ผู้ใช้ถึงความเสี่ยงของฟีเจอร์นี้และวิธีปิดมัน

    • ถ้ามีใครเอาปืนจ่อแล้วพูดว่า “อีก 5 วินาทีจะยิง” แล้วคุณยังยืนอยู่เฉย ๆ ไม่หลบจนโดนยิง แบบนั้นไม่ใช่การฆ่าตัวตาย
      มันอาจเป็นการตายแบบโง่ ๆ ก็จริง แต่คนยิงก็ยังคงเป็นผู้ก่อเหตุฆาตกรรมอยู่ดี รู้สึกว่าเป็นอุปมาเปรียบเทียบที่เข้ากับสถานการณ์ตอนนี้พอสมควร
    • เราผ่านพ้น ทางลาดลื่น มาแล้ว และตอนนี้ลมก็กำลังปะทะเส้นผมเราอยู่ด้วย

  • ถึงจะค้นใน HN ก็ไม่เจอ แต่เหมือนเคยเห็นอะไรคล้าย Recall มาก่อน
    เป็นเครื่องมือจับภาพหน้าจอที่รัน OCR/การตรวจจับ แล้วเอาเข้า database เพื่อให้ค้นหาได้ มีอยู่บน GitHub แบบโอเพนซอร์ส
    เสริมอีกนิดว่าฉันยังสองจิตสองใจกับประเด็นความเป็นส่วนตัว แต่ในอีกด้านหนึ่งมันดูเหมือนจะพา ARM กลับมาสู่ Windows อีกครั้ง ซึ่งอันนั้นฉันสนับสนุน

  • ตรงประโยคที่ว่า “เรารู้มาสักพักแล้วว่าเทคโนโลยี language model จะครองอนาคตของเรา” คำว่า เรา ในที่นี้หมายถึงคนที่มีรายได้เมื่อมีการลงทุนในเทคโนโลยี LLM มากขึ้น
    สำหรับคนอื่น ๆ LLM ดูเป็นทางออกทั่วไปของอะไรก็ตามที่มีข้อบกพร่องอย่างสิ้นหวัง

  • ฉันไม่ถึงกับคิดว่า Microsoft กำลังฆ่าตัวตายแน่ ๆ
    แต่คิดว่าพวกเขา ตั้งรับหลังเกิดเหตุ มากเกินไปและไม่เชิงรุก พูดอีกอย่างคือ ดูเหมือนพวกเขาจะพลาดเพราะมัวแต่โฟกัสมากเกินไปกับการคาดเดาทิศทางเทคโนโลยี แทนที่จะสร้างเส้นทางของตัวเองและสร้างโอกาสขึ้นมา
    แน่นอนว่าในบางตลาด เช่น เครื่องมือสำหรับนักพัฒนา หรืออาจรวมถึง Azure พวกเขาก็กำลังสร้างเส้นทางของตัวเองอยู่ แต่ฉันจะไปรู้อะไร ก็เป็นแค่โปรแกรมเมอร์โง่ ๆ คนหนึ่งเท่านั้นเอง