- Copilot+ Recall: ฟีเจอร์ใหม่ของ Microsoft Windows 11 ที่จับภาพหน้าจอพีซีของผู้ใช้อย่างต่อเนื่อง เพื่อสร้างฐานข้อมูลที่ค้นหาได้ของทุกกิจกรรมที่ทำ
- ช่วยให้ผู้ใช้ค้นหาทุกสิ่งที่เคยเห็นมาก่อนได้อย่างง่ายดาย
- ผู้ใช้ส่วนใหญ่มีปฏิกิริยาเชิงลบต่อฟีเจอร์นี้ เนื่องจากความกังวลด้านความเป็นส่วนตัวและความเป็นไปได้ในการละเมิดชีวิตส่วนตัวของผู้ใช้
ผู้ใช้งานที่อาจเหมาะกับ Copilot+ Recall
- สำหรับผู้บริหารบริษัทที่มีงานมากและเวลาไม่พอ อาจมีประโยชน์เพราะสามารถค้นหาได้ทันทีว่าเมื่อหนึ่งเดือนก่อนตนทำอะไรเกี่ยวกับหัวข้อใดหัวข้อหนึ่ง
- แต่นี่เป็นเพียงส่วนน้อยมากของฐานผู้ใช้ Windows เท่านั้น
- ผู้ใช้ Windows ส่วนใหญ่แค่อยากเล่นเกม ดูหนังโป๊ และใช้ชีวิตแบบมนุษย์ที่ทำพลาดได้
- ความคิดที่ว่าคนอื่นสามารถเข้าถึงอุปกรณ์ของตนและเห็นความทรงจำส่วนตัวที่ถูกบันทึกเป็นภาพถ่าย เป็นเรื่องที่น่ากลัวอย่างมากสำหรับหลายคนในระดับลึก
ความผิดพลาดของ Microsoft
- Microsoft กำลังทำร้ายตัวเองในนามของ AI และในรูปแบบที่สร้างความเสียหายให้ลูกค้าจริง ๆ
- เรื่องนี้อาจเผาทั้งแบรนด์ Copilot ไปด้วย
- มีการชี้ว่าฟีเจอร์นี้ทำลายคำมั่นด้านความปลอดภัยของ Windows อย่างถึงราก
[ Q&A เกี่ยวกับปัญหาความปลอดภัยของ Copilot+ Recall ]
Q. ข้อมูลถูกประมวลผลแบบ local ทั้งหมดบนแล็ปท็อปไม่ใช่หรือ?
- ใช่ เป็นการตัดสินใจที่ชาญฉลาดที่ทำให้โค้ดอย่าง Azure AI ถูกประมวลผลที่ edge
Q. ถ้าอย่างนั้นแฮ็กเกอร์กับมัลแวร์ก็น่าจะเข้าถึงไม่ได้ไม่ใช่หรือ?
Q. แต่มันถูกเข้ารหัสอยู่นี่?
- เมื่อเข้าสู่ระบบบนพีซีและรันซอฟต์แวร์ ข้อมูลจะถูกถอดรหัสให้ผู้ใช้อยู่แล้ว
- การเข้ารหัสตอนเก็บข้อมูลช่วยได้เฉพาะตอนมีคนขโมยแล็ปท็อปไปทางกายภาพเท่านั้น
- สิ่งอย่างโทรจันประเภท InfoStealer เป็นปัญหาใหญ่มากว่า 10 ปีแล้ว และตอนนี้ก็สามารถแก้ไขให้รองรับ Recall ได้อย่างง่ายดาย
Q. แต่ Microsoft บอกว่ามีแค่ผู้ใช้เท่านั้นที่เข้าถึงข้อมูลได้ไม่ใช่หรือ?
- ไม่เป็นความจริง สามารถแสดงให้เห็นได้ว่าบัญชีผู้ใช้อื่นบนอุปกรณ์เดียวกันก็เข้าถึงฐานข้อมูลนี้ได้
Q. แล้วมันทำงานอย่างไร?
- มีการจับภาพหน้าจอทุก ๆ ไม่กี่วินาที
- จากนั้นระบบจะทำ OCR อัตโนมัติโดย Azure AI และบันทึกลงในฐานข้อมูล SQLite ในโฟลเดอร์ผู้ใช้
- ไฟล์ฐานข้อมูลนี้เก็บบันทึกทุกสิ่งที่ผู้ใช้เห็นบนพีซีในรูปแบบข้อความล้วน
Q. ฐานข้อมูลหน้าตาเป็นอย่างไร?
- Microsoft ระบุผ่านสื่อว่าพวกแฮ็กเกอร์ไม่สามารถดึงกิจกรรม Copilot+ Recall ออกไปจากระยะไกลได้
- แต่ในความเป็นจริง มันคือฐานข้อมูลข้อความล้วนที่บรรจุทุกสิ่งที่เห็นบนพีซี และสามารถทำระบบอัตโนมัติเพื่อขโมยออกไปได้ง่ายมาก
Q. แล้วจะเอาไฟล์ฐานข้อมูลมาได้อย่างไร?
- มันคือไฟล์ที่อยู่ในโฟลเดอร์ CoreAIPlatform ใหม่ภายใต้ AppData
Q. แต่มันถูกเข้ารหัสอย่างแน่นหนาจนไม่มีใครเข้าถึงได้ไม่ใช่หรือ?!
- ดูได้จากวิดีโอที่วิศวกร Microsoft สองคนเข้าถึงโฟลเดอร์ฐานข้อมูล Recall และเจาะฐานข้อมูล SQLite
- ไม่จำเป็นต้องใช้สิทธิ์ระดับระบบด้วยซ้ำ
Q. แต่ผู้ใช้ทั่วไปไม่ได้รันแบบผู้ดูแลระบบนะ!
- ตามหน้าเปิดตัว Recall บนเว็บไซต์ของ Microsoft เขาว่าอย่างนั้น
- แต่จริง ๆ แล้วไม่จำเป็นต้องเป็นผู้ดูแลระบบก็อ่านฐานข้อมูลนี้ได้
Q. แต่ในวิดีโอนั้นมี UAC prompt ขึ้นมา นั่นไม่ใช่ security boundary หรือ?
- ตามเว็บไซต์ของ Microsoft เองและ MSRC, UAC ไม่ใช่ security boundary
Q. ถ้าอย่างนั้นระบบความปลอดภัยอยู่ตรงไหน?
- ในโลกจริงมันมีช่องโหว่ใหญ่พอให้ขับเครื่องบินผ่านได้ จึงใช้งานไม่ได้อย่างที่ควรจะเป็น
Q. แล้วข้อมูลอย่างข้อมูลการเงินจะไม่ถูกจับภาพหน้าจอและทำ OCR อัตโนมัติหรือ?
- ไม่
- ตามเอกสาร Recall ไม่ได้แก้ไขเนื้อหา
- มันไม่ได้ปกปิดรหัสผ่านหรือเลขบัญชีธนาคาร
- หากเว็บไซต์นั้นไม่ได้ปฏิบัติตามโปรโตคอลอินเทอร์เน็ตมาตรฐาน (เช่น ทำเครื่องหมาย
* แทนรหัสผ่าน)
Q. ฐานข้อมูลมีขนาดประมาณไหน?
- มันถูกบีบอัดได้ดีมาก งานหลายวันมีขนาดเพียงราว 90kb
- ด้วยการเชื่อมต่อบรอดแบนด์ทั่วไป สามารถขโมยเอกสารและคีย์อินพุตหลายเดือนออกไปได้ภายในไม่กี่วินาที
Q. ความเร็วในการค้นหาเป็นอย่างไร?
Q. คุณเคยลองขโมยฐานข้อมูล Recall ของตัวเองหรือยัง?
- เคย ทำการขโมยแบบอัตโนมัติแล้ว และยังสร้างเว็บไซต์ที่อัปโหลดฐานข้อมูลแล้วค้นหาได้ทันที
- แต่ตั้งใจไม่เปิดเผยรายละเอียดทางเทคนิค เพื่อให้เวลา Microsoft ก่อนที่ฟีเจอร์จะเปิดใช้งาน
- มีของให้แสดงจริงอีกมาก และคิดว่าหากฟีเจอร์นี้ถูกปล่อยสู่สาธารณะ ชุมชนไซเบอร์อีกมากจะสนุกกับมันมาก แต่ก็เป็นเรื่องที่น่าเศร้าจริง ๆ เพราะอาจเกิดความเสียหายจริงได้
Q. ในฐานข้อมูลมีข้อมูลประเภทไหนบ้าง?
- ทุกสิ่งที่ผู้ใช้เห็นถูกจัดเรียงตามแอปพลิเคชัน
- ทุกข้อความที่ผู้ใช้เห็น (ยกเว้น Microsoft Edge InPrivate mode แต่ Google Chrome ไม่ได้รับการยกเว้น)
- ทุกการโต้ตอบของผู้ใช้ เช่น การย่อหน้าต่าง
- มี user activity API และแอปภายนอกสามารถเติมข้อมูลและดูข้อมูลที่บันทึกไว้ได้
- แม้เป็นแอปภายนอกก็ยังเก็บทุกเว็บไซต์ที่เคยเข้าเยี่ยมชม
Q. ถ้าลบข้อความในอีเมล/WhatsApp/Signal/Teams แล้ว มันจะถูกลบจาก Recall ด้วยหรือไม่?
- ไม่ มันจะอยู่ในฐานข้อมูลโดยไม่มีกำหนด
Q. แล้วข้อความที่ลบอัตโนมัติในแอปแชตจะถูกลบออกจาก Recall หรือไม่?
- ไม่ Recall จะดึงมันมาเก็บไว้และใช้งานได้
Q. ถ้าอย่างนั้นสิ่งนี้ทำให้เกิดการรั่วไหลข้อมูลขนาดใหญ่จากเว็บไซต์ได้หรือไม่?
- ใช่ หากต่อไปมีเหตุการณ์ข้อมูลรั่วไหลขนาดใหญ่ที่เห็นชัดว่าข้อมูลลูกค้าถูกนำออกไป ก็จะคิดว่าบริษัทที่ประมวลผลข้อมูลต้องรับผิดชอบ
- แต่ถ้ามีการเข้าถึงบริการ/แอปผ่านอุปกรณ์ Windows ที่มี Recall แฮ็กเกอร์ก็จะเห็นทุกอย่างและสามารถทำ data dump ได้โดยที่แม้แต่บริษัทผู้ให้บริการเองก็ไม่รู้ตัว
- ข้อมูลถูกจัดโครงสร้างไว้อย่างสม่ำเสมอในฐานข้อมูล Recall อยู่แล้ว ทำให้ผู้โจมตีนำไปใช้ได้ง่าย
- เราต้องเตรียมพร้อมรับมือกับเหตุข้อมูลรั่วไหลขนาดมหึมาที่ขับเคลื่อนด้วย AI
Q. Microsoft ทำให้ BBC เข้าใจผิดเรื่องความปลอดภัยของ Copilot หรือไม่?
Q. Microsoft ทำให้ลูกค้าเข้าใจผิดเรื่องความปลอดภัยของ Copilot หรือไม่?
- ใช่ ตัวอย่างเช่น อธิบายว่าเป็นประสบการณ์แบบเลือกใช้ แต่จริง ๆ เปิดไว้เป็นค่าเริ่มต้นและคนต้องเลือกปิดเอง
- CEO ของ Microsoft พูดถึงผลิตภัณฑ์นี้ว่าเป็น “screenshot” แต่ตัวผลิตภัณฑ์เองใช้เพียงคำว่า “snapshot”
- Microsoft ควรอธิบายให้ชัดเจนว่านี่คืออะไร เพื่อให้ลูกค้าตัดสินใจได้อย่างมีข้อมูล
Q. Recall ใช้ได้เฉพาะกับอุปกรณ์ฮาร์ดแวร์เพียง 1 เครื่องไม่ใช่หรือ?
- ไม่เป็นความจริง ตอนนี้มีอุปกรณ์ Copilot+ อยู่ 10 รุ่นที่สามารถสั่งซื้อได้จากผู้ผลิตรายใหญ่ทั้งหมด
- และบนเว็บไซต์ Microsoft ยังระบุด้วยว่ากำลังทำงานเพื่อรองรับชิปเซ็ต AMD และ Intel
- Recall มีกำหนดจะใช้กับ Windows 11
Q. จะปิดการทำงานของ Recall ได้อย่างไร?
- ต้องคลิกตัวเลือกปิด Recall ระหว่างการตั้งค่าเริ่มต้นของอุปกรณ์ Copilot+ ที่รองรับ
- ในฝั่ง enterprise มันเปิดใช้งานเป็นค่าเริ่มต้น ดังนั้นหากต้องการปิด Recall ต้องตั้งค่านโยบาย
Turn off Saving Snapshots for Windows
Q. ผลกระทบด้านความเป็นส่วนตัวเป็นอย่างไร? มันขัดต่อ GDPR หรือไม่?
- ผมไม่ใช่ผู้เชี่ยวชาญด้านความเป็นส่วนตัวหรือกฎหมาย
- ผู้เชี่ยวชาญด้านความเป็นส่วนตัวที่ได้คุยด้วยกังวลมากเกี่ยวกับผลกระทบต่อครัวเรือน โดยเฉพาะในสถานการณ์ความรุนแรงในครอบครัว
- ในมุมมองขององค์กร จำเป็นต้องพิจารณาความเสี่ยงของการจัดการข้อมูลลูกค้าในลักษณะนี้
- Microsoft น่าจะไม่รับผิดในฐานะผู้ประมวลผลข้อมูล เพราะประมวลผลบนอุปกรณ์ edge
Q. Microsoft เป็นบริษัทใหญ่ใจร้ายหรือเปล่า?
- ไม่
- พวกเขาเป็นคนที่ฉลาดมาก และบางครั้งคนฉลาดมากก็ทำพลาดได้ สิ่งสำคัญคือพวกเขารู้ตัวหรือไม่ว่าพลาด และจะทำอย่างไรต่อ
Q. คุณไม่ใช่อดีตพนักงานที่เกลียด Microsoft หรอกหรือ?
- ไม่ เพิ่งเขียนบล็อกชม Microsoft ไปเมื่อเดือนนี้เอง
Q. มันอันตรายจริงอย่างที่คิดหรือ?
- ลองไปที่บ้านพ่อแม่หรือปู่ย่าตายาย เปิดดูพีซี Windows ของพวกเขา ดูซอฟต์แวร์ที่ติดตั้งตลอด 1 ปีที่ผ่านมา แล้วลองใช้อุปกรณ์นั้นและสแกนไวรัสดู
- มีเหตุผลที่อุตสาหกรรมความปลอดภัยมูลค่า 1 ล้านล้านดอลลาร์มีอยู่ และปัญหาส่วนใหญ่ก็เกิดขึ้นรอบ ๆ มัลแวร์และ endpoint
Q. Microsoft ควรทำอะไร?
- ในความเห็นของผม ควร recall ฟีเจอร์ Recall กลับไปก่อน แล้วค่อยทำใหม่ให้ถูกต้องก่อนปล่อยในภายหลัง
- ควรทบทวนการตัดสินใจภายในที่นำไปสู่สถานการณ์นี้ด้วย
- เมื่อต้นเดือนนี้ CEO ของ Microsoft ได้ส่งอีเมลถึงพนักงานทุกคนว่า “หากต้องเลือกระหว่างความปลอดภัยกับลำดับความสำคัญอื่น คำตอบนั้นชัดเจน จงเลือกความปลอดภัย”
- เราจะได้รู้ว่าเขาเอาคำในอีเมลนั้นจริงจังแค่ไหน
- ตอนนี้ควรยอมรับแรงกระแทกและถ่อมตัวเสีย มิฉะนั้นอาจทำให้ความเชื่อมั่นของลูกค้าที่มีต่อ Copilot และแบรนด์ด้านความปลอดภัยตกอยู่ในความเสี่ยง
- พูดตามตรง แทบไม่มีลูกค้าคนไหนที่จะร้องไห้โวยวายเพราะใช้ Recall ไม่ได้ทันที แต่ถ้าการตอบสนองของ Microsoft คือไม่ทำอะไรเลย หรือปล่อยผลิตภัณฑ์ออกมา หรือแก้เพียงเล็กน้อย หรือพยายามกลบปัญหาในสื่อ ก็น่าเป็นห่วงอย่างมาก
1 ความคิดเห็น
ความเห็นจาก Hacker News
กลยุทธ์ของ Microsoft: Microsoft กำลังใช้กลยุทธ์ผลักดันอย่างหนักในช่วงแรก แล้วค่อยเสนอทางออกที่ผ่อนปรนลงภายหลังเพื่อให้บรรลุเป้าหมาย
ประสบการณ์กับ Windows และ ChromeOS: จากประสบการณ์ที่เคยทำงานที่ Microsoft, Windows ก็ไม่ได้เป็นระบบปฏิบัติการที่แย่อะไร แต่พอได้ลองใช้ ChromeOS สุดท้ายก็กลับไปใช้ Debian
การย้ายไปใช้ Linux: ช่วงหลังได้ติดตั้ง Arch Linux และ Steam บนโน้ตบุ๊ก Framework 16 และเล่นเกมได้อย่างลื่นไหล ตอนนี้รู้สึกว่าหลุดพ้นจากผลิตภัณฑ์ของ Microsoft อย่างสมบูรณ์แล้ว
ภาพลักษณ์ของ Microsoft ที่เปลี่ยนไป: การเข้าซื้อ GitHub และการนำ Linux Subsystem มาใช้เคยทำให้ Microsoft ดูเป็นบริษัทที่เท่มาก แต่ฟีเจอร์ Recall ในช่วงหลังและการบังคับให้ล็อกอินบัญชีตอนติดตั้ง Windows 10 ทำให้กลับมามีภาพลบอีกครั้ง
ปัญหาของฟีเจอร์ Recall: ในอดีต Microsoft เคยพยายามรักษาความเข้ากันได้กับซอฟต์แวร์จากผู้พัฒนารายอื่น แต่ตอนนี้กลับนำฟีเจอร์ Recall ที่ละเมิดความเป็นส่วนตัวของผู้ใช้มาใช้ จึงน่าผิดหวังมาก
Steve Jobs กับ Microsoft: Steve Jobs เข้าใจความรู้สึกของผู้คนที่มีต่อผลิตภัณฑ์ แต่ Microsoft ไม่เป็นเช่นนั้น ในอดีตก็ไม่ได้คำนึงถึงความรู้สึกของผู้ใช้ และดูเหมือนตอนนี้ก็ยังไม่เปลี่ยน
ความกังวลเรื่องความเป็นส่วนตัว: ปัญหาความเป็นส่วนตัวนั้นร้ายแรงมาก และมีโอกาสที่สถานการณ์จะถูกปรับปรุงก่อนที่มันจะแย่ไปกว่านี้ แต่ถ้าฟีเจอร์นี้ถูกทำออกมาได้ดี มันก็อาจกลายเป็น killer app ของ AI ยุคปัจจุบันได้
ความสำคัญของการเข้าถึงข้อมูล: การเข้าถึงข้อมูลที่ดีคือความสามารถอันทรงพลัง ข้อมูลส่วนบุคคลมีมูลค่าสูงมาก และจำเป็นต้องมีวิธีจัดเก็บและเข้าถึงมันได้โดยอัตโนมัติ เมื่อเวลาผ่านไปเราก็คงต้องปรับตัวกับเรื่องนี้
อุปกรณ์สอดแนม: ในปี 2017 ผู้คนสมัครใจนำอุปกรณ์สอดแนมเข้ามาไว้ในบ้านของตัวเอง และในปี 2024 ก็กำลังเปิดใช้ keylogger กันอยู่
ภาพยนตร์เรื่อง 'Antitrust' กับความเป็นจริง: ภาพยนตร์ปี 2001 เรื่อง 'Antitrust' พูดถึงบริษัทที่คล้าย Microsoft ซึ่งคอยเฝ้าดูคอมพิวเตอร์ทุกเครื่องและขโมยโค้ด และ 23 ปีต่อมา สิ่งนั้นก็กลายเป็นความจริง