วิกฤตความเชื่อมั่นต่อปัญญาประดิษฐ์
(simonwillison.net)- ข้อถกเถียงเกี่ยวกับฟีเจอร์ AI ใหม่ของ Dropbox รุนแรงขึ้นจากความกังวลว่า ไฟล์ส่วนตัว ที่ฝากไว้ อาจถูกนำไปใช้ฝึก OpenAI และ Dropbox ออกมาปฏิเสธอย่างหนักแน่น
- ฟีเจอร์ดังกล่าวคือการสรุปแบบออนดีมานด์และ “แชตกับข้อมูล” ที่อิง retrieval-augmented generation (RAG) แต่ในประเด็นความเป็นส่วนตัวของ AI การอธิบายแบบคร่าว ๆ นั้นยากจะสร้างความเชื่อมั่นได้
- การที่สวิตช์ AI ดูเหมือนจะถูกเปิดไว้เป็นค่าเริ่มต้น และข้อความเชิงหลักการที่ว่า “จะไม่นำไปใช้ฝึกโดยไม่ได้รับความยินยอม” ทำให้ผู้ใช้อาจสับสนเรื่อง ขอบเขตของความยินยอม
- แม้ OpenAI จะบอกว่า “ข้อมูลที่ส่งผ่าน API จะไม่ถูกนำไปใช้ฝึก” ก็ยังมีผู้ใช้จำนวนมากที่ไม่เชื่อ และสิ่งนี้ก่อให้เกิดโครงสร้างความไม่ไว้วางใจคล้ายกับความเชื่อเรื่อง Facebook ดักฟังผ่านไมโครโฟนเพื่อยิงโฆษณา
- บริษัท AI จำเป็นต้องฟื้นฟูความเชื่อมั่นด้วย คำอธิบายที่โปร่งใส เกี่ยวกับข้อมูลฝึกและวิธีประมวลผล ขณะที่โมเดลแบบโลคัลกำลังกลายเป็นทางเลือกที่น่าสนใจยิ่งขึ้นท่ามกลางความกังวลด้านความเป็นส่วนตัว
ประเด็นสำคัญของข้อถกเถียงเรื่องฟีเจอร์ AI ของ Dropbox
- หลังจาก Dropbox เพิ่ม ฟีเจอร์ AI ใหม่ ก็เกิดเสียงวิจารณ์มากขึ้นว่าไฟล์ส่วนตัวอาจถูกส่งต่อไปยัง OpenAI และถูกนำไปใช้ฝึกโมเดล
- ความกังวลหลักคือไฟล์ส่วนตัวที่เก็บไว้ใน Dropbox จะถูกใช้เป็นข้อมูลฝึกของ OpenAI หรือไม่ ซึ่ง Dropbox ปฏิเสธเรื่องนี้อย่างหนักแน่น
- ฟีเจอร์ดังกล่าวประกอบด้วยการสรุปแบบออนดีมานด์และแนวทาง retrieval-augmented generation (RAG) อย่าง “แชตกับข้อมูล”
- ในบริการที่เก็บข้อมูลส่วนตัวจำนวนมาก คำอธิบายเรื่องความเป็นส่วนตัวของ AI ที่คลุมเครือเพียงเล็กน้อยก็อาจทำให้สูญเสียความเชื่อมั่นได้ง่าย
ความสับสนที่เกิดจากข้อความเรื่องการยินยอมและการตั้งค่า
- ใน AI principles ของ Dropbox มีข้อความว่าบริษัทตั้งอยู่บนพื้นฐานของความเชื่อมั่นของลูกค้าและความเป็นส่วนตัวของข้อมูล และจะไม่นำข้อมูลของลูกค้าไปใช้ฝึกโมเดล AI โดยไม่ได้รับความยินยอม
- ในการตั้งค่าบัญชีมีสวิตช์ที่เกี่ยวข้องกับ AI และแม้แต่ในบัญชีที่ไม่เคยเปิดเองก็ยังดูเหมือนอยู่ในสถานะ เปิดอยู่
- ประมาณ 4 ชั่วโมงหลังโพสต์บทความ ลิงก์การตั้งค่านี้ก็ไม่สามารถใช้งานได้อีก
- ยังไม่ชัดเจนว่าสวิตช์นี้ควรถูกตีความว่าเป็นการยินยอมให้ฝึกโมเดลหรือไม่
- คำว่า “ยินยอม” นั้นคลุมเครือมาก เมื่ออยู่ในโลกความจริงที่ผู้คนมักกดยอมรับโดยไม่อ่านเงื่อนไขการใช้งาน
- ผู้ใช้จำนวนมากจึงเข้าใจว่าข้อมูลส่วนตัวที่ฝากให้ Dropbox ปกป้อง อาจไหลเข้าสู่กระบวนการฝึกของ OpenAI
ผู้ใช้ที่ไม่เชื่อ OpenAI
- ข้อความในการตั้งค่าของ Dropbox ระบุถึง OpenAI ซึ่งเป็นพาร์ตเนอร์ภายนอกว่า “ข้อมูลจะไม่ถูกใช้เพื่อฝึกโมเดลภายในโดยเด็ดขาด และจะถูกลบออกจากเซิร์ฟเวอร์ของบุคคลที่สามภายใน 30 วัน”
- แต่ผู้ใช้จำนวนมาก ไม่เชื่อ คำกล่าวที่ว่า OpenAI จะไม่นำข้อมูลไปใช้ฝึก
- ข้อถกเถียงนี้จึงลุกลามจากปัญหาการตั้งค่าของ Dropbox ไปสู่ วิกฤตความเชื่อมั่น ต่อ AI โดยรวม
- การรับรู้ที่ว่า “OpenAI ใช้ข้อมูลทุกอย่างที่มองเห็นเพื่อฝึก” อยู่ในตำแหน่งคล้ายกับความเชื่อที่ว่า “Facebook แอบฟังผ่านไมโครโฟนมือถือแล้วแสดงโฆษณา”
การเปรียบเทียบกับทฤษฎีสมคบคิดเรื่อง Facebook ดักฟังผ่านไมโครโฟน
- ทฤษฎีที่ว่า Facebook แอบฟังบทสนทนาของผู้ใช้ผ่านไมโครโฟนมือถือแล้วนำไปใช้แสดงโฆษณานั้นมีมานานแล้ว
- ในทางเทคนิค มีเหตุผลหลายอย่างที่ใช้โต้แย้งเรื่องนี้ได้
- ระบบปฏิบัติการมือถือไม่อนุญาตให้แอปเข้าถึงไมโครโฟนแบบลับ ๆ โดยที่ผู้ใช้ไม่เห็น
- นักวิจัยด้านความเป็นส่วนตัวสามารถตรวจสอบการสื่อสารระหว่างอุปกรณ์กับ Facebook เพื่อยืนยันการทำงานจริงได้
- การรันระบบรู้จำเสียงคุณภาพสูงในวงกว้างตลอดเวลามีต้นทุนสูงมาก
- ยังมีข้อโต้แย้งที่ไม่ใช่เชิงเทคนิคด้วย
- Facebook ปฏิเสธเรื่องนี้ และหากโกหกจนถูกเปิดโปง ความเสี่ยงด้านชื่อเสียงจะสูงมาก
- เรื่องแบบนี้ต้องมีคนเกี่ยวข้องมากเกินไป จึงยากจะดำเนินต่อไปได้โดยไม่มีผู้เปิดโปงจากภายใน
- Facebook มีวิธีทำโฆษณาแบบเจาะเป้าหมายที่ถูกกว่าและมีประสิทธิภาพกว่ามากอยู่แล้ว โดยไม่ต้องดักฟังผ่านไมโครโฟน
- เมื่อเห็นโฆษณาหลายพันชิ้น ก็ย่อมมีบางกรณีที่บังเอิญตรงกับสิ่งที่เพิ่งพูดไป
- แต่เมื่อผู้ใช้รู้สึกว่าเห็นโฆษณาที่เกี่ยวข้องทันทีหลังจากพูดเรื่องนั้นจริง ๆ ข้อโต้แย้งเหล่านี้ก็มักสูญเสียพลังในการโน้มน้าว
- ตอน “109 Is Facebook Spying on You?” ของ Reply All เมื่อเดือนพฤศจิกายน 2017 สรุปว่า Facebook ไม่ได้ดักฟังผ่านไมโครโฟน แต่ก็ยากที่จะโน้มน้าวคนที่เชื่อไปแล้ว
ในโลก AI กล่องดำยิ่งเพิ่มความไม่ไว้วางใจ
- ในกรณีของ Facebook ผู้ใช้เชื่อว่าตนรู้ว่าเกิดอะไรขึ้นจากประสบการณ์ส่วนตัว
- แต่ใน AI สถานการณ์แทบจะตรงกันข้าม
- โมเดลนั้นใกล้เคียงกับ กล่องดำ และถูกสร้างขึ้นอย่างปกปิด
- ยากที่จะรู้ว่าใช้ข้อมูลอะไรในการฝึกบ้าง
- และก็ยากที่จะเข้าใจด้วยว่าข้อมูลฝึกส่งผลต่อโมเดลอย่างไร
- ผู้ใช้จึงมักพึ่งพาบรรยากาศและความรู้สึกมากกว่าหลักฐาน และบรรยากาศรอบ AI ในตอนนี้ก็ไม่ค่อยดีนัก
ทำไมวิกฤตความเชื่อมั่นจึงสำคัญ
- ข้อสงสัยว่าบริษัทโกหกเกี่ยวกับวิธีจัดการความเป็นส่วนตัวถือเป็นเรื่องร้ายแรงมาก
- สังคมที่บริษัทยักษ์ใหญ่สามารถโกหกอย่างโจ่งแจ้งเรื่องการจัดการข้อมูลแล้วไม่ต้องรับผลใด ๆ ไม่ใช่สังคมที่ดีต่อสุขภาวะส่วนรวม
- หนึ่งในบทบาทสำคัญของภาครัฐคือการป้องกันไม่ให้เรื่องแบบนี้เกิดขึ้น
- หาก OpenAI ใช้ข้อมูลที่บอกว่าจะไม่นำไปฝึกจริง ก็ควรต้องเผชิญหน่วยงานกำกับดูแลหรือการฟ้องร้อง
- หาก Facebook สอดแนมผ่านไมโครโฟนมือถือจริง ก็ควรเป็นเป้าของการกำกับดูแลและการฟ้องร้องเช่นกัน
- หากผู้คนเชื่อทฤษฎีสมคบคิดที่ไม่มีหลักฐานว่าเป็นความจริง ก็อาจทำให้ความไม่ยอมรับของสังคมต่อการกระทำผิดจริงของบริษัทอ่อนลงได้
- ความเป็นส่วนตัวเป็นเรื่องสำคัญ แต่ก็ถูกเข้าใจผิดได้ง่าย
- ผู้คนอาจประเมินทั้งสิ่งที่บริษัททำอยู่และสิ่งที่ทำได้ สูงเกินจริงหรือต่ำเกินจริงก็ได้
- เทคโนโลยี AI กำลังเปลี่ยนขอบเขตของสิ่งที่เป็นไปได้อย่างรวดเร็ว จนแม้แต่คนที่รู้เรื่องในสายนี้ก็ยังเข้าใจได้ยาก
สิ่งที่ OpenAI และแล็บ AI ทำได้
- แล็บ AI ขนาดใหญ่สามารถเปิดเผย วิธีการฝึก ให้ชัดเจนขึ้นได้
- คำถามสำคัญคือ OpenAI ใช้อะไรเป็นข้อมูลฝึกบ้าง
- คำตอบในตอนนี้คือเราไม่รู้ และกระบวนการทั้งหมดก็ทึบแสงอย่างมาก
- ในสถานการณ์แบบนี้ ต่อให้ OpenAI บอกว่า “ข้อมูลที่ส่งผ่าน API จะไม่ถูกนำไปใช้ฝึก” ผู้คนก็ยังเชื่อได้ยาก
- ฝั่ง ChatGPT เองยิ่งซับซ้อนกว่า
- OpenAI ใช้ปฏิสัมพันธ์ใน ChatGPT เพื่อปรับปรุงโมเดล
- แม้แต่ลูกค้าแบบเสียเงินก็ไม่ใช่ข้อยกเว้น โดยข้อยกเว้นคือ ChatGPT Enterprise ที่เป็นแพ็กเกจ “ราคาตามการติดต่อสอบถาม”
- หากผู้ใช้นำเอกสารลับมาแปะใน ChatGPT แล้วขอให้สรุป การจะตัดสินได้ว่าหลังอัปเดตโมเดลครั้งถัดไปจะมีบางส่วนของเอกสารถูกเปิดเผยต่อผู้ใช้อื่นหรือไม่ จำเป็นต้องมีคำอธิบายเพิ่มเติมว่าใช้ข้อมูลจาก ChatGPT เพื่อปรับปรุงโมเดลอย่างไร
- เช่นเดียวกับที่แพลตฟอร์มขนาดใหญ่มักเผยแพร่ postmortem หลังเหตุขัดข้อง บริษัท AI ก็สามารถฟื้นฟูความเชื่อมั่นได้ด้วยคำอธิบายที่โปร่งใส
- Dan Luu ได้รวบรวม รายการตัวอย่าง postmortem ที่เกี่ยวข้อง
โอกาสของโมเดลแบบโลคัล
- กระแสที่เห็นซ้ำ ๆ ในข้อถกเถียงนี้คือ ผู้ใช้รู้สึกสบายใจกว่าที่จะฝากข้อมูลไว้กับ โมเดลแบบโลคัล ที่รันบนอุปกรณ์ของตนเอง มากกว่ากับโมเดลที่โฮสต์บนคลาวด์
- คุณภาพของโมเดลแบบโลคัลกำลังดีขึ้นอย่างต่อเนื่อง และขนาดก็กำลังเล็กลง
- Mixtral-8x7b-Instruct สามารถรันบนโน้ตบุ๊กได้ และถูกประเมินว่าเป็นโมเดลแบบโลคัลตัวแรกที่คุณภาพดูใกล้เคียง ChatGPT 3.5
- Phi-2 ของ Microsoft เป็นโมเดลขนาด 2.7 พันล้านพารามิเตอร์
- โมเดลแบบโลคัลที่ใช้งานได้จริงหลายตัวเริ่มต้นที่ 7 พันล้านพารามิเตอร์
- Phi-2 อ้างว่ามีประสิทธิภาพระดับล้ำสมัยเมื่อเทียบกับบางโมเดลที่ใหญ่กว่า
- ต้นทุนการฝึกดูเหมือนจะอยู่ที่ประมาณ 35,000 ดอลลาร์
- ศักยภาพของโมเดลแบบโลคัลมีสูงมาก แต่ก็ควรหลีกเลี่ยงสถานการณ์ที่ความกังวลด้านความเป็นส่วนตัวที่ผิดพลาด ทำให้เราสูญเสียข้อดีของโมเดลโฮสต์ที่ใหญ่กว่าและสะดวกกว่า
เงื่อนไขของการถกเถียงเรื่อง AI และความเป็นส่วนตัว
- จุดตัดระหว่าง AI กับความเป็นส่วนตัวเป็นประเด็นสำคัญ
- หากต้องการการถกเถียงที่มีคุณภาพสูง จำเป็นต้องมี ความโปร่งใสและความเข้าใจให้มากที่สุดเท่าที่จะเป็นไปได้ เกี่ยวกับสิ่งที่เกิดขึ้นจริง
- เมื่อผู้คนไม่เชื่อคำพูดของบริษัทตั้งแต่แรก การถกเถียงนี้ก็ยิ่งยากขึ้น
- บริษัทต้องได้รับความเชื่อมั่นจากผู้ใช้ และต้องทำให้ผู้ใช้เข้าใจได้ด้วยว่าทำไมจึงควรเชื่อมั่น
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
สำหรับความเป็นส่วนตัวของเว็บไซต์ จำเป็นต้องมีคำนิยามของ ความยินยอม ที่ชัดเจนทั้งในทางปฏิบัติและทางกฎหมาย
ต้องไม่ทำให้ดูเหมือนว่าผู้ใช้ได้ยินยอมอย่างกระตือรือร้นต่อการเก็บข้อมูล การประมวลผล และการโอนให้บุคคลที่สาม ทั้งที่จริง ๆ แล้วได้แอบจัดการไปหมดแล้วก่อนหน้า แล้วค่อยมาสร้างภาพว่ามีการยินยอมภายหลัง
ถ้าหลอกให้ใครสักคนเซ็นสัญญา สัญญานั้นก็คือการฉ้อโกง และถ้าบอกว่าจะขออนุญาตก่อนทำอะไรบางอย่าง แต่กลับมาอ้างเงียบ ๆ ว่าเคยได้อนุญาตไว้แล้วจากสัญญาก่อนหน้า แบบนั้นก็เป็นการฉ้อโกงเหมือนกัน
ไม่รู้ว่าระบบยุติธรรมอ่อนแอลงจนถึงจุดนี้ตั้งแต่เมื่อไร แต่จะไปโทษประชาชนที่ไม่ได้รับการคุ้มครองไม่ได้
สิ่งที่ต้องทำคือพากฎหมายกลับไปสู่แนวทางแบบการทลายการผูกขาดและยุค New Deal แล้วทำลายอิทธิพลที่เป็นพิษก่อนสร้างขึ้นใหม่
ฉันส่งอีเมลแนว WTF ไปหาทีมซัพพอร์ตแล้ว แต่คงจะยกเลิกบัญชีในที่สุด นึกไม่ออกเลยว่าจะมีคำตอบแบบไหนที่ทำให้รู้สึกว่านี่โอเคได้
บริษัทใหญ่มีอำนาจและอิทธิพลมากเกินไป
โดยรวมบทความนี้ดี แต่การเปรียบเทียบว่า “มือถือของฉันแอบฟังฉัน” กับ “OpenAI อาจโกหกเรื่องวิธีใช้ข้อมูลของฉัน” ดูมีจุดบกพร่องอยู่หน่อย
การที่แอปภายนอกจะเข้าถึงไมโครโฟนของ iPhone มีมาตรการตรวจสอบที่เข้มงวด แต่การที่ข้อมูลของฉันถูกส่งต่อให้บุคคลที่สามแบบ plaintext กลับไม่มีมาตรการคุ้มกันในระดับเดียวกัน สำหรับคนทั่วไปมันอาจดูเหมือนเรื่องเดียวกัน แต่ในกรณีแรกผู้ใช้ยังคงได้รับการคุ้มครองอยู่
การแยกความต่างนี้อาจดูเหมือนเป็นการเถียงเรื่องเล็กน้อย แต่การทำเหมือนว่าสงครามเพื่อความเป็นส่วนตัวและอธิปไตยเหนือข้อมูลของผู้ใช้ได้จบลงแล้ว เป็นเรื่องที่ให้ผลลบอย่างมาก ฉันเห็นบ่อยมากว่าคนที่มีความรู้เทคนิคอยู่บ้างและมองโลกในแง่ร้าย จะตอบสนองต่อการใช้อำนาจในทางที่ผิดครั้งใหม่ของบริษัทเหมือนกับว่า “ก็รู้กันอยู่แล้ว” ราวกับว่าถ้าคุณไม่ได้ใช้ Tails Linux มานานกว่า 10 ปี ก็เท่ากับยอมให้บีบอัดโฮมไดเรกทอรีของตัวเองแล้วส่งทั้งหมดไปให้บริษัทเทคโนโลยีน่าสงสัยกับนายหน้าข้อมูลก็ไม่ต่างกัน
ความหมดหวังที่ถูกเรียนรู้มา แบบนี้ไม่เพียงทำลายความไว้วางใจ แต่ยังสร้างภาพว่าการมีโลกที่ดีกว่านี้เป็นไปไม่ได้ด้วย เรื่อง Dropbox ดูเหมือนตัวอย่างของกรอบคิดนั้นที่ย้อนกลับมา คือความบ้าคลั่งแบบที่คิดว่าผู้ใช้คงไม่สนใจ แม้จะสื่อเป็นนัยว่ากำลังส่งไฟล์ส่วนตัวของพวกเขาไปให้บุคคลที่สามโดยไม่ถามก่อนก็ตาม
อนึ่ง ฉันย้ายข้อมูลส่วนใหญ่ของตัวเองออกจาก Dropbox ไปยังระบบโฮสต์เองตั้งนานแล้ว แต่เมื่อวานนี่แหละที่เป็นฟางเส้นสุดท้ายจนทำให้ฉันปิดบัญชีอย่างถาวร ขอบใจนะ Dropbox
ในตัวอย่าง Facebook ผู้คนเชื่อว่าตัวเองเข้าใจสิ่งที่เกิดขึ้นจากหลักฐานส่วนตัวของตัวเอง ในขณะที่ AI แทบจะตรงกันข้ามเลย โมเดล AI เป็น กล่องดำ แปลกประหลาด ถูกสร้างขึ้นอย่างลับ ๆ และไม่มีทางเข้าใจได้เลยว่าข้อมูลฝึกมีอะไรบ้าง หรือสิ่งเหล่านั้นส่งผลต่อโมเดลอย่างไร
ฉันเห็นด้วยเต็มที่ว่าภัยคุกคามที่ใหญ่ที่สุดตอนนี้คือความชาชิน ถ้าผู้คนสร้างแบบจำลองความเข้าใจในหัวที่ผิด แล้วแค่ยักไหล่ว่า “มันก็เป็นแบบนี้แหละ” ก็จะยิ่งทำให้การแก้ปัญหาจริง ๆ เป็นไปได้ยากขึ้น
แน่นอนว่าย่อมมีทั้งตัวเลือกที่ดีกว่าและแย่กว่าสำหรับการฝากข้อมูลและความเป็นส่วนตัวไว้ แต่เราไม่สามารถรู้ได้ด้วยซ้ำว่าใครคือผู้ให้บริการแบบนั้น หรือในความหมายกว้าง ๆ ยังมีที่ไหนที่ “ไว้วางใจได้” อยู่จริงหรือไม่ จึงต้องดำเนินชีวิตบนสมมติฐานว่าเชื่อใจใครไม่ได้เลย
ฉันอยากมองโลกในแง่ร้ายน้อยกว่านี้ แต่เมื่อมองย้อนไป 10–20 ปีที่ผ่านมา ลัทธิเย้ยหยัน ก็ดูสมเหตุสมผลอย่างเต็มที่ ถ้าท่าทีแบบนี้ผิด จะปรับแก้อย่างไรได้บ้าง?
การเข้าถึงไมโครโฟนของแอปถูกควบคุมโดยระบบปฏิบัติการ และมีเครื่องมือจากระบบปฏิบัติการให้ผู้ใช้ดูได้ว่าแอปไหนใช้ไมค์ได้เมื่อไร
แต่ในทางกลับกัน การเข้าถึงข้อมูลบนคลาวด์ เป็นเรื่องแบบ “เชื่อฉันสิ” ล้วน ๆ และก็มีหลักฐานออกมาแล้วว่าหลายบริษัทใช้ความไว้วางใจนั้นในทางที่ผิด
ฉันก็ยังใช้ Dropbox อยู่ แต่ทุกอย่างที่เก็บใน Dropbox ถูกเข้ารหัสไว้หมดแล้ว หรือไม่ก็เป็นของที่ถึงหลุดออกสู่อินเทอร์เน็ตสาธารณะก็ไม่เป็นไร ฉันเสียเวลาไปมากกับการลองเล่นโซลูชันแบบโฮสต์เอง แต่หลังจากจุดหนึ่งก็สรุปว่าประโยชน์ที่ได้จริงไม่ได้มากนัก และเอาเวลาไปทำอย่างอื่นน่าจะคุ้มกว่า
สำหรับฉัน บทความนี้ดูไร้เดียงสาไปหน่อย และให้ความรู้สึกแบบ “สมมติว่าทุกคนมีเจตนาดี” มากเกินไป
ถ้ามองว่านอกโลก AI ตลอด 10 ปีที่ผ่านมาเกิดอะไรขึ้นบ้าง ก็จะเห็นว่าทุกคนกำลังกินข้อมูลอย่างตะกละตะกลามเหมือนนักสะสมที่หมกมุ่น ไม่ใช่แค่ Google หรือ Facebook ที่ใช้ข้อมูลในผลิตภัณฑ์หลักเท่านั้น แต่แทบทั้งหมดก็ทำแบบนั้น วันนี้ยังเห็นมินิไซต์สูตรอาหารคริสต์มาสแบบดั้งเดิมของสวีเดนที่เคยใช้ ยังเพิ่มวิดีโอเล่นอัตโนมัติและแบนเนอร์ขอความยินยอมคุกกี้แบบ dark pattern เข้าไปเลย
แอปและเว็บไซต์ใหม่แทบทั้งหมดหมุนรอบแกนเศรษฐกิจนี้ และพอโมเดลภาษาขนาดใหญ่เริ่มทรงพลังขึ้น API ของบุคคลที่สามก็ถูกปิดพร้อมกันไปทั่วอย่างกะทันหัน
AI รุ่นปัจจุบันไม่ได้อยู่แค่ระดับที่ผู้เล่นรายอื่นแอบกินข้อมูลเหมือนกินมื้อดึกอีกต่อไป แต่เหมือนซอมบี้เร็วที่หิวกระหายเลือดและสมอง ข้อมูลมีบทบาทกับตัวผลิตภัณฑ์โดยตรงมากขึ้น และจิตวิทยาการแข่งขันที่ร้อนแรงเกินเหตุของเทคเวนเจอร์แคปปิตอลก็ฟื้นขึ้นมาเพราะความเป็นไปได้ของการเปลี่ยนกระบวนทัศน์ครั้งใหญ่ในรอบหลายทศวรรษ
เบาะแสทั้งหมดชี้ไปทาง ซอมบี้อะพอคคาลิปส์กับยุคตื่นทอง และค่อยไปขออภัยทีหลัง ดังนั้นฉันเลยเชื่ออย่างแรงว่าทุกคนกำลังเร่งเสริมวาทกรรมเรื่องความปลอดภัยและความรับผิดชอบ ก่อนเกิดวิกฤตชื่อเสียงที่เลี่ยงไม่พ้น เป็นการกักตุนกระสุนไว้ทำให้น้ำขุ่นล่วงหน้า
แต่พวกสายเทคกลับดูเฉื่อยเหมือนไม่ได้ผ่าน 10 ปีที่ผ่านมาอย่างลึกซึ้ง และคิดว่าคราวนี้มันคงต่างออกไป เพราะ AI มีรากในแวดวงวิชาการ เพราะเป็นบริษัทใหม่แวววาว เพราะมีวาทกรรมเรื่องความปลอดภัย หรือเพราะมีโพสต์ Twitter คมๆ ของผู้ก่อตั้งสาย “สมจริง”
ฉันไม่ได้จะแกล้งทำเป็นรู้แน่ชัดว่าข้างหลังเกิดอะไรขึ้นบ้าง แต่ฉันอยู่มานานพอจะรู้ว่าคนเราทำงานกันยังไง และคนเราก็ไม่ได้ดีขึ้นเลย
ต่อให้ในทางกฎหมายมันอาจเป็นความจริง ก็ยังทำให้ดูเป็นคนห่วยๆ ของวงการเทคอยู่ดี
บทความนี้มองข้ามประเด็นความเป็นส่วนตัวอื่นๆ นอกเหนือจากการเอาข้อมูลของฉันไปฝึกโมเดล แบบเบาเกินไป
ฉันทำงานแบบมืออาชีพ และลูกค้าก็มี ข้อตกลงไม่เปิดเผยข้อมูล กับข้อกำกับเรื่องข้อมูลจะไปที่ไหน ฉันอยากใช้บริการที่ข้อมูลแค่อยู่บนเซิร์ฟเวอร์ มากกว่าจะเพิ่มจุดรั่วไหลของข้อมูลให้มากขึ้นเรื่อยๆ
ตั้งแต่แรกฉันก็ไม่ค่อยเข้าใจว่าทำไมข้อมูลของฉันถึงไม่ถูกเข้ารหัสทั้งหมดตลอดเวลาและให้มีแค่ฉันที่ดูได้ แต่แนวคิดที่จะส่งมันข้ามอินเทอร์เน็ตอย่างแข็งขันไปให้อีกบริษัทกินและประมวลผล โดยที่ฉันไม่ยินยอมหรือไม่สนใจเลย น่ากลัวมาก
ตอนที่เลือกเปิดเอง ฉันก็ใช้ฟีเจอร์ AI บ่อยนะ แต่การที่บริษัทส่งไฟล์ส่วนตัวของฉันไปทั่วอินเทอร์เน็ตโดยไม่ขอความยินยอม มันบ้าชัดๆ
พูดตรงๆ ว่า OneDrive มีเครื่องมือย้ายข้อมูล ฉันเลยสมัคร Dropbox Business รุ่นทดลอง แล้วเมื่อคืนก็ย้ายไฟล์ทั้งหมดอัตโนมัติเลย นั่นเป็นหยดสุดท้ายจากพฤติกรรมแบบใส่ขยะและป๊อปอัปในเดสก์ท็อปอินเทอร์เฟซ และยังไม่ให้การเข้ารหัสแบบ end-to-end ทั้งที่ฉันขอมาตลอด
ถ้าคุณอยากย้ายจาก Dropbox Business ไปบัญชี Office 365 OneDrive แบบไม่กี่คลิก ดูได้ที่นี่: https://learn.microsoft.com/en-us/sharepointmigration/mm-dro...
homomorphic encryption อาจเป็นคำตอบของการประมวลผลแบบกระจายได้ แต่กว่าจะใช้งานจริงคงต้องรออีกหลายปี ระหว่างนี้เราควรไปทาง de-clouding การกลับสู่ออนพรีมิส และสหกรณ์ private cloud แบบไฮบริดภายในกลุ่มที่ไว้วางใจกัน
อีกเหตุผลหนึ่งคือเพื่อหยุดยั้งการถ่ายโอนความมั่งคั่งครั้งใหญ่จากบุคคลทั่วไปและบริษัทเล็กๆ ไปสู่ฝั่ง big data
ดีใจที่ภาพฝันว่า AI ผู้ทรงอำนาจทุกอย่างจะมายึดครองโลกเริ่มลดลง และคนเริ่มเข้าใจความจริงที่ธรรมดากว่านั้นได้ดีขึ้น AI แค่เร่งให้ความไม่สมดุลของอำนาจอันไร้สาระที่มีอยู่แล้วรุนแรงขึ้นเท่านั้น เรื่องส่วนตัวก็ควรถูกเก็บให้เป็นส่วนตัว
ถ้าคุณเชื่อว่าผู้ให้บริการคลาวด์จะให้ความสำคัญกับผลประโยชน์สูงสุดของคุณก่อน ก็ขอให้โชคดี ที่นี่คือ Hacker News และความไว้วางใจไม่ใช่สิ่งที่ควรได้มาโดยอัตโนมัติ แต่ต้องเป็นสิ่งที่สร้างขึ้น
มันไม่ใช่การเข้ารหัสแบบ end-to-end แต่ก็กันไม่ให้บริษัทเอาข้อมูลที่เข้ารหัสไปใช้เป็น คอร์ปัสสำหรับการฝึก ได้ โฟลเดอร์และไฟล์ที่แชร์ซึ่งเพื่อนร่วมงานหรือครอบครัวสร้างไว้ อาจเป็นเพราะพวกเขาไม่ได้เชี่ยวชาญเทคโนโลยีพอจะรู้เรื่องการเข้ารหัสหรือเปล่า?
ถ้าคุณมีข้อตกลงไม่เปิดเผยข้อมูลกับลูกค้า ก็ไม่ควรใช้ Dropbox ที่ไม่มีการเข้ารหัสแบบ end-to-end และ OneDrive ก็เหมือนกัน
ประเด็นสำคัญไม่ใช่แค่การกังวลว่าไฟล์ส่วนตัวใน Dropbox จะถูกส่งไปเป็นข้อมูลฝึกโมเดลของ OpenAI หรือไม่
ไม่ว่าจะเอาไปใช้เพื่อวัตถุประสงค์ใด ฉันก็ไม่ต้องการให้ข้อมูลของฉันถูกส่งไปที่ไหนเลยหากฉันไม่ได้อนุญาต
ในกรณีนี้ ไม่ใช่แค่ต้องเชื่อว่า OpenAI จะไม่ฝึกด้วยไฟล์ของเราเท่านั้น แต่ยังต้องเชื่อด้วยว่าพวกเขาจะจัดการไฟล์ของเราอย่างปลอดภัย แม้จะไม่มีเหตุผลให้สงสัยว่าคำพูดที่ว่าไม่ได้นำไปฝึกนั้นเป็นเท็จ แต่ปัญหาก็ยังคงอยู่
แต่ในเวลาเดียวกันก็อาจมีการมอนิเตอร์ผลลัพธ์ของโมเดลได้ และโดยเฉพาะเมื่อใช้ retrieval-augmented generation (RAG) กับไฟล์ส่วนตัว ก็อาจเกิดการรั่วไหลของข้อมูลส่วนบุคคลอย่างชัดเจนได้
การไม่เชื่อว่าผู้คนจะเข้าใจข้อกำหนดยิบย่อยทั้งหมดอย่างถ่องแท้นั้นถือว่าสมเหตุสมผลมาก และก็น่าจะไม่เข้าใจจริง ๆ ด้วย เพราะสิ่งหนึ่งที่บริษัท AI แสดงให้เห็นอย่างชัดเจนคือ พวกเขาคิดว่าสามารถใช้ข้อมูลที่ต้องการในแบบที่ต้องการได้ โดยไม่คำนึงว่าผู้สร้างจะอนุญาตหรือไม่ก็ตาม
ถ้าคุณไม่ต้องการให้บุคคลที่สามหรือแม้แต่ผู้ให้บริการเองอ่านข้อมูลได้ คุณต้องตรวจสอบให้แน่ใจว่ามี การเข้ารหัสแบบ end-to-end ตั้งแต่ฝั่งไคลเอนต์
นั่นหมายความว่าควรใช้ Syncthing แทน Dropbox และใช้ Signal แทน Slack หรือ Discord
โดยเฉพาะเมื่อในอดีตเคยมีปัญหาด้านความปลอดภัยที่ถูกบันทึกไว้หลายกรณี
ประเด็นเรื่องความเชื่อถือไมโครโฟนในบทความดูเหมือนเป็นการ เบี่ยงประเด็น ที่ทำให้ไขว้เขวจากจุดสำคัญซึ่งอธิบายให้ชัดกว่านี้ได้
Facebook ดึงข้อมูลจากแอปและจากอินเทอร์เน็ตอย่างแท้จริง ติดตามพฤติกรรมของคุณบนอินเทอร์เน็ต และนำข้อมูลนี้ไปใส่ในโมเดลเกี่ยวกับตัวคุณ โมเดลเหล่านี้แม่นยำมากจนบางครั้งแทบจะคาดเดาได้ว่าคุณกำลังคิดอะไรอยู่ นั่นจึงเป็นเหตุให้คนทั่วไปสรุปว่าแอปกำลังแอบฟังผ่านไมโครโฟน
บริษัท large language model อย่าง OpenAI และพาร์ตเนอร์ของพวกเขาก็ใช้โมเดลแบบเดียวกันแทบทั้งหมด พวกเขากวาดข้อมูลจากสารพัดแหล่งมาใช้ปรับปรุงโมเดล และทำเงินจากการเพิ่มโอกาสให้คุณคลิกสิ่งที่พวกเขาต้องการให้คลิกต่อไป
พวกเขาอาจผิดในเชิงเทคนิคเรื่องกลไก แต่ถูกต้องอย่างยิ่งในแง่ที่ว่ามันเป็นการรุกรานความเป็นส่วนตัวอย่างรุนแรง การที่การรุกรานนั้นมาในรูปของโมเดลที่แม่นยำแทนที่จะเป็นไมโครโฟนนั้นเป็นเพียงรายละเอียดทางเทคนิค และผลลัพธ์สุดท้ายก็เหมือนกัน
ฉันอาศัยอยู่ใกล้มหาวิทยาลัยใหญ่ ก็เลยเดาว่าคงอนุมานจาก IP บางครั้งก็มีโฆษณา Lexus หรือ Jaguar โผล่มาบ้าง ซึ่งอันนั้นก็ไม่เป็นไร
ฉันไม่ได้เชื่อว่า Facebook แอบฟังคนผ่านไมโครโฟนในโทรศัพท์อย่างลับ ๆ แต่เหตุผลที่ว่า “ถ้าถูกจับได้ว่าโกหก ความเสี่ยงด้านชื่อเสียงจะสูงลิ่ว” นั้นไม่น่าเชื่อถือเลย
ในหมู่คนอเมริกันทั่วไปที่ไม่ใช่สายเทคโนโลยีเท่าที่ฉันรู้ ชื่อเสียงของ Facebook แย่มากอยู่แล้ว ผู้คนเห็นกันมาแล้วว่า Facebook มีส่วนช่วยกระตุ้นเหตุจลาจลเมื่อวันที่ 6 มกราคม 2021 และหลังจากนั้นก็หลบเลี่ยงความรับผิดโดยไม่แก้ไขอะไรเลย
ต่อให้มีการเปิดเผยว่าพวกเขาทำในสิ่งที่คนจำนวนมากเชื่ออยู่แล้วว่าน่าจะทำอยู่จริง ความเสียหายด้านชื่อเสียงที่เกิดขึ้นก็คงน้อยกว่านั้นมาก
ไม่ว่าจะเป็น OpenAI หรือบริษัทยักษ์ใหญ่อื่น ๆ ฉันก็ไม่ได้ “เชื่อถือ” สิ่งที่พวกเขาทำ สิ่งที่จะทำ หรือสิ่งที่บอกว่ากำลังทำอยู่
ถึงอย่างนั้นก็ไม่ได้เชื่อว่า OpenAI กำลังใช้ข้อมูล Dropbox ไปฝึกโมเดลโดยไม่ได้รับความยินยอมจากผู้ใช้
แต่ประเด็นไม่ได้อยู่ตรงนั้น ปัญหาคือ ข้อมูลระหว่างส่งผ่าน ต่างหาก คือข้อมูลที่ถูกส่งไปยังบุคคลที่สามซึ่งสามารถอ่านได้จริง ไปยังที่ที่อาจมีพนักงานไม่หวังดีที่ Dropbox ควบคุมไม่ได้ ไปยังที่ที่ข้อมูลอาจถูกเก็บไว้ในล็อกหรืออยู่ภายใต้นโยบายอีกแบบหนึ่ง
ถ้าฉันส่งข้อมูลส่วนตัวไปให้ Dropbox, Dropbox ก็ไม่ควรส่งต่อให้ใครไม่ว่าด้วยเหตุผลใด รวมถึง “การปรับปรุงผลิตภัณฑ์” โดยไม่มีความยินยอมที่ชัดเจนและได้รับการแจ้งอย่างเพียงพอ ฉันไม่เข้าใจว่าทำไมเรื่องนี้ถึงยังเป็นประเด็นถกเถียงกันได้
ถ้า Dropbox โฮสต์โมเดลเองและให้บริการ retrieval-augmented generation search แก่ผู้ใช้ที่ยินยอม นั่นก็เป็นอีกเรื่องหนึ่ง
แต่ถ้า Dropbox ส่งข้อมูลของผู้ใช้ทุกคนให้บุคคลที่สามโดยไม่แจ้งใครล่วงหน้าเลย นั่นเป็นคนละเรื่องกันโดยสิ้นเชิง และเป็นเรื่องที่เลวร้ายมาก
การฝึกโมเดลก็มีแค่ว่าเป็น fair use หรือไม่เป็นอย่างใดอย่างหนึ่ง และบริษัท Silicon Valley ที่โตเร็วก็ไม่ได้มีชื่อเสียงเรื่องยึดถือเจตนารมณ์ของกฎหมายอย่างเคร่งครัดนัก
ยิ่งไปกว่านั้น นโยบายยังระบุด้วยว่าพวกเขาสามารถอัปเดตเมื่อไรก็ได้ตามต้องการ
นโยบายความเป็นส่วนตัวไม่ได้มีผลผูกพันทางกฎหมายเสียด้วยซ้ำ ถ้าคุณอยู่ในสหรัฐฯ และไม่ได้ทำสัญญากับ Dropbox คุณแทบไม่มีสิทธิอะไรเลย และถ้าจะบังคับใช้สิทธิที่คุณคิดว่ามี คุณก็ต้องไปศาล ซึ่งในทางปฏิบัติเป็นระบบที่คนมีเงินชนะ และอีกฝ่ายคือบริษัทที่มีทรัพย์สินระดับหลายพันล้าน
ถ้า Dropbox ทรยศต่อความไว้วางใจที่คุณมอบให้อย่างชัดเจน มันก็เป็นเรื่องที่ห่วยมาก และอาจเป็นการตัดสินใจทางธุรกิจที่เลวร้ายจนไม่มีใครอยากฝากข้อมูลไว้กับ Dropbox อีกเลย แต่ถ้าวันหนึ่งมันกลายเป็นฝ่ายร้ายเต็มตัวและเริ่มขายข้อมูลให้ใครก็ตามที่ยอมจ่ายเงิน ก็ดูเหมือนว่าคุณแทบทำอะไรไม่ได้อยู่ดี
ถ้าเป็นข้อมูลที่คุณแคร์ ก็ไม่ควรเอาขึ้นคลาวด์โดยไม่มีทั้งแบ็กอัปแบบโลคัลและการเข้ารหัส แบบนั้นไม่ว่าผู้ให้บริการคลาวด์จะทำอะไรหรือส่งต่อให้ใคร คุณก็ไม่ต้องกังวล
ที่จริงฉันอยากให้พวกเขาเข้ารหัสข้อมูลของฉันจนไม่สามารถให้ฟีเจอร์แบบนี้ได้ด้วยซ้ำ ฉันต้องการการกู้คืนข้อมูล แต่การที่พวกเขาสามารถให้ “ฟีเจอร์” AI แบบนี้ได้ตั้งแต่แรก มันทำให้ดูเหมือนแทบไม่ได้พยายามป้องกันไม่ให้พนักงานภายในที่ไม่หวังดีหรือบุคคลที่สามเข้าถึงข้อมูลของฉันเลย
ค่าปรับทางการเงินสูงมากต่อหนึ่งเหตุการณ์การเปิดเผยข้อมูล และต่อพนักงานที่เกี่ยวข้องแต่ละคน
แถมพนักงานที่เป็นคนเปิดเผยหรือแชร์โดยตรงก็ต้องรับผิดเป็นการส่วนตัวด้วย
เพราะงั้นถึงจะแชร์เอกสารกับบุคคลที่สามที่ไม่เปิดเผยไว้โดยไม่แจ้งจริง ก็คงไม่ใช่ “ทั้งหมด” แน่ ๆ ข้อมูลขององค์กรน่าจะยังปลอดภัยอยู่ สัญญาแบบนั้นถูกตรวจเข้มมากก่อนลงนาม
วิกฤตความน่าเชื่อถือของ AI งั้นเหรอ?
หลังจากได้เห็นเรื่องที่ดูเหมือนว่าบอร์ดและ CEO ของบริษัทหนึ่งถูกปลดหรือถูกเปลี่ยนตัวท่ามกลางข้อกล่าวหาเรื่องโกหกหรือบิดเบือน แต่ไม่มีใครรู้ชัด ๆ ว่าเกิดอะไรขึ้น มันก็ยิ่งเป็นแบบนั้นไม่ใช่หรือ?
ถ้า Dropbox สแกนข้อมูลผู้ใช้เพื่อสร้างข้อมูลอนุพันธ์ ข้อมูล “อนุพันธ์” นั้นก็จะไม่ใช่ “ข้อมูลผู้ใช้” อีกต่อไป แต่กลายเป็นข้อมูลของ Dropbox และสามารถถูกแชร์ได้
มันอาจมีลักษณะเชิงสถิติเท่านั้นและไม่เกี่ยวข้องโดยตรงกับผู้ใช้รายบุคคล แต่แบบนั้นมันก็คือข้อมูลฝึกไม่ใช่หรือ? มันก็ทำงานแบบนั้นอยู่แล้วไม่ใช่หรือ? งั้นมันก็อาจถูกแชร์เพื่อฝึกโมเดล AI ได้ไม่ใช่หรือ?
นี่ไม่ใช่การโกหก แต่เป็นการเล่นลิ้น ไม่สิ มันคือ พฤติกรรมที่ไร้จริยธรรม และกลายเป็นมาตรฐานของบริษัทยักษ์ใหญ่ด้านเทคโนโลยีไปแล้ว
ฉันไม่ได้มีส่วนได้ส่วนเสียในศึกนี้ ไม่ได้เข้าข้างทั้ง Altman หรือ OpenAI และก็มีความกังวลพอสมควรว่าโลกใหม่อันน่าตื่นตานี้จะพาเราไปที่ไหน แม้จุดหมายจะดูไม่น่าพึงปรารถนา ฉันก็ไม่แน่ใจด้วยซ้ำว่าเรามีทางเลือกที่เชื่อถือได้พอจะลงจากม้าหมุนนี้หรือเปล่า
พฤติกรรมของ Dropbox ที่อธิบายไว้นี่ก็เป็นเพียงอีกหนึ่งตอนในขบวนอันยาวนานมากของบริษัทเทคโนโลยีที่ทำลายความไว้วางใจ
ในตัวอย่างที่ผู้เขียนยกมา Dropbox จะส่งข้อมูลไปยัง OpenAI ก็ต่อเมื่อผู้ใช้สั่งใช้ฟีเจอร์ที่เกี่ยวกับ AI อย่างชัดเจน เช่น การสรุปเอกสาร แต่กระแสตีกลับกลับดูเหมือนตั้งสมมติฐานว่า Dropbox กำลังสแกนและอัปโหลดเอกสารของผู้คนเป็นจำนวนมากโดยไม่มีหลักฐาน
แน่นอนว่ามีพฤติกรรมไร้จริยธรรมในบริษัท AI อยู่จริง ส่วนตัวฉันยังไม่ขอตัดสินว่าสัดส่วนมันสูงหรือต่ำกว่าอัตราพื้นฐานของพฤติกรรมไร้จริยธรรมในประชากรทั่วไป ไม่ว่าอย่างไร ถ้าจะพูดถึงพฤติกรรมที่ไม่ดี ก็ควรใช้ตัวอย่างที่เฉพาะเจาะจงและมีหลักฐานอ้างอิงได้ ไม่ใช่การปลุกปั่นความกลัว
คนที่ไม่ไว้วางใจบริษัท AI ก็มักมีแนวโน้มจะรู้สึกคล้ายกันกับบริษัทอื่น ๆ องค์กรไม่แสวงหากำไรหลายแห่ง หรือแม้แต่หน่วยงานรัฐด้วย
แล้วแต่ว่าคุณไปถามใคร แต่ดูเหมือนจะมี ปัญหาเรื่องความไว้วางใจ ที่ใหญ่กว่าขอบเขตของบริษัทที่ขับเคลื่อนด้วย AI มาก ดังนั้นการคาดหวังให้มีแค่ภาคส่วนนี้ที่ต้องต่อสู้กับความไม่ไว้วางใจที่มาจากทุกทิศทุกทาง ก็ดูเหมือนเป็นภารกิจที่เป็นไปไม่ได้และเกินขอบเขตของบริษัทเหล่านี้
ฉันไม่ค่อยรู้ว่าคำตอบของปัญหานี้คืออะไร มันเป็นปัญหาจริงหรือไม่ หรือถ้าความเย็นชาถากถางรอบด้านแบบนี้แพร่ไปสู่ทุกสิ่งและทุกคน เรากำลังมุ่งหน้าไปทางไหนกันแน่ บางทีเราอาจแค่ถูกสาปให้มาอยู่ในยุคสมัยที่น่าสนใจก็ได้
ทั้งอุตสาหกรรมของเรากำลังใช้ความไว้วางใจอย่างเกินเลยจนแทบเชื่อไม่ลง และยังไม่เห็นสัญญาณว่าจะเปลี่ยนในเร็ว ๆ นี้