วิกฤตความเชื่อมั่นต่อปัญญาประดิษฐ์

 (simonwillison.net)
1 คะแนน โดย GN⁺ 2023-12-16 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

ความไม่ไว้วางใจต่อฟีเจอร์ AI ใหม่ของ Dropbox

  • Dropbox ได้เพิ่มฟีเจอร์ AI ใหม่
  • ฟีเจอร์เหล่านี้เผชิญเสียงวิจารณ์ว่าได้ส่งข้อมูลไปยัง OpenAI
  • Dropbox ปฏิเสธว่าไฟล์ส่วนตัวไม่ได้ถูกนำไปใช้เป็นข้อมูลฝึกโมเดล

รายละเอียดสำคัญ

  • Dropbox มีเอกสารที่ระบุหลักการว่าจะไม่นำข้อมูลลูกค้าไปใช้ฝึกโมเดล AI โดยไม่ได้รับความยินยอมจากลูกค้า
  • มีช่องทำเครื่องหมายที่ซ่อนอยู่ในการตั้งค่า ซึ่งทำให้ไม่ชัดเจนว่าผู้ใช้ได้ให้ความยินยอมหรือไม่

ผู้คนที่ไม่เชื่อ OpenAI

  • OpenAI ซึ่งเป็นพาร์ตเนอร์บุคคลที่สามของ Dropbox อ้างว่าไม่ได้ใช้ข้อมูลเพื่อฝึกโมเดลภายใน และจะลบข้อมูลภายใน 30 วัน
  • ผู้คนไม่เชื่อคำกล่าวอ้างของ OpenAI และกำลังเผชิญวิกฤตความเชื่อมั่นต่อ AI

Facebook ไม่ได้แอบฟังคุณผ่านไมโครโฟน

  • ทฤษฎีที่ว่า Facebook แอบฟังผู้ใช้ผ่านไมโครโฟนแล้วนำไปแสดงโฆษณา สามารถโต้แย้งได้ง่ายทั้งด้วยเหตุผลทางเทคนิคและไม่ใช่ทางเทคนิค
  • อย่างไรก็ตาม ผู้คนไม่เชื่อข้อโต้แย้งเหล่านั้นจากประสบการณ์ของตนเอง

เรื่องนี้สำคัญมาก

  • ความเชื่อมั่นเป็นเรื่องสำคัญ และการที่บริษัทจัดการข้อมูลส่วนบุคคลอย่างไม่ซื่อสัตย์เป็นข้อกล่าวหาที่ร้ายแรง
  • บทบาทของรัฐบาลคือการทำให้แน่ใจว่าเรื่องแบบนี้จะไม่เกิดขึ้น

สิ่งที่เราพอทำได้

  • ห้องแล็บวิจัย AI ขนาดใหญ่สามารถปรับปรุงความเชื่อมั่นได้ด้วยการแบ่งปันข้อมูลเกี่ยวกับชุดข้อมูลฝึก
  • การโต้ตอบกับ ChatGPT ถูกนำไปใช้เพื่อปรับปรุงโมเดล แต่ยังขาดรายละเอียดว่าถูกนำไปใช้อย่างไร

โอกาสของโมเดลแบบโลคัล

  • ผู้คนไว้วางใจโมเดลแบบโลคัลที่รันบนอุปกรณ์ของตนเองมากกว่าโมเดลบนคลาวด์
  • คุณภาพของโมเดลแบบโลคัลกำลังดีขึ้น และขนาดก็กำลังเล็กลง

ความเห็นของ GN⁺

  • จุดตัดระหว่าง AI กับการคุ้มครองความเป็นส่วนตัวเป็นประเด็นสำคัญ และจำเป็นต้องมีการสนทนาอย่างโปร่งใสเกี่ยวกับเรื่องนี้
  • ความไม่ไว้วางใจต่อคำกล่าวอ้างของ Dropbox และ OpenAI เกิดจากทั้งการขาดความเข้าใจในเทคโนโลยีและการขาดความเชื่อมั่น
  • บทความนี้น่าสนใจเพราะเน้นย้ำทั้งการพัฒนาอย่างรวดเร็วของเทคโนโลยี AI และความสำคัญของการคุ้มครองความเป็นส่วนตัวที่ตามมา พร้อมอธิบายว่าทำไมการสื่อสารอย่างโปร่งใสที่ตั้งอยู่บนความเข้าใจและความเชื่อมั่นจึงจำเป็น

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-12-16
ความคิดเห็นบน Hacker News

  • ภาพหน้าจอนี้ฉันจับจากบัญชีของฉันเองโดยตรง มันถูกตั้งเป็น 'เปิดอยู่' แต่ฉันไม่ได้เป็นคนเปิดเอง

    • ยังมีวิกฤตเรื่อง 'ความยินยอม' ที่เกี่ยวข้องกับความเป็นส่วนตัวบนเว็บไซต์ด้วย จำเป็นต้องมีนิยามของความยินยอมที่บังคับใช้ได้ตามกฎหมาย และนั่นไม่ควรหมายถึงการที่ผู้ใช้ต้องให้ความยินยอมเชิงบวกต่อการส่งข้อมูลไปยังบุคคลที่สาม เป็นบทความที่ดี แต่การเปรียบเทียบระหว่าง 'โทรศัพท์ของฉันกำลังแอบฟังฉันอยู่' กับ 'OpenAI อาจโกหกเกี่ยวกับวิธีใช้ข้อมูลของฉัน' นั้นค่อนข้างมีข้อบกพร่อง เพราะการตรวจสอบที่เข้มงวดต่อแอปบุคคลที่สามที่เข้าถึงไมโครโฟนของ iPhone นั้นไม่เทียบเท่ากับตอนที่ข้อมูลถูกส่งต่อไปยังบุคคลที่สาม สำหรับคนทั่วไปอาจดูเหมือนเรื่องเดียวกัน แต่ในความเป็นจริง เราได้รับการปกป้องจากอย่างแรกอยู่แล้ว การทำเหมือนว่าการต่อสู้เพื่อความเป็นส่วนตัวและอธิปไตยของข้อมูลผู้ใช้แพ้ไปแล้วนั้นไม่ก่อประโยชน์อย่างยิ่ง มักเห็นคนที่พอรู้เรื่องเทคโนโลยีตอบสนองต่อการใช้อำนาจในทางที่ผิดของบริษัทใหม่ ๆ ด้วยท่าทีว่าเป็น 'ข่าวเก่า' คนพวกนี้ควรทำตัวเป็นตัวอย่างที่ดีกว่า ความสิ้นหวังแบบนี้บั่นทอนความเชื่อมั่น และไม่ได้ทำให้รู้สึกว่าโลกที่ดีกว่านี้เป็นไปได้ ความผิดพลาดของ Dropbox ดูเหมือนเป็นผลย้อนกลับจากวิธีคิดแบบนี้: คิดว่าผู้ใช้คงไม่สนใจหากเราส่งไฟล์ส่วนตัวของพวกเขาไปให้บุคคลที่สามโดยไม่ถาม ฉันย้ายข้อมูลส่วนใหญ่ออกจาก Dropbox ไปแล้ว และเมื่อวานก็รู้สึกว่าจำเป็นต้องยกเลิก Dropbox อย่างถาวร ขอบคุณนะ Dropbox!

  • บทความนี้ดูค่อนข้างไร้เดียงสาและให้ความรู้สึกแบบ 'ตั้งสมมติฐานว่าอีกฝ่ายมีเจตนาดี' มองดูสิ่งที่เกิดขึ้นในช่วง 10 ปีที่ผ่านมา นอกเหนือจาก AI: ทุกคนบริโภคข้อมูลราวกับเป็นนักสะสมที่หมกมุ่น ไม่ใช่แค่ Google กับ Facebook แต่ทุกคนทำแบบนั้น วันนี้ฉันเพิ่งเจอเว็บไซต์เล็ก ๆ เกี่ยวกับอาหารดั้งเดิมของสวีเดนที่ใส่วิดีโอเล่นอัตโนมัติ แบนเนอร์ขอความยินยอมคุกกี้แบบ dark pattern และอื่น ๆ แอป/เว็บไซต์ใหม่แทบทั้งหมดถูกสร้างขึ้นโดยมีแกนเศรษฐกิจแบบนี้เป็นศูนย์กลาง แล้วพอ LLM เริ่มทรงพลังขึ้น ก็เกิดการปิดกั้น API ของบุคคลที่สามอย่างพร้อมเพรียงกัน ตอนนี้เรามี ChatGPT/OpenAI และคู่แข่งของมัน ถ้าผู้เล่นรายอื่นกินข้อมูลเหมือนของว่างยามดึกแบบลับ ๆ AI รุ่นปัจจุบันก็เหมือนซอมบี้ที่รวดเร็วปราดเปรียวและกระหายเลือดกับสมอง นั่นเป็นเพราะข้อมูลมีบทบาทโดยตรงกับตัวผลิตภัณฑ์มากขึ้น แต่สัญชาตญาณการแข่งขันแบบรถไฟไฮป์ของเหล่า VC สายเทคก็ตื่นขึ้นมาอีกครั้งเป็นครั้งแรกในรอบหลายทศวรรษ ทุกอย่างชี้ไปที่ภาวะซอมบี้อะพอคคาลิปส์/ตื่นทอง/ค่อยไปขออภัยทีหลัง ฯลฯ ดังนั้นฉันจึงเชื่ออย่างมากว่านี่คือเหตุผลที่พวกเขา (ทุกคน) หันมาเน้นวาทกรรมเรื่องความปลอดภัย/ความรับผิดชอบมากขึ้น เป็นการสะสมกระสุนล่วงหน้าเพื่อทำให้น้ำขุ่นก่อนที่วิกฤต PR เรื่องชื่อเสียงที่หลีกเลี่ยงไม่ได้จะมาถึง ขณะเดียวกันพวกเราคนเทคกลับเอ้อระเหยเหมือนกับว่าไม่ได้ผ่านประสบการณ์ 10 ปีที่ผ่านมาอย่างลึกซึ้ง และคิดว่าคราวนี้มันจะแตกต่างออกไป เพราะ AI มีรากฐานทางวิชาการ เพราะมีบริษัทใหม่ ๆ ที่ดูหวือหวา เพราะมีวาทกรรมเรื่องความปลอดภัย เพราะคำพูดบน Twitter แบบแสบ ๆ ของผู้ก่อตั้งที่ดูเหมือน 'ติดดิน' ฉันไม่รู้แน่ชัดว่ากำลังเกิดอะไรขึ้น แต่ฉันรู้จักวิธีการทำงานของผู้คนมานานพอ และพวกเขาไม่ได้ดีขึ้นเลย

  • ฉันคิดว่าบทความของคุณมองข้ามปัญหาความเป็นส่วนตัวที่นอกเหนือไปจากการนำข้อมูลของฉันไปฝึก

    • ในฐานะคนทำงานวิชาชีพ ฉันมีลูกค้าที่ต้องปฏิบัติตามข้อตกลงรักษาความลับและข้อกำหนดเกี่ยวกับข้อมูลของฉันจะถูกส่งไปที่ไหน ฉันจึงชอบบริการที่ทำให้ข้อมูลของฉันอยู่บนเซิร์ฟเวอร์ของฉัน ฉันไม่เข้าใจว่าทำไมข้อมูลของฉันถึงไม่ถูกเข้ารหัสอย่างสมบูรณ์ตลอดเวลาและมีแค่ฉันเท่านั้นที่ดูได้ แต่การที่มันถูกส่งผ่านอินเทอร์เน็ตไปประมวลผลที่บริษัทอื่นโดยไม่มีความยินยอมหรือความสนใจจากฉันนั้นแย่มาก ฉันยินยอมเมื่อใช้ฟีเจอร์ AI แต่การส่งไฟล์ส่วนตัวของฉันออกไปทั่วอินเทอร์เน็ตโดยไม่ได้รับความยินยอมจากฉันเป็นเรื่องบ้าชัด ๆ พูดตามตรง OneDrive มีเครื่องมือย้ายข้อมูล และฉันก็รับรุ่นทดลองของ Dropbox Business มาแล้วเมื่อคืนเพื่อย้ายไฟล์ทั้งหมดโดยอัตโนมัติ นี่คือฟางเส้นสุดท้ายจากการที่บริษัทนี้เอาแต่ทำสิ่งที่ฉันไม่ได้ขอ และไม่ยอมให้ฟีเจอร์ที่ฉันขอมาโดยตลอด... การเข้ารหัสแบบ end-to-end ถ้าคุณอยากย้ายจาก Dropbox Business ไปยังบัญชี Office 365 OneDrive ด้วยการคลิกไม่กี่ครั้ง ก็อยู่นี่แล้ว: [ลิงก์เครื่องมือย้ายข้อมูล]

  • ประเด็นหลักตรงนี้คือผู้คนกังวลว่าไฟล์ส่วนตัวใน Dropbox จะถูก OpenAI ใช้เพื่อฝึกโมเดล

    • นี่เป็นเพียงส่วนหนึ่งของปัญหาเท่านั้น ฉันไม่ต้องการให้ข้อมูลของฉันถูกส่งไปที่ไหนทั้งนั้น เว้นแต่ฉันจะเป็นคนอนุมัติ ในกรณีนี้ เราไม่มีเหตุผลจะสงสัยในสิ่งที่พวกเขาพูดว่า OpenAI จะไม่ใช้ไฟล์ของเราในการฝึก แต่เราก็ยังต้องเชื่อว่าพวกเขาจะจัดการไฟล์ของเราอย่างปลอดภัยได้

  • Facebook บอกว่าไม่ได้ทำแบบนั้น ถ้าถูกจับได้ว่าโกหก ความเสี่ยงต่อชื่อเสียงของพวกเขาจะมหาศาล

    • ฉันไม่เชื่อว่า Facebook แอบฟังผ่านไมโครโฟนโทรศัพท์ของใคร แต่ข้ออ้างเฉพาะเจาะจงนั้นไม่น่าเชื่อถือเลย ชื่อเสียงของ Facebook อย่างน้อยในหมู่คนทั่วไปที่ไม่ใช่สายเทคที่ฉันรู้จักนั้นแย่มาก ฉันอาศัยอยู่ในสหรัฐฯ และผู้คนรู้ว่า Facebook มีส่วนช่วยปลุกปั่นเหตุจลาจลวันที่ 6 มกราคม 2021 จากนั้นก็หลีกเลี่ยงความรับผิดชอบทุกอย่างโดยไม่แก้ไขอะไรเลย ความเสียหายด้านชื่อเสียงที่พวกเขาจะรับจากเรื่องนี้ ซึ่งหลายคนคิดอยู่แล้วว่าพวกเขาน่าจะทำอยู่ คงเทียบกันไม่ได้เลย

  • ในบทความ ประเด็นเรื่องความน่าเชื่อถือของไมโครโฟนดูเป็นประเด็นหลอกที่ทำให้ไขว้เขวจากสิ่งที่น่าจะทำให้ประเด็นหลักชัดเจนขึ้น

    • Facebook เอาข้อมูลของคุณจากแอปของตัวเองและจากอินเทอร์เน็ต มาติดตามพฤติกรรมของคุณบนอินเทอร์เน็ต แล้วป้อนข้อมูลนี้เข้าไปใน <i>โมเดล</i> ของคุณ โมเดลเหล่านี้บางครั้งแม่นยำมากจนแทบจะคาดเดาได้ว่าคุณกำลังคิดอะไรอยู่ นั่นจึงทำให้คนทั่วไปสรุปว่าพวกเขาต้องกำลังแอบฟังผ่านไมโครโฟนแน่ ๆ บริษัท LLM อย่าง OpenAI และพาร์ตเนอร์ของพวกเขาก็ใช้โมเดลแทบจะเหมือนกันทุกประการ ดึงข้อมูลจากทุกที่ที่ต้องการมาใช้ปรับปรุงโมเดล ทำให้คุณคลิกในจุดที่พวกเขาอยากให้คลิกต่อไป และสร้างรายได้จากตัวคุณ

  • ฉันไม่ 'เชื่อใจ' OpenAI หรือบริษัทยักษ์ใหญ่อื่น ๆ ในสิ่งที่พวกเขาบอกว่าทำ สิ่งที่บอกว่าจะทำ หรือสิ่งที่กำลังทำอยู่

    • แต่ฉันเชื่อว่า OpenAI ไม่ได้ใช้ข้อมูลจาก Dropbox ไป <i>ฝึก</i> โดยไม่มีความยินยอมจากผู้ใช้ อย่างไรก็ตาม นั่นไม่ใช่ประเด็นตรงนี้ ปัญหาเกิดขึ้นระหว่างทางที่ข้อมูลถูกส่ง; คุณกำลังส่งข้อมูลให้บุคคลที่สามที่สามารถอ่านข้อมูลได้จริง และอาจมีพนักงานนอกคอกที่ Dropbox ควบคุมไม่ได้ ข้อมูลอาจไปโผล่ในล็อกหรือถูกจัดการตามนโยบายอื่น ๆ ถ้าฉันส่งข้อมูลส่วนตัวให้ Dropbox พวกเขาไม่ควรส่งมันต่อไปยังบุคคลที่สามไม่ว่าด้วยเหตุผลใด โดยไม่มีความยินยอมอย่างชัดแจ้งและโดยมีข้อมูลครบถ้วนจากฉัน ฉันไม่เข้าใจว่าทำไมเรื่องนี้ถึงยังเป็นข้อถกเถียงได้ ถ้า Dropbox จะเก็บโมเดลเองและให้บริการค้นหาแบบ RAG แก่ผู้ใช้ที่ยินยอม นั่นก็เป็นเรื่องหนึ่ง ถ้า Dropbox จะส่งข้อมูลทั้งหมดของผู้ใช้ทุกคนไปยังบุคคลที่สามล่วงหน้าโดยไม่บอกใครเลย นั่นก็เป็นอีกเรื่องหนึ่ง มันเลวร้ายมาก

  • วิกฤตความเชื่อใจต่อ AI งั้นหรือ?

    • จะเกิดอะไรขึ้นหลังจากได้ยินข่าวว่าคณะกรรมการ/CEO ของบริษัทแห่งหนึ่งถูกปลดหรือเปลี่ยนตัวเพราะข้อกล่าวหาเรื่องการโกหกหรือการชักใย? ถ้า Dropbox ได้ข้อมูลจากการสแกนข้อมูลผู้ใช้ ข้อมูลที่ 'ได้มาจากการสแกน' นั้นก็จะไม่ใช่ 'ข้อมูลผู้ใช้' อีกต่อไป แต่กลายเป็นข้อมูลของ Dropbox ที่สามารถนำไปแชร์ได้ มันอาจมีลักษณะเป็นสถิติที่ไม่ได้เชื่อมโยงกับผู้ใช้รายบุคคลโดยตรง แต่นั่นไม่ใช่สิ่งที่เรียกว่าข้อมูลฝึกหรอกหรือ? มันไม่ได้ทำงานแบบนั้นหรือ? นี่ไม่ใช่การโกหก แต่มันคือการเล่นลิ้น ไม่ใช่ มันคือการกระทำที่ผิดจริยธรรม และมันได้กลายเป็นมาตรฐานสำหรับบริษัทยักษ์ใหญ่ไปแล้ว

  • ฉันคิดว่าคนที่ไม่ไว้ใจบริษัท AI ก็น่าจะมีความรู้สึกคล้ายกันต่อบริษัทในอุตสาหกรรมอื่น ๆ องค์กรไม่แสวงหากำไร และแม้แต่หน่วยงานรัฐด้วย

    • สำหรับฉัน ดูเหมือนว่ามันมีปัญหาความเชื่อใจที่ใหญ่กว่ามากซึ่งไปไกลกว่าบริษัทที่ขับเคลื่อนด้วย AI ดังนั้นการที่แวดวงนี้โดยเฉพาะพยายามต่อสู้กับความไม่ไว้วางใจที่มาจากทุกทิศทางจึงดูเหมือนภารกิจที่เป็นไปไม่ได้และเกินขอบเขตของธุรกิจเหล่านี้ ฉันไม่แน่ใจว่าคำตอบของปัญหานี้คืออะไร มันมีปัญหาจริงหรือไม่ หรือถ้าความเหยียดหยันที่แพร่หลายนี้ลุกลามไปสู่ทุกสิ่งและทุกคน เราจะมุ่งหน้าไปทางไหน บางทีเราอาจแค่ถูกสาปให้มีชีวิตอยู่ในยุคสมัยที่น่าสนใจก็ได้