- หลังศาลสหรัฐฯ มีคำสั่งให้ OpenAI เก็บบันทึกการใช้งาน ChatGPT ทั้งหมดไว้ไม่มีกำหนด (รวมถึงแชตที่ลบไปแล้ว) ผู้ใช้สองรายพยายามยื่นคำร้องแทรกแซงโดยอ้างว่าเป็น 'การสอดส่องขนาดใหญ่' แต่ ถูกยกคำร้อง
- ผู้ใช้รายหนึ่งอ้างจากประสบการณ์ที่เคย ป้อนข้อมูลส่วนบุคคลที่ละเอียดอ่อนและข้อมูลเชิงพาณิชย์ ว่าคำสั่งนี้เข้าข่าย โครงการสอดส่องขนาดใหญ่ทั่วสหรัฐฯ
- ผู้พิพากษาย้ำชัดว่า คำสั่งเก็บรักษาพยานหลักฐานเพียงอย่างเดียวไม่ใช่โครงการสอดส่อง และฝ่ายตุลาการไม่ใช่หน่วยงานสืบสวน
- องค์กรสิทธิด้านดิจิทัล (EFF) ก็แสดงความกังวลต่อความเสี่ยงด้านความเป็นส่วนตัวของผู้ใช้และความเป็นไปได้ในการถูกนำไปใช้ในทางที่ผิดในอนาคต
- ผู้ใช้แสดง ความกังวล ต่อ ท่าทีตอบโต้คดีอย่างแข็งกร้าวของ OpenAI และต่อความเป็นไปได้ของการเปิดเผยข้อมูลหรือการสร้างความโปร่งใสในอนาคต
ภูมิหลังและคำสั่งของศาล
- ล่าสุดศาลมีคำสั่งให้ OpenAI เก็บบันทึกทั้งหมดของ ChatGPT รวมถึงแชตที่ลบแล้วไว้โดยไม่มีกำหนด
- มาตรการนี้ออกมาเพื่อ รักษาพยานหลักฐานในคดีลิขสิทธิ์ ที่บริษัทสื่อข่าวเป็นผู้ยื่นฟ้อง
- ผู้ใช้บางส่วนกังวลว่า คำสั่งนี้ครอบคลุมถึงแชตที่ถูกลบและแชตแบบไม่ระบุตัวตน อีกทั้งมีผลบังคับใช้โดยไม่มีการแจ้งผู้ใช้ล่วงหน้า
ความพยายามแทรกแซงของผู้ใช้และข้อถกเถียงด้านความเป็นส่วนตัว
- ผู้ใช้รายหนึ่งยื่นคำร้องขอแทรกแซง โดยอ้างว่าตนเคย ป้อนข้อมูลส่วนบุคคลและข้อมูลเชิงพาณิชย์ที่ละเอียดอ่อน และระบุว่า คำสั่งนี้นำไปสู่การสอดส่องขนาดใหญ่ทั่วสหรัฐฯ
- เขาตั้งข้อสังเกตว่ามีการเก็บแชตที่ถูกลบและแชตแบบไม่ระบุตัวตนไว้โดยไม่มีการแจ้งล่วงหน้า พร้อมเรียกร้องให้ ยกเว้นแชตในหัวข้ออ่อนไหว เช่น การแพทย์ การเงิน และกฎหมาย
- ศาลชี้แจงเหตุผลในการยกคำร้องอย่างชัดเจนว่า "คำสั่งเก็บรักษาเอกสารไม่เกี่ยวข้องกับการสอดส่อง และศาลไม่ใช่หน่วยงานสืบสวน"
มุมมองขององค์กรสิทธิด้านดิจิทัล
- Corynne McSherry หัวหน้าฝ่ายกฎหมายของ Electronic Frontier Foundation(EFF) แสดงความกังวลว่า "คำสั่งครั้งนี้ก่อให้เกิดความเสี่ยงอย่างมีนัยสำคัญต่อความเป็นส่วนตัวของผู้ใช้ และอาจส่งผลเสียต่อคดีลักษณะคล้ายกันในอนาคต"
- เธอชี้ว่าเรื่องนี้อาจกลายเป็น บรรทัดฐานให้หน่วยงานบังคับใช้กฎหมายหรือคู่ความในคดีเรียกร้องให้ OpenAI ส่งมอบบันทึกของผู้ใช้ ได้ในอนาคต
- โดยเฉพาะอย่างยิ่ง หาก สิทธิในการควบคุมบันทึกของผู้ใช้และหน้าที่ในการแจ้งให้ทราบ ยังไม่เพียงพอ ก็อาจทำให้ AI chatbot กลายเป็นช่องทางการสอดส่องรูปแบบใหม่ได้
ตรรกะในการวินิจฉัยของศาล
- ผู้พิพากษาระบุว่า "คำสั่งเก็บรักษาเอกสารเป็นมาตรการเพื่อรักษาพยานหลักฐานสำหรับคดีเฉพาะ" และเห็นว่า ประเด็นอย่างการละเมิดสิทธิตามรัฐธรรมนูญไม่ได้เกี่ยวข้องกับสาระหลักของคดีนี้
- ศาลเห็นว่าความพยายามแทรกแซงดังกล่าว ไม่เกี่ยวข้องกับการค้นหาข้อเท็จจริงหรือประเด็นพิพาทของคดี และมีแต่จะทำให้คดีล่าช้า จึงไม่รับรองสิทธิในการแทรกแซง
- ขณะนี้ ยังไม่มีกรณีที่มีการส่งมอบข้อมูลจริงให้กับบริษัทข่าว จึงส่งสัญญาณว่าหากมีการแชร์ข้อมูลในอนาคต ก็อาจมีการพิจารณาเพิ่มเติมได้
ความกังวลของผู้ใช้และประเด็นถัดไป
- ผู้ใช้กังวลว่า "OpenAI อาจให้ความสำคัญกับผลประโยชน์อื่น เช่น ค่าใช้จ่ายในการดำเนินคดีหรือการจัดการชื่อเสียง มากกว่าการคุ้มครองความเป็นส่วนตัว"
- EFF และองค์กรอื่น ๆ ย้ำว่า ผู้ให้บริการแอปแชต AI ควรลบบันทึกจริงเมื่อมีคำขอลบ และแจ้งคำขอข้อมูลอย่างโปร่งใส
- ท้ายที่สุด ความโปร่งใสของกระบวนการเก็บรักษาและเปิดเผยข้อมูลผู้ใช้ ขั้นตอนการแจ้งให้ทราบ และแนวทางเยียวยาหลังเหตุการณ์ จะกลายเป็นประเด็นสำคัญต่อไป
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
จากคำพูดของผู้พิพากษาที่อ้างในบทความ ทำให้รู้สึกว่าผู้พิพากษาอาจยังไม่เข้าใจแก่นของประเด็นที่ถูกหยิบยกขึ้นมาอย่างถูกต้อง และในขณะเดียวกันก็รู้สึกว่าเหตุผลของคำวินิจฉัยก็ดูแปลก ๆ
ตรรกะคือ "หากพิจารณาคำถามลักษณะนี้ ก็จะก่อให้เกิดความล่าช้าอย่างไม่เหมาะสมโดยไม่ช่วยแก้ประเด็นทางกฎหมายที่ต้องจัดการจริง ๆ"
เลยอดสงสัยไม่ได้ว่าเพราะเป็นคดีเกี่ยวกับลิขสิทธิ์ จึงสามารถมองข้ามประเด็นตามรัฐธรรมนูญได้อย่างนั้นหรือ
อีกทั้งการยกคำร้องทิ้งทันทีเพียงเพราะไม่ได้จัดทำโดยทนายความ ก็ดูเป็นการกระทำที่ไม่สอดคล้องกับบทบาทของผู้พิพากษา
ดูเหมือนจะมองข้ามไปว่าการเรียกร้องสิทธิสามารถทำได้แม้ไม่มีทนายความ
หากอ่านคำสั่งศาลฉบับเต็มที่แนบมากับบทความ(ที่นี่) จะเห็นภาพชัดขึ้นมาก
ผู้ที่ยกประเด็นขึ้นมาได้ยื่น "คำร้องขอ intervene" ในรูปแบบเฉพาะ ซึ่งมีข้อกำหนดที่เข้มงวด
และเขาไม่ผ่านข้อกำหนดเหล่านั้น
ประเด็นที่ว่าถูกยกคำร้องเพราะยื่นโดยไม่มีทนายความก็มีระบุอยู่ในคำสั่งศาลเช่นกัน
บุคคลธรรมดาสามารถว่าความแทนตนเองได้ แต่หากเป็นนิติบุคคล(บริษัท) ต้องมีทนายความเท่านั้น
เนื่องจากตอนแรกเป็นเรื่องที่ยื่นในชื่อบริษัท ผู้พิพากษาจึงน่าจะดำเนินการตามกฎหมาย
ฉันก็รู้สึกคล้ายกัน และสิ่งที่น่ากังวลกว่าคือยังมีบริการลักษณะคล้ายกันอีกมากที่อาจได้รับผลกระทบจากปัญหาความเป็นส่วนตัวแบบนี้
ทั้งที่เราควรมีกฎหมายคุ้มครองความเป็นส่วนตัวที่เข้มแข็งเพื่อป้องกันคำสั่งศาลที่เกินขอบเขตเช่นนี้ แต่ตอนนี้ยังไม่มี
ตัวอย่างเช่น คำสั่งศาลให้บริการหาคู่เก็บข้อความสนทนาทั้งหมดระหว่างผู้ใช้, ให้ผู้ให้บริการเครือข่ายเก็บข้อความ SMS ทั้งหมด, หรือให้เก็บ Google Docs จำนวนหลายพันล้านฉบับที่ถูกสร้างขึ้น
สงสัยว่าทำไมรัฐบาลถึงยังไม่บังคับให้บริการอย่าง Signal ใส่ backdoor และเก็บข้อความทั้งหมด
คิดว่าในการทำเช่นนั้นจริง ๆ คงต้องมีเหตุผลที่หนักแน่นมาก
จึงอดสงสัยไม่ได้ว่ารัฐบาลสหรัฐอาจทำการเฝ้าระวังอย่างกว้างขวางเช่นนี้กับบริการเชิงพาณิชย์ทั่วไปอยู่แล้วหรือไม่
สมัย Edward Snowden เปิดโปง ก็เคยมีการดักฟังการสื่อสารของ Google
โดยทั่วไปผู้พิพากษามักมีพื้นเพเป็นทนายหรือมีประสบการณ์ทางกฎหมาย
ผู้พิพากษาคนนี้ก็เคยเป็นทนายมาก่อน และยังมีประวัติแปลกอยู่บ้างคือเกือบเรียนจบปริญญาเอกด้านสัตววิทยา
เป็นเรื่องธรรมดามากที่กลุ่มคนที่ได้รับการคุ้มครองในสังคมจะไม่พยายามปฏิบัติต่อกลุ่มที่ไม่ได้รับการคุ้มครองอย่างเท่าเทียม
และก็ไม่ค่อยเห็นว่ากรณีนี้มีประเด็นตามรัฐธรรมนูญอะไรชัดเจน ต่อให้มี ก็ไม่ใช่เวทีที่จะตัดสินเรื่องนั้น
คำวิจารณ์ที่ว่าผู้พิพากษามองข้ามคำร้องเพียงเพราะยื่นโดยไม่มีทนายความนั้น เป็นความเข้าใจผิด 100%
กรณี Pro Se(ว่าความด้วยตนเอง) มีหลักเกณฑ์รองรับไว้อย่างชัดเจน
แต่ถ้าจะยื่นฟ้องแทนนิติบุคคลอื่นที่ไม่ใช่ตัวเอง ต้องมีทนายความเสมอ
ดังนั้นจึงไม่ใช่ทำนองว่า "เพราะเป็นคดีลิขสิทธิ์ เลยไม่ต้องสนใจปัญหาตามรัฐธรรมนูญ" แต่เป็นเพราะในมุมของผู้พิพากษา ประเด็นตามรัฐธรรมนูญไม่น่าจะตั้งขึ้นได้จริง และจะเสียเวลาเปล่า
สำหรับคำถามที่ว่า "เพราะเป็นคดีลิขสิทธิ์ จึงมองข้ามปัญหาตามรัฐธรรมนูญได้หรือ?"
อยากรู้ว่ามองเห็นประเด็นตามรัฐธรรมนูญข้อไหนอยู่
ส่วนคำกล่าวที่ว่า "ทำได้แม้ไม่มีทนายความ" ก็ไม่ตรงกับข้อเท็จจริงทางกฎหมาย เพราะหากเป็นบริษัทต้องมีทนายความเท่านั้น
ถ้าเป็นบุคคลธรรมดาที่ยื่นเอง ศาลอาจผ่อนปรนได้บ้าง แต่กับบริษัทใช้ไม่ได้
ถ้าตรรกะสั่นคลอนตั้งแต่เรื่องพื้นฐานแบบนี้ ก็ทำให้ยากจะเชื่อถือประเด็นอื่น ๆ ต่อไป
ดูแล้วกรณีนี้ไม่น่าจะมีคุณค่าความเป็นข่าวมากขนาดนั้น
OpenAI มีกำหนดจะโต้แย้งด้วยวาจาในไม่ช้าเพื่อพยายามหยุดคำสั่งเก็บรักษาข้อมูลโดยตรง และคำร้องสองฉบับที่ผู้ใช้ ChatGPT ทั่วไปยื่นไว้ล่วงหน้าก็ไม่ใช่เหตุการณ์ที่จะชี้ขาดผลลัพธ์ของคดี
ผู้พิพากษาดูเหมือนไม่เข้าใจผลกระทบที่คำสั่งให้บริษัท "เก็บข้อมูลทั้งหมด" จะสร้างขึ้นในโลกจริง และก็ไม่ค่อยมีท่าทีจะทบทวนเรื่องนี้อย่างเร่งด่วน
จึงมีข้อโต้แย้งว่าผลสะเทือนของคำวินิจฉัยแรกนี่แหละที่มีคุณค่าความเป็นข่าว
ทุกวันนี้ แม้จะได้ข้อสรุปที่ชัดเจนมาก ๆ ก็ยังมีคุณค่าความเป็นข่าวสูงมากอยู่ดี
อย่างน้อยเราก็ได้ยืนยันว่าผู้ใช้มีสิทธิ์เข้าไปมีส่วนร่วมโดยตรง
พวกเขาสามารถยื่นฟ้องด้วยตนเองได้เหมือนที่โจทก์ทำ
ผลจะออกมาอย่างไรเป็นอีกเรื่องหนึ่ง แต่สิทธินี้มีอยู่จริง
ข้อสรุปคือผู้พิพากษาดูไม่ค่อยสนใจประเด็นนี้ จึงมองว่าการพยายามโน้มน้าวคงไม่มีประโยชน์
เลยสงสัยว่า OpenAI และผู้ใช้จะมีทางเลือกหรือทางออกอะไรบ้าง
แม้จะไม่ใช่คำตอบตรง ๆ แต่คิดว่าการใช้ local LLM น่าจะเป็นทางเลือกที่เป็นจริงที่สุดในอนาคต
ช่วงนี้ฉันลองรันเองอยู่ แม้ตอนนี้ยังมีข้อจำกัดเรื่องการจดจำบริบทและประสิทธิภาพสูงสุด แต่ในอีก 1~2 ปี local LLM ที่ใช้งานได้จริงก็คงไม่ใช่เรื่องเพ้อฝัน
สำหรับฉัน ความสามารถในการใช้งานแบบออฟไลน์น่าสนใจกว่าความเป็นส่วนตัวเสียอีก
ภายใต้กฎหมายสหรัฐ ไม่มีทางเลือก
นี่เป็นกรณีคลาสสิกของ 'Third Party Doctrine'
แม้จะเป็นข้อมูลของตัวคุณเอง แต่เมื่อคุณส่งให้บุคคลที่สาม(OpenAI) โดยสมัครใจ ข้อมูลนั้นก็ไม่ถือว่าเป็นของคุณอีกต่อไป และความคาดหวังเรื่องความเป็นส่วนตัวก็ไม่เกิดขึ้น
ข้อยกเว้นจะมีได้ก็ต่อเมื่อมีกฎหมายใหม่บัญญัติขึ้นโดยเฉพาะเท่านั้น ซึ่งในกฎหมายปัจจุบันไม่มีสำหรับ OpenAI
คำวินิจฉัยนี้ก็เกิดขึ้นภายใต้กรอบกฎหมายสหรัฐแบบนี้เอง และตามมาตรฐานปัจจุบัน ความเป็นส่วนตัวของข้อมูลบทสนทนาที่ส่งไปยัง OpenAI ไม่ได้รับความคุ้มครอง
ควรเลิกคาดหวังความเป็นส่วนตัวจากบุคคลที่สามได้แล้ว
แม้แต่ข้อมูลธนาคารก็สามารถถูกเปิดเผยได้หากมีคำสั่งสืบสวน
มีโปรแกรมเมอร์จำนวนมากที่เข้าใจผิดว่าประเด็นร้อนในตอนนี้เป็นเรื่องพิเศษ ทั้งที่ไม่รู้ความจริงนี้
ไม่ว่าคำตัดสินสุดท้ายจะออกมาอย่างไร การอุทธรณ์อาจเป็นทางเลือกได้ในภายหลัง
สำหรับคำถามที่ว่า "OpenAI และผู้ใช้มีทางเลือกอะไร?"
วิธีหนึ่งคือไปใช้บริการจากประเทศที่ไม่ส่งมอบข้อมูลให้สหรัฐ
ถ้าใครยังคิดว่า OpenAI จะไม่เก็บทุกอย่างที่ป้อนเข้าไปในแชตหรือ API ก็ควรลองดูรายชื่อบอร์ดบริหารของ OpenAI ให้ดี
ต่อให้ผู้ให้บริการ LLM อย่าง OpenAI ถูกห้ามตามกฎหมายไม่ให้เก็บข้อมูลแบบบังคับ ก็ยังยากจะเชื่อว่าพวกเขาจะปฏิบัติตามนโยบายนั้นอย่างเคร่งครัดจริง
จึงขอเสนอว่าข้อมูลอ่อนไหวควรถูกป้อนเข้า local LLM โดยตรงเท่านั้น
อยากให้ตระหนักถึงการปฏิเสธซ้อนตรงนี้
ตอนนี้ทั้งโลกมีขีดความสามารถทางเทคนิคที่จะเฝ้าระวังแทบทุกด้านของชีวิตประจำวันได้แล้ว ดังนั้นปัญหาคือเราจะจัดการมันอย่างไร
ในอนาคต ข้อมูลมหาศาลนี้อาจก่อให้เกิดสาขาใหม่อย่างการแพทย์, ระบาดวิทยา, จิตวิทยาขนาดใหญ่(ฉันเรียกเล่น ๆ ว่า Massive open online psychology หรือ moop) และรัฐบาลก็อาจใช้ big data แบบเรียลไทม์เพื่อให้บริการประชาชนที่ถูกทอดทิ้งได้ดีขึ้น
แต่ถ้าจะไปถึงอนาคตแบบนั้น ก็จำเป็นต้องมีกรอบกฎหมายที่น่าเชื่อถือ และคงยากที่จะค่อย ๆ สร้างมันจากคำพิพากษาเป็นรายกรณี
โดยส่วนตัว ฉันคิดว่าข้อมูลใดก็ตามที่ไม่อาจเกิดขึ้นได้หากมนุษย์คนนั้นไม่ลงมือกระทำเอง ควรเป็นทรัพย์สินของคนนั้นโดยไม่มีข้อยกเว้น และควรอนุญาตให้ผู้อื่นรับฝากข้อมูลได้ก็ต่อเมื่อใช้เพื่อประโยชน์ของเจ้าของข้อมูลคนนั้นเท่านั้น
หากมีการกำหนดมาตรฐานระดับสูงอย่าง "เพื่อประโยชน์ของผู้ใช้/พลเมือง" จริง วิธีคิดของบริษัทข้อมูลก็คงเปลี่ยนไปโดยสิ้นเชิง
อยากรู้ว่าคนอื่นคิดอย่างไรกับเรื่องนี้
ตอนนี้ใน HN และที่อื่น ๆ แนวทางนี้ยังเป็นสิ่งที่คนไม่ค่อยอยากแตะต้อง แต่ฉันคิดว่าเราจะได้ทั้งความเป็นส่วนตัวและข้อดีของ big data พร้อมกัน ก็ต่อเมื่อข้อมูลถูกล็อกไว้โดยมีผู้ใช้เป็นศูนย์กลางและกระจายตัว แทนที่จะถูกกักอยู่ในไซโลแบบรวมศูนย์
จริง ๆ แล้วผู้พิพากษาในคดีนี้เป็น magistrate ที่เหลือวาระเพียงราวหนึ่งปี
ก่อนหน้านี้ก็เคยมีกรณีที่ magistrate ซึ่งออกคำตัดสินอ่อนแอแบบนี้ไม่ได้รับการต่อวาระ และหวังว่าครั้งนี้จะเป็นเช่นนั้นด้วย
ลิงก์ประกาศการต่อวาระ
ไม่เข้าใจว่าทำไมต้องใส่เครื่องหมายคำพูดให้กับตำแหน่งผู้พิพากษาด้วย
magistrate ก็เป็นผู้พิพากษาอย่างถูกต้องตามตำแหน่ง
อ้างอิง: ประเภทของผู้พิพากษาศาลรัฐบาลกลางสหรัฐ
ไม่คิดว่าการประยุกต์ใช้ Third Party Doctrine แบบธรรมดาทั่วไป จะเป็นเหตุให้ magistrate คนนี้ควรเสียชื่อเสียงหรือไม่ได้รับการต่อวาระ
ดูการอภิปรายในประเด็นเดียวกันก่อนหน้านี้ได้ที่ OpenAI โต้แย้งคำสั่งศาลที่ให้เก็บ log ของ ChatGPT ทั้งหมดรวมถึงบทสนทนาที่ลบไปแล้ว
ไม่มีผู้พิพากษาคนไหนหยุดโครงการเฝ้าระวังขนาดใหญ่ที่ดำเนินมานานกว่า 10 ปีได้
ตอนนี้มันกลายเป็นทั้งเรื่องขำและข้อถกเถียงที่ไร้ความหมาย
OpenAI ก็เหมือนบริษัทอื่น ๆ ที่เก็บข้อมูลทุกอย่างเท่าที่ทำได้และใช้มันสร้างโปรไฟล์ของพวกเรา
รู้สึกแปลกที่หลายคนตกใจหรือโกรธกับสถานการณ์นี้มาก
ดูเหมือนคนส่วนใหญ่ไม่รู้หรือมองข้ามความจริงที่ว่าบริการออนไลน์ที่ใช้กันอยู่ทุกวันก็เก็บรักษาข้อมูลแบบเดียวกัน
ในทางปฏิบัติ ถ้าไม่ใช่แบบ E2EE อย่าง Signal แล้ว บริการหลัก ๆ อย่าง Gmail, ผู้ให้บริการเครือข่าย, Reddit, Xitter ฯลฯ ล้วนเก็บทั้งข้อมูลและเมตะดาต้า
จะมองว่าถูกหรือผิดก็อีกเรื่อง แต่สำหรับบริการออนไลน์ในปัจจุบัน นี่คือความเป็นจริงปกติ
เหตุผลที่คนโกรธ ก็เพราะพวกเขารู้สึกว่าความเป็นจริงแบบนี้อยู่ในระดับที่ยอมรับไม่ได้
ไม่ว่าเงื่อนไขการใช้งานหรือนโยบายจะว่าอย่างไร OpenAI กำลังถูกบังคับให้เก็บแม้กระทั่งข้อมูลที่พยายามลบเพื่อประโยชน์ของผู้ใช้
สำหรับฉัน กลับไม่แปลกใจเลยที่ผู้คนออกมาแสดงจุดยืนอย่างจริงจัง
คิดว่าคนส่วนใหญ่ไม่รู้เรื่องนี้เลยจริง ๆ
ถ้าไปถามเพื่อนที่ไม่ใช่สายเทคนิคหรือคนทั่วไปที่เดินผ่านไปมา ส่วนมากก็มักไม่ได้ตระหนักถึงความจริงข้อนี้