จุดจบของพรมแดน
(tanyaverma.sh)- การประกาศ Mythos ของ Anthropic เป็นจุดเปลี่ยนที่ทำให้อินเทอร์เน็ตไม่ใช่ พื้นที่สร้างสรรค์แบบไม่ต้องขออนุญาต ที่ใครก็เข้าไปสำรวจได้อย่างเสรีอีกต่อไป
- โครงสร้างที่ แรงงานและสติปัญญาถูกแทนที่ด้วยทุน กำลังฝังแน่นขึ้น ทำให้บริษัทเพียงไม่กี่แห่งยึดครอง ความได้เปรียบถาวรในยุค AI
- นโยบายโมเดลแบบปิดและข้อจำกัดการเข้าถึง API อ้างเรื่องความปลอดภัยเป็นเหตุผล แต่กลับส่งผลให้ ทั้งนวัตกรรมและงานวิจัยด้านความปลอดภัยหดตัวลงพร้อมกัน
- หลักการพื้นฐานของการเข้าถึงสติปัญญาควรเป็น ‘เข้าถึงก่อน’ และบริษัทต้องมี กระบวนการที่โปร่งใสและตรวจสอบได้
- ต้องระวังโครงสร้าง การสกัดคุณค่าแบบอาณานิคม ที่คนส่วนน้อยผูกขาดโมเดลซึ่งฝึกจากข้อมูลของมนุษยชาติทั้งหมด และต้องปกป้อง ความเปิดกว้างและความคิดสร้างสรรค์ของอินเทอร์เน็ต
จุดจบของพรมแดน
- การประกาศ Mythos ของ Anthropic ทำให้อินเทอร์เน็ตไม่ใช่ พื้นที่ที่ไม่ต้องขออนุญาต สำหรับการสำรวจและสร้างสรรค์อย่างเสรีของทุกคนอีกต่อไป
- ในอดีต ไม่ว่าจะมีทุนหรือเส้นสายหรือไม่ ทุกคนก็เข้าถึงโครงสร้างพื้นฐานทางเทคโนโลยีเดียวกันบนอินเทอร์เน็ตได้ แต่ตอนนี้ ช่องว่างระหว่างโมเดลแบบเปิดกับโมเดลแบบปิด กำลังกว้างขึ้น
- สิ่งนี้ถูกเปรียบว่าเป็น จุดจบของโอกาส คล้ายกับการสิ้นสุดของ ‘พรมแดน’ ในยุคบุกเบิกของสหรัฐฯ
- โครงสร้างที่แรงงานและสติปัญญาถูกแทนที่ด้วยทุน ทวีความรุนแรงขึ้น ทำให้กลุ่มที่มีทุนครอง ความได้เปรียบถาวร ในยุค AI
- Rudolf Laine อธิบายสิ่งนี้ว่าเป็น “ยุคที่ทุนแปรเปลี่ยนเป็นแรงงานเหนือมนุษย์” ขณะที่ George Hotz เรียกมันว่า ‘นีโอศักดินา (neofeudalism)’
- มีคำเตือนว่าหากบริษัทเพียงไม่กี่แห่ง ผูกขาดตัวสติปัญญาเอง คนที่เหลืออาจตกลงไปเป็นชนชั้นล่างอย่างถาวร
- นโยบายปิดของ Mythos ของ Anthropic ถูกวิจารณ์ว่าไม่ใช่มาตรการความปลอดภัยธรรมดา แต่เป็นโครงสร้างที่ บริษัทเอกชนผูกขาดขีดความสามารถระดับรัฐ
- Anthropic ได้ประกาศ Project Glasswing ร่วมกับ AWS, Apple, Google และรายอื่น ๆ แต่ไม่ได้เปิดให้สาธารณะใช้งาน โดยให้ สิทธิ์เข้าถึงเฉพาะพาร์ตเนอร์องค์กรเท่านั้น
- ส่งผลให้เมื่อเกิด เหตุการณ์ด้านความปลอดภัยหรือข้อมูลรั่วไหล ความเสี่ยงจะยิ่งสูงขึ้น และเกิดสถานการณ์ที่ไม่เป็นประชาธิปไตยซึ่ง ขีดความสามารถระดับชาติไปรวมศูนย์อยู่ในบริษัทเอกชน
- ข้อจำกัดการเข้าถึง API ช่วยป้องกันการนำไปใช้ในทางที่ผิดได้ แต่ในเวลาเดียวกันก็ กดทับนวัตกรรมและงานวิจัยด้านความปลอดภัย
- การเปิดให้เข้าถึงช่วยเผยให้เห็นศักยภาพแฝงของโมเดล และทำให้เกิดการ ‘ล้มเหลวให้เร็วและแก้ไขให้เร็ว’ ในสภาพแวดล้อมจริงได้
- เช่นเดียวกับกรณีที่การนำ เครื่องมือ fuzzer (American Fuzzy Lop) มาใช้ช่วยยกระดับความปลอดภัย การ ขยายการเข้าถึง Frontier model ก็อาจนำไปสู่การพัฒนาขีดความสามารถด้านความปลอดภัยได้เช่นกัน
- แต่ในปัจจุบัน นักวิจัยด้านความปลอดภัยของ AI ไม่สามารถเข้าถึงโมเดลขนาดใหญ่ได้ จึงต้องพึ่งพา โมเดลโอเพนซอร์สจากจีน เป็นส่วนใหญ่
- หลักการพื้นฐานของการเข้าถึงสติปัญญาควรเป็น ‘เข้าถึงก่อน’ และค่อยเสริมมาตรการความปลอดภัยทับลงไป
- บริษัทที่มีขีดความสามารถระดับรัฐบาลต้องมี กระบวนการที่เป็นธรรมและเกณฑ์ที่โปร่งใส และเมื่อจำกัดการเข้าถึงก็ต้อง เปิดเผยเหตุผลอย่างชัดเจน
- การถูกตัดสิทธิ์เข้าถึง Frontier model มีลักษณะคล้ายกับภาวะ ‘unbanked’ ที่เป็นการกีดกันทางสังคม
- จึงควรมีภาระหน้าที่ในการตรวจสอบในระดับ FOIA (กฎหมายเสรีภาพด้านข้อมูลข่าวสาร)
- การที่ บริษัทเพียงไม่กี่แห่งผูกขาดโมเดลซึ่งฝึกจากข้อมูลของมนุษยชาติทั้งหมด มีลักษณะคล้าย โครงสร้างการสกัดคุณค่าแบบอาณานิคม
- ผู้ให้ข้อมูลจำนวนมากถูกดึงคุณค่าออกไปโดยไม่ได้ให้ความยินยอม และผลประโยชน์กลับ กระจุกตัวอยู่ในเครือข่ายภายใน
- จากนั้นรูปแบบเดิมก็เกิดซ้ำ คือพยายามสร้างความชอบธรรมทางศีลธรรมผ่าน UBI หรือการบริจาคเพื่อการกุศล
- แม้เจตนาจะไม่ได้มุ่งร้าย แต่ ปัญหาเชิงโครงสร้างของการกระจุกอำนาจ ก็ยังคงเหมือนเดิม
- ยังมีการเสนอความหวังต่อ ศักยภาพในการทำ AI ให้เป็นของแต่ละบุคคล
- ยุค AI แบบปิดในปัจจุบันอาจเป็นเพียง ยุคเมนเฟรม เท่านั้น และยังมีความเป็นไปได้ที่จะเปลี่ยนผ่านไปสู่ยุคของ คอมพิวเตอร์ส่วนบุคคล (Apple II)
- โมเดลโอเพนซอร์สกำลังไล่ตาม Frontier ได้แล้วด้วยระยะห่างเพียง 3–12 เดือน และหาก ชิปกับพลังงานมีการขยายอุปทาน ก็อาจเข้าสู่ยุคของ ‘สติปัญญาที่ถูกจนแทบวัดค่าไม่ได้’
-
ต้องไม่สูญเสียเสรีภาพแบบ ‘Wired’
- เหมือนเมืองที่โค่นต้นไม้เก่าแก่ทิ้งด้วยเหตุผลเรื่องความปลอดภัย เราเสี่ยงจะสูญเสีย ความเปิดกว้างและความคิดสร้างสรรค์ของอินเทอร์เน็ต ไปเพราะตรรกะเรื่องความปลอดภัยที่มากเกินไป
- อินเทอร์เน็ตยังคงเป็น พื้นที่สุดท้ายของการสร้างสรรค์และการสำรวจที่ขับเคลื่อนโดยปัจเจก และการปกป้องสิ่งนี้คือเรื่องสำคัญ
13 ความคิดเห็น
ดูเหมือนเป็นการพูดเกินจริงทางการตลาด ทุกครั้งที่มีโมเดลใหม่ออกมาก็มักบอกว่านี่คือระดับสูงสุดเท่าที่เคยมีมา เป็นจุดจบของยุคมนุษย์ หรือการเขียนโค้ดจบสิ้นแล้วจึงต้องไปเป็นช่างประปา ฯลฯ มีถ้อยคำโฆษณาเกินจริงแปลกใหม่เต็มไปหมด แต่พอใช้งานจริงกลับมีปัญหา และที่สำคัญที่สุดคือ คนส่วนใหญ่กลับยังอยู่แค่ในระดับการใช้มันเป็นเครื่องมือค้นหาขั้นสูง จึงดึงศักยภาพของโมเดลที่ทรงพลังออกมาได้ไม่ถึง 100% คอขวดของยุค LLM ไม่ใช่โค้ด และไม่ใช่อินฟรา แต่เป็นความเข้าใจที่ต่ำอย่างน่าขันของประชาชนทั่วไปต่อระบบสารสนเทศ ซึ่งเป็นคนที่ส่งพรอมป์ต์เข้าไปนั่นเอง
ช่วงนี้เห็นโมเดล 31b ถูกปล่อยออกมากันเรื่อย ๆ แล้วสุดยอดมาก... อย่างน้อยตอนนี้ก็ดูเหมือนว่ายังพอมีความหวังอยู่นะ
ความคิดเห็นจาก Hacker News
เพิ่งประกาศได้แค่สัปดาห์เดียวเอง การมีบทสนทนาแบบนี้ออกมาแล้วรู้สึกว่าเร็วเกินไป
คำพูดว่า “โมเดลนี้ทรงพลังเกินไปสำหรับสาธารณะ” ฟังดูเหมือน ข้อความการตลาด
อีกไม่กี่เดือนก็คงจะขายโมเดลตัวอื่นอีก แล้วหลังจากนั้นก็คงบอกว่า “โมเดลใหม่ทรงพลังเกินกว่าจะเปิดเผยได้”
ว่ากันว่า Mythos ช้าเกินไปจนไม่เหมาะกับการเขียนโค้ดแบบโต้ตอบ หากต้องรอข้ามคืนกว่าจะได้ผล ผู้ใช้ส่วนใหญ่ก็ไม่มีเหตุผลให้ต้องใช้มัน
แล็บ AI ต่าง ๆ ก็ยังขาดทุนอยู่ และถ้าจะเปิดให้ใช้ Mythos ก็ต้องตั้งราคาสูงกว่านี้มาก หากลูกค้าส่วนใหญ่ไม่รู้สึกถึงความต่าง ก็ไม่คุ้มทางเศรษฐกิจ
เป็นไปได้ว่า Anthropic อาจอยากใช้ประโยชน์จาก สิทธิ์เข้าถึงดาต้าเซ็นเตอร์สำหรับการฝึก ที่มากกว่า OpenAI แต่สิ่งที่จำเป็นตอนนี้ไม่ใช่โมเดลที่ฉลาดขึ้น หากแต่เป็นโมเดลที่เล็ก ถูก และดีพอ
Mythos ก็คงไม่ต่างจากตอนนั้นเท่าไร
คนที่พยายามชะลอการพัฒนา AI กลับเป็นฝ่ายช่วยเผยแพร่วาทกรรมนี้และดึงความสนใจ จนสุดท้ายก็ยิ่งมีส่วนให้ AI แพร่หลาย
ราวปี 2011 ก็มีงานศึกษาที่น่าสนใจว่าด้วยปรากฏการณ์แบบนี้อยู่เหมือนกัน และผมนึกถึงกรณีของแบรนด์สวีเดน Cheap Monday
ดูเหมือนจะเชื่อว่าการจำกัดการเข้าถึงคือแก่นของความปลอดภัย
แต่ถ้าท่าทีแบบนี้ลงเอยด้วยการให้ประโยชน์กับคนส่วนน้อยและกีดกันคนส่วนใหญ่ ความชอบธรรมของมันก็ควรให้สาธารณะเป็นผู้ตัดสิน
หากความสามารถแบบนี้ถูกปล่อยผ่าน API สาธารณะ ความเป็นไปได้ในการถูกนำไปใช้ในทางที่ผิดก็สูงมาก
ตอนนี้ก็มีกรณีฉ้อโกงขนาดใหญ่หรือดีปเฟกที่ใช้ AI อยู่มากแล้ว
หากสั่งโค้ดโอเพนซอร์ซว่า “จงหาช่องโหว่ที่เป็นไปได้ทั้งหมด” แล้วมันให้ผลลัพธ์มากกว่าโมเดลเดิมอย่างเห็นได้ชัด การเปิดเผยแบบจำกัดก็นับว่าเป็นทางเลือกที่สมเหตุสมผล
พอเข้าใจได้ที่ Anthropic ให้สิทธิ์เข้าถึงเฉพาะบริษัทด้านความปลอดภัย อย่าง Crowdstrike, Cisco, Microsoft
ถ้าเป้าหมายของ Glasswing คือการเสริมความปลอดภัยของโครงสร้างพื้นฐาน การปิดกั้นไม่ให้พวกเขาเข้าถึงเพียงเพราะเคยมีเหตุการณ์ด้านความปลอดภัยก็ดูแปลก
Mythos อาจถูกเปิดเผยในสักวันหนึ่ง แต่การเปิดให้เข้าถึงแบบจำกัดครั้งนี้ดูเหมือนเป็น ขั้นเตรียมการสำหรับการเปิดเผยอย่างปลอดภัย
ที่ NVIDIA กำลังพัฒนา Nemotron เพื่อแก้ข้อกังวลเหล่านี้
Nemotron เป็นโมเดลที่ไม่เพียงเปิด weights เท่านั้น แต่ยังเปิด ข้อมูลและสูตรการสร้าง ด้วย
เป้าหมายคือให้หลายสถาบันร่วมกันสร้าง AI แบบเปิด
ตอนนี้ Nemotron 3 Super ประสบความสำเร็จมากที่สุด และอีกไม่นานจะมี Ultra กับ Nemotron 4 ตามมา
ยิ่ง AI เติบโต โอกาสของ NVIDIA ก็ยิ่งมากขึ้น จึงเป็นกลยุทธ์ที่เป็นไปได้
ลิงก์ที่เกี่ยวข้อง
คำพูดที่ว่า “นี่คือยุคที่แม้แต่เด็กอายุ 16 ก็สร้างอะไรสักอย่างได้โดยไม่ต้องมีทุน” ฟังดูจริงยิ่งกว่าเดิมในตอนนี้
เหตุผลที่ Anthropic เปิด Mythos ไม่ได้ เป็นเพราะ ทรัพยากรคอมพิวต์ไม่พอ
OpenAI จะมีพลังคอมพิวต์มากกว่านี้มากทั้งในปีนี้และปีหน้า
ในแง่ที่ Mythos ไม่ได้ต่างจากโมเดลอื่นมากนัก ผมเห็นด้วยกับความเห็นที่ว่า “มันยังเร็วเกินไป”
แต่กรอบคิดที่นักวิจารณ์ AI พูดว่า “บริษัทยักษ์ใหญ่ปล้นสังคมไปแล้ว” นั้น ดูเหมือนจะมาจาก ความเข้าใจผิดเรื่องแนวคิดทรัพย์สินทางปัญญา
แทนที่ Anthropic จะซ่อน Mythos ไว้ น่าจะเอาไปใช้เป็น บริการตรวจสอบความปลอดภัยสำหรับองค์กร
ถ้าเป็นบริการที่ใช้โมเดลโจมตีโครงสร้างพื้นฐานเพื่อหาช่องโหว่ ก็น่าจะทำเงินได้ดี
ตัวอย่างเช่น ถ้าผู้ดูแลแพ็กเกจ npm ยอดนิยมคนหนึ่งกำลังเดือดร้อนเรื่องเงิน แล้วขอให้ Mythos ช่วยตรวจไลบรารีของตัวเอง แต่หนึ่งเดือนต่อมากลับถูกแฮ็ก มันจะกลายเป็นปัญหาใหญ่
อุปมาเรื่อง “โครงข่ายไฟฟ้า” น่าประทับใจ
เหมือนพลังงานแสงอาทิตย์ที่แต่ละคนผลิตไฟเองได้ แต่คนส่วนใหญ่ก็ยังจ่าย ค่าสาธารณูปโภค เพื่อใช้ไฟฟ้า
ในทำนองเดียวกัน สิทธิ์ในการเข้าถึงปัญญา ก็ควรเปิดให้ทุกคนเป็นพื้นฐาน
การใช้งานที่อันตรายควรถูกจำกัดด้วยมาตรการความปลอดภัย แต่ค่าเริ่มต้นควรเป็น อนุญาตให้เข้าถึง
มนุษย์มักตกอยู่ในความยั่วยวนที่จะทำให้ ‘เทคโนโลยีปีศาจ’ กลายเป็นของจำเป็นอยู่เสมอ
แต่ปีศาจแบบนั้นไม่มีทางถูกขังไว้ได้นาน สุดท้ายมันก็จะควบคุมไม่ได้
โอกาสในยุคบุกเบิกของอเมริกาเป็นปรากฏการณ์ที่พิเศษมาก
ในช่วงขยายตัวอย่างรวดเร็ว ปัจเจกยังเติบโตได้ แต่เมื่อหยุดนิ่ง องค์กรจะท่วมท้นปัจเจก
ยิ่งความก้าวหน้าทางเทคโนโลยีเร่งขึ้น ปัจเจกก็ยิ่งเข้าใกล้ระดับที่สามารถทำลายโลกได้
เหมือนอาวุธนิวเคลียร์ ตอนนี้ AI ก็ถึงจุดที่จำเป็นต้องมี การจำกัดการเข้าถึงสำหรับปัจเจกชน แล้ว
ถ้าอยากสำเร็จก็ต้องเป็นบริการที่เชื่อมกับคนดัง
ยังไงคู่แข่งก็ทำตามกันหมดอยู่ดี 555 "เอาล่ะ ทีนี้ก็ไปสู้กันเองนะ"
แต่มันก็ไม่ใช่แนวคิดใหม่ไม่ใช่เหรอ?
แม้แต่ภาคการเงินก็ยังมีศูนย์กลางการเงินแห่งหนึ่งที่อยู่เหนือกฎหมายของทุกประเทศ และระบบการเงินทั้งหมดก็ถูกควบคุมจากที่นั่น
ตอนนี้ฝั่ง IT ก็คงมองได้ว่าเกิด IT hub แบบนั้นขึ้นมาแล้ว ให้บริษัท IT ควบคุมกันเองเพื่อไปต่อกรกับทุกประเทศ
แล้วพอดูประสิทธิภาพของ Claude ก็เข้าใจได้ว่าเป็นแบบนั้น
ศูนย์กลางการเงินที่คุณหมายถึงคือกลุ่มเฉพาะอย่างเครือข่ายชาวยิว หรือหมายถึงเพียงฮับตัวกลางอย่างฮ่องกง สิงคโปร์ ฯลฯ ใช่ไหม?
โครงสร้างอย่าง SWIFT หรือระบบชำระบัญชีการชำระเงินนั้น ในความเป็นจริงต้องมองว่าอยู่ในกำมือของชาติมหาอำนาจเป็นหลัก
แทนที่จะบอกว่าต่อต้าน กลับเป็นกรณีที่มักถูกใช้เป็นเครื่องมือของฝ่ายที่มีอำนาจมากกว่าเสียมากกว่า
ถ้ามองในความรู้สึกแบบนั้น สำหรับผมบทความนี้ก็ดูเป็นธรรมดามากกว่าที่สุดท้ายจะกลายเป็นเครื่องมือของผู้มีอำนาจ ซึ่งก็สอดคล้องกับเจตนาเดิมของมัน
ดูเหมือนว่าตอนนี้กลิ่นอายทางการตลาดจะยังค่อนข้างแรงอยู่เล็กน้อย
ก็จริงนะ ถ้ามีการสร้างโมเดลที่มีความสามารถไร้ขีดจำกัดแบบสุดขั้วขึ้นมาจริง ๆ ก็ดูเหมือนว่าจะไม่มีเหตุผลที่จะต้องเปิดเผยมันออกมา เพราะมันคงสามารถสร้างมูลค่าเพิ่มได้ด้วยตัวเองมากกว่าค่าบริการใช้งานของโมเดลนั้นเสียอีก...
ถ้าบังคับให้เปิดเผยอย่างเหมาะสมจริงๆ ในทางกลับกันก็อาจทำให้แรงงานและสติปัญญาถูกทดแทน จนคอมมิวนิสต์ที่ไม่เคยเกิดขึ้นจริงได้เลยแม้แต่ครั้งเดียวในประวัติศาสตร์ อาจกลายเป็นความจริงขึ้นมาก็ได้
เป็นบทความที่ดีมาก เพราะชี้ให้เห็นประเด็นที่ไม่เคยได้นึกถึงมาก่อน ขอบคุณครับ!
พอเห็นอะไรอย่าง GLM5.1 ก็ทำให้ผมรู้สึกว่า ต่อให้โมเดลเปิดอาจจะยังมีช่องว่างอยู่บ้าง แต่ก็ยังสามารถไล่ตามโมเดลปิดแบบเสียเงินได้อย่างต่อเนื่อง
ดูเหมือนเป็นเรื่องที่คาดไว้แล้ว.. ยุคที่เทคโนโลยีกลายเป็นเวทมนตร์ และมีพ่อมดเพียงไม่กี่คนผูกขาดทุกสิ่ง..
Anthropic เป็นผู้คิดค้น b2b เหรอ?