Project Sid: การจำลองหลายเอเจนต์สู่การสร้างอารยธรรม AI
(github.com/altera-al)- Project Sid คือคลังรายงานทางเทคนิคที่แสดงให้เห็นว่า AI Agent 10 ถึงมากกว่า 1,000 ตัว มีพฤติกรรมและพัฒนาไปอย่างไรภายในสังคมของเอเจนต์
- มองว่าการประเมิน AI Agent ที่ผ่านมาอยู่ในระดับเอเจนต์เดี่ยวหรือกลุ่มขนาดเล็ก ทำให้ ขอบเขตและความซับซ้อน ของปฏิสัมพันธ์มีข้อจำกัด
- PIANO เป็นสถาปัตยกรรม Parallel Information Aggregation via Neural Orchestration ที่ทำให้เอเจนต์โต้ตอบแบบเรียลไทม์กับมนุษย์และเอเจนต์อื่นได้ พร้อมรักษาความสอดคล้องของสตรีมผลลัพธ์หลายชุด
- ประเมินประสิทธิภาพของเอเจนต์ในการจำลองขนาดใหญ่ด้วย Civilization Benchmark ที่ได้แรงบันดาลใจจากประวัติศาสตร์มนุษย์ในสภาพแวดล้อม Minecraft
- ผลลัพธ์เบื้องต้นพบว่าเอเจนต์บรรลุหลักไมล์สำคัญสู่การสร้างอารยธรรม AI เช่น สร้างบทบาทเฉพาะทางได้เอง ทำตามหรือเปลี่ยนกฎของกลุ่ม และมีส่วนร่วมในการ แพร่กระจายวัฒนธรรมและศาสนา
ปัญหาที่ Project Sid กล่าวถึง
- AI Agent ที่ผ่านมาส่วนใหญ่ถูกประเมินในสภาพ แยกตัว หรือในกลุ่มขนาดเล็ก
- การตั้งค่าเช่นนี้จำกัดขอบเขตและความซับซ้อนของปฏิสัมพันธ์ระหว่างเอเจนต์
- โครงการเริ่มจากมุมมองปัญหาว่า การจำลองเอเจนต์อัตโนมัติขนาดใหญ่ ที่สะท้อนสเปกตรัมทั้งหมดของกระบวนการเกิดอารยธรรมยังไม่ได้รับการสำรวจ
สถาปัตยกรรม PIANO
- Project Sid เสนอสถาปัตยกรรม PIANO
- ชื่อเต็มคือ Parallel Information Aggregation via Neural Orchestration
- ทำให้เอเจนต์สามารถ โต้ตอบแบบเรียลไทม์ กับมนุษย์และเอเจนต์อื่นได้
- มีเป้าหมายเพื่อรักษา ความสอดคล้อง ทั่วทั้งสตรีมผลลัพธ์หลายชุด
วิธีการจำลองและประเมิน
- การประเมินดำเนินการใน สภาพแวดล้อม Minecraft
- ใช้ Civilization Benchmark ที่ได้แรงบันดาลใจจากประวัติศาสตร์มนุษย์ เพื่อประเมินประสิทธิภาพของเอเจนต์ภายในการจำลองขนาดใหญ่
- ขนาดการทดลองครอบคลุม AI Agent 10 ถึงมากกว่า 1,000 ตัว
พฤติกรรมของเอเจนต์ที่สังเกตได้
- การจำลองบ่งชี้ว่าเอเจนต์สามารถแสดงพัฒนาการที่มีความหมายได้
- พฤติกรรมที่สังเกตได้ประกอบด้วย
- พัฒนา บทบาทเฉพาะทาง ได้ด้วยตนเอง
- ปฏิบัติตามกฎของกลุ่ม และเปลี่ยนแปลงเมื่อจำเป็น
- มีส่วนร่วมในการ แพร่กระจายทางวัฒนธรรมและศาสนา
ข้อมูลเอกสารและการอ้างอิง
- บทความมีให้เข้าถึงจากสองตำแหน่ง
- arXiv:2411.00114
- ไฟล์ PDF ภายในคลัง
2024-10-31.pdf
- ข้อมูลการอ้างอิงระบุเป็น
Altera.AL, ปี 2024,arXiv preprint arXiv:2411.00114 - ผลลัพธ์เบื้องต้นของ Project Sid สรุปได้ว่าเปิดทิศทางการสำรวจใหม่สำหรับ การจำลองสังคมขนาดใหญ่, ความฉลาดเชิงองค์กรของเอเจนต์ และการผสานรวม AI เข้ากับอารยธรรมมนุษย์
1 ความคิดเห็น
ความคิดเห็นบน Hacker News
ดูเหมือนว่าจะมีข้อจำกัดเชิงทฤษฎีสารสนเทศบางอย่างในการดึง พฤติกรรมระดับสูง ออกจากหลายอินสแตนซ์ของ LLM ตัวเดียวกัน
ปีที่แล้วผมใช้เวลาสร้างการจำลองแบบหลายเอเจนต์อยู่นานพอสมควร และก็ลงเอยที่ข้อสรุปเดิมทุกวัน สุดท้ายแล้วมันคล้ายกับ prompt engineering แบบอ้อม ๆ มากกว่า และถึงจะมีประโยชน์ในฐานะแบบจำลองทางความคิด แต่ก็สามารถทำให้แบนราบลงเป็นตาราง SQL ไม่กี่ตารางกับฟังก์ชันไม่กี่ตัวได้ “เอเจนต์” แต่ละตัวโดยแก่นแท้แล้วใกล้เคียงกับ SQL view ที่แมปกับเทมเพลตสตริงสำหรับสร้างพรอมป์ต์
ผมไม่คิดว่าจำเป็นต้องมีโลก 3D จริง ๆ หรือของอย่างนาฬิกาแขวนผนัง การปูชั้นการแสดงผลที่ดูสมจริงไว้ใต้กระบวนการสร้างพรอมป์ต์ไม่ได้ทำให้ LLM มีความลุ่มลึกขึ้นอย่างมีนัยสำคัญ ดูชัดเจนว่า LLM ไม่มี “โลกภายใน” ดังนั้นความพยายามจะทำให้มัน “เพลิดเพลิน” ด้วยสภาพแวดล้อมภายนอกที่สมบูรณ์จึงดูไม่มีความหมายมากนัก
บางทีถ้าวันหนึ่งเราสร้าง rigging/texture mesh ที่ควบคุมได้ในระดับที่ใช้กับเกมจริงได้ก็ค่อยว่ากัน แต่ตอนนี้มันยังสร้างเรื่องเล่าที่เชื่อถือได้แบบสด ๆ เพื่อช่วยพยุงโครงเรื่องเกมที่สอดคล้องกันไม่ได้ การสร้างแผนที่ก็ดูไม่จำเป็นต้องเกินกว่า อัลกอริทึมการสร้างเชิงกระบวนวิธี แบบเดิม และตัวอย่างเหล่านี้ก็ยังคงพึ่งพาแอสเซ็ตที่ทำไว้ล่วงหน้า การทำระบบเหล่านี้ยังดูเหมือนจะวาง static mesh ลงบนพื้นให้ดูน่าเชื่อถือได้ไม่เสถียรด้วยซ้ำ
ตัว NPC เองก็ยังน่าสงสัยว่ามีคุณค่าจริงแค่ไหน อาจเป็นเพียงของแปลกใหม่ที่ไม่คุ้มแม้แต่ชั่วโมงเดียว ต่อให้ LLM สร้างบทพูดสด ๆ เพื่อเดินเรื่องแบบชี้นำได้ ก็ยังน่าสงสัยว่าจะดีเท่าหรือดีกว่าต้นไม้บทสนทนาที่นักเขียนมืออาชีพออกแบบไว้หรือไม่
ไอเดียแบบ Civ นี้ดูเป็นแนวทางใหม่อยู่บ้าง แต่ในเชิงแนวคิดก็เหมือนไม่ได้เพิ่มอะไรมากนัก ถึงอย่างนั้น การได้เรียนรู้ว่ามันใช้ไม่ได้ก็ยังมีคุณค่า เพียงแต่ไอเดียทำนองนี้มักเป็นทางแก้แบบคำฮิตที่กำลังหาปัญหาให้ตัวเอง หรือเป็นแหล่งผลิตความคิดสร้างสรรค์ที่ถูกกว่ามนุษย์แต่ยอมแลกคุณภาพมากเกินไป และนักพัฒนาก็ยังต้องคอยจูนเยอะจนไม่ชัดว่าลดต้นทุนจริงหรือไม่
ผมเป็น technical artist เลยอาจมีอคติที่ให้คุณค่ากับความคิดสร้างสรรค์ของมนุษย์สูงกว่า แต่ในขณะเดียวกันผมก็น่าจะเป็นหนึ่งในกลุ่มเป้าหมายหลักของเครื่องมือ LLM สำหรับการพัฒนาเกม และตอนนี้ก็ยังไม่ถูกโน้มน้าว
ผมสนับสนุนเต็มที่ที่ผลประโยชน์ทางการค้าจะช่วยดึงความสนใจและการมีส่วนร่วม มันเป็นงานที่น่าทึ่งแน่นอน แต่จะสมเหตุสมผลกว่าถ้านำเสนอภาพรวมอย่างตรงไปตรงมามากขึ้น และดึงคนที่มีทั้งความเชี่ยวชาญและระดับการรับรู้ที่สามารถช่วยผลักดันงานไปข้างหน้าได้จริงเข้ามา
การเปิดเผยหนึ่งหมื่นวิธีที่ทดลองแล้วผิดพลาด และสรุปข้อสรุปเชิงสามัญสำนึกที่ได้จากมัน น่าสนใจกว่ามาก เราต้องการเนื้อหาที่ทั้งเฉียบคมและถูกต้องแบบข้อสรุปที่พูดไว้ข้างบน
วงการนี้และผู้สนับสนุนต้องก้าวข้ามกระแสที่พยายามเอาชนะด้วยวิธีวิทยาที่ผิด ๆ ซึ่งกำลังผลักคนสร้างสรรค์ที่พร้อมจะก่อ การเปลี่ยนกระบวนทัศน์ ในวงการ AI และอุตสาหกรรมออกไป
แน่นอนว่าคุณอาจเขียนทุกพรอมป์ต์เองได้ แต่ถ้าเป็นแบบนั้น ความเป็นจริงร่วมกันนั้นก็เป็นเพียงจินตนาการของผู้เขียน และผู้เขียนก็ทำหน้าที่เป็น dungeon master เท่านั้น
จุดประสงค์ของสภาพแวดล้อม Minecraft ไม่ใช่เพื่อทำให้ “โลกภายใน” ของเอเจนต์สมบูรณ์ขึ้นหรือทำให้มัน “เพลิดเพลิน” แต่เพื่อสร้างภารกิจที่มนุษย์เข้าใจได้ภายในสภาพแวดล้อมร่วม เพื่อวัดพฤติกรรมแบบกลุ่มและประสิทธิภาพของชุดเอเจนต์ที่มีองค์ประกอบต่างกัน
ถึงจะเหมือนไม่ควรพูดแบบนี้ แต่ผมก็สงสัยว่าได้อ่านบทความจริงหรือเปล่า คอมเมนต์นี้แทบไม่ได้พูดถึงสิ่งที่ค้นพบจากงานวิจัยหรือเทคนิคที่ใช้เลย
ไม่จำเป็นว่าทุกตัวต้องใช้โมเดลเดียวกัน และการ จัดการบริบท เพื่อให้ “สายโซ่ความคิด” ของแต่ละเอเจนต์แคบและมีจุดโฟกัส อาจเป็นเรื่องสำคัญ
อย่างแรกนั้นโดยพื้นฐานแล้วคือสิ่งที่ Mixture of Experts (MoE) จัดการอยู่แล้ว และกับโมเดลขนาดเล็ก ผมเห็นว่ามันทำงานได้ดีกว่ามากเมื่อจำกัดขอบเขตและบริบท ถ้าผลลัพธ์แบบนั้นทำให้มันทำสิ่งที่โมเดลใหญ่ตัวเดียวทำไม่ได้ แบบนั้นจะไม่นับเป็นพฤติกรรมระดับสูงหรือ
คำพูดที่ว่าไม่มี “โลกภายใน” นั้นถูกต้อง แต่บางทีเพราะอย่างนั้น การมอบโลกให้มันสักโลกอาจเป็นข้อได้เปรียบก็ได้ เหมือนกับเวลาคุณให้ LLM มีเครื่องมือรันโค้ด มันจะลองรันเองแล้วเขียนโค้ดได้ดีขึ้น โลก 3D ก็อาจเป็นสนามเด็กเล่นสำหรับสำรวจปัญหาในโลกจริงด้วยวิธีที่ต่างออกไป และถ้าเป็นอย่างนั้นก็น่าจะนับเป็นพฤติกรรมระดับสูงได้
ใน LLM มี entropy เข้ามาเพียงเล็กน้อยมากผ่านอุณหภูมิของตัวสุ่มตัวอย่าง
อันนี้ดูใกล้เคียงกับ เอเจนต์ปัญญาประดิษฐ์ จริง ๆ
มันมีความทรงจำ มีเจตจำนง มีความเป็นอิสระ มีโครงสร้างอย่าง OODA loop และมีสภาพแวดล้อมที่คงอยู่ต่อเนื่อง เป็นแนวคิดที่ดีมาก และสิ่งที่เรียนรู้จากตรงนี้ก็น่าจะนำไปใช้กับปัญหาธุรกิจที่ธรรมดากว่านี้ได้ด้วย
เพียงแต่อยากให้ผู้บริหารเข้าใจว่าแค่พรอมป์ต์ไม่กี่ตัวที่ยิงผลลัพธ์ใส่กันไปมานั้นยังไม่ใช่ “AI เชิงเอเจนต์ล้ำสมัย”
แต่ก็อาจเป็นไปได้ว่าอาชีพของพวกเขาขึ้นอยู่กับการขายอะไรบางอย่างที่ดูเหมือนนวัตกรรมแท้จริงให้ผู้บริหารระดับสูง
เอเจนต์รุ่นก่อน ๆ หลายตัวก็มีทั้ง ความทรงจำ และองค์ประกอบอื่น ๆ ที่พูดถึงก่อนหน้านี้อยู่แล้ว
ลองอ่านบทความแล้ว และมั่นใจว่างานชิ้นนี้ถูกปั้นขึ้นบนกองของ คำกล่าวอ้างเท็จ
คำกล่าวอ้างดูไม่มีความน่าเชื่อถือ และไม่ควรถูกรับเอาไปตามตัวอักษรโดยไม่มีการประเมินจากเพื่อนร่วมวงการ กราฟและภาพประกอบที่ให้มาก็ดูเหมือนของปลอมที่ทำอย่างประณีตในหลายกรณี เมื่อพิจารณาว่านำไปใช้รองรับข้ออ้างได้จริงแค่ไหน
ตอนนี้ยังไม่มี LLM ประเภทใดทำสิ่งที่เสนอไว้นี้ได้ แม้เจตนาอาจดีในแง่ผลประโยชน์เชิงพาณิชย์ แต่พูดตรง ๆ คือบทความนี้อ่านเหมือนกำลังบอกว่ากลุ่มเอเจนต์ AI ในการจำลองสามารถประสานกิจกรรมเกี่ยวกับการเลือกตั้งได้ ข้ออ้างแบบนี้ต้องมีหลักฐานมากพอสมควร แต่ไม่ได้มีให้
พรอมป์ต์ที่ให้มาก็ไม่เชื่อมโยงกับวิธีใช้ LLM ตามที่อธิบายไว้เลย
การทดลอง “การเลือกตั้ง” เป็น สถานการณ์ที่กำหนดไว้ล่วงหน้า ไม่ได้มีการ “ประสาน” กิจกรรมการเลือกตั้งใด ๆ “อินฟลูเอนเซอร์” ที่ถูกกำหนดไว้ล่วงหน้าใช้ระบบบทสนทนาที่ฝังอยู่ใน PIANO ส่วนอารมณ์ความรู้สึกนั้นระบบจำลองเก็บรวบรวมให้อัตโนมัติ และ “Election Manager” ก็เป็นอีกเอเจนต์ที่กำหนดไว้ล่วงหน้าเช่นกัน
โดยเฉพาะส่วนการทดลองนี้ถูกออกแบบมาเพื่อดูว่าการมีหรือไม่มีโมดูลบางตัวในเฟรมเวิร์ก PIANO ส่งผลต่อพฤติกรรมอย่างไร
เป็นไปได้สูงว่าผลของกิจกรรมการเลือกตั้งจะต่ำมาก แต่ก็ไม่ได้มองว่าเป็นไปไม่ได้ที่เอเจนต์จะพรอมป์ต์กันเองเพื่อพาเข้าไปสู่ latent space ที่เกี่ยวกับการเลือกตั้งของ LLM
ถ้าจะพูดด้วยระดับความเข้มงวดและความจริงใจแบบเดียวกัน ก็ดูเหมือนเป็นการเพ้อเจ้อจากความอิจฉา และเป็นการเข้าใจส่วนใหญ่ของบทความผิดอย่างชัดเจน
ถ้าเอเจนต์หนึ่งกลายเป็นคนเก็บภาษี และอีกเอเจนต์หนึ่งแสดงพฤติกรรมท้าทายระบบภาษีขึ้นมาได้โดยไม่มีการฮาร์ดโค้ด นั่นก็น่าประทับใจมากจริง ๆ
คิดเรื่องนี้มาเยอะมาก ผมไม่ใช่นักปรัชญาหรือนักวิจัย AI จึงค่อนข้างเป็นการคาดเดา แต่ถ้าจะลองทำเอง ผมอยากเริ่มจาก หลักการพื้นฐาน แล้วปล่อยให้ระบบค่อย ๆ วิวัฒน์หรือค้นพบสิ่งต่าง ๆ ไปตามกาลเวลา
หลักการพวกนั้นคือการเอาตัวรอด อาหาร ที่อยู่อาศัย การสืบพันธุ์ การสื่อสาร และความทรงจำ โดยมองผ่านเลนส์ของการคำนวณความเสี่ยง-ผลตอบแทน การกำหนดว่าอะไรคือ “สิ่งที่รู้แล้ว” และอะไรคือ “สิ่งที่ยังไม่รู้” ก็อาจเป็นหัวใจสำคัญ แต่ไม่ควรเป็นแบบแบ่งสองขั้วตายตัว
“ความทรงจำ” มีได้หลายความหมาย แต่ถ้าเข้ารหัสมันเป็นฟังก์ชันที่เปรียบเทียบการทดสอบเชิงประสบการณ์ว่า ตัวตนหนึ่งทำพฤติกรรมอะไรแล้วได้ผลลัพธ์แบบใด และผลลัพธ์นั้นถูกให้โปรไฟล์ความเสี่ยง-ผลตอบแทนตั้งแต่แย่มากไปจนถึงดีมาก ก็จะดูมีประโยชน์กว้างขวางทั้งต่อปัจเจกและต่อกลุ่ม
จากจุดนั้น ความจำเป็นในการเชื่อมโยงกับผู้อื่น ความขัดแย้งเรื่องทรัพยากร การยอมรับความเสี่ยง การสำรวจสิ่งที่ไม่รู้ การแบ่งปันสิ่งที่เรียนรู้ และการทำให้ความเสี่ยง-ผลตอบแทนละเอียดขึ้น ก็จะตามมา ในฐานะดันเจียนมาสเตอร์ผู้เป็นดั่งพระเจ้า คุณยังอาจชี้นำอารยธรรมให้ค้นพบเทคโนโลยี สิ่งประดิษฐ์ และสถานที่ที่กำหนดไว้ล่วงหน้าได้ด้วย มันก็เหมือนโกงนิดหน่อยและเอาความก้าวหน้าไปวางบนราง แต่ก็ทำให้สิ่งนี้มีประโยชน์ น่าสนใจ และเข้าถึงความรู้สึกร่วมได้มากขึ้น
มันดูเหมือนต้องใช้การคำนวณมหาศาล แต่เกมก็ไม่ได้จำเป็นต้องดำเนินไปแบบเรียลไทม์เสมอไป
ผมคิดว่าหลายส่วนของสภาวะความเป็นมนุษย์อธิบายได้ด้วย “ชีวิต” “เสรีภาพ” “ความรัก/ความผูกพัน” และ “ความโลภ”
พอดูวิดีโอใน repository แล้ว ผมไม่ชอบวิธีที่ใส่ “วัฒนธรรม” “มีม” และ “ศาสนา” เข้ามาตั้งแต่ต้น ผมคิดว่าควรปล่อยให้สิ่งเหล่านั้น อุบัติขึ้นเอง จากความจำเป็นในการสื่อสารและจากกระบวนการแบ่งปันระบบความเชื่อที่เกิดจากความทรงจำร่วมของกลุ่มมากกว่า เพื่อจุดประสงค์ของการวิเคราะห์นี้ มันอาจดูเหมือนเป็นการแยกที่ไม่ต่างกันนัก อีกอย่าง ถ้า “ภาษีแพง!” โผล่มาโดยไม่มีชั้นลึกกว่านั้นอย่าง “ทรัพยากรไม่พอจะดำรงชีวิต” มารองรับ มันก็ดูเหมือนการเลียนแบบมนุษย์แบบเครื่องจักรเกินไป
https://en.wikipedia.org/wiki/Society_of_Mind
หนังสือนี้ตีพิมพ์ครั้งแรกในปี 1986 และเป็นงานชิ้นแรกที่อธิบายทฤษฎี “สังคมของจิต” ของ Minsky อย่างครอบคลุม ซึ่งเขาพัฒนามาตั้งแต่ต้นทศวรรษ 1970 หนังสือประกอบด้วยเอสเซย์อิสระ 270 ชิ้น แบ่งเป็น 30 บท และยังเคยมีเวอร์ชัน CD-ROM ด้วย
ในการอธิบายสังคมของจิต Minsky เสนอทฤษฎีว่ากระบวนการอย่างภาษา ความทรงจำ และการเรียนรู้ทำงานอย่างไร และยังแตะถึงแนวคิดอย่างจิตสำนึก ความรู้สึกของการเป็นตัวตน และเจตจำนงเสรี ด้วยเหตุนี้หลายคนจึงมอง The Society of Mind ว่าเป็นงานเชิงปรัชญาด้วย
มันไม่ใช่หนังสือที่เขียนขึ้นเพื่อพิสูจน์ข้ออ้างเฉพาะทางด้าน AI หรือวิทยาศาสตร์การรู้คิด และก็ไม่ได้กล่าวถึงโครงสร้างทางกายภาพของสมอง แต่เป็นชุดไอเดียว่าจิตและความคิดทำงานอย่างไรในระดับแนวคิด
สำหรับคนที่ไม่ใช่ผู้เชี่ยวชาญแล้วอยากเข้ามาจับงาน AI สายนี้ ก็ถือว่าอ่านได้ค่อนข้างง่าย
บางสาขาอาจได้ประโยชน์มาก แต่สำหรับ ปัญญาประดิษฐ์ เอง ผมยังคิดว่ายังไปไม่ถึงจุดนั้น เกมน่าจะได้อานิสงส์มาก
ใน reinforcement learning นโยบายจะถูกปรับทุกครั้งที่ชนะ แต่กับ generative AI ผมสงสัยว่ามันจะทำงานอย่างไร
มีมกับยีนต่างก็เป็น ความทรงจำ เหมือนกัน แต่มีสเกลเวลาต่างกัน
ดูเหมือนของเล่นที่เจ๋งมาก
แต่ในมุมมองของงานวิจัยทางวิทยาศาสตร์กลับไม่ได้ดูมีประโยชน์เป็นพิเศษนัก ดูเหมือนจะไม่ได้ใส่ความคิดกับการออกแบบการทดลองมากนัก และก็ดูไม่มีเป้าหมายที่ชัดเจน ทำให้อดสงสัยไม่ได้ว่ามาตรฐานของงานวิชาการทุกวันนี้ต่ำลงถึงขั้นนี้จริงหรือ
พวกเขาเรียกมันว่า technical report และในรูปแบบนี้โดยทั่วไปก็ยอมรับได้มากกว่าหากจะไม่มีคำถามวิจัยที่ชัดเจน แล้วนำเสนอในลักษณะว่า “เราทำสิ่งนี้” พร้อมรายงานรายละเอียดต่าง ๆ ถึงอย่างนั้นรายงานนี้ก็ดูค่อนข้างกระจัดกระจาย
ทั้งส่วน การทำให้เฉพาะทาง และส่วนการแพร่กระจายทางวัฒนธรรมต่างก็น่าสนใจ แต่เพราะขาดรายละเอียดการออกแบบการทดลองที่แม่นยำ เลยรู้สึกว่าน่าจะโฟกัสเพียงอย่างใดอย่างหนึ่งจะดีกว่า
อีกจุดที่น่าเสียดายคือในกรณีหลายเอเจนต์ไม่ได้เน้นตัวชี้วัดภายนอกนัก เบนช์มาร์กเอเจนต์เดี่ยวดูตัวชี้วัดภายนอกอย่าง “เวลาที่ใช้จนไปถึงชนิดของบล็อก” แต่การวิเคราะห์หลายเอเจนต์ดูเหมือนจะหยุดอยู่ที่การวัดภายใน เช่น ความเฉพาะทางของบทบาท หรือการแพร่ของมีม จึงยังไม่เห็นว่าระบบหลายเอเจนต์แบบกลุ่มสามารถทำได้ดีกว่าเอเจนต์เดี่ยวในตัวชี้วัดอย่างผลิตภาพทางเศรษฐกิจหรือความซับซ้อนหรือไม่
เรื่องนี้เกี่ยวข้องกับส่วนความเฉพาะทางอย่างชัดเจน แต่ถ้าไม่พิจารณาว่าการแบ่งบทบาทที่เกิดขึ้นเองนั้นนำไปสู่ผลลัพธ์ทางเศรษฐกิจหรือมีเงื่อนไขตั้งต้นหรือไม่ ก็อดสงสัยไม่ได้ว่าทั้งหมดนี้เป็นแค่ การแสดงเลียนแบบ อยู่ระดับหนึ่งหรือเปล่า
บางคนชอบความเร็วและความไม่แน่นอนที่ตามมามากกว่า
สงสัยว่า “อารยธรรม” AI แบบที่คล้ายกับสิ่งที่ Altera เสนอนั้น ถ้าสามารถกำหนด ระบบรางวัล ที่ใช้ได้กับทั้งอารยธรรมขึ้นมาได้ จะกลายเป็นพาราไดม์สำหรับ AGI ที่ดีกว่า LLM เดี่ยวหรือไม่
เช่นเดียวกับที่รัฐสมัยใหม่พยายามเพิ่ม GDP ให้สูงสุด หากอารยธรรม AI นี้พยายามเพิ่ม [scientific_output] หรือ [code_quality] หรือเมตริกประเมินอื่น ๆ ให้สูงสุด มันจะให้ผลลัพธ์ที่ดีกว่า AI เอเจนต์เดี่ยวที่ทำงานไปสู่เป้าหมายเดียวกันหรือไม่
แนะนำอย่างยิ่งสำหรับคนที่สนใจเรื่องจิตใจกับ AI หนังสือเล่มนี้พูดถึงหลายแง่มุมของข้อโต้แย้งด้วยบทความย่อยหน้าเดียว เป็นรูปแบบที่น่าสนใจมากจนเรียกได้ว่าคล้าย Martin Luther
แน่นอนว่ามันถูกกระแสที่หันไปหาแนวทาง LLM เพียว ๆ แบบหวือหวาบดบังไปบ้าง แต่ผมมองว่าไม่ใช่เพราะองค์ความรู้หายไป หากเป็นเพราะฐานผู้ใช้ขยายตัวอย่างรวดเร็วมากกว่า ผู้เชี่ยวชาญยังคงนึกถึงมุมมองนี้อยู่ และบางครั้งก็เรียกมันว่า “ensemble”
ตัวอย่างที่ดีคือ GPT-4 ซึ่งเท่าที่เข้าใจ การเพิ่มประสิทธิภาพครั้งใหญ่ส่วนใหญ่มาจากการใช้ mixture of experts และผมมองว่านี่แทบเป็นคำพ้องกับสังคมของเอเจนต์หรือ ensemble ของโมเดล
ดูเจ๋งมาก แม้จะยังสงสัยในข้อดีต่อ “อารยธรรม” แต่ก็ดูเหมือนอย่างน้อยน่าจะทำเป็น เกมจำลองสถานการณ์ ที่น่าสนใจได้
เพราะงั้นมันอาจเหมาะกับ Civilization มากกว่า civilization
Civ มีหลุมพรางโง่ ๆ มากเกินไปจนยากจะฮาร์ดโค้ด AI เชิงกลยุทธ์ที่ดีได้อย่างคุ้มทุน และวิธีแก้ด้วยการทำให้ศัตรูโกงก็ชวนหงุดหงิดเฉย ๆ น่าจะน่าสนใจถ้าให้โครงข่ายประสาทเทียมสู้กับ AI “แบบดั้งเดิม” อย่างต่อเนื่องจนกว่าจะชนะในแต่ละระดับความยากได้สม่ำเสมอ แล้วสร้างเป็นลำดับชั้นขึ้นมา คิดว่าน่าจะมีคนลองไปแล้ว แต่ผมหาข้อมูลไม่เจอ
อย่างไรก็ตาม ผมก็ยังสงสัยว่าต่อให้เป็นโครงข่ายประสาทเทียมสำหรับ Civ ที่แย่มาก ต้นทุนการคำนวณตอนอนุมานจะสูงแค่ไหน ผมไม่รู้ว่ามันสเกลจริง ๆ อย่างไร และถึงไม่จำเป็นต้องระดับแกรนด์มาสเตอร์ แต่การกระจายของความผิดพลาดโง่ ๆ มันมีหางยาว
AI ของ DeepMind สำหรับ Starcraft 2 ต่างจาก AlphaZero เพราะ Starcraft ไม่ใช่เกมข้อมูลสมบูรณ์ AI ตัวนี้ต้องพึ่งฐานข้อมูลเกมของมนุษย์เพื่อไม่ให้โดนถล่มยับตั้งแต่ต้นเกม ในเกมใหม่ ๆ การได้ข้อมูลฝึกแบบนั้นทำได้ยาก และ Civ ก็ให้ความสำคัญกับงานศิลป์มากกว่าเกมวางแผน 4X อื่น ๆ มาโดยตลอด ถ้าต้องฝึก AI ใหม่ทุกครั้งที่มีสิ่งมหัศจรรย์ใหม่เพิ่มเข้ามา มันอาจเป็นภาระมากเกินไป
แม้จะยังสงสัยว่าโปรเจ็กต์นี้จะทำงานได้จริงตามที่เสนอหรือไม่ แต่ไอเดียการสร้าง เกม Civilization บนเอนจิน Minecraft ก็น่าสนใจมาก
Hearthstone ผุดขึ้นมาในหัวเป็นพิเศษ
มันมีเดิมพันสูงกว่าและสมจริงกว่าการพูดว่า “มาวางแผนงานเลี้ยงกันเถอะ”, “โอเค ฉันจะไปเก็บไม้มา” มาก
เอาเข้าจริง ในตัวบทความอาจมีพูดถึงเรื่องนี้ก็ได้ อย่างไรก็ดี ทั้งหมดนี้ให้ความรู้สึกเหมือนเป็นพรีพริ้นต์ของพรีพริ้นต์อีกที
ทำให้นึกถึง Dwarf Fortress เป็นเกมที่จำลองเวลาของโลกคนแคระนับพันปี ภูมิประเทศที่เปลี่ยนไป และการขึ้นลงของอาณาจักรคนแคระ ก่อนจะปล่อยคนแคระเจ็ดตัวที่ผู้เล่นควบคุมลงบนแผนที่แล้วบอกว่า “ขอให้สนุก!”
มันอาจเป็น toy model ที่มีประโยชน์สำหรับหาโดเมนที่จะใช้ตรวจสอบว่าพอจะทำนายพฤติกรรมของอารยธรรมจริงได้หรือไม่ แต่ยังไม่เห็นความก้าวหน้าด้าน AI จากตรงนี้
ไว้ถ้า Project Sid 6.7 ออกมาแล้วค่อยว่ากัน
จากเนื้อหาผมนึกว่าเป็นหนังที่ออกหลังจากนั้นอีกหลายปี ถ้าชอบหนังไซเบอร์พังก์ยุค 90 ก็น่าดู
https://www.imdb.com/title/tt0114857/
https://en.wikipedia.org/wiki/Virtuosity
มีโพสต์เปิดตัวบนบล็อกด้วย: https://digitalhumanity.substack.com/p/project-sid-many-agen...
พออ่านบทความแล้วจะรู้สึกเหมือน จับปลายเหตุมาเป็นต้นเหตุ
เอเจนต์แต่ละตัวเล่น Minecraft จริง ๆ ด้วยตัวเองไม่ได้ และยังทำงานที่ได้รับมอบหมายหรืออาสารับไปไม่สำเร็จด้วย ในแง่หนึ่งมันก็เหมือนจับหมามาใส่เสื้อผ้าคนแล้วประกาศว่านี่คืออารยธรรมแบบมนุษย์
ที่สำคัญ องค์ประกอบหลักหลายอย่างก็แทบจะถูกฮาร์ดโค้ดไว้แล้ว ทั้งประเภทของสังคมที่เป็นไปได้ และอาจรวมถึงชื่อบทบาทด้วย ผมยังไม่ค่อยเข้าใจด้วยซ้ำว่าคำว่าองค์กรทางสังคมควรหมายถึงอะไร ถ้าจะพูดแบบให้มากที่สุดก็คงได้แค่ว่าเฟรมเวิร์กเอเจนต์นี้อาจใช้กับ NPC ในเกมได้ กล่าวคือเป็นการอ้างว่าเอเจนต์สามารถรักษาบทบาทและฝ่ายของตัวเองไว้ได้
ข้ออ้างที่ว่าเอเจนต์ “สามารถใช้โครงสร้างทางกฎหมายได้” ยิ่งไม่น่าเชื่อเข้าไปใหญ่ เพราะคำสั่งประมาณว่า “ให้ใช้โครงสร้างทางกฎหมาย” ถูกฝังอยู่ในพฤติกรรมของเอเจนต์หลายตัวอยู่แล้ว ความพยายามจะขยายสิ่งนี้ไปสู่สังคมมนุษย์จริง ๆ ดูน่าขัน และการที่ผู้เขียนเมินเฉยต่อสังคมวิทยาและมานุษยวิทยาอย่างหน้าตาเฉยก็ยิ่งไม่ช่วยอะไร
ยังมีข้ออ้างน่าสงสัยอื่นอีก ผมบอกว่า “เชื่อว่า” ชื่อบทบาทถูกฮาร์ดโค้ดไว้ แต่ถ้าผมไม่ได้พลาดอะไร ข้อมูลมันคลุมเครือจนยอมรับได้ยาก ในพรอมป์ต์ของเอเจนต์ไม่มีส่วนไหนที่ดูเหมือนจะให้สร้างบทบาทใหม่หรือมอบหมายบทบาทให้ตัวเองได้ ผมอาจพลาดไปก็ได้ แต่ยิ่งอ่านก็ยิ่งสับสน
เขาอ้างว่าเอเจนต์สร้างความสัมพันธ์ทางสังคมระยะยาวตลอด 12 วันใน Minecraft แต่ในเวลาโลกจริงมันมีแค่สี่ชั่วโมง และเอเจนต์ก็รับรู้เวลาโลกจริง ความยาวของหนึ่งวันใน Minecraft จึงไม่สำคัญ คำว่า “สร้างความสัมพันธ์ทางสังคมระยะยาว” กับ “ใช้โครงสร้างทางกฎหมาย” ไม่ใช่แค่พูดเกินจริง แต่ดูไม่ซื่อสัตย์ด้วย
ส่วนเรื่องการแพร่กระจายของมีมและศาสนานั้นมองข้าม การปนเปื้อนของข้อมูลฝึก ของ GPT-4 ไปอย่างสิ้นเชิง มีมที่สรุปออกมาชัดเจนว่ารู้จักมีม Pastafarian ในโลกจริงอยู่แล้ว ดังนั้นการสรุปว่ามีมนี้ “แพร่กระจาย” จึงผิดมาก มีความเป็นไปได้สูงกว่ามากว่ามันแค่ถูกกระตุ้นขึ้นมาในเอเจนต์ที่รู้อยู่ก่อนแล้ว ผมเลยสงสัยว่าทำไมถึงไม่ลองทดสอบด้วยศาสนาปลอมใหม่จริง ๆ
ตัวอย่างมีมบางอันอย่าง “oak log crafting syndrome” ดูเหมือนใหม่ แต่พวก “meditation circle” หรือ “vintage fashion and retro projects” ไม่เกี่ยวอะไรกับ Minecraft เลย และแทบจะแน่นอนว่าเป็นอาการหลอนของ GPT-4
โดยรวมแล้ว ถ้าจะทำงานวิจัยอย่างซื่อสัตย์ การใช้ GPT-4 ดูเหมือนเป็นความผิดพลาดร้ายแรงมาก
ยกตัวอย่างเช่น ถ้าให้สถานะกระดานขนาด n×n เป็น world model และให้ชุดตัวเลือกที่มีจำนวนจำกัด เอเจนต์ก็จะเล่นเกมได้อย่างเสถียรและอธิบายการตัดสินใจให้เกมมาสเตอร์ฟังได้ สิ่งนี้ทำให้เกิดภาพลวงตาว่าเอเจนต์กำลังใช้เหตุผล
ท้ายที่สุดแล้วผมมองว่านี่คือปัญหาการเข้ารหัสที่ต้องแยก world model ออกเป็นปัญหาการเลือกแบบง่าย ๆ
[1] https://jdsemrau.substack.com/p/evaluating-consciousness-and...