ARC-AGI คืออะไร?
- ARC-AGI เป็นเบนช์มาร์กปัญญาประดิษฐ์ที่เปิดตัวในปี 2019 ออกแบบมาเพื่อทดสอบความสามารถของระบบในการอนุมานและทำให้เป็นนามธรรมจากตัวอย่างเพียงเล็กน้อย
- ชุดข้อมูลประกอบด้วยปริศนาที่คล้ายแบบทดสอบ IQ โดยแต่ละปริศนาจะมีภาพตัวอย่างหลายภาพที่แสดงกฎพื้นฐาน และมีภาพทดสอบที่ต้องนำกฎนั้นไปใช้
- เป้าหมายของการแก้ ARC-AGI คือเพื่อชี้ให้เห็นความท้าทายในปัจจุบันที่ขัดขวางความก้าวหน้าของปัญญาประดิษฐ์
แนวทางโซลูชันของเรา
- เสนอว่าการบีบอัดข้อมูลแบบไม่สูญเสียอาจเป็นกรอบการทำงานที่มีประสิทธิภาพสำหรับการแก้ปริศนา ARC-AGI
- การบีบอัดปริศนาได้อย่างมีประสิทธิภาพมากขึ้นมีความสัมพันธ์กับโซลูชันที่แม่นยำยิ่งขึ้น
- CompressARC ใช้โครงข่ายประสาทเทียมเป็นตัวถอดรหัส และอัลกอริทึมการเข้ารหัสจะไม่ได้ปรับเครือข่ายอื่น แต่จะปรับพารามิเตอร์ของตัวถอดรหัสและการกระจายอินพุตให้เหมาะสมเพื่อให้ได้การแทนปริศนาที่บีบอัดมากที่สุด
ข้อสังเกตจากการเรียนรู้ของเครือข่าย: การระบายสีในกล่อง
- โซลูชันของมนุษย์: รับรู้ว่าอินพุตถูกแบ่งเป็นกล่อง และในเอาต์พุตกล่องยังคงอยู่พร้อมถูกระบายสี
- โซลูชันของ CompressARC: ในแต่ละขั้นของการเรียนรู้ เครือข่ายจะค่อย ๆ เข้าใจกฎของปริศนาและนำไปใช้
วิธีการอนุมานแนวทางโซลูชันของเรา
- การบีบอัดข้อมูลแบบไม่สูญเสียคือการแทนข้อมูลด้วยจำนวนบิตให้น้อยที่สุดเท่าที่จะเป็นไปได้ ขณะเดียวกันก็ยังสามารถสร้างข้อมูลนั้นกลับคืนจากการแทนแบบบิตได้
- ต้องการหาว่าระบบที่บีบอัดชุดข้อมูล ARC-AGI ได้ดีที่สุดจะถอดการบีบอัดออกมาเป็นคำตอบแบบใด
ความช่วยเหลือจากโครงข่ายประสาทเทียม
- แทนที่จะค้นหาในพื้นที่ของโปรแกรม จะเลือกโปรแกรมแล้วมอบหมายความหลากหลายให้กับพื้นที่อินพุต
- เขียนโปรแกรมที่รัน forward pass ของโครงข่ายประสาทเทียม แล้วค้นหาผ่านพื้นที่อินพุต
สถาปัตยกรรม
- ออกแบบสถาปัตยกรรมโครงข่ายประสาทเทียมสำหรับการถอดรหัสปริศนา ARC-AGI
- คุณลักษณะที่สำคัญที่สุดคือสมมูลภายใต้กฎความสมมาตร
ผลลัพธ์
- CompressARC ทำได้ 34.75% บนชุดฝึก และ 20% บนชุดประเมิน
ปริศนาที่แก้ได้และแก้ไม่ได้
- CompressARC พยายามหาคำตอบให้ได้มากที่สุดเท่าที่เป็นไปได้โดยใช้ความสามารถเฉพาะบางอย่าง
- ตัวอย่างเช่น มันสามารถขยายแพตเทิร์นได้ในระยะสั้น แต่ไม่สามารถขยายได้ในระยะไกล
การระบายสีในกล่อง: กรณีศึกษา
- ระหว่างการฝึก ค่าความผิดพลาดในการสร้างกลับลดลงอย่างรวดเร็วมากและโดยเฉลี่ยคงอยู่ในระดับต่ำ
- เพื่อทำความเข้าใจว่า CompressARC แก้ปริศนาอย่างไร จึงวิเคราะห์การแทนค่าที่เก็บไว้ใน z
วิธีปรับปรุงงานของเรา
- ตอนที่ปล่อย CompressARC มีหลายแนวคิดที่ได้ลองหรือยังไม่ได้ลอง
- คิดว่าบางแนวคิด เช่น การบีบอัดร่วมผ่านการแชร์น้ำหนักระหว่างปริศนา ยังคงมีความเป็นไปได้
ยังไม่มีความคิดเห็น