Data2Vec - อัลกอริทึมการเรียนรู้แบบกำกับตนเองประสิทธิภาพสูงตัวแรกที่ทำงานได้กับเสียง วิชัน และข้อความ
(ai.facebook.com)-
โค้ดโมเดลที่พรีเทรนไว้ล่วงหน้า และงานวิจัยที่ Meta AI เปิดซอร์ส
-
การเรียนรู้แบบกำกับตนเองในปัจจุบันเป็นแรงหนุนสำคัญของความก้าวหน้าด้าน AI ในช่วงหลัง แต่ยังแตกต่างมากจากวิธีที่มนุษย์เรียนรู้แบบผสานข้อมูลหลากหลายประเภทเข้าด้วยกันในโลกจริง
→ อัลกอริทึมแบบจุดประสงค์เดียวที่ออกแบบมาสำหรับภาพ นำไปใช้กับข้อความได้ยาก
- data2vec เป็นตัวแรกที่ทำงานได้กับหลากหลายโมดาลิตี เช่น เสียง วิชัน และข้อความ
→ กระบวนทัศน์ใหม่: การเรียนรู้แบบกำกับตนเองเชิงองค์รวม
→ ในงานด้านวิชัน/เสียง ให้ประสิทธิภาพดีกว่าอัลกอริทึมแบบจุดประสงค์เดียว และยังแข่งขันได้ใน NLP
2 ความคิดเห็น
น่าสนใจดีนะ
Data2vec: เฟรมเวิร์กสำหรับการเรียนรู้ข้ามหลากหลายโมดาลิตี https://smilegate.ai/2022/01/23/data2vec/