แอนิเมชัน AI

 (animatedai.github.io)
2 คะแนน โดย GN⁺ 2023-10-25 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Animated AI เป็นโครงการที่นำเสนอแนวคิดของโครงข่ายประสาทด้วยแอนิเมชันและวิดีโอเพื่อการศึกษา ทำให้ติดตามกระบวนการคำนวณที่เข้าใจยากในเชิงภาพได้ง่ายขึ้น
  • เนื้อหาหลักมุ่งเน้นที่อัลกอริทึมพื้นฐานของ Convolution, Padding, Stride, Groups, Depthwise และ Depthwise-separable Convolution
  • เนื้อหา Pixel Shuffle แสดงลำดับการเปลี่ยนความละเอียดโดยแยกตัวอย่างตามขนาดบล็อก 2x2 และ 3x3
  • แต่ละหัวข้อเชื่อมไปยัง วิดีโอ YouTube ประกอบ ที่สามารถดูควบคู่กับแอนิเมชันบนหน้าเว็บได้
  • หน้าโครงการมีลิงก์ไปยัง Patreon และช่อง YouTube และโค้ดเผยแพร่ภายใต้ MIT License

แอนิเมชันและวิดีโอของโครงข่ายประสาท

  • Animated AI สร้างแอนิเมชันและวิดีโอเพื่อการศึกษาเพื่ออธิบาย โครงข่ายประสาท
  • มีลิงก์ทางการสำหรับการสนับสนุนและรับชมวิดีโอ

สื่อการเรียนรู้ Convolution

  • Fundamental Algorithm of Convolution in Neural Networks เป็นวิดีโอ YouTube ประกอบที่อธิบาย อัลกอริทึมพื้นฐานของ Convolution
  • Convolution Padding - Neural Networks แสดงความแตกต่างของ Padding
    • No Padding หรือ “Valid”
    • Padding แบบ [1,1,1,1] หรือ “Same”
  • Stride - Convolution in Neural Networks กล่าวถึงการตั้งค่า Stride และการจับคู่กับ Padding
    • Stride 1 และ Stride 2
    • การจับคู่ระหว่าง No Padding “Valid” และ Padding แบบ [1,1,1,1] “Same”
  • Groups, Depthwise, and Depthwise-Separable Convolution (Neural Networks) เป็นสื่อที่ใช้เปรียบเทียบ Convolution แบบ Groups และสาย Depthwise
    • 1 Group
    • 2 Groups
    • Depthwise, 8 Groups
    • Depthwise-separable, ใช้ pointwise ต่อจาก 8 Groups

ตัวอย่าง Pixel Shuffle

  • Pixel Shuffle - Changing Resolution with Style เป็นวิดีโอ YouTube ประกอบที่อธิบาย Pixel Shuffle
  • ในกรณีขนาดบล็อก 2x2 สามารถดูตัวอย่างของ Shuffle, Unshuffle และลูปแบบวนซ้ำได้
    • 2x2 Pixel Shuffle
    • 2x2 Pixel Unshuffle
    • 2x2 Pixel Shuffle/Unshuffle Loop
  • สำหรับขนาดบล็อก 3x3 ก็มีตัวอย่างลำดับเดียวกันแยกต่างหากเช่นกัน
    • 3x3 Pixel Shuffle
    • 3x3 Pixel Unshuffle
    • 3x3 Pixel Shuffle/Unshuffle Loop

ไลเซนส์

  • โค้ดของโครงการใช้ไลเซนส์ MIT License

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-10-25
ความคิดเห็นจาก Hacker News

  • ออกแบบได้ดี และยังมี เครื่องมือแสดงภาพ CNN จากงานวิจัยของ Georgia Tech ด้วย
    https://poloclub.github.io/cnn-explainer/
    ชุดเครื่องมือสำหรับออกแบบและแสดงภาพโครงสร้าง neural network: https://github.com/ashishpatel26/Tools-to-Design-or-Visualiz...
    มี TensorFlow Playground ด้วย: https://playground.tensorflow.org/

  • ใช้สีได้ดีมาก ตอนแรกนึกว่าเป็นตัวอย่างแอนิเมชันที่ AI สร้างขึ้น
    พอรู้ว่าทำเองจริง ๆ ก็ยิ่งเห็นความพยายามที่ใส่ลงไปชัดขึ้น และ วิดีโอในช่อง YouTube ก็น่าดูด้วย

  • เป็นโปรเจกต์ที่ดี แต่ไม่อยากให้โหลด ไฟล์ GIF ขนาดเกิน 100MB โดยไม่มีคำเตือน

    • ถ้าเป็นหน้าที่เกี่ยวกับแอนิเมชัน สื่อจะหนักกว่าหน้าทั่วไปก็เป็นเรื่องปกติ และเว็บทั่วไปสมัยนี้ก็มีขนาดค่อนข้างใหญ่
      NYT อยู่ที่ 11MB, Washington Post 22MB, แค่เลื่อน Reddit ครั้งเดียวก็ราว ๆ 40MB
      ผมมองว่าขนาดระดับ 100MB ในหน้าที่บอกว่าจะโชว์แอนิเมชันยังไม่ถึงขั้นต้องมีคำเตือนล่วงหน้าเป็นพิเศษ
    • น่าจะติดแท็ก “56k killer” แบบสมัยก่อนก็พอ
    • ผมเป็นคนทำเว็บ ขอบคุณที่ชี้ให้เห็น จำนวนแอนิเมชันเพิ่มขึ้นตามเวลา และไม่รู้ว่าขนาดรวมจะใหญ่ขนาดนี้
      อยากรู้ว่าควรให้ทำงานแบบไหน เช่น รูปนิ่งที่ค่อยเล่นเมื่อคลิก/แตะ, ซ่อนบางส่วนไว้จนกว่าจะกางออก, หรือวิธีอื่น ๆ
    • ถ้าให้แม่นคือ 134MB

  • ทำได้ดีมาก และทำให้นึกถึง วิดีโออธิบายแบบ 3D animation ที่ยอดเยี่ยมเหล่านี้: https://www.youtube.com/@animagraffs

  • เคยทำแอนิเมชันเองด้วย Manim มาก่อน แม้จะไม่ได้ดูแวววาวเท่า แต่ก็น่าจะช่วยได้
    https://www.jerpint.io/blog/cnn-cheatsheet/

  • อยากเห็น attention layer ถูกทำเป็นแอนิเมชันแบบนี้ด้วย ตอนนี้อยู่ในสภาพเหมือนจะเข้าใจแต่ก็ยังไม่เข้าใจ

    • ยังไม่เจอ “ภาพอธิบายหนึ่งภาพ” ที่ทำให้เข้าใจ แนวคิด attention ของ Transformer ได้ง่ายเท่ากับภาพแสดง CNN นี้
      ถ้ามีหน้าไหนที่ช่วยให้เกิดจังหวะยูเรก้าจนเข้าใจ attention layer อย่างถ่องแท้ ช่วยแชร์ด้วยจะดีมาก
    • ผมเป็นคนทำเว็บ มีข่าวดี ตอนนี้กำลังทำแอนิเมชันและวิดีโออธิบายเกี่ยวกับ Transformer และ self-attention อยู่
      วิธีที่ดีที่สุดในการรับการแจ้งเตือนน่าจะเป็นการกดติดตามช่อง YouTube แล้วเปิดไอคอนแจ้งเตือนไว้
    • น่าจะหมายถึงอยากเห็นแอนิเมชันของ attention หน้านี้แสดง convolution ไม่ใช่ attention

  • ถ้าต้องการดู บทความแบบอินเทอร์แอคทีฟ เกี่ยวกับอัลกอริทึม AI บางตัว ก็ควรลองดู mlu-explain ของ Amazon ด้วย
    https://mlu-explain.github.io/

  • ดีมาก อยากให้มีส่วนของ RNN หรือ Transformer ด้วย และยินดีจ่ายเงินเพื่อดู

  • หลายครั้งก็เคยคิดว่าอยากให้เอกสาร pandas มีแอนิเมชันแบบนี้บ้าง pipeline แบบ groupby / split-apply-combine น่าจะอธิบายได้ด้วยคลิปสั้น ๆ 10 วินาทีเพียงคลิปเดียว