เทคโนโลยีสเปรดชีตที่ใช้ Transformer

 (byhand.ai)
2 คะแนน โดย GN⁺ 2025-02-08 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • ในกระบวนการปรับแต่งสื่อ AI by Hand ด้วยมือ อาจเกิดข้อผิดพลาดในเฉลยได้ จึงจำเป็นต้องมี เครื่องมือให้ผู้ใช้สร้างแบบฝึกหัดและเฉลยเอง
  • หลังจากพิจารณาวิธีการพัฒนาหลายแบบแล้ว จึงเลือกใช้ Google Sheets เพื่อให้อยู่ในรูปแบบที่ผู้คนเข้าถึงและแก้ไขได้มากขึ้น
  • สื่อที่เผยแพร่มี Google Sheet สำหรับฝึกเรื่อง Transformer รวมอยู่ด้วย จึงสามารถเปิดดูได้ทันที
  • สื่อ AI by Hand เดิมได้รับการปรับแต่งร่วมกับผู้สอนด้าน AI หลายคน และถูกใช้งานในห้องเรียนหลายแห่งทั่วโลก
  • เนื่องจากยังอยู่ใน ช่วงเริ่มต้น ฟีดแบ็กจากการใช้งานจึงอาจส่งผลโดยตรงต่อการปรับปรุงเครื่องมือ

เครื่องมือฝึก AI by Hand ที่สร้างด้วย Google Sheets

  • เป้าหมายคือทำให้ผู้คนสามารถใส่ ตัวเลขและเฉลยแบบกำหนดเอง เพื่อสร้างแบบฝึกหัด AI by Hand ของตนเองได้
  • หลังจากพิจารณาเทคโนโลยีหลายแบบแล้ว จึงตัดสินใจใช้ Google Sheets เพื่อเพิ่มการเข้าถึง
  • มีการเผยแพร่ Google Sheet สำหรับฝึกเรื่อง Transformer

ข้อจำกัดของการปรับแต่งด้วยมือและการขอฟีดแบ็ก

  • ในช่วงหลายเดือนที่ผ่านมา ได้ร่วมงานกับผู้สอนด้าน AI หลายคนเพื่อปรับแต่ง สื่อแบบฝึกหัด AI by Hand
  • สื่อถูกใช้งานในห้องเรียนหลายแห่งทั่วโลก และกระบวนการปรับแต่งทั้งหมดทำด้วยมือ
  • ในกระบวนการทำด้วยมือ อาจมีข้อผิดพลาดแทรกอยู่ในเฉลย และเคยมีกรณีที่นักเรียนพบข้อผิดพลาดเหล่านี้
  • เครื่องมือนี้ยังอยู่ใน ช่วงเริ่มต้น จึงต้องการรับฟีดแบ็ก

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2025-02-08
ความคิดเห็นบน Hacker News

  • สงสัยจริง ๆ ว่าหลังจากลองทำตามสิ่งนี้แล้ว ผู้คนรู้สึกว่าเข้าใจอะไรขึ้นมากันแน่
    ถ้าเขียน การคูณเมทริกซ์ ทั้งหมดของ linear regression ออกมาทุกขั้น จะพูดได้จริงหรือว่าเข้าใจแล้ว? สงสัยว่าวิธี implement คือประเด็นหลัก หรือมันช่วยสร้าง intuition ที่ลึกกว่านั้นกันแน่
    เข้าใจคุณค่าของ visualization อยู่ แต่ไม่ค่อยแน่ใจว่ามีประโยชน์ทางการศึกษาจริง ๆ มากกว่านั้นอย่างไร ผมเป็นคนสาย ML/คณิตศาสตร์ แต่ไม่ได้สอนมานานเกิน 10 ปีแล้ว เลยอาจมีบางอย่างที่พลาดไปก็ได้

    • ผมว่าจริง ๆ แล้วมันน่าจะมุ่งให้เกิดผลตรงข้าม และอย่างน้อยสำหรับผมก็เป็นแบบนั้น
      ตอน GPT-3 ออกมาแรก ๆ แม้จะมีพื้นฐาน ML อยู่บ้าง มันก็ดูแทบจะเป็นเวทมนตร์ แต่พอภายหลังได้ดู วิดีโอ Transformer ของ 3blue1brown แล้วเห็นว่าตัวคณิตศาสตร์เองค่อนข้างเรียบง่าย จนถึงขั้นแอบผิดหวังเล็กน้อย
      ประเด็นสำคัญคือองค์ประกอบพื้นฐานที่เรียบง่าย ถ้าขยายให้ใหญ่พอก็ให้ผลลัพธ์ที่น่าทึ่งได้ และให้ความรู้สึกว่า พฤติกรรมแบบ emergent ที่ซับซ้อนและมีประโยชน์มาก ๆ สามารถเกิดขึ้นได้จากหลักการอย่าง Game of Life ของ Conway
    • ตัวอย่างของเล่น แบบนี้มีคุณค่าในการตรวจสอบว่าเราเข้าใจโครงสร้างหลักจริงหรือไม่
      เราอาจเห็นภาพหรือสมการที่อธิบายบล็อก Transformer ได้ แต่การข้ามจากตรงนั้นไปสู่ implementation จริงเป็นอีกเรื่องหนึ่ง ตัวอย่างแบบนี้ช่วยให้ตรวจสอบได้ว่ามีการคำนวณอะไรเกิดขึ้นตรงไหน และมิติของเวกเตอร์กับเมทริกซ์เป็นอย่างไร
      สำหรับคนส่วนใหญ่ที่อยากใช้งาน LLM คงไม่จำเป็น แต่โดยส่วนตัวผมชอบขุดลงไปถึงระดับต่ำมาก ๆ เพื่อดูหลักการทำงาน ตัวอย่างแบบนี้จับต้องได้ง่ายกว่าซอร์สโค้ดของโมเดล Transformer จริงมาก และพอคุ้นกับตัวอย่างของเล่นแล้ว โค้ดจริงก็เข้าใจง่ายขึ้น
    • ในระดับพื้นฐานมีคุณค่าทางการศึกษา โดยเฉพาะกับนักศึกษา CS ที่คณิตศาสตร์ไม่แข็งแรง เพราะช่วยแสดงให้เห็นว่า automatic differentiation เปลี่ยน calculus ให้เป็น algebra ของเมทริกซ์ได้อย่างไร
      ส่วนที่เหลือก็มีความหมายในฐานะ worksheet ให้ทำตามควบคู่กับการบรรยาย สำหรับการเขียนโค้ดผมชอบ ipynb มากกว่า แต่อัลกอริทึมก็เหมาะกับการคำนวณด้วยมือเช่นกัน ถ้าในปี 2025 ไม่ทำอะไรแบบนี้ นักศึกษา 1/4 ของห้องคงดูมือถือ และอีก 3/4 อาจไม่มาเรียนเลย
      ถ้าคุณอ่าน paper หรือ source code เองได้ และไม่กลัวคณิตศาสตร์ สื่อแบบนี้อาจไม่ใช่กลุ่มเป้าหมายของคุณ
    • visualization แบบนี้ยอดเยี่ยมตรงที่ช่วย ขจัดความลึกลับเกินจริงของแมชชีนเลิร์นนิง ออกไป สุดท้ายมันก็เป็นเพียงกระบวนการหนึ่ง และแสดงให้เห็นว่าไม่ได้มีสติปัญญาในความหมายแบบมนุษย์อยู่ข้างใน

  • แหล่งข้อมูลที่เกี่ยวข้องสำหรับสอนพื้นฐานของ AI และ intuition เกี่ยวกับการทำงานภายในคือ AI Unplugged[1] ซึ่งดีมาก สามารถทำกิจกรรมเหมือนเกมโดยใช้เครื่องมืออย่างปากกา ดินสอ และการ์ดได้
    เคยใช้หลายครั้งกับผู้ฟังหลากหลายกลุ่มที่ไม่คุ้นกับ AI/ML ทั้งเด็กและผู้ใหญ่ ทุกครั้งทุกคนสนุก และดูเหมือนจะเข้าใจโลกยุคปัจจุบันที่ตัวเองใช้ชีวิตอยู่ได้มากขึ้นเล็กน้อย
    [1] http://www.aiunplugged.org

  • ใช้ Excel ก็สร้าง GPT-2 ได้: https://www.youtube.com/watch?v=yjD2n_e9E3w&ab_channel=Sprea...

  • ในหัวข้อเขียนว่า Spreadsheet และของจริงก็ใช้ Google Sheets แต่ไม่รู้ว่าทำไมถึงเรียกว่า Excel ตรงนี้

    • ตอนนี้แก้กลับแล้ว ชื่อที่ส่งเข้ามาเดิมคือ “Transformer Implemented Using Excel”

  • การใช้ฟีเจอร์ endpoint /copy ของ Google Docs นี่ดีมาก ช่วยลดความยุ่งยากตอนสอนได้เยอะ

  • อาจมองได้ว่าสิ่งนี้ก็ implement ภายใน ฐานข้อมูล อย่าง Postgres ได้เช่นกัน ด้วย stored procedure, function และ trigger
    ในแง่หนึ่ง ฐานข้อมูลก็คือ spreadsheet ที่มีภาษา query แข็งแกร่งกว่ามาก

  • เธรด HN ที่คล้ายกัน: https://news.ycombinator.com/item?id=42967173

  • อีกแหล่งที่น่าดูควบคู่กันคือ พื้นฐาน computer vision แบบคลาสสิกที่ implement ใน Excel โดยใช้เฉพาะสูตร: https://github.com/amzn/computer-vision-basics-in-microsoft-...
    โพสต์ต้นฉบับที่ส่งเข้า HN: https://news.ycombinator.com/item?id=22357374
    หมายเหตุ ผมเป็นผู้เขียนหลักเอง