วิธีทำวิจัย AI ที่ทรงอิทธิพล

 (github.com/okhat)
14 คะแนน โดย GN⁺ 2024-09-26 | 3 ความคิดเห็น | แชร์ทาง WhatsApp

1. ลงทุนกับโปรเจ็กต์ ไม่ใช่แค่บทความวิจัย

  • ในช่วงเริ่มต้นของการวิจัย การตีพิมพ์บทความเป็นเรื่องสำคัญ แต่ในระยะยาว อิทธิพลของงานวิจัยและภาพใหญ่นั้นสำคัญกว่าจำนวนบทความ
  • ควรมองงานวิจัยไม่ใช่เป็นบทความรายชิ้น แต่เป็นวิสัยทัศน์หรือพาราไดม์ขนาดใหญ่
  • การรักษาอาร์ติแฟกต์ที่ต่อเนื่องสม่ำเสมอ เช่น โมเดลโอเพนซอร์ส ระบบ เฟรมเวิร์ก และ benchmark เป็นเรื่องสำคัญ

2. เลือกปัญหาที่ถูกจังหวะและมีความสามารถในการขยายผลกับ "ผลกระทบต่อเนื่อง" สูง

  • ปัญหาต้องสอดคล้องกับจังหวะเวลา เช่น ควรมองหาปัญหาที่จะกลายเป็นเรื่อง "ฮอต" ในอีก 2-3 ปีข้างหน้า
  • ควรเป็นปัญหาที่มี "ผลกระทบต่อเนื่อง" สูง ซึ่งสามารถส่งผลต่อปัญหาย่อยตามมาได้จำนวนมาก
  • ควรเลือกปัญหาที่มีพื้นที่ให้พัฒนาได้มาก เช่น ควรมีความหวังว่าเมื่อเวลาผ่านไปจะทำให้เร็วขึ้นได้ 20 เท่า หรือมีประสิทธิภาพดีขึ้น 30%

3. คิดล่วงหน้าไปสองก้าวและทำซ้ำอย่างรวดเร็ว

  • แทนที่จะมองหาแนวทางแก้แบบฉับพลัน ควรคิดล่วงหน้าไปสองก้าว
  • หลังจากระบุเส้นทางที่ผู้คนส่วนใหญ่น่าจะเลือกแล้ว ควรทำความเข้าใจข้อจำกัดของเส้นทางนั้นและมุ่งแก้ไขมัน
  • การทำซ้ำเวอร์ชันของปัญหาอย่างรวดเร็วและรับ feedback เป็นสิ่งสำคัญ

4. เปิดเผยงานของคุณและทำให้ไอเดียเป็นที่แพร่หลาย

  • หลังเผยแพร่บทความแล้ว อย่าเพิ่งรีบไปบทความถัดไปทันที ควรเปิดเผยงานและสื่อสารกับผู้คนอย่างกระตือรือร้น
  • ควรเผยแพร่บทความบน arXiv และประกาศผ่านเธรด โดยเริ่มจากข้ออ้างหรือประเด็นที่ชัดเจนและเข้าถึงได้
  • แม้หลังจากเผยแพร่บทความแล้ว ก็ควรโปรโมตไอเดียและสื่อสารกับชุมชนอย่างต่อเนื่อง
  • ไอเดียและการสื่อสารทางวิทยาศาสตร์ควรดำเนินต่อเนื่องตลอดทั้งปี ไม่ใช่แค่การปล่อยบทความแบบโดดเดี่ยว

5. กระตุ้นความสนใจและทำให้งานวิจัยโอเพนซอร์สเติบโต

  • แค่เอาโค้ดกับ README ขึ้น GitHub ยังไม่เพียงพอ
  • งานวิจัยโอเพนซอร์สที่ดีต้องเป็นทั้งงานวิจัยที่ดี และมีประโยชน์ปลายน้ำที่ชัดเจนพร้อมแรงเสียดทานต่ำ
  • ควรสร้างการปล่อยโค้ดที่พร้อมใช้งาน มีประโยชน์ และเข้าถึงได้
  • ควรอธิบายให้ชัดว่าทำไมทางเลือกที่ดูชัดเจนจึงล้มเหลว และต้องมีความอดทน
  • ต้องเข้าใจกลุ่มผู้ใช้หลายประเภทและพัฒนาโปรเจ็กต์ให้เหมาะกับพวกเขา
  • สิ่งสำคัญคือการเปลี่ยนความสนใจให้กลายเป็นชุมชน พร้อมทั้งสร้างและทำให้มันเติบโต

6. ลงทุนกับโปรเจ็กต์ต่อไปผ่านบทความวิจัยใหม่ ๆ

  • โปรเจ็กต์โอเพนซอร์สกับงานวิจัยไม่ใช่คนละเรื่อง
  • เวลาส่วนใหญ่ที่ลงทุนกับโอเพนซอร์สอาจเป็นการทำวิจัยใหม่ ๆ ที่น่าสนใจด้วย
  • หากอยู่แนวหน้าของความพยายามด้านโอเพนซอร์ส คุณจะมองเห็นปัญหาใหม่ ๆ ได้อย่างเป็นธรรมชาติตั้งแต่เนิ่น ๆ และได้รับทั้งผู้ร่วมงานกับ feedback
  • ตัวอย่างเช่น ColBERT และ DSPy ได้รับการพัฒนาต่อโดยบทความหลายฉบับและผู้ร่วมงานหลายคน
  • ชุมชนที่คุณสร้างขึ้นจะให้ feedback โดยตรงต่อแนวทางของคุณ และเปิดโอกาสให้เข้าถึงผู้ร่วมงานชั้นยอดที่เข้าใจความสำคัญของปัญหา

สรุปโดย GN⁺

  • บทความนี้กล่าวถึงวิธีเพิ่มอิทธิพลสูงสุดในงานวิจัย AI ผ่านโปรเจ็กต์โอเพนซอร์ส
  • เน้นว่าภาพใหญ่และโปรเจ็กต์ที่ต่อเนื่องสม่ำเสมอสำคัญกว่าจำนวนบทความ
  • อธิบายความสำคัญของการเลือกปัญหาที่ถูกจังหวะ การคิดล่วงหน้าไปสองก้าว การเปิดเผยและทำให้ผลงานเป็นที่แพร่หลาย ตลอดจนการเติบโตของโปรเจ็กต์โอเพนซอร์ส
  • ย้ำว่างานวิจัยกับโปรเจ็กต์โอเพนซอร์สไม่ใช่สิ่งแยกขาดจากกัน แต่สามารถเสริมกันและเติบโตไปด้วยกันได้

บทความที่เกี่ยวข้อง

3 ความคิดเห็น

 
kandk 2024-09-26

ดังนั้นทุกวันนี้งานวิจัย AI จึงไม่ได้ทำกันในบัณฑิตวิทยาลัย แต่ทำกันในบิ๊กเทคแทน
ในบิ๊กเทคมีงานตีพิมพ์ล่าสุดออกมามากกว่าบัณฑิตวิทยาลัยเสียอีก โลกช่างน่าทึ่ง..
 
nutella 2024-09-27

บางกรณีก็รับนักศึกษาปริญญาโท-เอกมาเป็นอินเทิร์นสักสองสามเดือน แล้วทำวิจัยร่วมกันและตีพิมพ์บทความกันด้วย
 
GN⁺ 2024-09-26
ความเห็นจาก Hacker News

  • คำแนะนำที่ว่า "ให้ลงทุนกับโปรเจ็กต์ ไม่ใช่ลงทุนกับเปเปอร์" นั้นไม่ค่อยสอดคล้องกับความเป็นจริงสำหรับนักศึกษาปริญญาเอกหรือนักวิจัยช่วงเริ่มต้น

    • ถ้าไม่ตีพิมพ์เปเปอร์จำนวนมาก ก็ยากที่จะก้าวหน้าในสายอาชีพ
    • แม้อยากทุ่มเวลาให้กับหัวข้อที่น่าสนใจ แต่ถ้าไม่มีเปเปอร์ออกมา ก็อาจกระทบต่อเส้นทางอาชีพอย่างมาก

  • การเลือกปัญหาที่เหมาะกับจังหวะเวลาและทำให้ไอเดียเป็นที่รับรู้อย่างกว้างขวาง เป็นสิ่งสำคัญต่อการดำเนินโปรแกรมวิจัยให้ประสบความสำเร็จ

    • สามารถปรับทิศทางการวิจัยและส่งเสริมความร่วมมือได้ผ่านฟีดแบ็ก

  • สำหรับนักวิจัย AI การเลือกหัวข้อที่มีประโยชน์ภายใน 1-2 ปีอาจเป็นเหตุผลที่ทำให้หันไปสู่อุตสาหกรรม

    • งานวิจัยระยะยาวอาจสร้างผลกระทบได้มากกว่า
    • งานวิจัยระยะแรกอาจสร้างผลลัพธ์ที่ยิ่งใหญ่ได้เมื่อเวลาผ่านไป

  • การวัดผลกระทบที่เปเปอร์มีต่อโลกความเป็นจริงนั้นทำได้ยาก

    • งานวิจัย AI ให้ความสำคัญกับสเกล ซึ่งต้องใช้เงินทุนและทรัพยากร
    • เมื่อมีการเผยแพร่เปเปอร์จำนวนมาก อิทธิพลของเปเปอร์แต่ละฉบับก็ลดลง

  • คำแนะนำที่ว่า "ให้ลงทุนกับโปรเจ็กต์ ไม่ใช่ลงทุนกับเปเปอร์" หมายถึง โปรเจ็กต์ที่ดีจะนำไปสู่เปเปอร์ที่ดี

  • เปเปอร์ AI มักมีผู้เขียนจำนวนมาก และในความเป็นจริง งานวิจัยที่มีอิทธิพลอย่างแท้จริงนั้นพบได้ไม่บ่อย

  • ในช่วงเริ่มต้นของงานวิจัย การปรับปรุงเล็กน้อยอาจสร้างผลกระทบได้มาก

    • เมื่อสั่งสมประสบการณ์วิจัยมากขึ้น ก็จะสามารถทุ่มเวลาให้กับโปรเจ็กต์ได้มากขึ้น

  • การทำให้ผลการวิจัยเข้าถึงได้ง่ายเป็นสิ่งสำคัญ แต่การไม่เปิดเผยทุกอย่างทั้งหมดก็จำเป็นเช่นกัน

  • "กระแส hype" ก็เป็นส่วนหนึ่งของงานวิจัย

    • งานวิจัยที่มีอิทธิพลในระยะสั้น อาจไม่มีอิทธิพลในระยะยาว

  • คำแนะนำนี้สามารถนำไปใช้ได้ไม่เฉพาะกับงานวิจัยเชิงวิชาการเท่านั้น แต่รวมถึงสตาร์ตอัปด้วย