1 คะแนน โดย GN⁺ 2023-09-02 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • นักวิจัย AI Doug Lenat เป็นบุคคลสำคัญที่พยายามสร้าง symbolic AI ซึ่งจัดการกับการแทนความรู้อย่างชัดแจ้งให้กลายเป็นระบบที่ใช้งานได้จริง โดย Gary Marcus ประเมินว่าเขาคือ “ยักษ์ใหญ่ที่ AI สูญเสียไป”
  • Lenat ทุ่มเทช่วง 40 ปีสุดท้ายของชีวิตให้กับ Cyc เพื่อเข้ารหัสสามัญสำนึกให้อยู่ในรูปแบบที่เครื่องสามารถตีความได้ และ Cycorp ก็ยังคงดำรงอยู่มาได้ 40 ปีแม้ไม่ประสบความสำเร็จทางการค้าอย่างมาก
  • ความพยายามของ Cyc มุ่งตรงไปที่ปัญหา การแทนและการให้เหตุผลด้วยสามัญสำนึก ซึ่งปัจจุบันโมเดลภาษาขนาดใหญ่ (LLM) ก็ยังรับมือได้ยาก
  • Ken Forbus และ Muktha Ananda ประเมินอิทธิพลของ Cyc ที่มีต่อการวิจัยด้านการแทนเชิงสัญลักษณ์ การให้เหตุผล และ knowledge graph/web ไว้สูงมาก
  • หนึ่งในบทความชิ้นสุดท้ายของ Lenat คือ Getting from Generative AI to Trustworthy AI ซึ่งเป็นความพยายามเชื่อมบทเรียนจาก Cyc เข้ากับ LLM สมัยใหม่

ตำแหน่งของ Doug Lenat และ Cyc

  • Doug Lenat เป็นนักวิจัยที่พยายามทำให้ symbolic AI ซึ่ง Marvin Minsky, John McCarthy และ Allen Newell เคยสำรวจไว้ สามารถทำงานได้จริง
  • Gary Marcus มองว่าตนยึดการบูรณาการระหว่างโครงข่ายประสาทกับ symbolic AI เป็นประเด็นหลักตลอดชีวิตการทำงาน แต่ในสาย symbolic AI แบบล้วน ๆ นั้น Lenat ลงลึกกว่ามาก
  • Lenat เป็นผู้เริ่มต้นและนำโครงการ Cyc ตลอด 40 ปีสุดท้ายของชีวิต
    • Cyc เป็นความพยายามเข้ารหัสสามัญสำนึกเกี่ยวกับโลกให้อยู่ในรูปแบบที่เครื่องตีความได้
    • Cyc และ Cycorp ที่ก่อตั้งขึ้นเพื่อรองรับโครงการนี้ไม่ได้ประสบความสำเร็จเชิงพาณิชย์ครั้งใหญ่
    • ถึงกระนั้น การที่ Cycorp ยังดำเนินธุรกิจต่อได้หลังผ่านไป 40 ปีก็เป็นกรณีที่หาได้ยากในบรรดาบริษัท AI
  • สำหรับ Marcus แล้ว Cyc คือ การทดลองบุกเบิก ที่ยากจะตัดสินแบบง่าย ๆ ว่าสำเร็จหรือล้มเหลว
    • แม้ Cyc จะยังไม่ลงหลักปักฐานอย่างสมบูรณ์ แต่ยิ่งมีความก้าวหน้าจริงจังไปสู่ปัญญาประดิษฐ์ทั่วไปมากเท่าไร ความสำคัญของมันก็อาจยิ่งชัดเจนขึ้น

ปัญหาการให้เหตุผลเชิงสามัญสำนึกและบทความชิ้นสุดท้าย

  • มีความตระหนักว่าคนรุ่นใหม่จำนวนมากในแวดวงวิจัย AI อาจไม่ค่อยรู้จัก Cyc แต่ก็ควรเข้าใจว่ามันพยายามทำอะไร
    • ไม่ได้หมายความว่าควรนำ Cyc มาใช้แทนโมเดลภาษาขนาดใหญ่ในทันที
    • แต่เป้าหมายในการทำให้เครื่อง แทนและให้เหตุผลด้วยสามัญสำนึก ได้ ยังเป็นโจทย์ที่คงอยู่
  • TED Talk ปี 2023 ของ Yejin Choi Why AI is incredibly smart and shockingly stupid สะท้อนแนวคิดต่อเนื่องว่า แม้ระบบ AI ปัจจุบันจะดูประสบความสำเร็จ แต่ก็ยังขาดสามัญสำนึก
  • หนังสือปี 2019 ของ Marcus และ Ernie Davis Rebooting AI ก็กล่าวถึงประเด็นเดียวกัน
  • โมเดลภาษาขนาดใหญ่สามารถตอบถูกในบางกรณีและตอบผิดในบางกรณีได้ ขึ้นอยู่กับการตั้งคำถามหรือความบังเอิญของข้อมูลฝึก ทำให้เกิด ภาพลวงของการมีสามัญสำนึก
    • แม้จะแก้จุดผิดพลาดเฉพาะจุดได้ ก็อาจยังมีกรณีอื่นที่คล้ายกันโผล่ขึ้นมาเรื่อย ๆ
    • Cyc คือความพยายามในการหาคำตอบที่ลึกและแข็งแรงกว่านั้น
  • นักวิจัย AI จาก Northwestern University อย่าง Ken Forbus ประเมินว่า Cyc เป็นกรณีแรกที่แสดงให้เห็นว่าการแทนเชิงสัญลักษณ์และการให้เหตุผลสามารถบรรจุสามัญสำนึกได้เป็นจำนวนมาก
    • แม้ในภาคอุตสาหกรรมจะมีฐานความรู้ที่เก็บข้อเท็จจริงระดับหลายพันล้านรายการเป็นเรื่องปกติ แต่ Forbus มองว่า Cyc ยังคงล้ำหน้าที่สุดในแง่พลังการแสดงออก
    • กลุ่มวิจัยของ Forbus ใช้การแทนความรู้ของ Cyc มาตลอดหลายทศวรรษ
  • Muktha Ananda ผู้อำนวยการ Google Learning Platform ยกย่องวิสัยทัศน์ ความอดทน และความมุ่งมั่นไม่ลดละของ Lenat และระบุว่างานของ Cyc เป็นแรงบันดาลใจสำคัญต่อเส้นทางการวิจัย knowledge graph/web ของตน
  • ตลอด 1 ปีที่ผ่านมา Marcus และ Lenat พยายามร่วมกันเขียนบทความยาวเพื่อสรุปบทเรียนจาก Cyc
    • ต้นฉบับมีความยาวเกือบ 40,000 คำ และมีลักษณะผสมระหว่างวิทยาศาสตร์กับประวัติศาสตร์บอกเล่า
    • Cyc น่าทึ่งมากในแง่ขอบเขต แต่การนำไปใช้จริงนั้นจัดการได้ยาก และในเชิงวิชาการปัญหาใหญ่ที่สุดคือมันเป็น ระบบปิดแบบกรรมสิทธิ์
    • เมื่อ Lenat ล้มป่วยและมีเวลาจำกัดลง เขาจึงเขียนบทความอีกฉบับที่สั้นและกระชับกว่าแยกต่างหาก
  • วันที่ 31 กรกฎาคม 2023 arXiv เผยแพร่ Getting from Generative AI to Trustworthy AI: What LLMs might learn from Cyc
    • ทบทวนสิ่งที่ Cyc พยายามทำ
    • สรุปอย่างกระชับถึงองค์ประกอบที่ควรคาดหวังจากปัญญาประดิษฐ์ที่แท้จริง
    • เรียกร้องให้เกิดการปรองดองระหว่างธรรมเนียม symbolic AI เชิงลึกที่ Lenat สังกัดอยู่ กับ LLM สมัยใหม่

1 ความคิดเห็น

 
GN⁺ 2023-09-02
ความคิดเห็นบน Hacker News
  • บางครั้ง Doug พูดตรงไปตรงมา แต่โดยพื้นฐานแล้วเขาเป็น คนใจดีและใจกว้าง และความทุ่มเทของเขาต่อวิสัยทัศน์ของตัวเอง รวมถึงต่อผู้คนที่ทำงานร่วมกับเขา สมควรได้รับความเคารพ
    ผมทำงานที่ Cycorp ระหว่างปี 2016–2020 สำนักงานไม่ได้ใหญ่มาก จึงได้เจอ Doug บ่อย
    ครั้งหนึ่งในมื้อกลางวันรวมประจำสัปดาห์ เขาบอกว่ากำลังจะซื้อรถคันใหม่ และถามว่ามีใครต้องการรถคันเก่าของเขาที่เก่าแต่ดูแลอย่างดีไหม เมื่อพนักงานคนหนึ่งยกมืออย่างระมัดระวัง บอกว่าลูกสาวกำลังจะเริ่มขับรถ เขาก็มอบรถให้ทันทีตรงนั้น
    เขายังชอบบอร์ดเกมด้วย และเล่น กลุ่ม D&D กับคนในบริษัท ได้ยินมาว่าเขาเล่นแต่ตัวละคร lawful good เสมอ ว่ากันว่าเขาเป็นคนที่ไม่รู้วิธีจะเล่นแบบอื่น

    • คิดอยู่แล้วว่าเขาน่าจะเลือก lawful good เพราะคงเป็น ตัวเลือกที่มีเหตุผล ที่สุด
    • ผมไม่ค่อยรู้เรื่องนี้ แต่อยากรู้ว่าทำไมถึงเริ่มด้วยการบอกว่าเขา พูดตรงไปตรงมา
    • ถ้าคิดว่า CYC ไม่สามารถบรรลุปัญญาหรือ การให้เหตุผลแบบสามัญสำนึก ได้ อยากรู้ว่าเหตุผลหลักคืออะไร หรือถ้าคิดว่าทำได้ ก็อยากรู้ว่าเพราะเหตุใด
  • ตอนเป็นนักเรียนมัธยมอายุ 17 ปี ผมได้สัมภาษณ์กับ Doug Lenat และถูกจ้างเป็นนักศึกษาฝึกงานภาคฤดูร้อนที่ Cycorp ซึ่งกลายเป็นงานเขียนโปรแกรมจริงงานแรกของผม
    การฝึกงานครั้งนั้นเปลี่ยนชีวิตผม และผมรู้สึกขอบคุณ Doug เสมอที่กล้าให้โอกาสเด็กคนหนึ่งอย่างแท้จริง
    Doug เป็นนักวิทยาการคอมพิวเตอร์ที่ยอดเยี่ยมและเป็น ผู้บุกเบิกด้านปัญญาประดิษฐ์ Cycorp เป็นบริษัทเล็ก ผมจึงได้เข้าร่วมประชุมหลายครั้ง และเห็นได้ชัดว่าเขาเข้าใจรายละเอียดทางเทคนิคทุกอย่าง
    Cycorp ล้ำหน้ากว่ายุคสมัย 30 ปี แต่ในทางปฏิบัติมันไม่ได้ผล ถ้าจะอธิบายให้คนที่ไม่รู้จักฟัง มันคือความพยายามเชิงพาณิชย์ขนาดใหญ่ครั้งแรกในการสร้าง ปัญญาประดิษฐ์ทั่วไป หรือพูดได้ว่าเป็นเหมือน OpenAI รายแรก
    ผมได้เรียนรู้จาก Doug มากมายเกี่ยวกับการตั้งความทะเยอทะยานให้ใหญ่จนน่าเหลือเชื่อ และการไม่ยอมแพ้ ผมแทบไม่เคยเห็นใครที่ยืนหยัดกับ Cycorp นานหลายทศวรรษ รักษาเงินทุนไว้ จ้างคนเก่ง ๆ และผลักดันปัญหานี้ต่อไปได้แบบเขา

    • ฟังดูยอดเยี่ยมมาก อยากรู้ว่าภายหลังคุณมีโอกาสกลับไปทำงานเต็มเวลาที่ Cycorp ไหม หรือว่าการฝึกงานดีมากแต่คุณไม่ได้อยากสร้างอาชีพในสาขานั้น
      และอยากรู้ด้วยว่าตอนเป็นนักศึกษาฝึกงานอายุ 17 ปี คุณทำงานอะไรกันแน่ และมีทักษะอะไรบ้าง
  • ผมทำงานกับ Doug ที่ Cyc ราวปี 1985–1989 เคยทับซ้อนกันที่ PARC ด้วย แต่ที่นั่นไม่ได้มีปฏิสัมพันธ์กันมากนัก
    งานแรกที่ผมทำคือทิ้ง implementation เดิม แล้วเริ่มใหม่ตั้งแต่ต้น ออกแบบระบบลำดับชั้นและโค้ด bootstrap ทั้งหมด
    เป็นช่วงเวลาที่สนุกของทีมแกนหลักเล็ก ๆ ส่วนใหญ่คือผม Guha และ Doug ทำงานร่วมกัน แต่เมื่อเวลาผ่านไป ผมเริ่มไม่พอใจกับความเป็นไปตามอำเภอใจของ knowledge base
    ตอนที่ผมออกจากโปรเจกต์ Cyc ด้วยเหตุผลส่วนตัว แม้เราจะสนิทกันและโปรเจกต์รันอยู่บนโค้ดของผม ผมก็ค่อนข้างมองลบรากฐานของโปรเจกต์นี้
    เวลาผ่านไปและผมฉลาดขึ้น จึงกลับมายอมรับคุณค่าของมันอีกครั้ง ตอนนั้นผมน่าจะมองจาก มุมมองคณิตศาสตร์บริสุทธิ์ มากเกินไป
    หลังจากนั้นผมไปทำอย่างอื่นและขาดการติดต่อกับ Doug และ Mary ซึ่งเป็นเรื่องที่น่าเสียดาย

  • ขอให้ Doug Lenat ไปสู่สุคติ ผมทำงานที่ Cycorp ใน Austin ระหว่างปี 2000–2006
    เขาจากไปเร็วเกินไป แต่ Doug ได้มีโอกาสมีส่วนช่วยผลักดันการวิจัยวิทยาการคอมพิวเตอร์ของกองทัพและหน่วยข่าวกรองสหรัฐฯ
    สักวันหนึ่ง เมื่อความก้าวหน้าอย่างรวดเร็วของปัญญาประดิษฐ์ผ่าน LLM ชะลอลง ความสนใจจะหวนกลับมาที่ Cyc Project และ Cycorp สมาชิกของมัน และ การให้เหตุผลเชิงตรรกะ กับ การแทนความรู้ ที่ดร. Doug Lenat ผลักดัน
    เพราะถ้าการอนุมานด้วยโครงข่ายประสาทเร็วขนาดนั้น เราคงไม่คอมไพล์โปรแกรม C ให้เป็นการให้เหตุผลเชิงตรรกะแบบนิรนัยที่คอมไพเลอร์รันได้อย่างมีประสิทธิภาพ แต่คงคอมไพล์เป็นโครงข่ายประสาทไปแล้ว

    • ใช่เลย เวลามีคนบอกว่าหนังสืออย่าง Paradigms of AI Programming ล้าสมัยเพราะ LLM ผมไม่เห็นด้วย
      ตรงกันข้าม เพราะ LLM มันจึงร่วมสมัยยิ่งกว่าที่เคย
      ปัญญาประดิษฐ์แบบโครงข่ายประสาท และ ปัญญาประดิษฐ์เชิงสัญลักษณ์ สุดท้ายจะรวมเข้าด้วยกัน และโมเดลเชิงสัญลักษณ์จะนำประสิทธิภาพและความทนทานที่จำเป็นอย่างยิ่งเข้ามาผ่านการทำ normalization
    • สิ่งที่ดีที่สุดที่ Cycorp ทำได้ตอนนี้คือเปิดโอเพนซอร์ส ฐานข้อมูลความสัมพันธ์เชิงตรรกะ ที่สะสมไว้ เพื่อให้ LLM ขนาดใหญ่ดูดซับเข้าไปได้
      ผมไม่เห็นว่าการปล่อยให้ข้อมูลมหาศาลนั้นจับฝุ่นอยู่เฉย ๆ โดยไม่มีผลงานมากนักจะมีความหมายอะไร
    • ประโยคที่ว่า “ถ้าการอนุมานด้วยโครงข่ายประสาทเร็วขนาดนั้น เราคงใช้มันแทนการให้เหตุผลเชิงตรรกะแบบนิรนัยของคอมไพเลอร์ตอนคอมไพล์โปรแกรม C แล้ว” ใกล้เคียงกับนิยามของ การโจมตีแบบ straw man มาก
      มีใครอ้างด้วยหรือว่าการอนุมานด้วยโครงข่ายประสาทเป็นวิธีที่เร็วที่สุดในการรันการคำนวณทุกอย่าง?
      แทนที่จะโจมตีเทคโนโลยีอื่นอย่างโครงข่ายประสาท ควรโฟกัสกับการทำให้วิธีเชิงสัญลักษณ์แก้ปัญหาในโลกจริงได้ดีกว่า เช่น เราจะสร้างระบบตรวจจับสแปมอีเมลที่ทนทานด้วยวิธีเชิงสัญลักษณ์ได้อย่างไร?
  • ถ้าอยากฟังงานและความคิดของ Doug เพิ่มเติม ปีที่แล้ว Lex Fridman เคยสัมภาษณ์ Doug แบบค่อนข้างยาว
    https://www.youtube.com/watch?v=3wMKoSRbGVs&pp=ygUabGV4IGZya...

    • ผมดูช่วงต้น ๆ แล้ว เรื่องที่น่าสนใจคือ ก่อน Cyc จะเริ่ม มี “คนฉลาด” หลายคน รวมถึง Marvin Minsky ประเมินว่าจำนวนรายการที่ต้อง encode เพื่อให้ระบบมี สามัญสำนึก อยู่ที่ “ประมาณ 1 ล้านรายการ”
      Doug บอกว่าประมาณ 5 ปีต่อมา เขาได้เรียนรู้ว่าค่าประมาณนั้นผิดไปหนึ่งหลัก และจริง ๆ แล้วใกล้กับ ประมาณ 10 ล้านรายการ มากกว่า
      เลยสงสัยว่ามีเอกสารหรือสิ่งพิมพ์ที่เกี่ยวข้องไหม ทำไมถึงรู้ว่าไม่ใช่ 100 ล้านรายการ ทำไมจึงมองได้ว่ามีจำนวนจำกัด และทำไมถึงไม่เกิด combinatorial explosion
      แน่นอนว่าถ้าทำต่อเนื่อง 38 ปี ก็คงมีตัวชี้วัดประเมินอยู่ตลอด แต่ผมยังไม่ค่อยเข้าใจตรรกะนั้น จึงอยากได้เอกสารอ้างอิงหรือลิงก์บทวิจารณ์
      เคยได้ยินชื่อ Cyc ในยุค 1990 แต่ไม่รู้ว่ายังมีอยู่ และน่าประทับใจที่รักษาไว้ได้นานขนาดนั้น
      บทความ Wikipedia ก็ค่อนข้างดี: https://en.wikipedia.org/wiki/Cyc#Criticisms
      ถึงอย่างนั้น การอ้างว่า 1 ล้านหรือ 10 ล้านก็เป็นข้ออ้างที่หนักแน่นสำหรับการยืนระยะหลายสิบปี เลยสงสัยว่ามีตัวชี้วัดที่แข็งแรงจริง ๆ รองรับหรือไม่
    • น่าจะดีกว่าถ้าค้นหา Doug Lenat ใน YouTube ดูวิดีโออื่นอะไรก็ได้ ผมรับประกันว่าจะดีกว่าบทสัมภาษณ์ของ Fridman
    • ตอนอ่านประวัติของ Lex Fridman ใน Wikipedia แล้วเห็นวลี “Learning of Identity from Behavioral Biometrics for Active Authentication” ก็ถึงกับงง
  • เหตุผลที่อ่าน论文ที่ลิงก์ไว้แล้วสนุกคือ ผมรู้สึกสนใจเสมอกับการนำหลักการที่พวกเขามองว่าควรอยู่ภายในคอมพิวเตอร์ มาทำเป็น โครงสร้างภายนอกของชุมชน
    ถ้าผู้คนสามารถสำรวจและร่วมมือกันกับคลังข้อความของเหตุผลและข้อสรุป ไม่เห็นด้วยกับบางส่วนของกราฟข้อโต้แย้ง หรือเพิ่มเติมเข้าไปให้มันสมบูรณ์ขึ้นตามเวลาได้ ก็น่าจะมีประโยชน์มาก
    จากนั้นคนอื่น ๆ ก็สามารถอ่านและนำตรรกะเดียวกันไปใช้ได้
    ผมกำลังทดลองแนวคิดนี้ใน http://concludia.org/ ที่ทำเป็นครั้งคราว แต่ตอนนี้ค่อนข้างเป็นข้ออ้างในการลองคลำแนวคิดและฝึกเขียนโปรแกรม Akka(Pekko) ให้มากขึ้น
    สักวันหนึ่งตั้งใจจะเพิ่มบัญชีผู้ใช้และข้อโต้แย้งที่แก้ไขได้ เพื่อทำให้เป็นเว็บไซต์จริง

    • สุดท้ายแล้วมันใกล้เคียงกับ Zettelkasten ที่หลายคนใช้ร่วมกันหรือเปล่า? Zettelkasten หรือย่อว่า zk คือวิธีที่แต่ละโน้ตเป็นหนึ่งไอเดีย แนวคิด หรือข้อโต้แย้ง และเชื่อมโยงถึงกัน
      ข้อโต้แย้งเชื่อมกับหลักฐาน ส่วนแนวคิดเชื่อมกับแนวคิดที่เกี่ยวข้อง เป็นต้น
      https://en.m.wikipedia.org/wiki/Zettelkasten
    • อาจไม่ใช่เป้าหมายของโปรเจกต์นี้ แต่ผมสงสัยว่ามีโปรเจกต์คล้าย ๆ กันไหมที่ป้อนความจริงและความผิดพลาด นำมาผสานกับข้อโต้แย้งเชิงตรรกะ แล้วให้ โมเดลภาษา สร้างชุดข้อสรุปที่เป็นไปได้
      น่าจะดีสำหรับการระดมสมอง
    • ผมเคยไปถึงไอเดียเดียวกัน ไม่สิ ข้อสรุปเดียวกัน แต่ไม่ได้ลงมือทำ ดีมากที่มีคนทำอยู่แล้ว และชื่อก็ดีด้วย
      ผมนึกขึ้นมาได้ตอนจินตนาการถึงวิธีทำให้วาทกรรมสาธารณะมาบรรจบกันในประเทศที่มีการแบ่งขั้วทางการเมืองสูง
      เป็นเหมือน ฟอรัมอภิปรายสาธารณะแบบมีโครงสร้าง ที่ผู้คนจะมองเห็นได้ดีขึ้นว่า ความเห็นแตกต่างกันตรงไหนในลำดับชั้น และที่สำคัญกว่านั้นคือ จริง ๆ แล้วเห็นพ้องกันมากเพียงใด
  • ผมมักคิดว่า Cyc เป็นเหมือน Principia เวอร์ชันปัญญาประดิษฐ์ของ Russell และ Whitehead
    มีความทะเยอทะยานทางเทคนิคและน่าสนใจในตัวเอง แต่สุดท้ายก็ให้ความรู้สึกว่าเป็นแนวทางที่ผิด ซึ่งในรูปแบบอิสระ ต่อให้ทำไปนานแค่ไหนและเพิ่มกฎต่อไปเรื่อย ๆ ก็ไม่น่าจะทำงานได้ดี
    ถึงอย่างนั้น ผมคิดว่ามันอาจมีประโยชน์ในการทดสอบและสอนโมเดลโครงข่ายประสาท
    ในยุคที่ Lenat เริ่มทำ Cyc ยังไม่มีทรัพยากรคอมพิวต์พอจะรันโมเดลโครงข่ายประสาทที่แสดงระดับที่ทุกวันนี้ผู้คนเรียกว่า “การให้เหตุผลแบบสามัญสำนึก” ได้ ดังนั้นจึงเข้าใจได้เต็มที่ที่เขาเริ่มจากเส้นทางนั้น

    • https://arxiv.org/pdf/2308.04445.pdf
      “Getting from Generative AI to Trustworthy AI: What LLMs might learn from Cyc”
      เป็น论文สุดท้ายของ Lenat เผยแพร่ร่วมกับ Gary Marcus เมื่อวันที่ 31 กรกฎาคม
      https://news.ycombinator.com/item?id=37354601
      ถ้าอ่าน论文นี้ ความคิดสองอย่างอาจสั่นคลอนได้ คือความคิดที่ว่าโมเดลโครงข่ายประสาทในปัจจุบัน หรือ LLM แสดง การให้เหตุผลแบบสามัญสำนึก และความคิดที่ว่าแนวทางที่ Cyc เป็นตัวแทนกับแนวทางที่ LLM เป็นตัวแทนนั้น排除กันโดยสิ้นเชิง
  • พออ่านช่วงท้ายของบทความแล้ว ก็รู้สึกว่าผมควรเปิดเผยสิ่งที่ผมสร้างและคิดไว้ให้มากขึ้น
    ผมไม่ใช่ Doug Lenat และคอนเทนต์ของผมก็มีแนวโน้มสูงว่าจะเป็นแค่การเพิ่มสัญญาณรบกวนให้กับอินเทอร์เน็ต แต่ถึงอย่างนั้นก็ไม่ควรปล่อยให้ไอเดียของตัวเองตายไปพร้อมกับตัวเอง หรือถูกควบคุมโดยคณะกรรมการผู้มีส่วนได้ส่วนเสีย
    ผมไม่ใช่คนคลั่งโอเพนซอร์ส แต่ โอเพนซอร์ส เป็นวิธีที่ดีให้คนอื่นสานต่อสิ่งที่ผมเริ่มไว้
    ตลอด 1 ปีที่ผ่านมา Gary Marcus กับ Doug พยายามเขียนบทความวิชาการที่ยาวและซับซ้อนซึ่งสุดท้ายก็ทำไม่เสร็จ และแม้ Cyc จะยิ่งใหญ่มากในแง่ขอบเขต แต่การนำไปใช้งานจริงกลับจัดการได้ยาก
    จากมุมมองทางวิชาการ ปัญหาใหญ่ที่สุดของ Cyc คือมันเป็น ซอฟต์แวร์กรรมสิทธิ์
    Doug พยายามถ่ายทอดบทเรียนที่เขาได้จาก Cyc ให้กับนักวิจัยรุ่นถัดไป เพื่อให้คนเข้าใจมากขึ้น เช่น อะไรที่ได้ผลและเพราะเหตุใด เมื่อใดและทำไมจึงล้มเหลว อะไรที่นำไปใช้จริงได้ยาก และอะไรที่ถ้าได้ทำต่างออกไปก็คงดี
    หนึ่งในอีเมลสุดท้าย ๆ ของเขาคือการวิงวอนให้เผยแพร่บทความให้เร็วที่สุดเท่าที่จะทำได้ และหลังผ่านเรื่องราวคดเคี้ยวมากมาย บทความ Getting from Generative AI to Trustworthy AI: What LLMs might learn from Cyc (https://arxiv.org/ftp/arxiv/papers/2308/2308.04445.pdf) ก็ถูกอัปโหลดขึ้น arXiv เมื่อวันที่ 31 กรกฎาคม
    เป็นบทความสั้น ๆ แต่เป็นทั้งการทบทวนสิ่งที่ Cyc พยายามทำ สรุปสิ่งที่เราควรคาดหวังจากปัญญาประดิษฐ์ที่แท้จริง และเป็นการเรียกร้องให้ปรองดองกันระหว่างประเพณีสัญลักษณ์นิยมเชิงลึกที่เขาเป็นส่วนหนึ่ง กับโมเดลภาษาขนาดใหญ่สมัยใหม่

    • ประโยคที่ว่า “คอนเทนต์ของผมมีแนวโน้มสูงว่าจะเป็นแค่การเพิ่มสัญญาณรบกวนให้กับอินเทอร์เน็ต” ไม่ควรท่องซ้ำเกินจำเป็นนัก มันไม่ใช่ถ้อยคำสร้างแรงจูงใจที่ดีเท่าไร
      แค่แชร์สิ่งที่คิดว่าสำคัญก็พอ
      แม้แต่ การปรับปรุงความรู้ เล็ก ๆ ที่ดูมีโอกาสต่ำ ก็อาจมีความหมายได้ ถ้าสิ่งเหล่านั้นมีมากพอ ในเชิงสถิติก็อาจขยับเข็มได้
      แน่นอนว่าต้องทำให้หาข้อมูลที่เกี่ยวข้องเจอได้ด้วย และเรื่องนั้นเองก็เป็นปัญหาใหญ่
  • แม้ไม่เคยพบกันโดยตรง แต่งานของ Doug เป็นหนึ่งในแรงบันดาลใจที่ยิ่งใหญ่ที่สุดในวงการคอมพิวติ้งสำหรับผม
    น่าจะเหมาะที่จะลิงก์บทความบล็อกที่เขียนไว้ในปี 2018 เป็นบทความที่สรุปเส้นทางงานของ Lenat ที่นำไปสู่ Cyc อย่างคร่าว ๆ และรวบรวมลิงก์บทความวิชาการไว้
    http://blog.funcall.org//lisp/2018/11/03/am-eurisko-lenat-do...

  • Cyc ซึ่งออกเสียงว่า “Syke” เป็นโปรเจกต์ที่ผมสนใจแบบเลือน ๆ มานานแล้ว แต่ไม่มีเวลาและพลังพอจะเจาะลึกอย่างจริงจัง
    เป็นโปรเจกต์ปัญญาประดิษฐ์ที่มีพื้นฐานจาก ontology แบบครอบคลุม และฐานความรู้
    ภาพรวมใน Wikipedia: <https://en.wikipedia.org/wiki/Cyc>
    หน้าเว็บโปรเจกต์/บริษัท: <https://cyc.com/>

    • ผมเคยทำงานกับ Cyc มันเป็นความพยายามที่น่าประทับใจต่อสิ่งที่ตั้งใจจะทำ แต่ก็ไม่ได้ไปได้สวย
      มันเป็นความพยายามครั้งใหญ่ครั้งสุดท้ายที่จะทำปัญญาประดิษฐ์ด้วยวิธีที่ “สะอาดเรียบร้อย” และความล้มเหลวนั้นก็ช่วยให้เกิดแนวทางปัญญาประดิษฐ์แบบ “ยุ่งเหยิง” ที่ประสบความสำเร็จอย่างมากในปัจจุบัน
      ความล้มเหลวนี้ไม่ได้ลดคุณค่าของ Doug ใครสักคนต้องลองทำ และก็น่ายินดีที่คนคนนั้นเป็นหนึ่งในคนที่ฉลาดที่สุด
      ผมคิดว่าเขายังยึดมันไว้นานหลังจากที่ชัดเจนแล้วว่ามันคงไม่ทำงาน แต่ จุดทะลุทะลวง ก็เกิดขึ้นได้จริงเช่นกัน
      กระแสแมชชีนเลิร์นนิงในปัจจุบันเองก็เป็นการฟื้นคืนชีพของเทคนิคที่ครั้งหนึ่งเคยถูกทอดทิ้ง และคนที่ยังเกาะมันไว้นั่นแหละที่ค้นพบเคล็ดลับทำให้มันใช้งานได้
    • ในสายตาผม มันใกล้เคียงกับ ความใฝ่ฝัน มากกว่าผลิตภัณฑ์
      หลายปีก่อนผมเคยทำงานกับบริษัทที่ปรึกษาซึ่งพยายามเข้าสู่วงการปัญญาประดิษฐ์ บริษัทนั้นเลือก Cyc เป็นแพลตฟอร์มที่จะขายให้ลูกค้าหลัก ๆ ในภาคการเงิน
      แต่ดูเหมือนไม่มีโปรเจกต์จริงเริ่มขึ้นแม้แต่โปรเจกต์เดียว และก็ไม่มีภาพที่ชัดเจนว่าจะขายอะไรได้
      ผมไม่อยากคิดว่า Lenat เป็นนักต้มตุ๋น เพราะเขาดูเหมือนเป็นคนจริงใจและยอดเยี่ยม
      เพียงแต่ผมมองว่า Cyc ถูกขายแบบโอ้อวดเกินจริงอย่างมาก ทั้งที่แทบไม่ได้ทำสิ่งที่มีประโยชน์ได้เลย เว็บไซต์เต็มไปด้วยถ้อยคำเชิงเทคนิค แต่หลังทำธุรกิจมา 40 ปี กลับไม่มีกรณีศึกษาแม้แต่กรณีเดียว
    • ลองเข้า cyc.com แล้ว น่าเสียดายที่เห็นแต่ คำคุยโวแบบธุรกิจ และหน้า “Documention” ก็ไม่แสดงอะไรเลยถ้าไม่ล็อกอิน