อดีตพนักงาน OpenAI: ทำไมอดีตพนักงานถึงพูดไม่ได้

 (vox.com)
6 คะแนน โดย GN⁺ 2024-05-18 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • ChatGPT พูดได้ แต่พนักงาน OpenAI พูดไม่ได้
    • พวกเขาได้ลงนามในข้อตกลงห้ามวิจารณ์ และหากละเมิดสัญญาอาจต้องสละหุ้น

การเปิดตัว ChatGPT 4o รุ่นใหม่ของ OpenAI

  • OpenAI เปิดตัว ChatGPT 4o รุ่นใหม่
  • มีเสียงที่คล้ายกับผู้ช่วย AI ที่ Scarlett Johansson พากย์เสียงไว้ในภาพยนตร์ปี 2013 ของผู้กำกับ Spike Jonze เรื่อง "Her"
  • Sam Altman ซีอีโอของ OpenAI โพสต์ทวีตอ้างอิงถึงภาพยนตร์เรื่องดังกล่าว

การลาออกของบุคลากรสำคัญใน OpenAI

  • ข่าวการเปิดตัว ChatGPT 4o ถูกกลบด้วยข่าวการลาออกของ Ilya Sutskever ผู้ร่วมก่อตั้งและหัวหน้านักวิทยาศาสตร์ของ OpenAI และ Jan Leike ซึ่งเคยเป็นผู้นำทีม Superalignment
  • Jan Leike ซึ่งเคยอยู่ในรายชื่อ Future Perfect 50 เมื่อปีที่แล้ว ก็ลาออกเช่นกัน
  • การลาออกครั้งนี้ไม่ได้น่าแปลกใจนัก
    • Sutskever มีส่วนเกี่ยวข้องกับการก่อกบฏในบอร์ดที่นำไปสู่การปลด Sam Altman ออกจากตำแหน่งซีอีโอชั่วคราวเมื่อปีที่แล้ว
    • หลังจาก Altman กลับคืนสู่ตำแหน่งซีอีโออย่างรวดเร็ว Sutskever ก็แสดงความเสียใจต่อการกระทำของตนต่อสาธารณะ และสนับสนุนการกลับมาของ Altman
    • แต่หลังจากนั้น Sutskever แทบไม่ปรากฏตัวในบริษัท ขณะที่สมาชิกคนอื่นๆ ของทีมด้านนโยบาย การจัดแนว และความปลอดภัยของ OpenAI ต่างทยอยออกไป

การคาดเดาเกี่ยวกับความเงียบของอดีตพนักงาน

  • ความเงียบของอดีตพนักงานก่อให้เกิดการคาดเดาต่างๆ
  • Sutskever ทิ้งข้อความลาออกที่ธรรมดามากไว้
    • "ผมมั่นใจว่า OpenAI จะสร้าง AGI ที่ปลอดภัยและเป็นประโยชน์ได้ อนาคตน่าตื่นเต้นมาก"
  • Leike กล่าวเพียงว่าเขา "ลาออกแล้ว"
    • หลายวันต่อมา เขาอธิบายว่าลาออกเพราะกังวลว่า OpenAI กำลังห่างออกจากวัฒนธรรมที่ให้ความสำคัญกับความปลอดภัย
  • มีการคาดเดาหลายอย่างเกี่ยวกับสาเหตุที่อดีตพนักงานนิ่งเงียบ
    • ไม่ว่าจะเป็นถูกบีบให้ออก เป็นผลสืบเนื่องจากการปลด Altman ชั่วคราวเมื่อฤดูใบไม้ร่วงปีก่อน หรือเป็นการลาออกเพื่อประท้วงโครงการลับใหม่ที่อาจอันตราย

เหตุผลที่อดีตพนักงานต้องเงียบ

  • มีเหตุผลที่ชัดเจนว่าทำไมอดีตพนักงานถึงนิ่งเงียบ
    • ในสัญญาออกจากงานที่เข้มงวดอย่างยิ่ง มีข้อกำหนดห้ามวิจารณ์อดีตนายจ้างตลอดชีวิต
    • แม้แต่การยอมรับว่ามี NDA อยู่ก็ถือเป็นการละเมิด
  • หากพนักงานที่ลาออกไม่ลงนามในเอกสารหรือทำผิดข้อตกลง พวกเขาอาจสูญเสียหุ้นทั้งหมดที่ได้รับระหว่างทำงานในบริษัท
    • ซึ่งน่าจะมีมูลค่าระดับหลายล้านดอลลาร์
  • Daniel Kokotajlo อดีตพนักงานรายหนึ่งยืนยันต่อสาธารณะว่าเขาลาออกโดยไม่เซ็น NDA และยอมสละหุ้นมูลค่ามหาศาลที่ตามมา
    • เขากล่าวว่าเป็นเพราะ "ผมหมดความมั่นใจแล้วว่า OpenAI จะปฏิบัติอย่างมีความรับผิดชอบในยุค AGI"

แนวปฏิบัติเรื่อง NDA ในซิลิคอนแวลลีย์ที่แข่งขันดุเดือด

  • ในซิลิคอนแวลลีย์ที่มีการแข่งขันสูง ตัว NDA เองไม่ใช่เรื่องผิดปกติ
  • แต่การทำให้หุ้นที่ได้รับไปแล้วตกอยู่ในความเสี่ยงหากปฏิเสธหรือฝ่าฝืนข้อตกลงนั้นถือว่าไม่ปกติ
    • สำหรับพนักงานสตาร์ตอัปอย่าง OpenAI หุ้นคือค่าตอบแทนสำคัญที่มีมูลค่าสูงกว่าเงินเดือนมาก
    • การใช้เงินก้อนที่อาจเปลี่ยนชีวิตนี้มาเป็นเครื่องมือกดดัน เป็นวิธีทำให้อดีตพนักงานเงียบได้อย่างมีประสิทธิภาพมาก

ความย้อนแย้งเรื่องความเปิดเผยและความโปร่งใสของ OpenAI

  • เดิมที OpenAI โฆษณาตัวเองว่าอุทิศตนให้กับการสร้างระบบทรงพลังอย่างโปร่งใสและมีความรับผิดชอบ
    • แต่ตอนนี้กลับละทิ้งแนวคิดการเปิดซอร์สโมเดล โดยอ้างเหตุผลด้านความปลอดภัย
  • บริษัทยังปล่อยให้สมาชิกที่มีประสบการณ์และได้รับความเคารพมากที่สุดในทีมความปลอดภัยออกไป
    • สิ่งนี้ทำให้เกิดข้อสงสัยว่าความปลอดภัยคือเหตุผลจริงหรือไม่ที่ทำให้ OpenAI กลายเป็นองค์กรปิดมากขึ้น
  • โฆษกของ OpenAI กล่าวว่า "เราไม่เคยยกเลิกหุ้นของพนักงานปัจจุบันหรืออดีตพนักงาน และจะไม่ทำเช่นนั้นแม้พวกเขาจะไม่ลงนามตอนลาออกก็ตาม"
    • ซึ่งระบุว่านี่เป็นการเปลี่ยนนโยบายจากที่เคยเข้าใจกัน

ตำแหน่งอันแปลกประหลาดของ OpenAI ในโลกเทคโนโลยีและนโยบาย

  • OpenAI ครองตำแหน่งที่ค่อนข้างพิเศษในโลกเทคโนโลยีและนโยบายมาเป็นเวลานาน
    • สิ่งที่บริษัทเปิดตัวตั้งแต่ DALL-E ถึง ChatGPT นั้นน่าทึ่ง แต่โดยตัวมันเองก็ยังยากจะปลุกกระแสคลั่งไคล้แบบศาสนาได้
  • สิ่งที่ทำให้ OpenAI ดูพิเศษคือเป้าหมายอันยิ่งใหญ่ในการพัฒนา AGI เพื่อเป็นประโยชน์ต่อมนุษยชาติ
    • พนักงานจำนวนมากเชื่อว่า ด้วยเวลาเพียงราว 10 ปี (หรือน้อยกว่านั้น) และเงินระดับล้านล้านดอลลาร์ ก็สามารถบรรลุเป้าหมายนี้ได้
  • อย่างที่ OpenAI พูดมานานเอง นี่เป็นเรื่องที่น่าตื่นเต้น แต่ก็อาจอันตรายได้

OpenAI ในฐานะผู้เล่นที่มีความรับผิดชอบ

  • ในอดีต OpenAI วางตัวเป็นผู้เล่นที่มีความรับผิดชอบ ซึ่งพร้อมก้าวข้ามแรงจูงใจทางการค้าเพื่อพา AGI มาสู่โลกเพื่อประโยชน์ของทุกคน
    • บริษัทเคยบอกว่า พร้อมจะชะลอการพัฒนา พลาดโอกาสทำเงิน หรือยอมให้มีการกำกับดูแลจากภายนอก หากจำเป็น
  • โครงสร้างองค์กรที่เป็นเอกลักษณ์ของ OpenAI (บริษัทแสวงหากำไรแบบจำกัดผลตอบแทนที่อยู่ภายใต้การควบคุมสูงสุดขององค์กรไม่แสวงหากำไร) ถูกออกแบบมาเพื่อเพิ่มความรับผิดชอบ
  • แทบไม่มีสัญญาณใดที่แสดงถึงความมุ่งมั่นต่อภารกิจของ OpenAI ได้ชัดเจนไปกว่าการให้คนอย่าง Sutskever และ Leike มีบทบาทเด่น
    • พวกเขาเป็นนักเทคนิคที่มีประวัติยาวนานด้านความมุ่งมั่นต่อความปลอดภัย และดูเหมือนพร้อมจะเรียกร้องให้ OpenAI เปลี่ยนทิศทางหากจำเป็น

การเปลี่ยนแปลงความสนใจของ OpenAI ต่องานด้านความปลอดภัย

  • การจากไปของพวกเขาไม่ได้เป็นสัญญาณว่า OpenAI กำลังเปลี่ยนเป้าหมายในการสร้าง AGI
    • เป้าหมายนี้ยังคงอยู่
  • แต่เกือบจะแน่นอนว่านี่เป็นสัญญาณของการเปลี่ยนแปลงในระดับความสำคัญที่ OpenAI ให้กับงานด้านความปลอดภัย
    • บริษัทยังไม่ได้ประกาศว่าใครจะมานำทีม Superalignment
  • ยิ่งเห็นได้ชัดว่าความกังวลของ OpenAI ต่อการกำกับดูแลจากภายนอกและความโปร่งใสอาจไม่ได้ลึกซึ้งนัก
    • หากคุณต้องการให้การกำกับดูแลจากภายนอกและโลกภายนอกมีบทบาทในสิ่งที่คุณทำจริง การบังคับให้อดีตพนักงานเซ็น NDA ที่เข้มงวดมากก็ไม่ใช่การทำตามหลักนั้นอย่างแน่นอน

ความผิดหวังต่อ OpenAI

  • นี่คือเหตุผลที่ OpenAI น่าผิดหวังอย่างลึกซึ้งสำหรับผู้ที่ใส่ใจจริงๆ ว่า AI ควรจะเป็นสิ่งที่ดีและเป็นประโยชน์ต่อมนุษยชาติ
    • ผู้บริหารของบริษัทบอกว่าพวกเขาต้องการเปลี่ยนโลก ต้องการรับผิดชอบต่อสิ่งนั้น และยินดีรับฟังความเห็นจากโลกภายนอกว่าควรทำอย่างไรให้ยุติธรรมและชาญฉลาด
  • แต่เมื่อมีเงินเดิมพันจริงๆ (และในการแข่งขันครองความเป็นใหญ่ด้าน AI ก็มีเงินมหาศาลเป็นเดิมพัน) ก็ยิ่งชัดเจนว่าพวกเขาอาจไม่ได้ตั้งใจจะให้โลกภายนอกมีเสียงมากนัก
    • กระบวนการของพวกเขาทำให้อดีตพนักงาน ซึ่งเป็นคนที่รู้ดีที่สุดว่าเกิดอะไรขึ้นภายใน OpenAI ไม่สามารถบอกโลกภายนอกได้
  • บนเว็บไซต์อาจเต็มไปด้วยอุดมคติสูงส่ง แต่ในสัญญาเลิกจ้างกลับเต็มไปด้วยถ้อยคำกฎหมายอันเย็นชา
    • เป็นเรื่องยากที่จะเรียกร้องความรับผิดชอบจากบริษัทที่อดีตพนักงานถูกจำกัดให้พูดได้เพียงว่า "ลาออกแล้ว"

เสียงใหม่ที่น่ารักของ ChatGPT อาจมีเสน่ห์ แต่ฉันไม่ได้ตกหลุมรักมันเป็นพิเศษ

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-05-18
ความเห็นจาก Hacker News

สรุปความคิดเห็นจาก Hacker News

  • วิธีหลีกเลี่ยงข้อตกลงไม่เปิดเผยความลับ

    • หากต้องการหลีกเลี่ยงข้อตกลงไม่เปิดเผยความลับ พนักงานที่เกี่ยวข้องอาจรวมตัวกันเขียนทุกอย่างที่อยากพูด แล้วนำไปฝึกกับ LLM (โมเดลภาษาขนาดใหญ่) ก่อนเผยแพร่ออกสู่สาธารณะ วิธีนี้อาศัยตรรกะทางกฎหมายในปัจจุบันที่โยนความรับผิดไปยังผู้ใช้โมเดล

  • ข้อตกลงไม่เปิดเผยความลับของ OpenAI

    • อดีตพนักงานของ OpenAI ต้องลงนามในสัญญาที่มีเงื่อนไขการรักษาความลับและห้ามกล่าวให้ร้ายที่เข้มงวดมาก หากละเมิดอาจสูญเสียหุ้นมูลค่าหลายล้านดอลลาร์

  • ความร้ายแรงของสถานการณ์

    • สถานการณ์นี้ร้ายแรงมาก และบางคนมองว่าเป็นการกระทำในระดับอาชญากรรม อีกทั้งยังมีความเห็นว่าการกระทำของ OpenAI คล้ายกับกรณี Enron

  • ความจำเป็นของคำแนะนำทางกฎหมาย

    • จำเป็นต้องมีคำแนะนำทางกฎหมายเกี่ยวกับ California SB 331 (Silenced No More Act) ซึ่งกฎหมายนี้อาจใช้ได้ไม่เพียงกับการคุกคามทางเพศ แต่รวมถึงสัญญาที่ไม่เป็นธรรมในรูปแบบอื่นด้วย

  • สัญญาที่ไม่สมเหตุสมผล

    • การบังคับให้พนักงานทำสัญญาห้ามกล่าวให้ร้ายตลอดชีวิตเป็นสิ่งไม่เป็นธรรม เรื่องนี้อาจมีปัญหาทางกฎหมาย และการแก้ไขอาจต้องอาศัยคนที่กล้าพอยื่นฟ้อง

  • ข้อจำกัดของ AI

    • มีความเห็นว่า AI ไม่สามารถแทนที่แรงงานมนุษย์ได้ทั้งหมด เช่น งานทาสีบ้านหรือซ่อมหม้อไอน้ำ ซึ่งมองว่า AI ทำไม่ได้

  • ค่าตอบแทนเป็นหุ้นของสตาร์ตอัป

    • หุ้นเป็นเครื่องมือค่าตอบแทนสำคัญในสตาร์ตอัป พนักงานของ OpenAI ได้รับทั้งเงินเดือนสูงและหุ้น พร้อมกับถูกขอให้ลงนาม NDA และมีกรณีคล้ายกันที่ Apple เช่นกัน

  • ความเคารพต่อ Jan Leike

    • แสดงความเคารพต่อ Jan Leike มากยิ่งขึ้น

  • ความมีผลใช้บังคับของสัญญา

    • หากสัญญาจะมีผลใช้บังคับ ต้องมีการมอบค่าตอบแทนเป็นหุ้นใหม่เพิ่มเติม การใช้ค่าตอบแทนเดิมมาบังคับให้ยอมรับสัญญาใหม่ถือว่าไม่เป็นธรรม

  • ลักษณะส่วนตัวของสัญญา

    • สัญญาเป็นเรื่องระหว่างคู่สัญญา และหากมีปัญหาทางกฎหมายก็ควรไปแก้ในศาล ควรหลีกเลี่ยงการนำทุกประเด็นออกมาจัดการในที่สาธารณะ