Snowden: อย่าไว้วางใจ OpenAI และผลิตภัณฑ์ของบริษัทโดยเด็ดขาด

 (twitter.com/Snowden)
1 คะแนน โดย GN⁺ 2024-06-16 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Snowden ออกคำเตือนต่อสาธารณะว่า อย่าไว้วางใจ @OpenAI และผลิตภัณฑ์อย่าง ChatGPT โดยเด็ดขาด
  • จุดชนวนโดยตรงของคำเตือนนี้คือการที่ @OpenAI ตัดสินใจ แต่งตั้ง Director ของ @NSA/CSS เข้าสู่คณะกรรมการบริษัท
  • เขายืนยันว่าการแต่งตั้งครั้งนี้มี “เหตุผลเพียงข้อเดียว” แต่ไม่ได้เปิดเผยเหตุผลที่ชัดเจนไว้ในโพสต์
  • เขาวิพากษ์วิจารณ์การตัดสินใจดังกล่าวอย่างรุนแรงว่าเป็น การทรยศโดยเจตนาและผ่านการคำนวณมาแล้ว ต่อสิทธิของผู้คนทั่วโลก
  • โพสต์นี้มีลักษณะใกล้เคียงกับคำเตือนสั้น ๆ และไม่ได้มีเหตุผลเพิ่มเติม กรณีตัวอย่าง หรือแนวทางรับมือรวมอยู่ด้วย

เนื้อหาคำเตือนของ Snowden

  • Snowden ระบุว่าไม่ควรไว้วางใจ @OpenAI และผลิตภัณฑ์ของบริษัท
    • โดยยกตัวอย่างรวมถึง ChatGPT
  • การตัดสินใจที่เขามองว่าเป็นปัญหาคือการที่ @OpenAI แต่งตั้ง Director ของ @NSA/CSS เข้าสู่คณะกรรมการบริษัท
  • เขามองว่าการแต่งตั้งนี้เป็นการตัดสินใจที่ ทรยศโดยเจตนา ต่อสิทธิของผู้คนทั่วโลก
  • โพสต์ปิดท้ายด้วย “You have been warned” ในรูปแบบของการเตือนผู้อ่านโดยตรง

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-06-16
ความคิดเห็นจาก Hacker News

  • Snowden เป็นคนประเภทที่แม้คุณอาจไม่เห็นด้วยเหมือนกับ Stallman หรือมองว่าจุดยืนสุดโต่ง แต่การเมินเฉยไปเลยถือว่าโง่
    ตอนนี้กำลังเกิดยุคตื่นทองที่พยายาม เลี่ยงทรัพย์สินทางปัญญา และใช้ผลงานสร้างสรรค์ของคนนับพันล้านโดยไม่ให้เครดิตหรือค่าตอบแทน ในขณะที่สังคมและฝ่ายนิติบัญญัติกำลังหลับใหลอยู่

    • Richard Stallman ไม่เคยทำอะไรที่ทำลายความเชื่อว่าเขาขับเคลื่อนด้วยหลักการที่หยั่งรากใน สิทธิความเป็นส่วนตัว และเสรีภาพส่วนบุคคล
      แรงจูงใจที่แท้จริงของ Snowden นั้นไม่แน่นอนกว่านั้นมาก

  • เราไม่จำเป็นต้องให้ Snowden มาบอกว่าอย่าเชื่อ OpenAI
    ตอนที่รู้จักบริษัทนี้ครั้งแรก แค่อ่านไม่กี่คำก็รู้สึกเหมือนเดินเข้าไปใน เต็นท์รถมือสอง ที่คนซึ่งเคยกลั่นแกล้งฉันสมัยมัธยมเป็นคนบริหาร

    • ถึงอย่างนั้น หลายคนก็ยังต้องมีใครสักคนมาบอก
      คิดว่าการไม่พูดอะไรเลยดีกว่างั้นหรือ?

  • แน่นอนว่ามี เหตุผลที่ชอบธรรม ที่ Nakasone เข้าร่วมบอร์ด
    OpenAI อ่อนไหวต่อกฎระเบียบมาก จึงมีทีมล็อบบี้ขนาดใหญ่เพื่อดึงรัฐบาลสหรัฐฯ ให้ไปในทิศทางของตน เขา (a) นำเครือข่ายทางการเมืองเข้ามา และ (b) ให้ความเชื่อมั่นว่าการพัฒนาใด ๆ จะไม่คุกคามความมั่นคงแห่งชาติของสหรัฐฯ เรื่องนี้ค่อนข้างพบได้ทั่วไปในบอร์ดบริษัท
    ในความเป็นจริง สิ่งที่ส่งผลต่อโลกมากกว่าความสามารถจริงของ AI คือ การรับรู้ว่า AI ทำอะไรได้บ้าง

    • ทำให้นึกถึงตอนที่คนอย่าง Henry Kissinger เข้าไปอยู่ใน บอร์ดของ Theranos
      เราจะรู้ได้อย่างไรว่าตำแหน่งบอร์ดแบบนี้มีความหมายจริง ๆ หรือเป็นแค่ตำแหน่งกินเงินเดือนฟรีที่เอาแต่ประทับตราเห็นชอบทุกอย่าง?
    • ใช่
      ยิ่งกว่านั้น เขาไม่ได้เป็นแค่ผู้อำนวยการ NSA แต่ยังเป็นผู้บัญชาการ U.S. Cyber Command ด้วย ซึ่งเป็นประสบการณ์ที่เกี่ยวข้องอย่างมากทั้งกับท่าทีด้านความมั่นคงและความปลอดภัยของ OpenAI และการขายให้ลูกค้าภาครัฐ/กลาโหม
    • ถ้าอยากขายให้รัฐบาล นี่ก็เป็นความคิดที่ดีเหมือนกัน
    • หากตีความในแง่ดีที่สุด เครือข่ายของเขาอาจช่วยป้องกันไม่ให้รัฐบาลออก มาตรการแบนแบบเหมารวม ต่อ AI ทั้งหมดโดยไม่มีข้อเท็จจริงรองรับ
      แต่ผมคิดว่าในหัวของคนส่วนใหญ่จะรับเรื่องนี้ในแง่ลบมาก
    • ช่วยอธิบายเพิ่มได้ไหมว่าทำไม “การรับรู้ว่า AI ทำอะไรได้บ้าง” ถึงส่งผลมากกว่าความสามารถจริง?
      การรับรู้นั้นส่งผลอย่างไร และ AI จริง ๆ ส่งผลอย่างไร?

  • ในทวีตเดียวกันมีข้อความว่า “นี่คือการทรยศต่อสิทธิของมนุษย์ทุกคนบนโลกโดยเจตนาและผ่านการคำนวณมาแล้ว”
    สำหรับผม ฟังดู เกินจริง ไปหน่อย

    • ไม่รู้รายละเอียดของกรณีนี้โดยเฉพาะ แต่การพูดเกินจริงเป็นเรื่องค่อนข้างปกติสำหรับ Snowden
      ผมไม่โทษเขามากนัก เขาผ่านเรื่องราวเลวร้ายมา เพียงแต่คิดว่าคำประกาศของเขาบน Twitter ไม่ได้เป็นถ้อยคำที่เป็นกลางเท่าไร
    • เห็นด้วย
      ถ้อยคำเชิงเตือนภัยอาจช่วยผลักดันประเด็นบางอย่างได้ แต่ควรใช้เท่าที่จำเป็นถ้าไม่อยากดูเหมือน เด็กเลี้ยงแกะ

  • เมื่อเห็นสถานการณ์แบบนี้ การตัดสินใจของ Apple ที่จะผสานรวมกับ ChatGPT ของ OpenAI ก็ดูแย่ลงไปอีก
    แม้จะมีคำมั่นด้านความเป็นส่วนตัวว่าจะไม่เปิดเผยข้อมูลมากนักและจะถามผู้ใช้อย่างชัดเจน แต่สิ่งที่เกิดขึ้นที่ OpenAI และเหตุการณ์อื่น ๆ ควรทำให้ผู้บริหาร Apple กังวลอย่างจริงจัง
    ผู้บริหารระดับสูงของ Apple เคยบอกว่า ChatGPT ดีที่สุด จึงเริ่มจากตรงนั้น บางทีพาร์ตเนอร์ชิปนี้อาจอยู่ไม่ถึงช่วงเวลาเดียวกันของปีหน้าก็ได้

    • นึกถึงตอนที่ Steve ตื่นเต้นกับการผสาน Facebook และ Twitter เข้าเป็น ฟีเจอร์ระดับ first-class ของ iOS
      สถานการณ์นี้ให้ความรู้สึกคล้ายช่วงเวลานั้นมาก
      แล้วก็ทำให้นึกขึ้นได้ว่า Siri แย่แค่ไหน OpenAI ทำให้ Apple อับอายขึ้นมาทันที และ Apple ก็จำเป็นต้องมีสิ่งนี้อย่างยิ่งเพื่อให้ดูแข่งขันได้ในด้านนี้ เป็นเรื่องแปลกและน่าเสียดาย
    • ฟังดูเหมือนเขาทำให้ ยืดหยุ่น พอที่จะใส่โมเดลอื่นเข้าไปได้
      ถ้ามีตัวเลือกมากขึ้น ก็อาจให้ผู้ใช้เลือกโมเดลได้
    • อาจใช้ Mixtral, Minstral, XWin, Mythomax, Claude 3 Haiku 196M ก็ได้
      ทั้งหมดนั้นยอดเยี่ยม และส่วนใหญ่หรือทั้งหมดดีกว่า Siri
      ผมคิดว่าสิ่งที่ดีที่สุดที่ Apple ทำได้คือให้ผู้ใช้เลือกว่าจะเรียกใช้ AI ตัวไหน อาจเรียกว่า AI store เหมือน iTunes หรือ App Store ก็ได้ แบบนั้นผู้ให้บริการ AI จะแข่งขันกันด้วยความเป็นส่วนตัวและประสิทธิภาพ แต่ผู้ใช้ก็ต้องมีฟีเจอร์เปรียบเทียบมากพอเพื่อดูว่าอะไรคุ้มค่าที่จะเลือก

  • ที่มา: The Verge
    https://www.theverge.com/2024/6/13/24178079/openai-board-pau...
    https://news.ycombinator.com/item?id=40680962 - อดีตหัวหน้า NSA เข้าร่วมบอร์ด OpenAI

  • ผมถามแชตบอตไปเยอะมากในหลายหัวข้อ และมันก็พิสูจน์หลายครั้งแล้วว่ามีประโยชน์จริง
    ถึงอย่างนั้นก็ยังไม่ไว้ใจเต็มที่และยังระแวดระวังอยู่ และก็ไม่ได้สงสัยมากนักว่าตัวเองกำลังถูกเฝ้าดูอย่างละเอียด เพียงแต่ยากที่จะนึกสถานการณ์ที่สิ่งนั้นจะถูกนำมาใช้ให้เป็นผลเสียกับผม
    ถ้ามีความเป็นส่วนตัวที่ดีกว่านี้ ผมก็ยินดีจ่ายเพิ่ม และสนใจจะโฮสต์เองด้วย แต่ในบรรดาปัญหา 99 อย่างของผม เรื่องนี้ค่อนข้างอยู่ท้าย ๆ
    เมื่อก่อนผมเคยส่งน้ำลายไปให้ 23andMe ข้อมูลบางส่วนในนั้นถูกขโมยไป และผมก็น่าจะอยู่ใน รายชื่อชาวยิวอัชเคนาซี ที่ถูกขายอยู่ที่ไหนสักแห่ง เป็นเรื่องที่น่ารังเกียจ ตอนนี้ผมนึกสถานการณ์ที่การเฝ้าดูแชตบอตจะกลายเป็นปัญหาไม่ออก แต่ก็อาจเป็นเพราะผมจินตนาการไม่พอก็ได้

    • ถ้าเพื่อน ๆ ของคุณและเพื่อนของเพื่อน ๆ เหล่านั้นทั้งหมดบอกว่าท้องฟ้าเป็นสีม่วง คุณจะกล้าพอไหมที่จะประกาศว่ามันเป็นสีฟ้า แม้จะขัดกับสิ่งที่สังเกตเห็น?
      เราจะจมอยู่ใน ฟีดแบ็กจาก AI และทุกคนก็จะได้รับอิทธิพลจากคำแนะนำนั้น “แหล่งที่มา” แบบที่ Google ส่งผมไป BuzzFeed แล้วรู้ว่าผมอ่านบทความขยะ แทบจะหายไปหมด ทุกอย่างจะถูกคลุมด้วยเปลือกนอกของความน่าเชื่อถือเพียงเพราะ ChatGPT พูดไว้ ผลิตภัณฑ์นี้คือความไว้วางใจ คุณจะถามคำถามเดียวกันกับอันธพาลที่มีเจตนาร้ายและเปิดเผยรายละเอียดส่วนตัวให้เขารู้หรือ? คงไม่
      ต่อให้คุณรู้สึกว่าตัวเองไม่เชื่อมันได้เต็มที่แค่ไหน กระแสคำแนะนำจาก AI ก็เหมือนน้ำ และพวกเราก็เหมือนปลา เรากำลังได้รับอิทธิพลอยู่แล้ว และถ้าไม่รู้ว่ามันมีอิทธิพลต่อเราอย่างไร ก็ต้องมองให้ละเอียดขึ้น
    • อาจเป็นเรื่องคนละประเด็นเล็กน้อย แต่ปัญหาที่แท้จริงของบริการอย่าง 23andMe ไม่ได้มีแค่การที่พวกเขามี ข้อมูล DNA และลักษณะทางพันธุกรรม ที่ย้อนคืนไม่ได้
      ตอนนี้พวกเขายังมีข้อมูล DNA และลักษณะทางพันธุกรรมของญาติทั้งกลุ่มในวงกว้างพอสมควร ทั้งขึ้นและลงตามแผนผังตระกูลด้วย การใช้บริการแบบนั้นโดยพื้นฐานแล้วคือการขายครอบครัวของตัวเอง และพวกเขาไม่มีสิทธิ์เลือก
    • OpenAI มีแนวโน้มสูงที่จะนำเสนอมากกว่าแค่แชตบอตในอนาคต
      แม้ตอนนี้ก็สามารถอัปโหลดไฟล์ให้มันวิเคราะห์ได้แล้ว
      ผมไม่คิดว่าเป็นเรื่องบังเอิญที่ Microsoft ผลักดัน Windows Recall สำหรับผู้บริโภค พยายามรักษาดัชนีถาวรของไฟล์ที่ถูกลบ ผลักดัน OneDrive ให้เป็นตำแหน่งจัดเก็บเริ่มต้นของลูกค้าองค์กร O365 และทุ่มเงินหลายพันล้านดอลลาร์ให้ OAI

  • สำหรับคนที่บล็อก Twitter ไว้ ดูเหมือนเนื้อหาทวีตส่วนที่เหลือจะถูกอ้างไว้ที่นี่
    https://fortune.com/2024/06/14/edward-snowden-eviscerates-op...

    • ผมไม่ได้บล็อก Twitter หรอก แต่ดูอะไรในนั้นไม่ได้เลย
      ประมาณ 80% มีแต่ข้อผิดพลาดทั่วไปกับข้อความ “ลองอีกครั้ง”
    • หมายเหตุ: หน้า “บทความ” นั้นมีคำเตือนว่าจะย้ายไป x.com
      ได้เวลาเพิ่มรายการลงใน filter list แล้ว
      ผมกดลิงก์เพื่อดูว่าคราวนี้จะแสดงหน้าพังแบบใหม่อะไรแทนทวีต ปรากฏว่าแปลกดี ลิงก์บทความกลับใช้งานได้ สำหรับผมแล้วนี่เป็นเรื่องที่ไม่ได้เกิดขึ้นมานานมาก

  • ดูเหมือนค่อนข้างชัดเจนว่า OpenAI กับรัฐบาลมีความร่วมมือกันในรูปแบบใดรูปแบบหนึ่ง
    แต่ทำไมเรื่องนั้นถึงอาจเป็น เรื่องเลวร้ายอย่างมาก ได้?

    • ก็คงเพราะ ประวัติที่ผ่านมา ของพวกเขาไม่ได้โปร่งใสนักละมั้ง hehe

  • อีกหนึ่งรายหายไปแล้ว
    เพิ่มเข้ารายการแล้ว ยกเลิกบัญชีแบบเสียเงินแล้ว ลบข้อมูลแล้ว และลบบัญชีแล้ว
    การถอยออกมาจากบริการสักอย่างแล้วคิดดูว่ามันจำเป็นจริงไหม เริ่มทำได้ง่ายขึ้นเรื่อย ๆ โดยหลักการแล้วมันไม่จำเป็น และทันทีที่กลายเป็น ความสัมพันธ์แบบถูกเอาเปรียบ/ทำร้าย ก็แค่ตัดทิ้ง
    OpenAI ไม่ใช่หมาที่ดีเลย