ทฤษฎีอินเทอร์เน็ตที่ตายแล้ว

• เรื่องราวที่เจาะลึกปรากฏการณ์ที่ คอนเทนต์ที่สร้างโดย AI เข้ามาครองสัดส่วนอย่างมากของปฏิสัมพันธ์บนอินเทอร์เน็ต
• จุดเริ่มต้นมาจากข้อถกเถียงบน HackerNews เรื่องว่า โปรเจกต์โอเพนซอร์สชิ้นหนึ่งถูกสร้างโดย AI หรือไม่ ซึ่งทำให้ผู้เขียนเริ่มสังเกตเห็นรูปแบบที่แม้แต่คอมเมนต์ก็ดูเหมือนถูก AI เขียน
• ในอดีตช่วงยุค IRC และฟอรัม phpBB นั้น การแลกเปลี่ยนระหว่างมนุษย์จริง เป็นศูนย์กลาง แต่ปัจจุบัน ภาพ คอมเมนต์ และโค้ดที่ AI สร้าง กลับปะปนอยู่ในชีวิตประจำวัน
• ยังพบกรณีบน LinkedIn และที่อื่น ๆ ที่ ภาพบริษัทที่ถูกดัดแปลงด้วย AI ถูกโพสต์ราวกับเป็นโพสต์จากพนักงานจริง
• ผู้เขียนแสดงความกังวลว่า ความก้าวหน้าทางเทคโนโลยีกำลังไหลไปสู่ บทสนทนาระหว่างบอตและการรีแพ็กคอนเทนต์เชิงพาณิชย์ มากกว่าการแบ่งปันความรู้ของมนุษย์

---

ข้อถกเถียงบน HackerNews และการตระหนักถึงปัญหา

• ผู้เขียนพบ โปรเจกต์โอเพนซอร์ส ที่ผู้ใช้คนหนึ่งเผยแพร่บน HackerNews
  • ในคอมเมนต์มีผู้ใช้นิรนามหลายคนตั้งข้อสงสัยว่าโค้ดนั้น อาจถูกสร้างโดย AI
  • มีการชี้ว่าไทม์ไลน์ของคอมมิตและสไตล์การเขียนคอมเมนต์ในโค้ดดูคล้ายงานที่สร้างโดย AI
• ผู้เขียนไม่ได้คัดค้านการใช้ AI โดยตัวมันเอง แต่ย้ำว่า ในโอเพนซอร์สควรระบุให้ชัดว่ามีการใช้ AI หรือไม่
  • เพราะผู้มีส่วนร่วมบนอินเทอร์เน็ตส่วนใหญ่เป็นนิรนาม จึง ยากต่อการตรวจสอบความเชี่ยวชาญหรือความน่าเชื่อถือ
  • แม้ LLM จะมีประโยชน์กับงานง่าย ๆ แต่ ในปัญหาซับซ้อนหรือเคสขอบ มันอาจสร้างความเสี่ยงได้

ร่องรอยของ AI ที่เผยผ่านรูปแบบคอมเมนต์

• ผู้เขียนพบ สำนวนแบบเฉพาะของ AI แม้แต่ในคอมเมนต์ของเจ้าของโปรเจกต์
  • เช่น การใช้ em-dash (—) มากเกินไป หรือสำนวนไม่เป็นธรรมชาติอย่าง “you are absolutely right”
  • รวมถึงการใช้โครงสร้างประโยคแบบ AI ซ้ำ ๆ อย่าง “let me know if you want to [do that thing] or [explore this other thing]”
• สำนวนเหล่านี้แตกต่างจากนิสัยทางภาษาของมนุษย์จริง จนทำให้ เริ่มสงสัยว่าคู่สนทนาเป็นคนจริงหรือไม่

การตระหนักถึง ‘ทฤษฎีอินเทอร์เน็ตที่ตายแล้ว’

• ประสบการณ์นี้ทำให้ผู้เขียนนึกถึง Dead Internet Theory
  • ทฤษฎีนี้อ้างว่าตั้งแต่ราวปี 2016 เป็นต้นมา อินเทอร์เน็ตส่วนใหญ่ถูกเติมเต็มด้วย ปฏิสัมพันธ์ระหว่างบอตและคอนเทนต์ที่เครื่องสร้างขึ้น
  • จุดประสงค์ของคอนเทนต์เหล่านี้มุ่งไปที่ การขายสินค้า หรือการปั่น SEO เพื่อผลประโยชน์เชิงพาณิชย์

อินเทอร์เน็ตในอดีตกับปัจจุบันที่แตกต่างกัน

• ในช่วงต้นทศวรรษ 2000 ยุค IRC และฟอรัม phpBB นั้น การเรียนรู้และการแลกเปลี่ยนระหว่างมนุษย์จริง คือแกนหลัก
  • ผู้เขียนเรียกช่วงเวลานี้ว่า “Internet University” และย้อนความว่าตนได้เรียนรู้เรื่อง เครือข่าย ระบบปฏิบัติการ เกม และการพัฒนาเว็บ จากที่นั่น
  • ในเวลานั้นยังมั่นใจได้ว่าคู่สนทนาเป็นมนุษย์
• แต่ปัจจุบันกลับเป็น โลกที่ภาพและคอมเมนต์จาก AI ปะปนกัน จนแยกของจริงกับของปลอมได้ยาก

ความกังวลต่อการแพร่กระจายของคอนเทนต์ AI

• ผู้เขียนพบ ภาพสำนักงานที่ถูกดัดแปลงด้วย AI ซึ่งโพสต์โดยพนักงานบริษัทจริงบน LinkedIn
  • จาก รูปร่างมือที่ผิดปกติ และข้อความที่ไม่มีความหมาย ในภาพ จึงเห็นได้ชัดว่าเป็นภาพที่สร้างโดย AI
  • และยังมีข้อสงสัยด้วยว่าแม้แต่คนในภาพเองก็อาจ ไม่มีตัวตนอยู่จริง
• บน Facebook, Xitter, TikTok และแพลตฟอร์มอื่น ๆ ก็มี คอนเทนต์เท็จที่สร้างโดย AI แพร่กระจาย
  • เช่น ภาพคนยักษ์กำลังก่อพีระมิด หรือวิดีโอที่สื่อสารสารทางการเมืองบางอย่าง
• ผู้เขียนบอกว่ารู้สึก เศร้าและหมดแรง กับสภาพความจริงเช่นนี้
  • เมื่อ AI เข้าถึงคนทั่วไปได้ง่ายขึ้น จึงเกิด ‘AI-slop’ (คอนเทนต์ขยะจาก AI) ล้นไปหมด
  • ผู้คนไม่เขียนบทความหรือโค้ดด้วยตนเองอีกต่อไป แต่เข้าสู่ยุคที่ โยนงานให้ AI agent ทำแทน

ความคลางแคลงต่ออนาคตของเทคโนโลยีและความรู้ของมนุษย์

• ผู้เขียนยังคง รักเทคโนโลยีและซอฟต์แวร์เอนจิเนียริง อยู่เสมอ แต่ก็ชี้ว่า
  อินเทอร์เน็ตทุกวันนี้กำลังกลายเป็น พื้นที่ที่บอตคุยกับบอต
• ความรู้ของมนุษย์ถูกรีแพ็กเป็นคอนเทนต์เชิงพาณิชย์ทำนอง “10 ขั้นตอนเพื่อแก้ปัญหาในชีวิตประจำวันของคุณ”
  จน ความหมายดั้งเดิมของการแบ่งปันความรู้กำลังเลือนหายไป

[GN⁺]

ความคิดเห็นจาก Hacker News

• เมื่อไม่นานมานี้พ่อแม่ของฉันโดน วิดีโอ YouTube ปลอมที่สร้างด้วย AI หลอก เป็นวิดีโอที่มี ‘ตำรวจเหยียดเชื้อชาติ’ ทำพฤติกรรมแย่ ๆ ตอนแรกแม้แต่ฉันก็ดูแล้วลังเลเพราะมันเหมือนจริงมาก พอลองค้นหาดูก็ไม่เจอต้นทาง มีแต่คลิปอัปซ้ำอยู่เต็มไปหมด ในคำอธิบายช่องเขียนว่า “บางวิดีโอเป็นเหตุการณ์จริงที่นำมาสร้างใหม่ด้วย AI” แต่ฟังดูไม่น่าเชื่อถือเลย มันน่าเศร้ามากที่คอนเทนต์แบบนี้คอยปลุกปั่นความแตกแยกเพื่อ รายได้โฆษณาจาก YouTube

  • คอนเทนต์เหยียดเชื้อชาติมี อุปสงค์มากกว่าอุปทาน แค่ความเป็นจริงอย่างเดียวไม่พอจะคงความโกรธเอาไว้ได้ เลยมีวิดีโอแบบนี้ถูกผลิตออกมาเรื่อย ๆ
  • วิดีโอ AI ดูออกได้แม้แค่ดู ประวัติการโพสต์ ของบัญชี เพราะจะโพสต์ถี่เกินไป ซ้ำ ๆ และไม่มีความสอดคล้องทั้งหัวข้อหรือฉากหลัง ต่อให้เทคโนโลยีพัฒนา รูปแบบพวกนี้ก็คงไม่หายไป
  • ช่วงนี้ฉันใช้เวลาในซับเรดดิต RealOrAI มากเกินไป พอทายผิดก็ยิ่งกังวล เลยยิ่งดูมากขึ้นเพื่ออยากแยกให้ออกให้ดีกว่าเดิม แต่ตอนนี้เราอาจต้องยอมรับแล้วว่า โลกที่แยกของจริงกับของปลอมไม่ออก กำลังมาถึง
  • จริง ๆ ความกังวลแบบนี้ไม่ใช่เรื่องใหม่ เมื่อก่อนก็มี ภาพที่ถูกดัดแปลงหรือวิดีโอที่ไร้บริบท เอาไว้สร้างความแตกแยกกันเป็นเรื่องปกติอยู่แล้ว AI แค่ทำให้มันง่ายขึ้นเท่านั้น
  • อยากให้ Google ติดป้ายอัตโนมัติ กับวิดีโอที่มีคอนเทนต์ AI ปนอยู่

• เห็นด้วยเต็มที่กับคำพูดที่ว่า “มันไม่ใช่โซเชียลเน็ตเวิร์ก” แต่ก่อนคำว่า ‘โซเชียลมีเดีย’ หมายถึง พื้นที่ที่ใช้ปฏิสัมพันธ์กับเพื่อนในชีวิตจริง แต่ตอนนี้กลับกลายเป็นคำที่รวมแม้แต่ฟอรัมอย่าง Reddit ไปหมด ผลคือพื้นที่ของปฏิสัมพันธ์ทางสังคมจริง ๆ แทบหายไปแล้ว

  • ตอนนี้สิ่งที่ทำหน้าที่นั้นคือ Discord เพราะเป็นคอมมูนิตี้แบบเชิญเข้า ไม่มีฟีดสาธารณะ และมีคนจริงคอย moderation ด้วยตัวเอง เพื่อนจาก IRC สมัยก่อนของฉันก็ย้ายไป Discord กันหมดแล้ว ถ้าวันหนึ่งมันเข้าตลาดหลักทรัพย์ ก็คงต้องหาทางเลือกอย่าง Matrix มาใช้แทน
  • เดิมที “social media” คือเครือข่ายที่เพื่อน ๆ แชร์คอนเทนต์กันโดยตรง แต่พอ Facebook เปลี่ยนไปเน้น ‘รีแชร์’ มันก็กลายเป็น แพลตฟอร์มเสพคอนเทนต์แบบสุ่ม มากกว่าจะเป็นที่ตามข่าวคราวของเพื่อน HN ไม่มีฟีเจอร์เพื่อน ก็เลยใกล้เคียงกับฟอรัมมากกว่า
  • TikTok กับ Instagram ก็ถูกเรียกว่า ‘โซเชียล’ แต่คนส่วนใหญ่ ไม่ได้โพสต์อะไรเลย เป็นแค่แพลตฟอร์มเสพสื่อเท่านั้น
  • จริง ๆ ฉันก็ไม่เคยใช้ Discord เลยไม่ค่อยรู้เหมือนกัน มันดูเหมือน IRC เวอร์ชันที่บริษัทเป็นคนดูแล ก็เลยไม่เข้าใจว่าทำไมถึงนิยมกันมาก
  • Meta เคยบอกว่ามีผู้ใช้ไม่ถึง 10% ที่ โต้ตอบกับคนที่รู้จักจริง โซเชียลมีเดียทุกวันนี้จึงเป็นแค่ ‘ความบันเทิงแบบเลื่อนฟีด’ เท่านั้น

• การบอกว่าไม่มีใครใช้ ‘em dash(—)’ แล้วนั้นเป็นความเข้าใจผิด ฉันใช้มันบ่อยมากมาตั้งนานแล้ว คำอย่าง “you’re absolutely right” ก็ใช้กันบ่อยในหมู่เพื่อนแบบ ล้อเลียนประชด ๆ สำหรับพวกเราที่โตมาในอังกฤษ มันเป็นสำนวนธรรมชาติ

  • เดี๋ยวนี้แค่ใช้ typography ที่ดี ก็โดนเข้าใจผิดว่าเป็นข้อความที่ LLM เขียนแล้ว ซึ่งน่าหงุดหงิดมาก ฉันใช้ทั้ง en dash กับ em dash มานานแล้ว ถ้าใช้ Compose key ก็พิมพ์ได้ง่าย
  • ปัญหาไม่ได้อยู่ที่ em dash เอง ฉันไม่ใช่เจ้าของภาษาอังกฤษ เลยเคยฝึกเขียนบล็อก และลองใช้หลายแบบเพราะ การเว้นวรรค ทำให้ความรู้สึกต่างกัน สุดท้ายคนส่วนใหญ่ก็ไม่ได้ใช้แบบคงเส้นคงวาอยู่ดี ถ้าใครใช้ไวยากรณ์ได้สมบูรณ์แบบเกินไป กลับยิ่งมีโอกาสเป็น AI มากกว่า
  • อาจเพราะมารยาทแบบอังกฤษด้วย เลยใช้สำนวนอย่าง “you’re right, but…” ได้อย่างเป็นธรรมชาติ
  • ในจดหมายข่าวของร้านหนังสือเราก็ใช้ em dash มัน ดูสะอาดตากว่า semicolon และยังมีประโยชน์ในการแบ่งประโยคด้วย
  • บน iOS แค่กดปุ่ม “-” ค้างไว้ก็พิมพ์ได้ง่าย เลยใช้บ่อย

• มีวิธีง่าย ๆ ในการตรวจสอบว่าภาพถูกสร้างด้วย AI หรือไม่

  • OpenAI ใช้เมตะดาตา C2PA
  • Gemini ใช้ลายน้ำ SynthID
  • SynthID ใช้ได้ไม่ใช่แค่กับภาพ แต่รวมถึงข้อความด้วย และ โค้ดก็เปิดเผยแล้ว
  • แต่ถ้าใช้ โมเดล image-to-image เพิ่มหรือลด noise ก็สามารถลบ SynthID ออกได้
  • ฉันลองเอาภาพจากบล็อกของ OpenAI ไปใส่ในเว็บไซต์ตรวจสอบจริง ๆ แล้ว แต่กลับไม่มีเมตะดาตา แบบนี้ยิ่งทำให้ความน่าเชื่อถือลดลง
  • อย่างไรก็ตาม จุดประสงค์ของ C2PA คือ ‘พิสูจน์ว่าเป็นของจริง’ ไม่ใช่ตรวจสอบได้ทุกคอนเทนต์ แต่ภาพที่ผ่านการรับรองสามารถใช้เป็นหลักฐานทางกฎหมายได้ด้วย

• สุดท้ายแล้วปัญหาตอนนี้ก็คือ โครงสร้างแรงจูงใจของแพลตฟอร์ม

  • YouTube ขับเคลื่อนด้วยยอดวิว, LinkedIn ขับเคลื่อนด้วยการสร้างภาพตัวเอง, HN ขับเคลื่อนด้วยการโปรตสตาร์ตอัป
  • จะสร้าง คอมมูนิตี้ที่ AI ไม่มีประโยชน์อะไรเลย และมีแต่ปฏิสัมพันธ์บริสุทธิ์ระหว่างมนุษย์ได้ไหม?
  • บางทีคำตอบเดียวอาจเป็นแค่ กลุ่มเพื่อนขนาดเล็ก
  • เมื่อก่อนเราคุยกับคนฉลาด ๆ ได้ในฟอรัม phpBB ฟรีหรือใน IRC แต่ตอนนี้เพิ่งตระหนักว่า ต้นทุนการดูแลระบบและภาระ moderation นั้นหนักมาก
  • คอมมูนิตี้แบบนี้ควรถูกจำกัดด้วย Dunbar’s number ถ้าใหญ่เกินกว่านั้นก็อยู่ไม่ได้หากไม่มีกฎและผู้ดูแล
  • ทุกวันนี้แม้วิดีโอที่ไม่ถูกต้องก็ยังเปลี่ยนเป็น ยอดวิวและรายได้โฆษณา ได้อยู่ดี แพลตฟอร์มไม่ต้องรับผิดชอบอะไร
  • ถ้าห้ามโฆษณาไปเลย และแสดงแค่ ฟีดที่เน้นเพื่อนโดยไม่มีฟีดระดับโลก ก็คงพอเป็นไปได้ แต่ UX น่าจะแย่ลง
  • สุดท้ายรากของปัญหาคือ โมเดลอินเทอร์เน็ตที่ขับเคลื่อนด้วยโฆษณา ปัญหาของ Twitter ก็ไม่ใช่แค่ Elon Musk แต่เป็นข้อจำกัดเชิงโครงสร้างนี้มากกว่า

• ฉันไม่คิดว่าการเผยแพร่โค้ดโอเพนซอร์สควรมี หน้าที่ต้องเปิดเผยว่าใช้ AI หรือไม่ ข้อเรียกร้องแบบนั้นมีแต่จะทำลายแรงจูงใจในการสร้างสรรค์ คนแค่อยากแชร์โค้ดที่ตัวเองเขียน ไม่ได้อยากมานั่ง พิสูจน์ว่า ‘ไม่ได้ใช้ AI’

  • แต่บางครั้งผู้เขียนก็ยืนกรานซ้ำ ๆ ว่า “ไม่ได้ใช้ AI” ทั้งที่ในโค้ดยังมี ร่องรอยว่า AI สร้าง อยู่ ทำให้รู้สึกเหมือนกำลังโดน gaslighting

• สงสัยว่ามี แพลตฟอร์มโซเชียลมีเดีย ที่แบน AI ไปเลยไหม อาจจะกันได้ด้วยการดูเมตะดาตาของภาพหรือวิเคราะห์พฤติกรรมผู้ใช้

  • ถ้ามีแพลตฟอร์มแบบนั้นเกิดขึ้น มันคงกลายเป็นสวรรค์ของ Adversarial training
  • Bluesky ไม่ได้แบนอย่างเป็นทางการ แต่ในคอมมูนิตี้ เป็นปฏิปักษ์กับ AI มาก เลยแทบไม่ค่อยมี
  • Vine ที่กำลังกลับมาใหม่บอกว่าจะ แบนคอนเทนต์ AI อย่างชัดเจน
  • ที่อย่าง Mastodon.art ก็แบน AI อย่างชัดเจน
  • สุดท้ายแล้ว แค่ แรงกดดันทางสังคม ก็อาจพอให้เกิดคอมมูนิตี้ที่กัน AI ออกไปได้

• หวังว่าสักวันถ้าคอนเทนต์ออนไลน์ทั้งหมดถูกสร้างโดย AI มนุษย์จะ หันกลับไปหาความจริงในโลกจริง

  • ตอนนี้ก็เริ่มเห็นการเปลี่ยนแปลงแบบนั้นบ้างแล้ว เมื่อก่อนคือ “ไม่มีรูปก็ไม่เชื่อ” แต่ตอนนี้ แม้แต่รูปก็ปลอมได้ เลยถ่ายภาพไว้เป็นแค่ความทรงจำจริง ๆ
  • แต่ในทางกลับกัน ก็เป็นไปได้สูงที่คนจำนวนมากจะ พอใจกับการมีปฏิสัมพันธ์กับ AI
  • ทุกวันนี้เรายังวางโทรศัพท์ไม่ลงอยู่แล้ว ถ้า AI สร้างคอนเทนต์ที่ปรับให้เหมาะที่สุดได้ คนก็คงยิ่งจมลึกกว่าเดิม
  • ถึงอย่างนั้น ความคิดนี้ก็ยังให้ความรู้สึกอบอุ่นดี

• ตอนนี้เราอยู่ในยุคที่ ก้าวข้าม Turing test ไปแล้ว ถ้าแยกมนุษย์กับ AI ไม่ออก นั่นอาจไม่ได้แปลว่า AI ฉลาดขึ้น แต่อาจแปลว่า บทสนทนาออนไลน์ของเรามันตื้นเขิน ก็ได้

  • แต่ Turing test ที่แท้จริงไม่ได้หมายถึงแค่หลอกคนได้ มันหมายถึง ผู้ซักถามแบบโต้ตอบ (interrogator) ต้องแยกไม่ออกด้วย ซึ่ง LLM ตอนนี้ยังไปไม่ถึงระดับนั้น
  • ข้อความมีปริมาณข้อมูลน้อย และมี ความรู้สึกน่าเชื่อถือว่า ‘มนุษย์เป็นคนเขียน’ เลยหลอกกันได้ง่าย ทำให้ AI แบบข้อความอันตรายเป็นพิเศษ ช่วงนี้ฉันเองก็มีบ้างที่คุยโทรศัพท์แล้วไม่แน่ใจว่าอีกฝั่งเป็นคนหรือบอต
  • สุดท้ายแล้ว เราต้องมีมุมมองที่สมดุลแบบ “ในมือข้างหนึ่ง…” “แต่อีกมือข้างหนึ่ง…”

• ฉันเรียกสิ่งนี้ว่า ‘เอฟเฟกต์พรม’ เวลาเห็นวิดีโอหรือโครงสร้างบทสนทนาที่จัดเรียงเป๊ะเกินไป มันจะให้ความรู้สึกว่าถูกสร้างขึ้น แบบพรมโมร็อกโกที่ตั้งใจ ทิ้งความไม่สมบูรณ์ไว้เพื่อให้ดูเป็นมนุษย์ แต่คิดว่า ‘ร่องรอย’ แบบนี้ก็คงหายไปในไม่ช้า