ผมเหมือนจะเป็นบ้าเพราะบอตบน Reddit
(posthuman.blog)- บน Reddit มีโพสต์ที่ถ่ายทอด ความสิ้นหวังแบบมนุษย์ จนได้ประมาณ 6,000 อัปโหวตและคอมเมนต์หลายร้อยรายการ แต่เมื่อตามรอยกิจกรรมของผู้เขียนและลิงก์กลับพบว่าเป็นโพสต์โปรโมตจากบอต
- บัญชีนี้มีรูปแบบ ปั๊มคาร์มา โดยโพสต์วิดีโอสัตว์เลี้ยง เรื่องราวอบอุ่นใจที่นำกลับมาใช้ใหม่ และมีมซ้ำ ๆ วันละหลายโพสต์ โดยไม่คอมเมนต์ตอบ
- ลิงก์
rddit.orgตอนท้ายโพสต์ไม่ใช่ของ Reddit แต่เป็นโดเมนของ บริการย่อลิงก์แบบพรีเมียม ที่จดทะเบียนแบบไม่เปิดเผยตัวตน - ลิงก์ดังกล่าวพาไปยังหนังสือ Propaganda ของ Edward L. Bernays บน Amazon ฉบับภาพประกอบสมัยใหม่ และใน URL มีแท็กแอฟฟิลิเอต
manwithhairwe-20 - กลไกนี้คือ AI บอตใช้ความรู้สึกว่า “อินเทอร์เน็ตพังเพราะ AI บอต” มาสร้างความน่าเชื่อถือ แล้วแอบโปรโมตหนังสือคลาสสิกที่มี ภาพประกอบสร้างโดย AI
ร่องรอยผิดปกติของโพสต์ Reddit ที่ดูเหมือนมนุษย์
- ในฟีด Reddit มีทั้งโพสต์ปลุกอารมณ์โกรธทางการเมือง วิดีโอแมวที่ถูกนำกลับมาใช้ใหม่ โพสต์ความสัมพันธ์แบบชวนดราม่า และมีม wojack เก่า ๆ ปะปนกันไปมากมาย
- ในบรรดานั้น โพสต์ชื่อ
"Anyone else feel like the internet is just… broken now?"กลับได้รับความสนใจเพราะมี อารมณ์ที่เหมือนคนจริง ๆ- โพสต์นี้ได้อัปโหวตเกือบ 6,000 ครั้งและคอมเมนต์หลายร้อยรายการ
- เนื้อหาในโพสต์พูดถึงความรู้สึกว่า ทุกอย่างบนโลกออนไลน์ดูเหมือนโฆษณา การขาย หรือความพยายามทำไวรัล จนไม่เหลืออะไรที่รู้สึกว่าเป็นของจริง
- แต่จังหวะประโยคและสำนวนกลับดูเหมือน ถูกปรับแต่งมาเพื่อเรียกความเห็นอกเห็นใจ มากเกินไป จนทำให้ต้องกดเข้าไปดูโปรไฟล์ผู้เขียน
- โปรไฟล์นั้นเต็มไปด้วยคลิปสัตว์เลี้ยงไวรัล เรื่องราวอบอุ่นใจที่นำกลับมาใช้ใหม่ และมีมที่โพสต์ซ้ำ
- บัญชีนี้ตั้งกระทู้หลายโพสต์ทุกวัน
- ไม่เคยมีส่วนร่วมในคอมเมนต์
- รูปแบบการใช้งานแบบนี้ดูใกล้เคียงกับพฤติกรรมของบอตอย่างชัดเจน
ลิงก์แอฟฟิลิเอตที่ซ่อนอยู่และ Dead Internet Theory
- ในประโยคสุดท้ายของโพสต์ต้นฉบับ มีลิงก์แนบกับข้อความ
"This was written in 1928—it’s incredible how it predicted the moment we’re living in today and where we're heading." - ลิงก์นั้นใช้โดเมน
rddit.orgซึ่งตอนแรกดูเหมือนลิงก์ย่อของ Reddit- อาจทำให้นึกว่าเป็นลิงก์ย่อสำหรับแพลตฟอร์มแบบ
t.coของ Twitter หรือfb.meของ Facebook - แต่เมื่อตรวจสอบ WHOIS พบว่า
rddit.orgไม่ได้เป็นของ Reddit - โดเมนนี้เป็นบริการย่อลิงก์แบบพรีเมียมราคาถูกที่จดทะเบียนแบบไม่เปิดเผยตัวตน
- อาจทำให้นึกว่าเป็นลิงก์ย่อสำหรับแพลตฟอร์มแบบ
- เมื่อกดเข้าไป ลิงก์จะพาไปยังหนังสือคลาสสิก Propaganda ของ Edward L. Bernays บน Amazon ในฉบับภาพประกอบสมัยใหม่
- ใน URL มองเห็นแท็กแอฟฟิลิเอต
manwithhairwe-20 - หนังสือเล่มนี้มีรีวิวอยู่ 13 รายการที่ค่อนข้างธรรมดา
- เมื่อตามไปดูโปรไฟล์ Amazon ของผู้วาดภาพ ก็พบว่าผู้ขายกำลังขายหนังสือที่เติม ภาพสร้างโดย AI ลงในข้อความคลาสสิก
- ใน URL มองเห็นแท็กแอฟฟิลิเอต
- แม้จะมีผู้ใช้หลายร้อยคนเข้ามาตอบในคอมเมนต์ แต่ก็ไม่เห็นใครจับพิรุธการหลอกลวงนี้ได้
- คอมเมนต์ยอดนิยมพูดถึง Dead Internet Theory
- นี่คือความเชื่อที่ว่าปฏิสัมพันธ์ส่วนใหญ่บนอินเทอร์เน็ตเกิดขึ้นในลูปอัตโนมัติระหว่างบอตด้วยกันเอง
- สุดท้ายแล้วจึงกลายเป็นว่า AI บอตทำตัวเหมือนมนุษย์ โอดครวญว่า “อินเทอร์เน็ตพังเพราะ AI บอต” แล้วใช้ความรู้สึกนั้นมาขายหนังสือภาพประกอบ AI ผ่านลิงก์แอฟฟิลิเอต
- ช่วงท้ายของบทความยังบิดประโยคแบบ Orwellian โดยอธิบายอนาคตว่าเป็น “บอตที่ทำให้มนุษย์เศร้าและโกรธเพื่อกระตุ้นให้มีส่วนร่วม แล้วขายคอนเทนต์คุณภาพต่ำที่สร้างโดย AI ไปตลอดกาล”
1 ความคิดเห็น
ความคิดเห็นใน Hacker News
ผมเลิกใช้ Reddit ช่วงเหตุการณ์ API ของ Reddit แต่ก่อนหน้านั้นมันก็เป็น บริการแย่ ๆ ที่ใช้ไปตามความเคยชิน อยู่แล้ว
กระแสความเห็นที่ถูกปั่นพบเห็นได้ทั่วไปเกินไป และรู้สึกเศร้าลึก ๆ ที่อินเทอร์เน็ตยุคก่อนซึ่งเราได้ค้นพบผู้คนและสิ่งต่าง ๆ ที่น่าทึ่งและน่าสนใจทุกวันได้หายไปแล้ว เมื่อก่อนมันเหมือนเวทมนตร์จริง ๆ แต่ตอนนี้ก็แค่น่าเบื่อ
Reddit โดยรวมไม่ได้สนใจความเป็นธรรม และทิศทางที่เว็บไซต์เลือกก็ดูค่อนข้างชัดเจน
เริ่มจากบริษัทหนึ่งทุ่มเงินก้อนใหญ่สร้างชุมชนอินเทอร์เน็ตขึ้นมา สุดท้าย ไม่ว่าจะสมเหตุสมผลหรือไม่ แหล่งเงินก็เหือดแห้ง แล้วความเสื่อมก็เริ่มขึ้นเมื่อโฆษณาและโพสต์คุณภาพต่ำกลายเป็นมาตรฐาน ช่วงแรกผู้คนจะค่อย ๆ มองหาทางเลือกอื่นอย่างช้า ๆ แล้วถึงจุดหนึ่งก็จากไปอย่างรวดเร็วมาก จากนั้นบริษัทใหม่ก็จะคว้าจินตนาการของมวลชนที่ไม่พอใจไว้ได้ และสร้างชุมชนออนไลน์ใหม่ขึ้นมา
ตอนนี้ Reddit อยู่ช่วงท้ายของวงจรเสื่อมนี้แล้ว ไปถึง IPO แล้ว และเจ้าของเดิมก็ทำเงินหลายพันล้านดอลลาร์จากตลาดหุ้นไปแล้ว ดูเหมือนพวกเขาไม่ได้มีใจกับ Reddit อีกต่อไป และถึงเวลามองหาตัวแทนแล้ว
ตัว Reddit เองก็เป็นที่ที่ถูกเลือกอย่างโชคดี ณ จุดที่การอพยพของ LUEsers, Digg และ Slashdot มาบรรจบกัน ก่อนหน้านั้นก็มีชุมชนอย่าง Usenet, BBS, MUD และเพราะเทคโนโลยีเปลี่ยนไปมากในแต่ละรุ่น จึงยากจะคาดเดาว่าอะไรจะดังขึ้นมาต่อไป
piefed federate กับอินสแตนซ์ lemmy ต่าง ๆ และแม้ผมจะไม่ได้เกี่ยวข้องกับโปรเจกต์ใดในสองโปรเจกต์นี้ แต่ก็ดูฟีดได้อย่างเพลิดเพลินมาก
เมื่อก่อนเคยชอบ Reddit แต่ กระแสความเห็นที่ถูกปั่น โดยเฉพาะจากกลุ่มการเมือง กลายเป็นสิ่งที่ทนไม่ไหวแล้ว
หลังการเลือกตั้งครั้งที่ผ่านมา ดูเหมือนกลุ่มการเมืองจะตระหนักว่า subreddit ท้องถิ่นยังถูกใช้ประโยชน์ไม่เต็มที่ แล้วจึงปรับทัพไปทางนั้น ผมยังเชื่อผลการค้นหาบางส่วนที่ค้น Google โดยเติม Reddit อยู่ แต่ความเชื่อนั้นก็กำลังลดลง เธรดแนะนำสินค้า·บริการถูกปั่นได้ง่ายมากจริง ๆ
เคยลองเข้าไปมีส่วนร่วมใน subreddit ความสนใจเฉพาะทางอย่างการทำเบียร์ที่บ้าน อิเล็กทรอนิกส์ และเครื่องดนตรีอยู่บ้าง แต่โดยรวมแล้วน่าผิดหวัง สมมติฐานของผมคือ คนที่บอกว่า Reddit เป็นที่ที่ดีสำหรับงานอดิเรกเฉพาะทาง ไม่เคยสัมผัสฟอรัมแบบเก่าที่มีสมาชิกซึ่งหลงใหลจริง ๆ และมีส่วนร่วมสูง
ช่วง 2–3 ปีมานี้ ปัญหานี้ยิ่งแย่ลงเรื่อย ๆ แต่ถ้าเรื่องมีม Reddit ก็ยอดเยี่ยม และมีบาง subreddit ที่ตลกมากจริง ๆ อย่างไรก็ตาม ผมแทบไม่ได้มีส่วนร่วม แค่เสพอย่างเดียว
ดังนั้นถ้าปั่น subreddit เกิน 100 แห่ง ก็สามารถรับประกันกับลูกค้าได้ว่าโพสต์ของพวกเขาจะปรากฏบนหน้าแรก r/all ของทุกคน
เมื่อก่อน ถ้าแชร์แนวคิดที่ได้รับการยอมรับอย่างกว้างขวางที่นั่นมาตลอดหลายปีแม้เพียงเล็กน้อย ตอนนี้จะถูกถล่ม ถูกเยาะเย้ย และถูก downvote จนหายไป
ระดับการปั่น ที่เล็งไปยัง subreddit นั้นโจ่งแจ้งและเห็นได้ชัดจนพิสูจน์ได้ เหมือนมีใครสักคนที่ไหนสักแห่งใส่มันเข้าไปในรายชื่อ subreddit เป้าหมาย แต่จะบอกได้อย่างไรว่าช่องทางนั้นถูกทำลายแล้ว ในเมื่อช่องทางสื่อสารเองก็ถูกทำลายไปแล้ว
คนส่วนใหญ่ดูเหมือนจะไม่สังเกตเห็นการปั่นการสื่อสารแบบนี้เลย และมันก็ซับซ้อนขึ้นถึงขนาดนั้น บัญชีบอตเมื่อก่อนจับได้ง่ายกว่านี้มาก แต่ตอนนี้ประวัติบัญชีถูกสะสมไว้อย่างแนบเนียน และโพสต์ก็แทบแยกไม่ออกจากมนุษย์ แน่นอนว่าไม่ใช่การปั่นทั้งหมดจะเป็นบอตหรือ AI ยังมีแคมเปญประชาสัมพันธ์แบบจัดตั้ง บัญชีปลอม และการปั่นที่ใช้คนจริง ๆ ขับเคลื่อนอยู่ด้วย
คนฉลาด ๆ ออกไปยังที่ต่อไปกันแล้ว แต่ที่นั่นก็คงไม่ได้รับอนุญาตให้เติบโตจนใหญ่พอหรือมีความหมายพอ ก่อนที่ท่อดับเพลิงแห่งโฆษณาชวนเชื่อจะถูกเปิดใส่ในที่สุด หากจะแก้ไข ต้องมีกรอบการสื่อสารที่แตกต่างไปโดยสิ้นเชิง
ใครก็ตามที่เขียนอะไรไม่ตรงกับความเห็นยอดนิยมของ Reddit ก็จะเรียนรู้ในไม่ช้าว่าจะถูก downvote อย่างรวดเร็ว ถ้าไปแตะประเด็นอ่อนไหว ก็จะได้รับข้อความส่วนตัวที่โกรธเกรี้ยว หรือมีคนไปขุดประวัติโพสต์แล้วลากคอมเมนต์เก่า ๆ เข้ามาเถียงด้วย
ฟอรัมขนาดใหญ่ก็เป็นแบบนี้มาเสมอ ถูกกำหนดโดยผู้ใช้ส่วนน้อยที่มีเวลามากที่สุดในการโพสต์ทั้งวัน บางครั้งเวลาผมได้รับคำตอบที่โกรธเป็นพิเศษใน Reddit แล้วสงสัยจนกดเข้าไปดูโปรไฟล์ ก็มักพบว่าเป็นคนที่คอมเมนต์ต่อเนื่องมาตลอด 10 ชั่วโมงที่ผ่านมา คุณไม่สามารถแข่งกับคนที่มีเวลาว่างไม่จำกัดและมีความโกรธให้ระบายออกมาได้ สุดท้ายพวกเขาก็ประสานกันผลักไสความเห็นอื่นออกไป
โดเมน posthuman.blog เพิ่งจดทะเบียนเมื่อวานนี้เอง คือวันที่ 12 เมษายน วันที่บทความนี้ถูกเขียน — https://www.whois.com/whois/posthuman.blog
และบทความที่นั่นมีแค่สองชิ้นเท่านั้น โดยบทความแรกถูกทำให้ดูเหมือนเขียนขึ้นในเดือนกรกฎาคม 2022 เมื่อดูทั้งหมดนี้แล้ว จึงเกิด ข้อสงสัยอย่างมีเหตุผล ว่าคนนี้อาจเป็นคนที่สร้างโพสต์ที่ตัวเองกำลังบ่นถึงขึ้นมาเองจริง ๆ
ถ้าเป็นเด็กผู้หญิงในโฆษณา Old El Paso เธอน่าจะมีอะไรจะพูดเกี่ยวกับเรื่องนี้
ถ้าดูรายงานของ Oxford ปี 2020 เรื่องการปั่นโดยผู้มีบทบาทระดับรัฐ ปัญหานี้กว้างขวางมหาศาล 57 ประเทศ ใช้บัญชีบอต และ 79 ประเทศ ใช้บัญชีโฆษณาชวนเชื่อที่เป็นมนุษย์
ผมมองว่านี่ติด 5 อันดับแรกของปัญหาเร่งด่วนที่สุดในยุคเราเลย ผมเกลียดจริง ๆ ที่รัฐบาลแจ้งให้สาธารณชนรู้เรื่องนี้น้อยเกินไป
https://www.ox.ac.uk/news/2021-01-13-social-media-manipulati... (ข่าวประชาสัมพันธ์)
https://demtech.oii.ox.ac.uk/wp-content/uploads/sites/12/202... (รายงานฉบับจริง น่าสนใจมาก และถ้าเดือนนี้จะอ่านรายงานแค่ฉบับเดียว ขอแนะนำฉบับนี้ รายงานเจาะลึกว่าหน่วยไซเบอร์ของแต่ละประเทศเกี่ยวข้องกับภาคส่วนใดบ้าง เช่น รัฐ อินฟลูเอนเซอร์ พรรคการเมือง NGO ฯลฯ และใช้มนุษย์หรือบอต)
อื่น ๆ: การควบคุมสื่อของรัฐบาลกำลังเพิ่มขึ้นทั่วโลก
https://digitalcontentnext.org/blog/2024/10/22/government-co...
ผมก็ไม่ชอบฟีดใหม่ของ Facebook เหมือนกัน มันเคี้ยวเอื้องขยะเรียกคลิกและยั่วโมโหไม่รู้จบ
ชุมชนจริงบนออนไลน์ที่ดีที่สุดเท่าที่ผมรู้จักคือ Heavyequipmentforums.com และ newagtalk.com เพียงแต่การหาฟอรัมจริง ๆ แบบนี้ผ่าน Google Search ไม่ใช่เรื่องง่าย ผลิตภัณฑ์ที่คุณภาพตกลงมากที่สุดตามกาลเวลาอาจเป็น Google Search และพูดตรง ๆ ปัญหาทั้งหมดข้างต้นก็อาจมองได้ว่าเกิดจากคุณภาพผลลัพธ์ของ Google ที่ตกต่ำลง
หลังเหตุการณ์ Reddit API เมื่อ 2 ปีก่อน สถานการณ์แย่ลงเร็วมากจริง ๆ ตอนนี้ทุกอย่างจืดชืดขึ้น คอมเมนต์ที่มี insight ลดลง ส่วนคอมเมนต์ที่ย่ำแย่และเป็นพิษกลับเพิ่มขึ้น
ส่วนใหญ่เข้าไปเพราะความเคยชิน แต่พอดูแล้วโดยรวมมักรู้สึกแย่ลง เมื่อก่อนมันไม่เป็นแบบนี้
แม้แต่ชุมชนอย่าง r/woodworking ที่เมื่อก่อนมีแต่คนใจดีรวมตัวกันก็เป็นแบบนั้นเหมือนกัน ไม่เข้าใจว่าเป็น ช่างไม้ แล้วในเวลาเดียวกันจะเป็นพิษได้ขนาดนั้นอย่างไร แน่นอนว่าบางทีก็มีคนที่เอาค้อนทุบโดนนิ้วโป้งตัวเองบ้าง แต่นั่นเป็นข้อยกเว้น
แหล่งข้อมูลที่เกี่ยวข้อง: “Containment Control for a Social Network with State-Dependent Connectivity” (2014), Air Force Research Laboratory, Eglin AFB: https://arxiv.org/pdf/1402.5644.pdf
หรือที่เรียกว่า “Most-Addicted City” ของ Reddit ปี 2013: https://web.archive.org/web/20160604042751/http://www.reddit...
มีคนจำนวนมหาศาลที่ได้รับเงินจริง ๆ เพื่อทำตามสคริปต์บทสนทนาและผลักดัน narrative
บางครั้งก็อดสงสัยไม่ได้ว่าสมาชิกที่ลืมไปว่าตัวเองโพสต์เรื่องเดียวกันเมื่อหนึ่งวันก่อน จริง ๆ แล้วอาจเป็นบอตหรือเปล่า ;)
https://news.ycombinator.com/item?id=43664383
อะไรคือของจริงกันแน่… หรือผมก็เป็นแค่บอต?
พระเจ้า… ผมเป็นบอตนี่เอง
ถ้า Reddit มาถึงจุดที่สร้างความหงุดหงิดมากกว่าความสนุก ก็แค่เรียนรู้วิธีปิดมันเสีย ต้องรักษา อาการเสพติด
อยู่พักหนึ่งผมใช้แต่ Hacker News แล้วต่อมาก็เริ่มใช้ TikTok ก็ไม่ได้แย่ แต่ต้องระวังเพราะบางทีฟีดก็พยายามป้อนคอนเทนต์ที่ทำให้สมองเน่าให้ดู
มนุษย์โปรแกรมมนุษย์ด้วยกันมาตั้งแต่ยุคแรกเริ่ม และแม้จะถกเถียงกันได้ แต่สปีชีส์อื่น ๆ ก็ทำแบบนั้นเช่นกัน[0]
ที่น่าขันอย่างยอดเยี่ยมคือ affiliate link ดันเป็นหนังสือว่าด้วยหัวข้อนี้พอดี LLM คือเครื่องจักรมีมอย่างแท้จริง และเป็นสิ่งที่ดีที่สุดที่เราสร้างขึ้นมาในด้านนี้จนถึงตอนนี้
มนุษย์ที่เลียนแบบมนุษย์คนอื่นเหมือนนกแก้วต่างจากบอตอย่างไร?
การมีเจตจำนงในการกระทำ+ความแปลกใหม่คือ Turing test เวอร์ชันใหม่หรือเปล่า?
[0] https://www.scientificamerican.com/article/bonobo-calls-are-...
โพสต์อื่น ๆ ของบัญชีนั้นก็เป็นการนำโพสต์เก่า ๆ ที่เคยได้ผลดีมาก่อนกลับมาใช้ใหม่เช่นกัน คำอธิบายที่เรียบง่ายที่สุดคืออันนี้ก็น่าจะเป็นแบบนั้นด้วย
สิ่งที่น่าสนใจก็คือ ในจินตนาการยุคทองของ SF แบบ Asimov เกี่ยวกับยุคของเครื่องจักรอัจฉริยะ มักวาดภาพสิ่งมีชีวิตจักรกลที่มีตรรกะสูงสุด คำนวณและอนุมานอย่างเยือกเย็น แต่สิ่งที่เราสร้างขึ้นจริงกลับเป็นตัวสร้างข้อความที่พร่าเลือนและขึ้นกับบรรยากาศ ซึ่งถนัดอย่างยิ่งในการผลิตข้อความขยะเชิงบงการ บางทีนี่อาจไม่ใช่เรื่องบังเอิญ แต่อาจสะท้อนทิศทางทั่วไปบางอย่างของสติปัญญาขั้นสูงก็ได้
กำแพงในการเข้าสู่สนามต่ำเกินไป และฝูงปลาก็ใหญ่เกินไป ผู้คนจึงออกไปตกปลา เงินหาได้ง่ายเกินไป
ดังนั้นจริง ๆ แล้วแทบไม่มีทางแก้ มีแค่ ถอนตัวออกมา จากที่อย่าง Reddit เท่านั้น