คุณคิดอย่างไรกับ Community Notes?

 (archive.md)
2 คะแนน โดย GN⁺ 2023-08-29 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Community Notes คือ เครื่องมือตรวจสอบข้อเท็จจริง ที่เพิ่มบริบทให้กับทวีตเพื่อแก้ไขข้อมูลเท็จ โดยเริ่มนำร่องครั้งแรกในชื่อ Birdwatch เมื่อเดือนมกราคม 2021 ก่อนจะค่อย ๆ ขยายการใช้งาน
  • ไม่ใช่ระบบของกลุ่มผู้เชี่ยวชาญ แต่เป็นโครงสร้างที่ ใครก็เขียนและโหวตได้ และการตัดสินว่าโน้ตใดจะแสดงผลนั้นถูกกำหนดทั้งหมดโดย อัลกอริทึมโอเพนซอร์ส
  • แกนสำคัญไม่ใช่ค่าเฉลี่ยแบบง่าย ๆ แต่เป็นวิธีที่ให้ความสำคัญกับ โน้ตที่ได้รับการประเมินเชิงบวกพร้อมกันจากผู้ใช้ที่มีมุมมองหลากหลาย ทำให้โน้ตที่ได้รับฉันทามติข้ามขั้วได้คะแนนสูง
  • แกนการเมืองซ้าย-ขวาไม่ได้ถูก hardcode ไว้ล่วงหน้า แต่ถูก ค้นพบแบบเกิดขึ้นเอง จากการวิเคราะห์ผู้ใช้และโน้ต และสามารถดาวน์โหลดข้อมูลกับโค้ดมาตรวจสอบผลลัพธ์ได้ด้วยตนเอง
  • เป้าหมายไม่ใช่การแก้ไขทุกทวีตที่เป็นเท็จ แต่เป็นเครื่องมือเชิงการศึกษา ที่ช่วยเตือนว่ามีหลายมุมมองอยู่เสมอ และเข้าใกล้อุดมคติของ credible neutrality

เบื้องหลัง: ฟีเจอร์ที่เติบโตท่ามกลางความปั่นป่วนของ Twitter X

  • ในช่วง 2 ปีที่ผ่านมา หลัง Elon Musk เข้าซื้อ Twitter ด้วยมูลค่า 4.4 หมื่นล้านดอลลาร์ แพลตฟอร์มได้เผชิญการเปลี่ยนแปลงครั้งใหญ่ทั้งด้าน บุคลากร การกลั่นกรองเนื้อหา และโมเดลธุรกิจ
  • ท่ามกลางความเปลี่ยนแปลงอันเป็นที่ถกเถียงนี้ ฟีเจอร์ใหม่ตัวหนึ่งกลับมีความสำคัญเพิ่มขึ้นอย่างรวดเร็ว และ ได้รับคำชมจากคนทุกแนวทางการเมือง
    • ช่วงเข้าซื้อกิจการตรงกับช่วงขยายฟีเจอร์อย่างรวดเร็วที่สุดพอดี
    • มักปรากฏบนทวีตที่เข้าถึงผู้ชมจำนวนมาก โดยเฉพาะในประเด็นอ่อนไหวทางการเมือง
  • เมื่อมีโน้ตแนบ ผู้คนจากแนวคิดทางการเมืองที่หลากหลายต่างเห็นตรงกันว่า มีประโยชน์และมีคุณค่า
  • แม้จะไม่ใช่ “โปรเจกต์คริปโต” แต่ก็ถูกมองว่าเป็นหนึ่งในตัวอย่างจากโลกกระแสหลักที่ใกล้เคียงกับ “คุณค่าของคริปโต (crypto values)” มากที่สุด
    • ไม่ใช่ผู้เชี่ยวชาญที่คัดเลือกจากศูนย์กลาง แต่ใครก็เขียนและโหวตได้
    • การแสดงผลถูกกำหนดทั้งหมดโดยอัลกอริทึมโอเพนซอร์ส

อัลกอริทึมของ Community Notes ทำงานอย่างไร

  • หากเป็น บัญชี Twitter ที่ผ่านเกณฑ์บางอย่าง (ใช้งานเกิน 6 เดือน, ไม่มีการละเมิดกฎล่าสุด, ยืนยันหมายเลขโทรศัพท์แล้ว) ก็สามารถสมัครเข้าร่วมได้

    • ตอนนี้ยังทยอยอนุมัติแบบสุ่มอย่างช้า ๆ และมีแผนจะเปิดให้ทุกคนที่ผ่านเกณฑ์เข้าร่วมได้ในที่สุด
    • ช่วงแรกจะให้ประเมินโน้ตของคนอื่นก่อน และหากสะสมการประเมินที่ดีได้มากพอ ก็จะสามารถ เขียนโน้ตเองได้

  • โน้ตที่ถูกเขียนขึ้นจะได้รับคะแนนจากการรีวิวของผู้เข้าร่วมคนอื่น

    • รีวิวอยู่ในรูปแบบการโหวต 3 ระดับ คือ HELPFUL, SOMEWHAT_HELPFUL, NOT_HELPFUL พร้อมแท็กเพิ่มเติม
    • ถ้าคะแนน เกิน 0.40 โน้ตจะแสดงผล ถ้าไม่ถึงก็จะไม่แสดง

  • ความแปลกใหม่ของการคำนวณคะแนน

    • ไม่ใช่ผลรวมหรือค่าเฉลี่ยธรรมดา แต่ให้ความสำคัญอย่างชัดเจนกับโน้ตที่ได้รับ การประเมินเชิงบวกจากคนที่มีมุมมองต่างกัน
      • หากคนที่ปกติให้คะแนนไม่ตรงกันกลับเห็นพ้องกับโน้ตใด โน้ตนั้นจะได้ คะแนนสูงเป็นพิเศษ
    • มีการสร้างเมทริกซ์ผู้ใช้×โน้ต M โดยแต่ละช่อง Mi,j แทนว่าผู้ใช้คนที่ i ประเมินโน้ตที่ j อย่างไร
      • ผู้ใช้ส่วนใหญ่ไม่ได้ประเมินโน้ตส่วนใหญ่ ทำให้เมทริกซ์ส่วนมากเป็น 0 แต่ก็ไม่เป็นปัญหา
    • ใช้โมเดล 4 คอลัมน์เพื่อทำนายเมทริกซ์ โดยให้ผู้ใช้มี “friendliness” และ “polarity” และให้โน้ตมี “helpfulness” และ “polarity”

  • ความหมายของตัวแปร

    • μ คือพารามิเตอร์ “บรรยากาศโดยรวมของสาธารณะ” ที่สะท้อนว่าผู้ใช้โดยรวมให้คะแนนสูงแค่ไหน
    • iu คือแนวโน้มที่ผู้ใช้บางคนจะให้คะแนนสูงเป็นพิเศษ (friendliness)
    • in คือแนวโน้มที่โน้ตบางชิ้นจะถูกประเมินสูง (helpfulness) และเป็น ตัวแปรที่ต้องการสนใจที่สุดในท้ายที่สุด
    • fu/fn คือจุดยืนบนแกนหลักของความแตกแยกทางการเมือง (polarity) โดยค่าลบคือเอนซ้ายโดยประมาณ และค่าบวกคือเอนขวา
      • แต่แนวคิดซ้าย-ขวา ไม่ได้ถูก hardcode ไว้ล่วงหน้า แต่เกิดขึ้นจากการวิเคราะห์

  • แนวคิดหลัก

    • ใช้ gradient descent มาตรฐานเพื่อหาค่าที่เหมาะสมที่สุดในการทำนายเมทริกซ์ และค่าความมีประโยชน์ของโน้ตคือคะแนนสุดท้าย
    • พจน์ polarity ทำหน้าที่ดูดซับคุณสมบัติที่ถูกใจแค่บางกลุ่ม ขณะที่พจน์ helpfulness วัดเฉพาะคุณสมบัติที่ทุกคนชอบร่วมกัน
      • ดังนั้นการเลือกจาก helpfulness จึงช่วยระบุ การยอมรับข้ามขั้ว และกันโน้ตที่มีเพียงฝ่ายเดียวเชียร์ออกไป

  • กลไกเพิ่มเติมที่ซ้อนอยู่บนแนวคิดหลัก

    • เติม “คะแนนโหวตสุดขั้วจำลอง” แบบสุ่มแล้วรันหลายครั้ง จากนั้นนำ ช่วงความเชื่อมั่นด้านล่าง ไปเทียบกับเกณฑ์ 0.32
    • หากผู้ใช้จำนวนมากที่มี polarity ใกล้กันให้ Not Helpful พร้อมแท็กเดียวกัน (เช่น “ถ้อยคำขัดแย้ง/ลำเอียง”, “แหล่งอ้างอิงไม่รองรับโน้ต”) เกณฑ์การเผยแพร่จะ ขยับจาก 0.4 เป็น 0.5 ซึ่งมีผลมากในทางปฏิบัติ
    • หลังโน้ตได้รับการอนุมัติแล้ว หากจะถูกถอดออก ค่าความมีประโยชน์ต้องลดลง ต่ำกว่าเกณฑ์อนุมัติอีก 0.01 จุด
    • ยังมีการรันซ้ำด้วยหลายโมเดลอีกจำนวนมาก ทำให้โน้ตที่มีคะแนนเดิมอยู่ระหว่าง 0.3–0.4 บางชิ้นถูกเลื่อนขั้นได้
    • รวมแล้วเป็นโค้ด Python ที่ซับซ้อน 6,282 บรรทัดใน 22 ไฟล์ และทั้งหมดเปิดเผยต่อสาธารณะ สามารถรันและตรวจสอบได้เอง

รูปแบบการทำงานจริง

  • แนวคิดสำคัญที่สุดที่ทำให้ต่างจากค่าเฉลี่ยธรรมดาคือ ค่า polarity ซึ่งใช้ตัวอักษร f จาก factor เพราะเป็นการคูณกันของสองพจน์ (fu, fn)

    • ทั้งผู้ใช้และโน้ตต่างก็มีค่า polarity โดยความเชื่อมโยงระหว่าง user ID กับบัญชีจริงถูกเก็บเป็นความลับโดยตั้งใจ ส่วนค่าในฝั่งโน้ตเปิดเผย
    • ในชุดข้อมูลภาษาอังกฤษ ค่า polarity สอดคล้องกับ สเปกตรัมการเมืองซ้าย-ขวา อย่างใกล้เคียงมาก

  • ตัวอย่างโน้ตใกล้ค่า polarity -0.8

    • ว่าด้วยการที่นักการเมืองอนุรักษนิยมจากโคโลราโดอย่าง Lauren Boebert ขยายวาทกรรมต่อต้านคนข้ามเพศ (-0.800)
    • ว่า Trump บ่อนทำลายความเชื่อมั่นของชาวอเมริกันต่อผลการเลือกตั้งปี 2020 อย่างชัดเจน (-0.825)
    • ว่าการเลือกตั้งปี 2020 เป็นการเลือกตั้งที่เสรีและยุติธรรม (-0.818)
    • ทั้งสามรายการนี้ไม่ได้คัดมาเอง แต่เป็น 3 แถวแรก ที่มีค่า polarity (coreNoteFactor1) ต่ำกว่า -0.8 จากการรันในเครื่อง

  • ตัวอย่างโน้ตใกล้ค่า polarity +0.8

    • ส่วนใหญ่เกี่ยวกับการเมืองบราซิลภาษาโปรตุเกสหรือการโต้แย้งคำวิจารณ์ Tesla จึงหยิบบางส่วนมา
    • ว่าในปี 2021 เด็ก “ผิวดำ” 64% อาศัยอยู่ในครอบครัวพ่อหรือแม่เลี้ยงเดี่ยว (+0.809)
    • ว่าการค้ามนุษย์เด็กเป็นปัญหาใหญ่ที่มีอยู่จริง และ Operation Underground Railroad กำลังรับมือ (+0.840)
    • ว่าหนังสือเด็ก LGBTQ+ ที่ถูกแบนเป็นสื่อลามกและไม่ได้รับการคุ้มครองภายใต้เสรีภาพในการแสดงออกตามรัฐธรรมนูญ (+0.806)
    • เพราะ ความแตกแยกซ้าย-ขวาไม่ได้ถูก hardcode แต่ถูกค้นพบขึ้นเอง เมื่อนำไปใช้กับวัฒนธรรมอื่น ระบบก็อาจตรวจจับและเชื่อมโยงความแตกแยกหลักทางการเมืองของสังคมนั้นโดยอัตโนมัติได้เช่นกัน

  • โน้ตที่มี helpfulness สูงสุด

    • สามารถเห็นได้จริงบน Twitter และแคปภาพไว้ได้โดยตรง
    • ตัวอย่างที่สองแตะประเด็นพรรคพวกมากกว่าอย่างชัดเจน แต่ก็ยังได้คะแนนสูงเพราะชัดเจน มีคุณภาพ และเป็นประโยชน์
    • ดูเหมือนว่าอัลกอริทึมทำงานจริง และความสามารถในการรันโค้ดเพื่อตรวจสอบผลลัพธ์ก็ทำงานจริงเช่นกัน

การประเมินอัลกอริทึม

  • สิ่งที่น่าประทับใจที่สุดจากการวิเคราะห์คือ ความซับซ้อน โดยมีทั้งเวอร์ชันในงานวิชาการ (gradient descent ของสมการเวกเตอร์/เมทริกซ์ 5 พจน์) และเวอร์ชันใช้งานจริงที่มีค่าสัมประสิทธิ์เฉพาะจำนวนมาก

    • แม้แต่เวอร์ชันวิชาการก็ซ่อนความซับซ้อนไว้ภายใน เพราะมีพจน์กำลังสอง fu∗fn และฟังก์ชันต้นทุนแบบ squared error จึงกลายเป็น สมการดีกรี 4
    • สมการดีกรี 4 อาจมีหลายคำตอบ ทำให้ gradient descent อาจไปจบที่คำตอบต่างกันในแต่ละครั้ง
      • การเปลี่ยนแปลงเล็กน้อยของอินพุตอาจ พลิกไปมาระหว่าง local minima และเปลี่ยนเอาต์พุตอย่างมาก

  • อัลกอริทึมแบบนักเศรษฐศาสตร์ vs แบบวิศวกร

    • เมื่อเทียบกับงานอย่าง quadratic funding ความต่างนี้ให้ความรู้สึกเหมือนการแยกระหว่าง อัลกอริทึมของนักเศรษฐศาสตร์กับอัลกอริทึมของวิศวกร
      • อัลกอริทึมของนักเศรษฐศาสตร์: เรียบง่าย วิเคราะห์ง่าย พิสูจน์คุณสมบัติทางคณิตศาสตร์เรื่องความเหมาะสมที่สุดและขอบเขตความเสียหายจากการโจมตีได้ และไม่พังแบบหมดรูปเมื่อเจอสถานการณ์ไม่คาดคิด
      • อัลกอริทึมของวิศวกร: เป็นผลจากการลองผิดลองถูกซ้ำ ๆ ใช้งานได้จริงและทำงานได้
    • สุนทรียะของ “theorycel” ในโลกคริปโตมีความจำเป็นต่อการแยกแยะระหว่าง โปรโตคอลที่ไม่ต้องพึ่งความไว้วางใจจริง ๆ กับโครงสร้างที่ดูดีภายนอกแต่ภายในต้องเชื่อผู้มีอำนาจรวมศูนย์ หรือไม่ก็เป็นการหลอกลวง
    • Deep learning ทำงานได้เมื่อมันทำงาน แต่ก็ เปราะบางต่อการโจมตีแบบ adversarial machine learning ดังนั้นคำถามหนึ่งคือจะทำให้ Community Notes เข้าใกล้อัลกอริทึมแบบนักเศรษฐศาสตร์มากขึ้นได้หรือไม่

  • กรณีของ pairwise-bounded quadratic funding

    • เป็นการออกแบบเพื่อปิดช่องโหว่ใน quadratic funding ทั่วไป ที่ผู้เข้าร่วมเพียงสองคนก็สามารถสมคบกันดูดเงินทั้งกองไปยังโปรเจกต์ปลอมได้
    • สำหรับผู้เข้าร่วมแต่ละคู่จะมีงบจำกัด M และเงินอุดหนุนแก่โปรเจกต์ที่ A กับ B สนับสนุนร่วมกันจะถูกหักจากงบของคู่ (A,B)
      • แม้จะมีผู้สมคบกัน k คน มูลค่าสูงสุดที่ขโมยได้ก็ยังถูกจำกัดไว้ที่ k∗(k−1)∗M
    • แต่ใน Community Notes ผู้ใช้แต่ละคนโหวตน้อยมาก และผู้ใช้สองคนแทบไม่มีโน้ตร่วมที่เคยโหวตเหมือนกัน จึงนำแนวทางนี้มาใช้ตรง ๆ ไม่ได้
      • เป้าหมายของโมเดลแมชชีนเลิร์นนิงก็คือ เติมเมทริกซ์จากข้อมูลที่เบาบาง และถ้าจะไม่ให้ผลลัพธ์สั่นคลอนจากคะแนนโหวตไม่กี่อันที่เป็นอันตราย ก็ต้องใช้ความพยายามเพิ่มอีกมาก

  • Community Notes ลดการแบ่งขั้วได้จริงหรือไม่

    • แม้แต่การโหวตแบบ naive ก็ช่วยลดการแบ่งขั้วได้ระดับหนึ่งอยู่แล้ว (โพสต์ที่มีเห็นด้วย 200 และไม่เห็นด้วย 100 ย่อมต่ำกว่าโพสต์ที่มีเห็นด้วย 200 ล้วน ๆ)
    • ในเชิงนามธรรมตัดสินได้ยาก จึงลองเขียนแบบจำลองอย่างง่ายแล้วรันเอง 100 รอบ
      • กลุ่ม 1 (ดี): 0.300, กลุ่ม 2 (ดีแต่แบ่งขั้วมากกว่า): 0.217, กลุ่ม 3 (กลาง): 0.094, กลุ่ม 4 (แย่): -0.152
      • “ดี” หมายถึงฝั่งเดียวกัน +2 ฝั่งตรงข้าม +0 ส่วน “ดีแต่แบ่งขั้วมากกว่า” คือ +4 และ -2 ซึ่งมีค่าเฉลี่ยเท่ากันแต่ polarity ต่างกัน
    • ผลคือโน้ตแบบ “ดี” มีค่า helpfulness เฉลี่ยสูงกว่าโน้ตแบบ “ดีแต่แบ่งขั้วมากกว่า” จริง
    • ยิ่งอัลกอริทึมเข้าใกล้แบบนักเศรษฐศาสตร์มากขึ้น ก็ยิ่งมีข้อดีตรงที่อธิบายหลักการลงโทษความแบ่งขั้วได้ชัดเจนขึ้น

ประโยชน์ในสถานการณ์ความเสี่ยงสูง

  • ราวหนึ่งเดือนก่อน Ian Bremmer ตั้งข้อสังเกตว่าโน้ตเชิงวิจารณ์ที่ติดอยู่กับทวีตของเจ้าหน้าที่รัฐบาลจีน ถูกลบออกไป

    • ต่างจากการทดลองขนาดเล็กในชุมชน Ethereum นี่คือประเด็นการเมืองและภูมิรัฐศาสตร์ที่กระทบผู้คนนับล้าน จนทุกคนพร้อมจะสมมติความมุ่งร้ายในระดับสูงสุด
    • เพราะ Elon มีผลประโยชน์ทางธุรกิจในจีนมาก จึงมีช่องให้เกิดข้อสงสัยเรื่อง การแทรกแซงแบบรวมศูนย์

  • ตรวจสอบเองได้ด้วยโอเพนซอร์ส

    • ใช้ tweet ID ต้นฉบับ 1676157337109946369 ไปหาแถวของโน้ตนั้นในข้อมูลที่ดาวน์โหลดมา จนพบ note ID 1676391378815709184
    • เมื่อค้นใน scored_notes.tsv และ note_status_history.tsv พบว่าสถานะปัจจุบันคือ NEEDS_MORE_RATINGS ส่วนก่อนหน้านี้เคยเป็น CURRENTLY_RATED_HELPFUL
      • แปลว่า อัลกอริทึมเคยแสดงโน้ตนั้นก่อน แล้วค่อยถอดออกเมื่อคะแนนตกลง โดยไม่เห็นร่องรอยการแทรกแซงจากศูนย์กลาง
    • เมื่อนำ ratings-00000.tsv มาเรียงตามเวลาและดู 50 โหวตแรก พบว่าเป็น HELPFUL 40 โหวต และ NOT_HELPFUL 9 โหวต
      • แปลว่า ผู้ชมชุดแรกเป็นมิตรกว่าผู้ชมชุดหลัง ทำให้คะแนนเริ่มสูงแล้วค่อยลดลง
    • กระบวนการเปลี่ยนสถานะไม่ได้เกิดจากแค่การผ่านเกณฑ์ธรรมดา แต่เพราะ NOT_HELPFUL จำนวนมากไปกระตุ้นเงื่อนไข outlier จนคะแนน helpfulness ที่ต้องการสูงขึ้น
      • หากอัลกอริทึมที่เป็นกลางอย่างน่าเชื่อถือจะได้รับ ความไว้วางใจจริง ก็ควรรักษาความเรียบง่ายไว้ และต้องอธิบายการเปลี่ยนสถานะได้อย่างง่ายและชัดเจน

  • ความเปราะบางต่อ brigading

    • มีความเป็นไปได้ที่จะเกิด brigading คือคนที่ไม่ชอบโน้ตระดมชุมชนที่มีส่วนร่วมสูงหรือบัญชีปลอมจำนวนมากมากด NOT_HELPFUL ใส่
      • จำนวนโหวตที่ต้องใช้เพื่อทำให้โน้ตตกจาก “มีประโยชน์” เป็น “แบ่งขั้ว” อาจไม่มากอย่างที่คิด
    • ข้อเสนอปรับปรุงคือไม่ให้ทุกคนโหวตโน้ตอะไรก็ได้ แต่ให้ สุ่มแจกโน้ตผ่านฟีด “For you” และให้ประเมินได้เฉพาะโน้ตที่ถูกมอบหมาย

  • หรือ Community Notes ยัง “กล้า” ไม่พอ

    • คำวิจารณ์หลักคือมัน ทำน้อยเกินไป ซึ่งมีบทความล่าสุดสองชิ้นชี้ประเด็นนี้
      • การที่โน้ตจะเผยแพร่ได้ ต้องมี ฉันทามติทางอุดมการณ์ จากทั่วสเปกตรัมการเมือง และในสภาพแวดล้อมที่ยิ่งนับวันยิ่งแบ่งฝักแบ่งฝ่าย “ฉันทามติข้ามพรรคต่อความจริง” แทบเป็นไปไม่ได้
    • ถึงอย่างนั้นก็ยังมีจุดยืนว่า พลาดทวีตเท็จไปสิบอัน ยังดีกว่าปล่อยโน้ตที่ไม่เป็นธรรมออกไปหนึ่งอัน
      • การ fact-check แบบแข็งกร้าวที่เชื่อว่า “เรารู้ความจริง และอีกฝ่ายโกหกบ่อยกว่า” สุดท้ายจะนำไปสู่ความไม่ไว้วางใจในตัวการ fact-check เองอย่างกว้างขวาง
      • การสร้าง สถาบันข้ามขั้วที่ทุกฝ่ายยังพอเคารพ มีคุณค่า และตามคติของ William Blackstone ระบบควรทำบาปจากการไม่ลงมือมากกว่าการลงมือผิด จึงจะรักษาความนับถือไว้ได้
    • เป้าหมายไม่ใช่ให้ทุกทวีตเท็จ หรือแม้แต่ส่วนใหญ่ของทวีตเท็จ ได้รับโน้ตแก้ไข
      • ต่อให้ มีไม่ถึง 1% ของทวีตเท็จที่ได้โน้ต ก็ยังเป็นบริการที่มีคุณค่ามากในฐานะเครื่องมือเชิงการศึกษา
      • เป้าหมายคือการเตือนว่ามีหลายมุมมองอยู่จริง และข้อความที่ดูน่าเชื่ออาจผิดได้ รวมถึงสามารถค้นหาเองเพื่อตรวจสอบได้
    • มันไม่ใช่ยาวิเศษที่จะแก้ทุกปัญหาของ public epistemology และยังมีพื้นที่ให้กลไกอื่น ๆ เช่น prediction markets หรือองค์กรที่มีบุคลากรผู้เชี่ยวชาญ เข้ามาเติมเต็มช่องว่าง

บทสรุป

  • Community Notes เป็นทั้งการทดลองบนโซเชียลมีเดียที่น่าสนใจ และเป็นตัวอย่างของแนวทางออกแบบกลไกแบบใหม่ที่ ให้ความสำคัญกับการระบุความแบ่งขั้วและเชื่อมช่องว่างระหว่างฝ่ายต่าง ๆ
    • ตัวอย่างอื่นในหมวดเดียวกัน ได้แก่ pairwise quadratic funding ที่ใช้ใน Gitcoin Grants และเครื่องมือสนทนา Polis ที่ใช้การทำคลัสเตอร์เพื่อค้นหาความเห็นที่ได้รับการตอบรับกว้างขวาง
    • หวังว่าจะมีงานวิจัยเชิงวิชาการในสาขานี้ออกมาอีกมาก
  • ด้าน ความโปร่งใสของอัลกอริทึม ของ Community Notes แม้มันยังไม่ใช่โซเชียลมีเดียแบบกระจายศูนย์อย่างสมบูรณ์ เพราะต่อให้ไม่เห็นด้วยกับอัลกอริทึมนี้ ก็ยังไม่มีทางเลือกดูคอนเทนต์เดียวกันผ่านอัลกอริทึมอื่น
    • อย่างไรก็ดี มันน่าจะเป็นรูปแบบที่ใกล้เคียงที่สุดที่แอปขนาดมหึมาจะไปถึงได้ในอีกไม่กี่ปีข้างหน้า และมีคุณค่าอย่างมากแล้วทั้งในแง่ การป้องกันการบิดเบือนแบบรวมศูนย์ และการทำให้แพลตฟอร์มที่ไม่บิดเบือนได้รับการประเมินอย่างเป็นธรรม

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-08-29
ความคิดเห็นใน Hacker News

  • เป็นบทความที่น่าสนใจ Community Notes ดูเหมือนจะสร้างอยู่บน โมเดลที่ค่อนข้างแข็งแรงในเชิงคณิตศาสตร์
    ดูเหมือนจะเสี่ยงต่อพฤติกรรมแบบรวมกลุ่มที่มีอคติน้อยกว่าระบบโหวตเห็นด้วย/ไม่เห็นด้วยแบบเดิมมาก แต่ก็คงไม่ได้มีภูมิคุ้มกันต่อพฤติกรรมแบบนั้นโดยสมบูรณ์ เพราะ “อคติ” ขึ้นอยู่กับมุมมองของผู้ดู ดังนั้นการคาดหวังว่าระบบประเมินคอนเทนต์ใดๆ จะไร้อคติอย่างสมบูรณ์จึงไม่สมจริง
    Community Notes กับคริปโตเคอร์เรนซีมีจุดร่วมตรงที่ “ทรงพลังมากเพราะคณิตศาสตร์ที่ซับซ้อน แต่สำหรับคน 95% แล้วมันมืดสนิทโดยสิ้นเชิง” อย่างไรก็ตาม เมื่อเทียบกับพื้นที่ที่บทความใช้พูดถึงความเชื่อมโยงนั้น ความสัมพันธ์ก็ดูค่อนข้างอ่อน Vitalik เป็นคนเขียนบล็อกคริปโต ก็คงปรับให้เข้ากับกลุ่มผู้อ่านของเขา แต่ถึงอย่างนั้นก็ยังเป็นบทความที่ดี

    • ความเชื่อมโยงกับคริปโตไม่ได้มีแค่เรื่องคณิตศาสตร์เท่านั้น แต่ยังเป็นเพราะหลักการเรื่อง การตรวจสอบอัลกอริทึมแบบโอเพนซอร์ส และ ความเป็นกลางที่เชื่อถือได้ ด้วย

  • ชอบ Community Notes มากจริงๆ ในบราซิลมีการใช้มันมาสักพักแล้วเพื่อตรวจสอบโพสต์ของนักการเมืองที่มักโกหกหรือพยายามเขียนประวัติศาสตร์ขึ้นใหม่
    ให้ความรู้สึกเหมือนเป็น ป้ายประจาน เล็กๆ ที่ติดอยู่กับโพสต์ และจนถึงตอนนี้ก็ดูเหมือนจะถูกใช้กับนักการเมืองทั่วทั้งสเปกตรัมการเมือง

    • สิ่งที่น่าเศร้าจริงๆ คือ นักการเมืองเหล่านั้นพยายาม ควบคุมแหล่งข้อมูล สารพัดอย่าง โดยอ้างว่าจะป้องกันข้อมูลเท็จ หรือที่เรียกว่า “ข่าวปลอม”

  • “ดีปเลิร์นนิง vs คริปโตคือการแบ่งแยกที่ชัดเจนระหว่าง rotator กับ wordcel ฝ่ายแรกขัดต่อสุนทรียะของ theorycel แต่ในเชิงประจักษ์กลับสร้างปาฏิหาริย์ที่เหลือเชื่อ ส่วนฝ่ายหลังเป็นชุดของ nerd trap แบบบ้าคลั่งและบันไดนามธรรมสูงเสียดฟ้า แต่ส่วนใหญ่เป็นการหลอกลวง”
    ช่วยแปลประโยคที่เต็มไปด้วยมีมนี้เป็นภาษาอังกฤษให้หน่อยได้ไหม?
    อีกอย่าง ดูเหมือนเป็นถ้อยคำที่ค่อนข้าง ต่อต้านคริปโต สำหรับ Vitalik ที่จะโพสต์

    • เป็นเรื่องแทบจะถือเป็นสามัญสำนึกอยู่แล้วว่าสิ่งพิมพ์จำนวนมากในวงการคริปโตโดยรวมเป็นการหลอกลวง และ Vitalik ก็วิจารณ์แผนการที่หวังแต่เงินมาโดยตลอด โปรเจกต์ของ Vitalik คือ Ethereum ได้รับความเสียหายมากจาก “shit coin” หรือคริปโตทางเลือกที่มีเป้าหมายเพียงเพื่อหาเงิน
      ถ้าผู้ใช้ทั่วไปสามารถรู้ได้ราวกับมีเวทมนตร์ว่าเทคโนโลยีคริปโตแบบไหนเพิ่มคุณค่าจริงให้กับวงการนี้ และแบบไหนไม่ใช่ ทั้งระบบนิเวศก็คงสุขภาพดีกว่านี้มาก
      ส่วนอื่นของประโยคนั้นออกไปทางล้อเลียนตัวเองอย่างสนุกๆ มากกว่า เช่น ดูเหมือนเขาจะตระหนักถึงโพรงกระต่ายทางการวิจัยและนามธรรมทางคณิตศาสตร์ที่ทีม Ethereum หล่นลงไปเพื่อทำให้ staking ทำงานได้
      ถ้า Ethereum ไม่ได้อยู่ในอันดับต้นๆ ของทุกตลาดซื้อขายคริปโต และ Vitalik ก็ไม่ได้เป็นบุคคลที่เป็นที่รู้จักพอสมควร ก็น่าคิดเหมือนกันว่าคนทั่วไปที่สนใจคริปโตจะแยก “nerd trap แบบบ้าคลั่งและบันไดนามธรรมสูงเสียดฟ้า” ของ Ethereum ออกจากการหลอกลวงได้ยากแค่ไหน
    • “ดีปเลิร์นนิง vs คริปโตคือการแบ่งแยกที่ชัดเจนระหว่าง rotator กับ wordcel” อาจมองได้ประมาณว่า “ดีปเลิร์นนิง vs คริปโตคือการแบ่งแยกที่ชัดเจนระหว่าง คนสายคณิตศาสตร์กับคนสายภาษา”
      “ฝ่ายแรกขัดต่อสุนทรียะของ theorycel แต่ในเชิงประจักษ์กลับสร้างปาฏิหาริย์ที่เหลือเชื่อ” หมายความว่า สำหรับคนที่ฝังลึกอยู่กับทฤษฎี ดีปเลิร์นนิงดูเหมือนไม่น่าจะทำงานได้ แต่สุดท้ายก็ให้ผลลัพธ์ยอดเยี่ยมอยู่ดี
      “ฝ่ายหลังเป็นชุดของ nerd trap แบบบ้าคลั่งและบันไดนามธรรมสูงเสียดฟ้า แต่ส่วนใหญ่เป็นการหลอกลวง” หมายความว่า คริปโตเต็มไปด้วยโจทย์ทางเทคนิคที่น่าสนใจ แต่ผลลัพธ์ส่วนใหญ่เป็นการหลอกลวง
    • โชคดีที่มีเว็บไซต์อธิบายเรื่องนี้: https://knowyourmeme.com/memes/wordcel-shape-rotator-mathcel
      Shape rotator คือคนที่สามารถหมุนรูปทรงในหัวได้ หรือถูกใช้เหมือนตัวชี้วัดแทนสติปัญญา เป็นคนที่เก่งคณิตศาสตร์หรือ STEM แต่รู้สึกว่าคุณค่านั้นไม่ได้รับการยอมรับ
      Wordcel คือคนที่เก่งด้านคำพูดหรือวาทศิลป์ แต่รู้สึกว่าความสามารถนั้นไม่ได้รับการยอมรับมากพอ หรือไม่ได้ช่วยผลักดันชีวิตมากนัก
    • หมายความว่า “ChatGPT ช่วยสร้างศัพท์เฉพาะทางให้หน่อย ที่จะทำให้คนที่เชื่ออยู่แล้วรู้สึกเหมือนเป็นคนวงใน และทำให้คนที่ไม่หลงเชื่อง่ายๆ^W^W เอ๊ย พวกเกลียดชัง อยู่ห่างออกไปในระยะปลอดภัย”

  • Community Notes มีแนวโน้มสูงที่จะมีข้อดีข้อเสียคล้ายกับ Wikipedia อยู่บ้าง
    Community Notes ไม่ได้เขียนหรือคัดสรรโดยกลุ่มผู้เชี่ยวชาญที่ถูกเลือกจากส่วนกลาง แต่ใครๆ ก็เขียนและโหวตได้ มันไม่สมบูรณ์แบบ แต่ก็เข้าใกล้อุดมคติของความเป็นกลางที่เชื่อถือได้อย่างน่าประหลาดใจ
    ถ้านี่คือข้อดีในแง่บวก ข้อเสียก็คือ เมื่อประชากรบางกลุ่มถูกดึงดูดให้มาเขียนโน้ตแบบนี้มากกว่า หรือเข้าครอบงำ Twitter เอง ก็อาจเกิด ปัญหาอคติ แบบเดียวกับที่เห็นในหัวข้อสังคมและวัฒนธรรมของ Wikipedia ได้ ไม่ว่าผลลัพธ์จะเป็นอย่างไร มันก็คงไม่ใช่ “ความเป็นกลางที่เชื่อถือได้”

    • Wikipedia แย่กว่านี้มาก เพราะมันแทบจะทำให้บรรณาธิการบางคนกลายเป็นสถาบันเหนือชุดของหน้าเว็บบางกลุ่ม โดยเฉพาะหน้าที่เกี่ยวกับการเมือง ทำให้การแก้ไขเดินไปได้เฉพาะในทิศทางที่คนเหล่านั้นต้องการ
      Community Notes ให้ใครก็ได้ตรวจทานและทำเครื่องหมายว่ามีประโยชน์/ไม่มีประโยชน์
    • ไม่รู้ว่า Community Notes คำนึงถึงเรื่องนี้หรือไม่ แต่ถ้าให้น้ำหนักอคติตามประวัติการโหวตของผู้มีส่วนร่วม แล้วทำให้ผลลัพธ์เป็นค่ามัธยฐาน ก็น่าจะป้องกันการแห่มาเป็นกลุ่มหรือการโหวตอย่างเป็นระบบจากฝ่ายใดฝ่ายหนึ่งได้
    • ผู้ใช้สามารถให้คะแนน Community Notes ได้

  • Community Notes บางอันที่ผมเห็นค่อนข้างดีเลย ชอบตรงที่ ติดกับโฆษณาได้ด้วย
    ตอนนี้โฆษณาจำนวนมากบน Twitter มี Community Notes ติดอยู่ เพราะโฆษณาพูดอย่างหนึ่ง แต่สินค้าจริงกลับทำอีกอย่างโดยสิ้นเชิง

    • น่าประทับใจทีเดียวโดยไม่คาดคิด ครั้งแรกที่เห็นอะไรลักษณะนี้คือการตรวจสอบข้อเท็จจริงบน Instagram และจำได้ว่ามันกลายเป็นเรื่องเละเทะเกือบทันที เพราะผู้คนไปทิ้งข้อความตรวจสอบข้อเท็จจริงไว้บนโพสต์มุกตลกชัดๆ หรือมีม
      ตรงกันข้าม Community Notes ติดอยู่ในตำแหน่งที่เหมาะสม มีข้อมูลค่อนข้างมาก และในบางกรณีก็ดูละเอียดอย่างน่าประหลาดใจ
    • ว้าว สุดยอดเลย ผู้ใช้เห็นโฆษณา ดูจนจบ แล้วยังเขียนถึงมันอีก สำหรับผู้ลงโฆษณานี่เหมือนฝันเลย เป็น การมีส่วนร่วม ที่ไม่มีอะไรเทียบได้

  • Community Notes คือ สิ่งดีเพียงอย่างเดียวที่เกิดขึ้นกับ X ในกระบวนการทั้งหมดนี้

    • Community Notes เปิดตัวในเดือนมกราคม 2021 ภายใต้ชื่อ “Birdwatch” ดังนั้นจึงมีอยู่ตั้งแต่ ก่อนที่ Musk จะเข้าซื้อกิจการ

  • แม้ในคอมเมนต์ที่นี่ก็มีคนบอกเป็นนัยไว้ แต่สิ่งนี้คล้ายอย่างมากกับการทำให้ วิธีมอดเดอเรชันของ Slashdot ซับซ้อนและประณีตขึ้นมาก
    วิธีนั้นเคยเป็นรูปแบบการมอดเดอเรตเว็บไซต์ที่ผมชอบที่สุด การใส่คำตัดสินเชิงเมตาหรือคำอธิบายประกอบลงบนบางสิ่งให้ความรู้สึกเหมือนเป็นสิทธิพิเศษ มากกว่าจะเป็นสิทธิที่มีอยู่โดยปกติ

  • ผมมองว่าปัญหาใหญ่ที่สุดคือการจัดการ “ขั้ว” เป็น แกนเดียว ในความเป็นจริงหลายหัวข้อถูกจัดเรียงได้แบบนั้นก็จริง แต่หัวข้อที่ไม่เป็นแบบนั้นต่างหากที่สำคัญ
    เป็นเรื่องดีที่เห็นความพยายามมุ่งไปสู่มอดเดอเรชันแบบกระจายศูนย์ แต่ยังรวมศูนย์มากเกินไปที่จะทำให้ความฝันนั้นเป็นจริงได้

  • บทความพยายามซ้ำแล้วซ้ำเล่าเพื่อให้ผู้อ่านสบายใจว่า การแบ่งซ้าย/ขวาไม่ได้ถูกฮาร์ดโค้ดไว้ แต่เกิดขึ้น “แบบอุบัติขึ้นเอง” ทว่ากลับไม่ได้ลงรายละเอียดเลยว่ามันเกิดขึ้นอย่างไรแน่
    การที่การแบ่งซ้าย/ขวาปรากฏขึ้นมาดูแปลก ทำไมต้องเป็นซ้ายขวา ไม่ใช่แบบอิงศรัทธา/ไม่อิงศรัทธา หรืออำนาจนิยม/เสรีนิยม? ไม่มี ข้อมูลสาธารณะ ให้ตรวจสอบว่านี่ถูกต้องหรือไม่ แล้วเราต้องเชื่อคำพูดขององค์กรอย่างเดียวหรือ?

    • เรื่องนี้อธิบายได้ง่ายถ้าคิดว่าความหมายของซ้าย/ขวาเปลี่ยนไปเรื่อย ๆ ตามเวลา เช่น คนที่สนับสนุนเสรีภาพในการแสดงออก ต่อต้านสงคราม ต่อต้านอำนาจนำ สนับสนุนความเสมอภาคทางโอกาส และสนับสนุนสังคมที่ไม่มองเรื่องเชื้อชาติ จะจัดอยู่ฝ่ายไหน? เมื่อ 20 ปีก่อนคงเป็นเสรีนิยมแบบฉบับเต็มตัว แต่ตอนนี้ไม่ใช่อีกแล้ว
      ดังนั้นเมื่อพูดถึงซ้ายขวา เราไม่ได้หมายถึงค่านิยมที่คงที่หรือค่านิยมรากฐานในตัวมันเอง ทุกอย่างเคลื่อนที่ตลอดเวลา และมักเปลี่ยนไปในลักษณะที่ขัดแย้งกับตัวเองด้วย ด้วยเหตุนี้คำเหล่านี้จึงกลายเป็นคำแทนรอยแยกในสังคมที่เปลี่ยนไปเรื่อย ๆ ในความหมายนี้ หากสุ่มตัวอย่างสังคมอย่างเป็นธรรม ก็แทบจะเป็นสัจพจน์อยู่แล้วว่าสุดท้ายจะถูกแบ่งตามคำเหล่านั้น
    • ดูเหมือนว่าการแบ่งนั้นจริง ๆ แล้วไม่น่าจะใช่ซ้าย/ขวา จากที่ผมเข้าใจ อัลกอริทึมลด “การจัดแนว” มิติสูงของผู้ใช้/โน้ตลงมาเป็น “ขั้ว” หนึ่งมิติ และมันบังเอิญทับซ้อนกับการแบ่งพรรคการเมืองของสหรัฐฯ ในระดับหนึ่ง
      หากมีระบบการเมืองสองพรรค ผลลัพธ์แบบนี้ก็แทบคาดเดาได้ แต่ละพรรคพยายามจัดแนวกับผู้มีสิทธิเลือกตั้งให้มากที่สุดเท่าที่ทำได้ จึงคาดหวังได้พอสมควรว่าการแบ่งรีพับลิกัน/เดโมแครตจะเป็นระนาบตัดที่ “ดี” สำหรับแบ่งพื้นที่การจัดแนว
      โดยพื้นฐานแล้ว อัลกอริทึมค้นหาแกนขั้วที่ “เหมาะที่สุด” อย่างชัดเจน ซึ่งบรรจุข้อมูลมากที่สุดเกี่ยวกับสิ่งที่ผู้ใช้น่าจะเห็นด้วย และระบบการเมืองสองพรรคก็จัดแนวโดยนัยตามแกนนั้น ในฐานะคุณสมบัติอุบัติขึ้นจากการเคลื่อนตัวของการเมืองพรรค
    • ไม่ใช่คำตอบโดยตรง แต่เมื่อหลายปีก่อนเพื่อนผมเคยทำการทดลองคล้าย ๆ กัน เขารวบรวม คำถามที่เป็นประเด็นถกเถียง หลายข้อ แล้วใช้การวิเคราะห์องค์ประกอบหลักกับคำตอบ ผลลัพธ์ออกมาเป็นสองแกน และในเชิงคณิตศาสตร์ยังมีแกนมากกว่านั้น แต่แกนที่เหลือมีความสำคัญต่ำ แกนที่ใหญ่ที่สุดคล้าย “ซ้าย/ขวา” มาก
      http://politics.beasts.org/scripts/eigenvectors
      ถ้าลองทำซ้ำวันนี้ด้วยคำถามชุดเดิมหรือคำถามอื่นก็น่าจะน่าสนใจ
    • ไม่รู้ว่านี่ถือเป็นข้อพิสูจน์ไหม แต่ทวิภาคซ้าย/ขวาได้ “อุบัติขึ้น” ในประเทศส่วนใหญ่ของโลกจริงด้วย มันไม่ใช่แกนความแปรผันเดียวที่เราเห็น แต่เป็นหนึ่งในแกนหลัก
      Twitter ก็เป็นส่วนหนึ่งของโลกจริง ดังนั้นผู้ใช้อาจเข้ามาพร้อมแนวโน้มที่จะจัดตัวเองเข้าเป็นเผ่าซ้าย/ขวาอยู่แล้ว และหลังจากนั้นกลไกการสร้างบับเบิลของโซเชียลมีเดียอาจเร่งกระบวนการแบ่งขั้วให้เร็วขึ้น
    • โค้ดเป็นโอเพนซอร์ส: https://github.com/twitter/communitynotes
      ข้อมูลโน้ตและการให้คะแนนก็เผยแพร่ทุกวัน: https://twitter.com/i/communitynotes/download-data
      คุณแค่ลองรัน โค้ดแยกเมทริกซ์ กับข้อมูลเอง แล้วตีความมิติแฝงที่พบจากผลลัพธ์ด้วยตัวเองได้ และถ้าอ่านโค้ดก็จะตรวจสอบได้ด้วยว่าแท้จริงแล้วไม่ได้ฮาร์ดโค้ดการแบ่งซ้าย/ขวาเฉพาะไว้ แต่ทำการแยกเมทริกซ์

  • ถ้าสรุปแบบไม่ค่อยปรานีก็เป็นแบบนี้: คนส่วนใหญ่ชอบ Community Notes และ Vitalik อยากให้คริปโตได้รับความชอบบางส่วนแบบนั้นบ้าง เพราะคริปโตขาดความชอบเช่นนั้นอย่างหนัก จึงพยายามยืนยันว่าทั้งสองมีสายธารทางปรัชญาหรือเชิงฟังก์ชันร่วมกัน
    ผมคิดว่าฟังไม่ขึ้น และดูเหมือนความพยายามเอาวัวตายไปผูกกับวัวเป็น แต่ถึงอย่างไรก็เป็นบล็อกของเขา เขาจะทำอะไรก็ได้

    • ถ้ามองอย่างเอื้ออาทรมากขึ้น Vitalik มีความสนใจทางปัญญาในจุดตัดระหว่าง คณิตศาสตร์/ระบบกับธรรมาภิบาล และความสนใจนั้นนำไปสู่ทั้งคริปโตและการเขียนบทความนี้
      ผมเป็นคนกังขาคริปโตเต็มตัว แต่ไม่ได้รู้สึกว่าส่วนที่กล่าวถึงคริปโตเพียงเล็กน้อยทำให้คุณค่าของบทความส่วนที่เหลือลดลง
    • Vitalik เขียนบทความเชิงปรัชญาเกี่ยวกับระบบเทคโนโลยีและเศรษฐกิจมาหลายปีแล้ว ความคิดที่ว่าเขาเป็น ผู้อยู่เบื้องหลังแบบมาเคียเวลลี ที่พยายามดูดเอาความชอบด้วยบทความบล็อกวิเคราะห์เชิงเทคนิคที่ลงรายละเอียดเกินเหตุ เป็นความเข้าใจที่ผิดอย่างน่าขัน
    • นี่เป็นการตีความที่ไม่ปรานีเกินไป ผมไม่ใช่ผู้สนับสนุนคริปโต แต่ Vitalik เป็นคนที่สำรวจไอเดียที่เขาพบว่าน่าสนใจในสาขานี้อย่างต่อเนื่อง และบทความนี้ก็ดูจริงใจ ไม่ใช่ความพยายาม “เอาวัวตายไปผูกกับวัวเป็น”
      เนื้อหาส่วนใหญ่ของบทความไม่เกี่ยวกับคริปโตเลย
    • ตอนอ่านจะข้ามส่วนที่เกี่ยวกับคริปโตไปก็ได้ และบทความก็ยังมีประโยชน์อยู่ดี อย่างน้อยผมก็ไม่เคยรู้ว่า Community Notes ทำงานแบบนี้
      การจัดสรรทุนแบบกำลังสอง ก็น่าสนใจในตัวมันเอง และการนำไปใช้ก็ไม่จำเป็นต้องใช้คริปโต
    • ในฐานะคนที่ทำงานในสาขานี้ มุมมองของผมคือ Vitalik เป็น ผู้นำทางความคิด นักพัฒนาคริปโตให้ความเคารพเขามาก
      บล็อก vitalik.ca โดยทั่วไปพูดถึงคริปโตและหัวข้อที่ใกล้เคียง ซึ่งเป็นจุดที่งานวิจัยและพัฒนาของ Vitalik กำลังมุ่งเน้นอยู่ในปัจจุบัน เขาเขียนเกี่ยวกับคริปโตมานานกว่า 10 ปีแล้ว
      ถ้าเขาอยากดึงความสนใจไปที่ Community Notes ในบล็อกของตัวเอง ก็น่าจะเป็นเพราะเขาสนุกกับการคิดและเขียนเป็นหลัก อย่างไรก็ตาม หากผลข้างเคียงที่ดีคือทำให้นักพัฒนาคริปโตได้แรงบันดาลใจจาก Community Notes โดยเฉพาะเมื่อต้องสร้างโซเชียลเน็ตเวิร์กแบบคริปโตเนทีฟ เขาก็คงไม่รังเกียจ