ควรห้ามโพสต์ที่สร้างโดย LLM

 (lobste.rs)
1 คะแนน โดย GN⁺ 3 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • แม้จะมีการถกเถียงกันมากว่าจะจัดการอย่างไรเมื่อมีการโพสต์ บทความที่สร้างโดย LLM บนเว็บไซต์ แต่ดูเหมือนว่ายังไม่มีนโยบายที่ชัดเจนว่าควรอนุญาตหรือไม่
  • มีจุดยืนว่าผู้ใช้ที่โพสต์ บทความที่สร้างโดย LLM เป็นประจำ ควรถูกแบนออกจากเว็บไซต์
  • มีข้อเสนอให้แสดงข้อความแจ้งเตือนบนหน้าส่งโพสต์ว่า “ไม่อนุญาตบทความที่สร้างโดย LLM ที่นี่”
  • การมีนโยบายและข้อความแจ้งเตือนที่ชัดเจนสามารถลดข้อถกเถียงเกี่ยวกับการ ตั้งธงโพสต์ที่สร้างโดย LLM หรือจะตอบโต้ผ่านคอมเมนต์ ได้
  • ประเด็นสำคัญคือการกำหนด เกณฑ์ที่ชัดเจน ว่าไม่อนุญาตให้ส่งโพสต์ที่สร้างโดย LLM เพื่อทำให้การตอบสนองของชุมชนง่ายขึ้น

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 3 시간 전
ความเห็นจาก Lobste.rs

  • ดูเหมือนว่าจะพอรับได้ถ้าบางครั้งมีโพสต์คุณภาพต่ำหลุดเข้ามาเป็นครั้งคราว แต่ถ้าระบุให้ชัดเจนว่า ห้ามคอนเทนต์ที่สร้างโดย LLM ก็จะช่วยลดโพสต์ขยะบนหน้าแรกได้ และมีหลักเกณฑ์ชัดเจนสำหรับแบนผู้ที่ฝ่าฝืนซ้ำ โดยอุดมคติแล้วไม่ต้องมีข้อยกเว้นให้ทะเลาะกันในคอมเมนต์

  • โดยรวมเห็นด้วย ถ้าเป็นบทความที่เจ้าของยังไม่ยอมลงแรงเขียนเอง ฉันก็ไม่อยากเสียเวลาอ่าน
    แต่อีกด้านก็ไม่รู้ว่าจะตรวจจับ ประโยคที่สร้างโดย LLM ได้อย่างสมบูรณ์แบบยังไง และไม่ชอบแนวคิดที่ว่าคนหรือแหล่งข้อมูลจะถูกแบนเพียงเพราะโพสต์นั้นอาจถูกสร้างขึ้นมา เคยมีครั้งหนึ่งที่โดนสงสัยว่าใช้ LLM แค่เพราะใช้ em dash ทั้งที่ฉันใช้แบบนั้นมาเกิน 25 ปีแล้ว

    • การตรวจผิดพลาด ที่เกิดขึ้นเป็นครั้งคราวไม่น่าใช่ปัญหาใหญ่ ตราบใดที่ไม่ใช่นโยบายแบบไม่ยอมผ่อนปรนเลย ข้อความต้นฉบับฟังดูเหมือนต้องการให้ทีมดูแลใช้ดุลยพินิจเพื่อตอบสนองต่อ รูปแบบ การโพสต์งานคุณภาพต่ำซ้ำๆ
      เราไม่ควรปล่อยให้การตรวจจับงานคุณภาพต่ำที่ไม่สมบูรณ์แบบมาเป็นเหตุว่าตั้งนโยบายไม่ได้ อาจมีพลาดกันบ้างเป็นครั้งคราว แต่ต้องมีแรงต้านกลับต่อขยะที่สร้างโดย LLM ซึ่งกำลังท่วมเว็บและเบียดงานเขียนของคนจริงออกไป

  • เห็นด้วย
    ปกติแล้วมักดูออกค่อนข้างชัดว่าเป็น บทความที่สร้างโดย LLM และบางครั้งแม้ตัวบทความจะไม่ได้บอกไว้ ผู้เขียนก็ไปเขียนไว้ที่อื่นบนเว็บไซต์ตัวเองว่าใช้ LLM แบบนั้นก็ยิ่งตัดสินได้ง่ายขึ้น
    สัญชาตญาณของชุมชนในการจับงานคุณภาพต่ำก็ดูแม่นพอสมควร เท่าที่จำได้ยังไม่เคยเห็นกรณีที่จริงๆ ไม่ใช่ แต่คนในเธรดคอมเมนต์ใหญ่กลับรุมกล่าวหาว่าผู้เขียนใช้ LLM ถ้าไม่มีใครแยกออก ก็คือแยกไม่ออกนั่นแหละ
    ในกรณีที่กำกวมจริงๆ จะถือว่าเจตนาดีก็ได้ ปัญหาที่ก่อเรื่องมักเป็นโพสต์ที่เห็นชัดเกินไป ไม่ใช่สถานการณ์ที่มีคนพยายามหลอก lobsters เพื่อยัดบทความจาก LLM เข้ามาให้มากที่สุดโดยไม่ให้ใครจับได้

  • ฉันเกลียด บทความที่สร้างโดย LLM มากและอยากให้หายไป กรณีสุดโต่งแบบนี้ชัดเจนและน่าจะตรวจจับได้ง่าย และคงมีคนน้อยมากที่ไม่อยากให้ลบออก
    แต่ถ้ามีคนส่งซอฟต์แวร์ที่ยอมรับ commit ที่สร้างโดย LLM เข้าไปบางส่วนล่ะ หรือถ้าทำทุกอย่างด้วย LLM แต่มีการเขียนบทวิเคราะห์อธิบายกระบวนการไว้ล่ะ ข้อโต้แย้งพวกนี้อาจเป็นการเล่นบททนายฝ่ายปีศาจ แต่ก็ชัดเจนว่าภายใน lobsters เองก็มีสเปกตรัมของสิ่งที่ยอมรับได้
    ฉันคิดว่าการแบนคอนเทนต์ทุกอย่างที่มี LLM แตะต้องแม้แต่นิดเดียวคงเป็นที่ยอมรับได้ยาก คำตอบที่น่าจะยอมรับกันได้กว้างที่สุดน่าจะเป็น แฟล็กที่ไม่หักคาร์มา เป็นการทิ้งสัญญาณไว้ให้คนที่มาดูต่อว่า “ตามเกณฑ์ของฉัน นี่คือของที่ถูกสร้างขึ้นมา ระวังไว้” ตอนนี้เธรดคอมเมนต์ยาวๆ ก็ทำหน้าที่นั้นโดยพฤตินัยอยู่แล้ว และอาจช่วยลดการทะเลาะกันในคอมเมนต์พร้อมทั้งส่งสัญญาณเรื่องการมองเห็นของคอนเทนต์ได้ด้วย

    • สถานการณ์อื่นๆ ที่ยกมานั้นเป็น คนละหมวดหมู่ และแยกกันได้ค่อนข้างชัด ถ้าอยากให้จัดการต่างจากตอนนี้ก็เปิดเธรดใหม่ได้

  • ฟังดูสมเหตุสมผล ถ้าใครไม่ยอมใช้เวลาจัดระเบียบความคิดของตัวเอง ฉันก็สงสัยว่าทำไมฉันต้องใช้เวลาอ่านมัน
    การใช้แชตบอตเป็นเหมือน rubber duck เพื่อช่วยขัดเกลาข้อโต้แย้งหรือตรวจไวยากรณ์ก็พอรับได้ และฉันไม่คิดว่าจำเป็นต้องมีการตรวจจับอะไรพิเศษ แค่ความคาดหวังของคนในชุมชนกับการลบกรณีที่ชัดเจนก็น่าจะพอ

  • มันง่ายมากที่จะตะโกนใส่โพสต์ที่ตัวเองไม่ชอบว่า “โพสต์คุณภาพต่ำจาก LLM!” แล้วจะเกิดอะไรขึ้นต่อจากนั้น ฉันอยากเห็นทั้งโพสต์ที่ฉันเห็นด้วยและไม่เห็นด้วย ตราบใดที่ยังอยู่ในหัวข้อ และนั่นแหละคือความเป็นชุมชนที่ดี
    ฉันไม่แน่ใจว่าจะประเมินว่าอะไรคือ “คุณภาพต่ำ” ยังไง แน่นอนว่ามีกรณีที่ชัดเจน แต่ก็มีกรณีที่กำกวมเหมือนกัน เป็นไปได้ว่าบทความที่ชอบธรรมอาจดูหละหลวมเพียงเพราะผู้เขียนบังเอิญใช้สไตล์บางอย่างที่ LLM ชอบเลียนแบบ
    วิธีดู ความหละหลวมโดยรวม ของผู้ส่งในโพสต์แบบ “authored by” อาจยุติธรรมกว่า เช่น ถ้าใครโพสต์งานคุณภาพต่ำที่เห็นชัดอย่างต่อเนื่อง ก็ทำเครื่องหมายว่าผู้เขียนหละหลวม ทีมดูแลติดต่อไปบอกให้หยุด และถ้ายังไม่หยุดค่อยแบน
    ส่วน “บทความหละหลวม” ที่มีคนอื่นเป็นผู้ส่งแทน ควรนับแบบเดียวกันไหม ฉันก็ไม่แน่ใจ ดูเหมือนพอจะทำได้แค่พักความสามารถในการโพสต์ของคนที่ส่งซอฟต์แวร์ที่มีแนวโน้มส่งบทความคุณภาพต่ำอยู่เรื่อยๆ แต่โครงสร้างที่ผู้ส่งทุกคนอาจถูกแบนถ้าไม่สามารถปกป้องแหล่งที่มาของบทความได้ คงไม่ใช่อะไรที่น่ายินดี

    • ไม่ใช่ว่ากฎทุกข้อจะเป็น ทางลาดลื่น เสมอไป มีโพสต์คุณภาพต่ำจาก LLM ที่ชัดเจนอยู่จริง และแค่นั้นก็เพียงพอแล้วที่จะเป็นเป้าหมายของการดูแล
      ดูเหมือนคุณจะประเมินต่ำไปว่าการเขียนโพสต์คุณภาพต่ำด้วย LLM เป็นพฤติกรรมต่อต้านสังคมแค่ไหน ตอนนี้ก็มีกรณีชัดๆ แบบนั้นลอยอยู่หน้าแรกกันเป็นวันๆ เพราะพวกที่อินกับกระแส AI เอามาโพสต์
    • สู้ไฟด้วยไฟ ใช้ ตัวตรวจจับโพสต์คุณภาพต่ำจาก LLM ไปเลย

  • โพสต์ที่เกี่ยวข้อง: https://lobste.rs/s/wee21u/this_is_written_by_llm_comments_should_be
    ตัวอย่าง:
    https://lobste.rs/s/ojvhq9/coding_is_thinking_why_i_still_write_code
    https://lobste.rs/s/eaxtmb/claude_for_legal_suite_plugins_for_legal
    https://lobste.rs/s/fvqkke/new_claude_code_programmatic_usage
    เห็นด้วยว่าควรสามารถ กรอง หรือใส่แฟล็กให้ข้อความที่สร้างโดย LLM ได้
    ปัญหาคือ ถ้าเป็นบทความที่สร้างโดย LLM แต่จริงๆ ยังอยู่ในหัวข้อ การติดป้ายว่า “นอกประเด็น” ก็อาจกลายเป็นการใช้แบบขัดแย้งกันเอง ก่อนหน้านี้ก็เคยมีการพูดถึงตัวเลือกแฟล็กใหม่ เช่น: https://lobste.rs/s/po97lh/new_tag_suggestion_genai_assisted
    ฉันยังคิดว่า ตัวเลือกแฟล็กใหม่ ดีกว่าการใช้แฟล็ก “นอกประเด็น” ในทางที่ผิด ตามที่เคยคุยกันไว้ที่ https://lobste.rs/s/rkjpob/proposal_add_ai_generated_as_flag_reason

    • รับฟังฟีดแบ็ก คำพูดก่อนหน้านี้ไม่ดี ควรแบนไปเลย
      เรื่องจะกรองได้หรือแฟล็กได้ ฉันไม่คิดว่าสำคัญนัก ผู้ใช้ที่โพสต์ของแบบนั้นควรถูกเอาออกจากเว็บไซต์ แฟล็กหรือแท็กถ้าไม่พาไปสู่การจัดการจริงก็เป็นแค่ความสูญเปล่า

  • เหมือนจะหยิบแต่ตัวอย่างที่ไร้ค่ามาพูด แต่ข้อความที่สร้างโดย LLM ใน https://lobste.rs/s/hfnps5/osmand_s_faster_offline_navigation ถึงภาพรวมจะคุณภาพแย่ ก็ยังมี เนื้อหาเฉพาะที่อยู่ในหัวข้อจริง ปะปนอยู่ด้วย

    • ไม่ใช่ ประเด็นคือฉันไม่อยากเห็น ข้อความที่สร้างโดย LLM ใดๆ ถูกโพสต์ขึ้นมาเลยเท่าที่จะทำได้ ดูจากคนที่โหวตว่าเป็นสแปมก็ได้ ถ้าฉันเห็นตอนนั้น ฉันก็คงเป็นหนึ่งในนั้น

  • ต่อไปนี้ dash ทุกรูปแบบผิดกฎหมายแล้ว

    • ไม่เข้าใจว่าทำไมผู้คนถึงมอง em dash เป็นหลักฐานชี้ขาด เช่น HTML output ของ Pandoc ก็สร้าง em dash จาก Markdown --

  • ข้อกังวลคือ ไม่ง่ายเลยที่จะรู้ด้วยความแม่นยำสมบูรณ์ว่าเนื้อหานั้น สร้างโดย LLM หรือไม่ แต่ในกรณีส่วนใหญ่ก็ค่อนข้างชัดเจน
    บางครั้งโพสต์ที่ “สำคัญ” หรือ “น่าจับตา” ไม่ทางใดก็ทางหนึ่งก็อาจเป็นเนื้อหาที่สร้างโดย LLM ได้ ตัวอย่างเช่นรายงาน CopyFail
    ข้อเสนอคือ คอนเทนต์ที่สร้างโดย LLM ควรถูกแบน ยกเว้นในสถานการณ์พิเศษอย่างช่องโหว่ความปลอดภัยร้ายแรงที่มีผลกระทบสูง เวลาตัดสินว่าข้อความนั้นสร้างโดย LLM หรือไม่ ก็ควรใช้แนวทางระมัดระวัง และให้ประโยชน์แห่งความสงสัยกับกรณีชายขอบมากกว่าจะด่วนตัดสินว่าใช่ ส่วน “สถานการณ์พิเศษ” จะปล่อยให้เป็นดุลยพินิจของทีมดูแลก็ได้ หรือค่อยๆ พัฒนานโยบายด้วยการกำหนดรายการเงื่อนไขเหล่านั้นและปรับปรุงซ้ำไปเรื่อยๆ