AI ตรวจจับได้ผลจริงหรือไม่? นักเรียนเผชิญข้อกล่าวหาโกงอย่างไม่เป็นธรรม

เครื่องมือตรวจจับ AI ที่กล่าวหานักเรียนเรื่องการโกงผิดคน ก่อผลกระทบใหญ่

• ครูประมาณสองในสามรายงานว่าใช้เครื่องมือเพื่อตรวจจับคอนเทนต์ที่สร้างโดย AI เป็นประจำ ในระดับการใช้งานเช่นนี้ แม้อัตราความผิดพลาดเพียงเล็กน้อยก็สามารถสะสมอย่างรวดเร็วได้

กรณีของ Moira Olmsted

• Moira Olmsted ซึ่งเคยพักการเรียนมหาวิทยาลัยช่วงต้นของการระบาดใหญ่เพื่อเริ่มต้นครอบครัว ต้องการกลับไปเรียนอย่างมาก
• ในปี 2023 เธอลงเรียนคอร์สออนไลน์ของ Central Methodist University แต่ได้รับ 0 คะแนนหลังจากเครื่องมือตรวจจับ AI ตัดสินว่างานที่ส่งอาจถูกสร้างโดย AI
• Olmsted ระบุว่าเธออยู่ในสเปกตรัมออทิสติกและเขียนด้วยรูปแบบที่เป็นทางการ จึงอาจถูกเข้าใจผิดว่าเป็นงานที่ AI สร้างขึ้น
• แม้ในที่สุดคะแนนจะถูกแก้ไข แต่เธอได้รับคำเตือนอย่างเข้มงวดว่าหากถูกชี้อีกครั้ง จะถูกปฏิบัติในระดับเดียวกับการลอกผลงาน

ปัญหาความแม่นยำของตัวตรวจจับงานเขียน AI

• ตัวตรวจจับงานเขียน AI ที่ดีที่สุดมีความแม่นยำสูงมาก แต่ไม่สมบูรณ์แบบ
• Businessweek ได้ทดสอบ GPTZero และ Copyleaks ด้วยตัวอย่างเรียงความสมัครเข้ามหาวิทยาลัย 500 ชิ้นที่ส่งก่อนการเปิดตัว ChatGPT ไม่นาน
• บริการเหล่านี้ชี้ผิดว่าเรียงความ 1-2% มีแนวโน้มเขียนโดย AI
• นักเรียนที่ถูกตรวจจับผิดมีแนวโน้มเป็นผู้มีความหลากหลายทางระบบประสาท ผู้ใช้ภาษาอังกฤษเป็นภาษาที่สอง หรือผู้ที่ถูกสอนให้ใช้คำศัพท์เรียบง่ายและสไตล์เชิงกลไก
• บริการตรวจจับ AI บางครั้งยังอาจถูกหลอกได้ด้วยเครื่องมืออัตโนมัติที่ออกแบบมาเพื่อทำให้งานเขียนของ AI ดูเหมือนมนุษย์เขียน

กรณีของ Ken Sahib

• Ken Sahib นักศึกษาหลายภาษาซึ่งใช้ชีวิตวัยเด็กส่วนใหญ่อยู่ในอิตาลี กล่าวว่าเขารู้สึก “ท่วมท้น” เมื่อได้ 0 คะแนนจากงานสรุปการอ่านในวิชาเครือข่ายที่ Berkeley College
• อาจารย์ยืนยันว่างานดังกล่าวสร้างโดย AI โดยบอกว่าเครื่องมือทุกตัวให้ผลเหมือนกัน
• แม้สุดท้าย Sahib จะผ่านวิชานี้ แต่เหตุการณ์ดังกล่าวทำให้ความสัมพันธ์ระหว่างเขากับอาจารย์แย่ลง

ปัญหาที่เกิดจากการใช้ตัวตรวจจับ AI

• แม้นักการศึกษาบางส่วนจะเริ่มถอยห่างจากตัวตรวจจับ AI และพยายามผสาน AI เข้ากับหลักสูตร แต่โรงเรียนมัธยมและมหาวิทยาลัยจำนวนมากยังคงใช้เครื่องมือเหล่านี้อยู่
• ส่งผลให้ในห้องเรียนเต็มไปด้วยความกังวลและความหวาดระแวงต่อข้อกล่าวหาอันเป็นเท็จ
• นักศึกษาปริญญาตรีบอกว่าพวกเขาต้องเสียเวลาอย่างมากในการปกป้องความแท้จริงของผลงานตนเอง ซึ่งบั่นทอนประสบการณ์การเรียนรู้
• พวกเขายังเริ่มกลัวการใช้บริการช่วยเขียนด้วย AI และตัวตรวจไวยากรณ์ทั่วไปที่ทำการตลาดกับนักเรียนโดยเฉพาะ

สตาร์ทอัพด้านตัวตรวจจับ AI

• ตัวตรวจจับงานเขียน AI โดยทั่วไปจะพิจารณา perplexity ซึ่งเป็นตัวชี้วัดความซับซ้อนของคำในงานที่ส่ง
• บริษัทตรวจจับ AI เน้นว่าบริการของตนไม่ควรถูกใช้เป็นทั้งผู้พิพากษา คณะลูกขุน และผู้บังคับใช้ แต่ควรถูกใช้เป็นจุดข้อมูลเพื่อชี้แนะแบบมีข้อมูลแก่ครู
• Copyleaks กำลังเปิดสิทธิ์ให้นักเรียนเข้าถึงบริการ เพื่อให้เห็นคะแนน AI ของตนเองได้
• Turnitin กำลังขยายพอร์ตโฟลิโอผลิตภัณฑ์ AI ไปสู่บริการที่ช่วยให้นักเรียนแสดงกระบวนการประกอบสร้างงานเขียนของตน

วิธีที่นักเรียนรับมือ

• หลังจากถูกชี้ Olmsted ก็หมกมุ่นกับการหลีกเลี่ยงข้อกล่าวหาอีกครั้ง เธออัดหน้าจอขณะทำงานเขียนบนแล็ปท็อป และทำงานใน Google Docs เพื่อให้ติดตามการเปลี่ยนแปลงและสร้างร่องรอยหลักฐานดิจิทัล
• Nathan Mendoza นักศึกษาปี 3 สาขาวิศวกรรมเคมีที่ UC San Diego ใช้ GPTZero เพื่อตรวจงานของตนล่วงหน้า เขาบอกว่าตนใช้เวลาส่วนใหญ่ไปกับการปรับถ้อยคำเพื่อไม่ให้ถูกตัวตรวจจับ AI ชี้ผิด
• นักเรียนคนอื่นเร่งกระบวนการนี้ด้วยการใช้บริการ “ทำให้ AI ดูเหมือนมนุษย์” ซึ่งสามารถเขียนงานใหม่อัตโนมัติเพื่อให้ผ่านตัวตรวจจับ AI

บริการ “ทำให้ AI ดูเหมือนมนุษย์”

• จากการทดสอบ Hix Bypass ของ Bloomberg เรียงความที่มนุษย์เขียนซึ่ง GPTZero ระบุผิดว่าเป็น AI ถึง 98.1% เมื่อนำไปแก้ด้วยบริการนี้แล้ว สัดส่วน AI ลดลงอย่างมากเหลือ 5.3%

ปัญหาของการใช้เครื่องมือช่วยเขียนอย่าง Grammarly

• นักเรียนเริ่มทบทวนการใช้เครื่องมือช่วยเขียนออนไลน์ยอดนิยมอย่าง Grammarly
• Bloomberg พบว่าเมื่อใช้ Grammarly เพื่อ “ปรับปรุง” เรียงความหรือทำให้ “ฟังดูเป็นวิชาการ” งานที่เดิมผ่านว่าเขียนโดยมนุษย์ 100% กลับถูกเปลี่ยนเป็นเขียนโดย AI 100%
• Kaitlyn Abellar จาก Florida SouthWestern State College กล่าวว่าเธอได้ลบปลั๊กอินของโปรแกรมอย่าง Grammarly ออกจากคอมพิวเตอร์แล้ว

ระบบปัจจุบันที่ไม่ยั่งยืน

• สำหรับนักการศึกษาและนักเรียนบางส่วน ระบบปัจจุบันให้ความรู้สึกว่าไม่ยั่งยืน เพราะสร้างภาระให้ทั้งสองฝั่งของโต๊ะครู และ AI ก็จะยังคงอยู่ต่อไป
• Adam Lloyd อาจารย์ภาษาอังกฤษจาก University of Maryland กล่าวว่า “ปัญญาประดิษฐ์จะเป็นส่วนหนึ่งของอนาคต ไม่ว่าเราจะชอบหรือไม่” พร้อมเสริมว่า “การพยายามแยก AI ออกจากห้องเรียนหรือป้องกันไม่ให้นักเรียนใช้ เป็นแนวคิดที่ผิด”

ความเห็นของ GN⁺

• ปัญหาการตรวจจับผิดของเครื่องมือตรวจจับ AI อาจส่งผลรุนแรงเป็นพิเศษต่อผู้มีความหลากหลายทางระบบประสาท ผู้เรียนภาษาอังกฤษ และนักเรียนที่ใช้สำนวนเรียบง่าย สถาบันการศึกษาควรคำนึงถึงนักเรียนกลุ่มเหล่านี้และตีความผลตรวจจับ AI อย่างระมัดระวัง
• การแข่งขันด้านอาวุธระหว่างตัวตรวจจับ AI กับบริการทำให้ AI ดูเหมือนมนุษย์บั่นทอนความไว้วางใจระหว่างผู้สอนกับผู้เรียน และแทบไม่ก่อประโยชน์ทางการศึกษา การหาวิธีผสาน AI เข้ากับกระบวนการเรียนการสอนอาจเป็นแนวทางที่ดีกว่าในระยะยาว
• แทนที่จะห้ามใช้เครื่องมืออย่าง Grammarly เพื่อพัฒนาทักษะการเขียนของนักเรียน อาจควรพิจารณาแนวทางใช้เครื่องมือเหล่านี้เชิงการศึกษา เช่น ครูจัดทำรายชื่อเครื่องมือที่แนะนำเอง หรือชี้แนะแนวทางการใช้งานที่เหมาะสม
• การที่บริษัทตรวจจับ AI อย่าง Copyleaks และ Turnitin พยายามพัฒนาบริการที่เป็นมิตรกับนักเรียนถือเป็นการเปลี่ยนแปลงในทางบวก แต่แทนที่จะพึ่งพาเครื่องมือเหล่านี้มากเกินไป การรับมือกรณีน่าสงสัยผ่านการสื่อสารอย่างเปิดกว้างกับนักเรียนจะเหมาะสมกว่า
• เพื่อเตรียมพร้อมสู่อนาคตที่ AI และมนุษย์ต้องอยู่ร่วมกันอย่างหลีกเลี่ยงไม่ได้ การสอนให้นักเรียนใช้เครื่องมือ AI อย่างมีจริยธรรม และพัฒนาความสามารถด้านความคิดสร้างสรรค์กับการคิดเชิงวิพากษ์จึงเป็นเรื่องสำคัญ ซึ่งต้องอาศัยการเปลี่ยนแปลงเชิงนวัตกรรมทั้งในหลักสูตรและวิธีประเมินผล

[GN⁺]

ความคิดเห็นจาก Hacker News

• จากประสบการณ์สอนคณิตศาสตร์ในระดับอุดมศึกษามา 30 ปี การโกงในการสอบทางไกลแพร่หลายมาก ทางแก้คือห้ามใช้เทคโนโลยีและบังคับให้สอบแบบพบหน้า แต่ถ้าทำเช่นนั้นนักศึกษาก็จะไม่ลงทะเบียนเรียน คิดว่าคณะกรรมการการอุดมศึกษาควรกำหนดให้เป็นข้อบังคับสำหรับทุกวิชา อย่างไรก็ตาม การสอบแบบพบหน้าอย่างเดียวไม่เพียงพอ นักศึกษาคุ้นชินกับการทำทุกอย่างเพื่อให้ผ่านมากกว่าการเรียนรู้จริง และการโกงก็เพิ่มขึ้น การศึกษา K-12 ก็จำเป็นต้องเปลี่ยนแปลงเช่นกัน

• เนื่องจาก AI จะยังคงอยู่ต่อไป เราจึงต้องมีวิธีใหม่ในการประเมินผลการเรียนของนักศึกษา ในอดีตเคยห้ามใช้เครื่องคิดเลขในการสอบเพราะไม่สามารถใช้ได้ แต่ตอนนี้เราอยู่ในยุคที่มีเครื่องคิดเลขให้ใช้ได้ตลอด 24/7 ต้องปรับตัวให้เข้ากับความเปลี่ยนแปลง และสังคมต้องร่วมกันตัดสินใจว่าจะรับมืออย่างไร

• ปัญหาคือไม่อธิบายให้นักศึกษาฟังว่าเหตุใด AI จึงปักธงงานของพวกเขา อัลกอริทึมควรจะอธิบายได้อย่างชัดเจนว่าทำไมงานชิ้นหนึ่งจึงถูกปักธง ขณะนี้โซลูชันที่ใช้ AI ยังอธิบายเรื่องนี้ไม่ได้ จึงไม่เหมาะสม

• ครูของนักเรียนคนหนึ่งเตือนว่าจะตรวจเรียงความทุกชิ้นด้วยซอฟต์แวร์ตรวจจับ AI แต่คำเตือนนั้นเองกลับถูกระบุว่าเป็นสิ่งที่สร้างโดย AI

• ในฐานะที่ปรึกษาที่ทำงานในโรงพยาบาลมหาวิทยาลัยขนาดใหญ่ ใช้ ChatGPT เพื่อปรับภาษาอังกฤษให้กระชับและเป็นเชิงธุรกิจมากขึ้น ตัวตรวจจับ AI อาจใช้งานได้บ้าง แต่ไม่ได้มีประโยชน์มากไปกว่าตัวตรวจการสะกดคำ AI ก็เป็นเพียง large language model และจริง ๆ แล้วไม่ใช่โมเดลของข้อเท็จจริง ครูควรเป็นผู้ตรวจจับคำโกหกที่ดี

• หากการตรวจจับ AI ไม่แม่นยำ 100% ก็เชื่อว่าไม่เหมาะจะใช้ตัดสินอนาคตของนักเรียนและคนหนุ่มสาวนับล้าน เราต้องก้าวออกจากการยึดติดกับเทคโนโลยีหรือรูปแบบเรียงความ ต้องเปลี่ยนเกณฑ์การวัดความเชี่ยวชาญในหัวข้อนั้น

• การระบุงานที่สร้างโดย AI อาจเป็นเรื่องง่ายสำหรับมนุษย์ แต่ยากที่จะเขียนโปรแกรมให้คอมพิวเตอร์ทำได้ เมื่อก่อนเคยทำงานกับเครื่องมือตรวจจับการลอกผลงานที่บริษัทเก่า และตระหนักว่ามันถูกหลอกได้ง่ายเพียงใด

• การที่ครูใช้ตัวตรวจจับ LLM เพื่อทำให้นักเรียนตกนั้นเป็นเรื่องย้อนแย้ง ครูกล่าวหาว่านักเรียนไม่เข้าใจงานที่ได้รับมอบหมาย แต่ตัวครูเองก็ไม่เข้าใจการตัดสินของเครื่องมือและกำลังหลีกเลี่ยงความรับผิดชอบ

• โรงเรียนของลูกได้นำเครื่องสแกนอาวุธที่ขับเคลื่อนด้วย AI มาใช้ แต่กลับระบุว่าโน้ตบุ๊ก Lenovo ที่โรงเรียนแจกให้เป็นอาวุธ ผู้คนซื้อและเชื่อถือผลิตภัณฑ์ AI แต่สุดท้ายมันกลับทำงานได้ไม่ถูกต้อง

• น่าแปลกใจที่ผู้คนเริ่มเชื่อถืออัลกอริทึม ทั้งที่ไม่รู้ว่ามันทำงานอย่างไรและอธิบายไม่ได้ แต่ก็เชื่อว่ามันใช้ได้เอง หากถูกตัดสินว่าโกง ก็แทบทำอะไรไม่ได้ มีคนมากมายที่ไม่ต้องรับผิดชอบ ในอดีตแม้จะถูกสงสัยว่าโกงก็ไม่เป็นไรหากพิสูจน์ไม่ได้ แต่ตอนนี้ไม่จำเป็นต้องพิสูจน์แล้ว แค่เชื่อว่ามีระบบนั้นอยู่ก็พอ