เครื่องมือตรวจจับ AI มีประสิทธิภาพจริงหรือ? นักเรียนเผชิญข้อกล่าวหาทุจริตที่ไม่เป็นธรรม
(bloomberg.com)- เมื่อมีการใช้เครื่องมือตรวจจับ AI ในการประเมินงาน หากงานเขียนของนักเรียนถูกตัดสินว่าเป็น เนื้อหาที่สร้างโดย AI ก็อาจส่งผลต่อคะแนนและการตัดสินว่าเป็นการทุจริตได้ทันที
- Moira Olmsted กล่าวว่าในปี 2023 งานที่เธอส่งในหลักสูตรออนไลน์ของ Central Methodist University ถูกตัดสินว่าอาจสร้างโดย AI และเธอจึงได้ 0 คะแนน
- มีรายงานว่าอาจารย์อ้างอิงผลจากเครื่องมือตรวจจับ และตอบว่างานเขียนของ Olmsted เคยถูก ตั้งธง มาแล้วอย่างน้อยหนึ่งครั้งก่อนหน้านี้
- ขณะนั้น Olmsted กำลังทำงานประจำและเลี้ยงดูลูกไปพร้อมกัน พร้อมเก็บเงินเพื่อเข้าเรียนใน หลักสูตรครู ผ่านโปรแกรมทางไกลแบบเรียนรู้ด้วยตนเอง
- หากครูประมาณ สองในสาม ใช้เครื่องมือตรวจจับเนื้อหาที่สร้างโดย AI เป็นประจำ แม้อัตราความผิดพลาดเพียงเล็กน้อยก็อาจลุกลามเป็นผลกระทบใหญ่ต่อผู้เรียนจำนวนมาก
กรณีนักเรียนที่ได้ 0 คะแนนจากเครื่องมือตรวจจับ AI
- Moira Olmsted หยุดเรียนมหาวิทยาลัยในช่วงต้นของการระบาดใหญ่ สร้างครอบครัว และพยายามกลับไปเรียนอีกครั้ง
- เธอทำงานประจำ ดูแลลูกเล็ก และเก็บเงินอยู่หลายเดือนเพื่อจ่ายค่า โปรแกรมแบบเรียนรู้ด้วยตนเอง ที่สามารถเรียนทางไกลได้
- ในปี 2023 ขณะที่ตั้งครรภ์ลูกคนที่สองได้ 7 เดือน เธอลงทะเบียนในหลักสูตรออนไลน์ของ Central Methodist University เพื่อเริ่มเรียนสู่การเป็นครู
คำตัดสินหลังส่งงาน
- ไม่กี่สัปดาห์หลังเปิดภาคเรียนฤดูใบไม้ร่วง Olmsted ส่งงานเขียนในวิชาบังคับ
- งานดังกล่าวเป็นหนึ่งใน สรุปการอ่าน 3 ชิ้น ที่ต้องทำทุกสัปดาห์
- หลังจากนั้นคะแนนที่เธอได้รับคือ 0 คะแนน
- มีรายงานว่าเมื่อ Olmsted สอบถามอาจารย์ อาจารย์ตอบว่าเครื่องมือตรวจจับ AI ประเมินว่างานชิ้นนั้นอาจถูกสร้างโดยปัญญาประดิษฐ์
- ยังมีรายงานว่าอาจารย์บอกว่างานเขียนของ Olmsted เคยถูกตั้งธงมาแล้วอย่างน้อยหนึ่งครั้งก่อนหน้านี้
เครื่องมือตรวจจับที่ใช้อย่างแพร่หลายและภาระจากความผิดพลาด
- ครูประมาณ สองในสาม ระบุว่าใช้เครื่องมือตรวจจับเนื้อหาที่สร้างโดย AI เป็นประจำ
- ยิ่งขนาดการใช้งานใหญ่ขึ้น อัตราความผิดพลาด ที่น้อยมากก็ยิ่งสะสมได้อย่างรวดเร็ว
- หากผลการตรวจจับนำไปสู่คะแนนงานและข้อกล่าวหาเรื่องทุจริต การตัดสินที่ผิดพลาดย่อมกลายเป็นภาระหนักต่อผู้เรียนแต่ละคน
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
ผมสอนคณิตศาสตร์ในระดับอุดมศึกษามา 30 ปี และกำลังจะเกษียณในเร็ว ๆ นี้ งานที่ให้คะแนนซึ่งไม่ได้คุมสอบในห้องเรียนมีการโกงจำนวนมหาศาล
สิ่งอย่างการล็อกเบราว์เซอร์ก็กันไม่ได้ ทางออกเดียวคือบังคับให้สอบแบบคุมสอบตัวต่อตัว และไม่ให้ใช้เทคโนโลยีใด ๆ ระหว่างสอบ แต่ถ้าทำอย่างนั้นคงไม่มีนักศึกษามาลงเรียนวิชานั้น ผมนึกออกแค่ว่า Higher Learning Commission ต้องบังคับใช้กับทุกวิชา
ปัญหาที่ใหญ่กว่าคือนักศึกษาไม่คุ้นกับการทำสิ่งที่จำเป็นต่อการเรียนรู้ แต่คุ้นกับการทำแค่สิ่งที่จำเป็นเพื่อให้ผ่าน และสิ่งนั้นก็กลายเป็นการโกงมากขึ้นเรื่อย ๆ แม้แต่นักศึกษาแคลคูลัสก็มีบางคนที่จัดการกับเศษส่วนไม่ได้ ถ้าสร้างระบบที่ป้องกันการโกงได้จริง ๆ ก็จะเผยให้เห็นว่านักศึกษามหาวิทยาลัยในปัจจุบันมีสัดส่วนสูงมากที่ยังไม่พร้อมสำหรับการศึกษาระดับมหาวิทยาลัยจริง ๆ ระบบ K-12 ก็ต้องเปลี่ยนด้วย
ในมุมของนักศึกษา สิ่งที่สถาบันถัดไปมองโดยทั่วไปคือเกรด โรงเรียน และสาขาวิชา ตามลำดับ ถ้าต้นทุนของการไม่ได้ A คือการถูกกันออกจากโอกาสในอนาคต นักศึกษาก็จะเลือกเรียนวิชาที่ง่ายกว่า หรือโกงเพื่อปฏิเสธการถูกกันออกนั้น
ตอนเรียนฟิสิกส์ ผมเลือกเรียนวิชายาก ๆ ที่อยากเรียนและไม่โกง จบมาด้วย GPA 2.7 ซึ่งการเลือกแบบนี้มีผลตามมาจริง ๆ ผมคิดว่าทางออกคือลดการพึ่งพาการประเมินที่เปราะบางต่อการโกง หรือการประเมินที่ในโลกจริงคอมพิวเตอร์จะจัดการให้
วิชาบังคับจำเป็นต่อการได้รับปริญญา ดังนั้นถ้ามี Linear Algebra อยู่ในหลักสูตร ก็เป็นไปไม่ได้ที่จะ “ไม่ลงเรียน” ถ้าตก 3 ครั้งก็พ้นสภาพ
เพราะมหาวิทยาลัยในเยอรมนีและส่วนใหญ่ของยุโรปดำเนินงานด้วยภาษี ส่วนในสหรัฐฯ จากมุมของมหาวิทยาลัย การรั้งนักศึกษาที่จ่ายเงินดีไว้ต่อไปเป็นประโยชน์ ดังนั้นจึงจะเดินไปตามเส้นทางที่อธิบายไปนี้ต่อไป มันเป็นบริการ และเป็นโครงสร้างที่ลูกค้าซื้อปริญญา
ผมเคยเรียนวิชาคอมพิวเตอร์กราฟิกส์ที่มหาวิทยาลัย ชุดโจทย์นั้นทุกคนได้ 100% ขึ้นไปอย่างแท้จริงเพราะมีโจทย์โบนัส ส่วนค่ามัธยฐานของคะแนนสอบกลางภาคต่ำกว่า 50% ผมยังจำได้ว่าในเซสชันเตรียมสอบ พออาจารย์เปิดให้ถาม มีนักศึกษาคนหนึ่งขออย่างจริงจังให้ “ช่วยอธิบายแนวคิดเรื่องเมทริกซ์ทั้งหมดใหม่อีกครั้ง”
อนึ่ง เป็นวิชาระดับ 400 และเป็นหนึ่งในมหาวิทยาลัยชั้นนำของแคนาดา เรื่องนี้เกิดขึ้นมากกว่า 20 ปีก่อน ดังนั้นตอนนี้คงแย่ลงไปอีกไม่ทางใดก็ทางหนึ่ง
เหตุผลคือยังไงนักศึกษาก็จะพยายามใช้ลูกเล่นพวกนั้นอยู่แล้ว จึงอนุญาตไปเลย แล้วเปลี่ยนเป็นข้อสอบที่มีภูมิคุ้มกันต่อข้อได้เปรียบนั้น ทุกครั้งก่อนสอบ อาจารย์จะบอกว่าใช้เครื่องมือได้ แต่ “ก็ต้องอ่านหนังสือนะ หนังสือ โน้ต และเครื่องคิดเลขจะช่วยชีวิตพวกเธอไม่ได้”
ในระยะยาว ผมคิดว่าการศึกษาน่าจะไปในทิศทางของการปรับหลักสูตรให้เครื่องมือ AI ไม่ได้ให้ข้อได้เปรียบมากนัก มากกว่าการห้ามใช้เครื่องมือ AI
ในการจ้างวิศวกรซอฟต์แวร์ ผมเคยเป็นผู้สัมภาษณ์ในการสัมภาษณ์เทคนิคหลายร้อยครั้ง และตอนนี้ก็ยังช่วยบริษัทจ้างงานในฐานะผู้สัมภาษณ์อิสระอยู่ การโกงมีมากมหาศาล ผมคิดว่าในบริษัททั่วไปอย่างน้อย 30% และใน FAANG มากกว่า 50% เป็นคนโกง
มีคนจำนวนมากที่แชร์โจทย์เทคนิคในกลุ่มและฟอรั่มส่วนตัว และได้รับความช่วยเหลือบางรูปแบบระหว่างสัมภาษณ์ ผมเห็นซ้ำ ๆ ว่าโจทย์ที่ตั้งใจทำให้ซับซ้อนถูกแก้ได้ในไม่กี่นาทีด้วยวิธีที่ดีที่สุด
ตอนนี้การประเมินว่านักเรียนเข้าใจหัวข้อได้ลึกแค่ไหนด้วย เรียงความเป็นลายลักษณ์อักษร เพียงอย่างเดียวนั้นไม่มีประสิทธิภาพแล้ว
AI จะยังคงอยู่ต่อไป และเราต้องการวิธีใหม่ในการประเมินผลสัมฤทธิ์ของนักเรียน ผมจำได้ว่าเคยถูกบอกที่โรงเรียนว่า ห้ามใช้เครื่องคิดเลขระหว่างสอบ ครูบอกว่า “เราเชื่อไม่ได้หรอกว่าเธอจะมีเครื่องคิดเลขใช้เสมอในเวลาที่ต้องการที่สุด” แต่ที่น่าขันคือ ตอนนี้เรามี “เครื่องคิดเลข” อยู่ในกระเป๋าตลอด 24 ชั่วโมง
เราต้องยอมรับว่าโลกเปลี่ยนไปแล้ว ผมแค่หวังว่าเราจะตัดสินใจร่วมกันได้ว่าสังคมจะตอบสนองต่อการเปลี่ยนแปลงนั้นอย่างไร ไม่ใช่ถูกผลักให้ไหลไปตามแรงบังคับ
ทุกครั้งที่เห็นหนี้กู้ยืมเพื่อการศึกษา ก็น่าลองคิดเรื่องนี้ดู แม้เงินจำนวนนั้นก็ยังซื้อเวลาประเมินรายบุคคลกับครู 30 นาทีต่อวิชาไม่ได้ และแทนที่จะทำแบบนั้น ก็ให้นักเรียนใช้เวลานานกว่าเดิมไปกับงานเขียน แล้วโยนภาระการตรวจให้ผู้ช่วยสอนค่าแรงขั้นต่ำแทน
ตัวอย่างเด่นคือ เรียงความสมัครเข้ามหาวิทยาลัย นักเรียนบางคนมีพ่อแม่ที่สามารถจัดหาประสบการณ์ที่ดูดีสำหรับใส่ในเรียงความได้ และยังจ้างติวเตอร์เพื่อ “ช่วย” เขียนเรียงความได้ด้วย เช่น ทริปการศึกษาในแอฟริกา เรียนเครื่องดนตรีสองชนิด โค้ชกอล์ฟตัวต่อตัว
AI เพียงแค่ทำให้ส่วนของติวเตอร์นี้เข้าถึงได้กว้างขึ้นและอยู่ในงบประมาณของคนหลากหลายชนชั้นมากขึ้นเท่านั้น การคิดว่าก่อนมี AI ไม่มีตลาดสีเทาของการโค้ชเรียงความ หรือไม่มีตลาดมืดของบริการรับเขียนแทน ถือว่าใสซื่อเกินไป ในหลายกรณี ตลาดเหล่านั้นยังทำงานได้ดีกว่า AI ด้วยซ้ำ
โดยปกติเป็นการต่อสู้แบบสันติในศาล รัฐสภา และตลาด แต่ก็ยังเป็นการต่อสู้อยู่ดี
นักเรียนกำลังถูกประเมินอยู่ตอนนี้ ดังนั้นถ้าต้องการวิธีประเมินใหม่ ก็ต้องมีคำตอบตอนนี้ เราอาจย้อนกลับไปใช้การสอบปากเปล่าแบบเดิมก็ได้ และในระดับปริญญาเอกก็ยังใช้อยู่ แต่ขยายผลไม่ได้เลย บางทีเราอาจต้องจำกัดการศึกษาระดับสูงอย่างเข้มงวดตามจำนวนเวลาที่มีจำกัดสำหรับการประเมินแบบคนต่อคน
โดยส่วนตัว ผมมองว่าทั้งหมดนี้คาดเดาไม่ได้และไม่มั่นคง ถ้าฝ่ายสนับสนุน AI พูดถูก ซึ่งผมไม่คิดอย่างนั้น งานออฟฟิศและสาขาวิชาการส่วนใหญ่ที่นักเรียนกำลังถูกฝึกและถูกประเมินเพื่อไปทำก็จะหายไป
ข้ออ้างว่าจะหาเครื่องคิดเลขไม่ได้ฟังไม่ขึ้นแม้แต่ในสมัยนั้น แต่ข้อสังเกตที่ว่าการพึ่งพาเครื่องคิดเลขจะพราก การฝึกฝนทางจิตใจ ที่ตั้งใจไว้เดิมนั้นถูกต้องแล้ว เพียงแต่การอธิบายให้เด็กอายุ 12 ปีเข้าใจว่าคณิตศาสตร์งดงามจริง ๆ และหลักการเชิงระบบของมันเปลี่ยนวิธีมองโลกอย่างถึงรากนั้นเป็นเรื่องยาก
เรียงความก็เช่นเดียวกัน ผมเคยเกลียดการเขียนเรียงความ และหาเหตุผลสารพัดว่าต่อไปคงไม่ต้องเขียนเรียงความอีก แต่พอมองย้อนกลับไป สิ่งที่เรียงความบังคับให้ทำคือการคิดอย่างมีโครงสร้าง เรียงความไม่ใช่เครื่องมือประเมินความสามารถในวิชาใดวิชาหนึ่ง แต่เป็นเครื่องมือเพื่อการเรียนรู้ และการลงมือเขียนเองก็เป็นส่วนหนึ่งของการเรียนรู้
นี่คือสิ่งที่คำพูดว่า “เด็ก ๆ ไม่จำเป็นต้องคำนวณในหัว” มองข้ามไป ความสามารถในการคำนวณเป็นเพียงส่วนหนึ่งตั้งแต่แรก และการได้เรียนรู้ว่าตัวเองสามารถเรียนวิธีคำนวณนั้นได้ ก็สำคัญไม่น้อยไปกว่ากัน
ส่วนที่น่าหงุดหงิดคือ ดูเหมือนนักเรียนไม่มีสิทธิ์ได้ฟังว่าเหตุใด AI จึงปักธงงานของตัวเอง
ในกระบวนการใด ๆ ที่คอมพิวเตอร์ตัดสินมนุษย์ ควรมีกฎว่าอัลกอริทึมต้องสามารถ อธิบายได้อย่างชัดเจน ว่าทำไมจึงปักธงคนนั้น
หากทำเช่นนี้ โซลูชันที่ใช้ AI ในปัจจุบันแทบจะตายหมด เพราะไม่มีทางอธิบายหรือทำความเข้าใจได้ว่าทำไมมันจึงตัดสินว่าวิทยานิพนธ์ลอกเลียนแบบหรือไม่ แต่ก็ไม่เป็นไร
ถ้าอยากรู้เพิ่มเติม ขอแนะนำหนังสือเล่มล่าสุดของ Arvind Narayanan และ Sayash Kapoor ชื่อ AI Snake Oil เป็นหนังสือที่วิพากษ์วิจารณ์แต่มีความสมดุล และช่วยให้มองกระแส AI ที่ร้อนแรงเกินจริงได้ชัดเจนขึ้น
https://press.princeton.edu/books/hardcover/9780691249131/ai...
แบบนี้ยุติธรรมในโลกไหนกัน? อย่างน้อยศาลก็ไม่ได้ทำงานบนสมมติฐานแบบนี้
ผมคิดว่าควรมีกฎหมายที่บังคับให้ต้องให้ คำอธิบายที่ชัดเจน เมื่อเกิดเรื่องแบบนี้
แค่ช่วงมัธยมปลาย การค้นหาว่าตัวเองเป็นใครก็ยากพออยู่แล้ว แต่ตอนนั้น Kafka ยังเป็นแค่งานอ่านที่ครูสั่งเท่านั้น
เป็นที่ปรึกษาในโรงพยาบาลมหาวิทยาลัยขนาดใหญ่และเป็นชาวดัตช์ เมื่อหลายปีก่อนได้รับคอมเมนต์ในวิทยานิพนธ์ปริญญาเอกว่า “ควรให้เจ้าของภาษาตรวจให้”
ดังนั้นตอนนี้จึงใช้ ChatGPT ตรวจภาษาอังกฤษ เขียนสิ่งที่อยากพูดเองก่อน แล้วขอให้แก้เป็น “ให้กระชับขึ้น ดูเป็นธุรกิจขึ้น และไม่อเมริกันจ๋าเกินไป” เพราะค่าเริ่มต้นมันมักจะกระตือรือร้นเกินเหตุเหมือนพนักงานเสิร์ฟอเมริกัน
9 ใน 10 ครั้ง มันสื่อสิ่งที่ผมอยากพูดได้ดีกว่าที่ผมเขียนเอง ใช้คำน้อยกว่า และเป็นภาษาอังกฤษที่ดีกว่า ผมไม่คิดว่าเวลาทำรายงานลดลง แต่ผลงานออกมาดีกว่าที่ผมจะทำเองได้มาก
เครื่องมือตรวจจับ AI อาจส่งสัญญาณเตือนก็ได้ แต่นั่นไร้ประโยชน์พอ ๆ กับ เครื่องมือตรวจจับตัวตรวจสะกดคำ มันคือโมเดลภาษาขนาดใหญ่ ไม่ใช่โมเดลข้อเท็จจริงขนาดใหญ่ ถ้าเป็นครู ก็ควรตรวจจับเรื่องเหลวไหลได้ดีไม่ใช่หรือ
ถ้าผมตรวจรายงานนักเรียน ผมคงให้ฟีดแบ็กแบบนี้: ได้โปรดใช้ ChatGPT ตรวจภาษาเถอะ แต่ข้อเท็จจริง ได้โปรดตรวจสอบด้วยวิธีอื่น
มันแทบจะเป็นบทเรียนฟรีสำหรับทั้งสองห้อง และช่วยได้จริง ๆ ปีถัดมาผมก็ทำแบบเดียวกัน จำได้ด้วยว่าสมัยนั้นคอมพิวเตอร์ยังค่อนข้างหายาก และการพิมพ์ดีดก็เป็นทักษะที่ต้องเรียนต่างหาก ดังนั้นร่างส่วนใหญ่จึงเป็นลายมือ
มีคำพูดมานานแล้วว่า ถ้าอยากเรียนรู้เรื่องใดจริง ๆ ให้ลองสอนเรื่องนั้น การแลกเปลี่ยนแบบนี้ได้ผลดี และสังคมส่วนใหญ่ก็ทำงานทำนองนั้น การใช้ AI ก็คงค่อนข้างคล้ายกัน แต่ผมคิดว่าคนอื่นยังดีกว่า AI จะไม่มาดักคุณในทางเดินแล้วพูดว่า “เฮ้ ช่วงกลาง ๆ ของรายงานนายฉันหลงทางหมดเลย มันคืออะไรกันแน่” ทั้งที่บางครั้งคำพูดแบบนั้นช่วยได้มากจริง ๆ
การทำให้งานเขียนเข้าถึงได้มากขึ้นด้วยภาษาที่ชัดเจนและข้อโต้แย้งที่จัดวางดี เป็นบริการที่มีคุณค่าต่อผู้อ่าน และผมมองคนที่ใช้ LLM เพื่อจุดประสงค์นี้ในทางที่ดี ผมเองก็ทำแบบนั้น
โมเดลที่พยายามสร้างเนื้อหาสารคดีในหัวข้อใดหัวข้อหนึ่ง จะพบแพตเทิร์นของคำกล่าวอ้างที่บังเอิญเป็นจริงจริง ๆ หรืออย่างน้อยก็มีรูปแบบเหมือนคำกล่าวอ้างที่เป็นจริงและไม่มีสัญญาณชัดเจนบ่งบอกว่าไม่จริง มากกว่า
แน่นอนว่าบางครั้งมันก็หลุดรางและสร้าง ภาพหลอน ขึ้นมา เมื่อเกิดเรื่องแบบนั้น นักเรียนที่ไม่ตรวจสอบผลลัพธ์ก็โชคร้ายไป และถ้าแรงจูงใจหนึ่งของการทุจริตคือไม่รู้เนื้อหาพอจะตรวจสอบได้อย่างถูกต้อง ก็น่าจะมีนักเรียนแบบนั้นอยู่ไม่น้อย
โรงเรียนของลูกผมติดตั้ง เครื่องตรวจจับอาวุธ ใหม่ที่ต้องเดินผ่านตอนเข้าโรงเรียน และบอกว่าใช้ “AI” เป็นฐาน โรงเรียนค่อนข้างเชื่อ AI นั้นมาก
แต่ AI ระบุโน้ตบุ๊ก Lenovo ที่โรงเรียนแจกให้ว่าเป็นอาวุธ ดังนั้นเด็กทุกคนจึงถูกแจ้งเตือน แทนที่จะหยุดใช้เครื่องมือโง่ ๆ แบบนี้ กลับให้เด็ก ๆ เอาโน้ตบุ๊กออกมาก่อนเดินผ่านสแกนเนอร์
ดูเหมือนกำลังเกิดสถานการณ์ที่คนซึ่งไม่ฉลาดพอซื้อผลิตภัณฑ์ “AI” แล้วเชื่อว่ามันจะทำสิ่งที่ต้องการได้ ทั้งที่จริง ๆ มันใช้ไม่ได้
คนที่จัดซื้อระบบด้วยงบสาธารณะควรถูกบังคับให้กำหนดแผนที่ดีในการรับมือผลบวกปลอมและผลลบปลอมที่คาดว่าจะเกิดขึ้น โดยอิงจากค่า precision และ recall ที่โฆษณาไว้
เป็นเรื่องค่อนข้างบ้ามากที่ผู้ใหญ่เริ่มเชื่ออัลกอริทึมอะไรก็ได้ภายใน 1–2 ปี ไม่รู้ว่ามันทำงานอย่างไร อธิบายไม่ได้ ไม่สนใจด้วย และแค่ถือว่ามันทำงานได้ มันก็คือเวทมนตร์นั่นเอง ถ้ามันบอกว่านั่นคือการทุจริต มันก็กลายเป็นการทุจริต และคุณทำอะไรไม่ได้
สิ่งที่อยากเน้นคือ นี่ไม่ใช่แค่ปัญหาเชื่อในเวทมนตร์ แต่คือทุกวันนี้ผู้คนทำเรื่องเหลวไหลได้อย่างหน้าตาเฉยเกินไปและไม่ต้องรับผิดชอบ สมัยก่อนที่โรงเรียน ผมเคยตั้งใจทำการบ้านของวิชาหนึ่งอย่างจริงจังเป็นครั้งแรกเพราะชอบมัน แล้วถูกสงสัยว่า “ทุจริต” การได้ยินว่าไม่มีทางที่คุณจะทำเองได้เป็นเรื่องน่าดูถูก แต่ผมก็ยังได้คะแนนอยู่ดี ถ้าพิสูจน์ไม่ได้ ครูจะคิดอะไรก็ไม่สำคัญ แค่เซ็นแล้วไสหัวไปประมาณนั้น และนั่นก็เป็นการบ้านครั้งสุดท้ายของวิชานั้น
ในทางกลับกัน ถ้าบทความนี้ถูกต้อง ครูในตอนนี้ไม่จำเป็นต้องพิสูจน์อะไรเลย ข้อเท็จจริงที่ว่าเหรียญออกหัวถูกถือเป็นหลักฐานเพียงพอ ทุกคนดูเหมือนยอมรับแบบว่า “ก็โรงเรียนมีระบบแบบนั้น จะทำยังไงได้” บ้าชัด ๆ
เราฝึกผู้คนมากว่า 30 ปีให้เชื่อว่าคอมพิวเตอร์สร้างผลลัพธ์ที่เที่ยงตรง ถูกต้อง และทำซ้ำได้ แต่บริษัทโครงข่ายประสาทกลับสร้างเครื่องกำเนิดสัญลักษณ์แบบสุ่ม แล้วจงใจปกปิดข้อเท็จจริงว่ามีความสุ่มที่ถูกโปรแกรมไว้ในโปรแกรมนั้น
เมื่อไม่นานมานี้มีอีกคดีในศาลสหรัฐฯ ที่มีข้อความที่สร้างขึ้นมาโผล่มา คราวนี้ดูเหมือนไม่ได้มีเจตนาร้าย ประเด็นสำคัญคือโจทก์ขอให้โครงข่ายประสาทคำนวณการเงินย้อนหลังเกี่ยวกับมูลค่าอสังหาริมทรัพย์ แล้วเชื่อทันที “เพราะมันเป็นคอมพิวเตอร์” คอมพิวเตอร์ถูกเสมอ และโครงข่ายประสาทรันบนคอมพิวเตอร์ ดังนั้นมันจึงถูกเสมอ ความคิดแบบนี้กำลังจะแพร่ไปทุกบ้านทั่วโลกในไม่ช้า ถึงตอนนั้นเราอาจคิดถึงความไม่ซื่อสัตย์และการโฆษณาชวนเชื่อของสื่อก็ได้ อย่างน้อยเมื่อก่อนเรายังพอแยกได้บ้างว่าแหล่งข่าวตั้งใจโกหกหรือไม่
คนที่รู้สึกไม่สบายใจกับความไม่รู้นั้นก็มีน้อย และแทบไม่มีความต้องการจะเรียนรู้แม้แต่พื้นฐาน บางคนจำเป็นต้องรู้ให้ได้ ซึ่งสำหรับผมแล้วเข้าใจยากมาก
ไม่สำคัญว่าระบบนั้นจะเป็นศาลศาสนาที่ตามล่าแม่มด เครื่องจักร หรือ Gulag ของโซเวียต ระบบบอกว่ามีความผิด และระบบไม่มีวันผิด
Kafka คงพลิกตัวในหลุมศพ
วิธีนี้ทำให้แต่ละคนสามารถปั้นสังคมตามที่ต้องการจากตำแหน่งของตนได้ ถ้าพี่น้องของนักเรียนคนหนึ่งเคยเป็นตัวปัญหา ก็ทำได้ว่า “บ้านนั้นคงเป็นแบบนั้นแหละ มาแกล้งกันเถอะ” หรือถ้าไม่ชอบเชื้อชาติ เพศ หรือรสนิยมทางเพศของนักเรียน “chatGPT” ก็ให้เครื่องมือที่ง่ายในการทำให้ชีวิตในโรงเรียนยากขึ้น
ลูกสาวส่งเรียงความให้โรงเรียนออนไลน์ แต่ถูกกล่าวหาว่าเป็น งานเขียนที่ AI เขียน เพียงเพราะซอฟต์แวร์ของโรงเรียนบอกเช่นนั้น แม่เฝ้าดูลูกสาวตอนเขียนอยู่
ผมนึกว่าเป็นสามัญสำนึกแล้วว่าการตัดสินว่าข้อความสร้างโดย AI หรือไม่นั้นเป็นไปไม่ได้ แต่ดูเหมือนผู้ขายซอฟต์แวร์จะไม่รู้หรือไม่ก็โกหก และผู้บริหารโรงเรียนก็เชื่อสิ่งนั้น
อีกทั้งยังมีปัญหาที่เรียงความของนักเรียนในสเปกตรัมออทิสติกถูกทำเครื่องหมายอย่างไม่สมส่วน จึงอาจกลายเป็นการ ละเมิดสิทธิพลเมือง รูปแบบหนึ่งได้ด้วย
พอทดลองเองแบบง่าย ๆ แล้วดูเหมือนใช้งานได้เป็นส่วนใหญ่ ก็สรุปว่าคำกล่าวอ้างของบริษัทเป็นจริง ปัญหาคือการทดสอบเหล่านั้นล้วนเป็นการดูว่างานที่ AI เขียนจะผ่านไปเป็นงานมนุษย์เขียนหรือไม่ ไม่ใช่ทิศทางกลับกัน
เครื่องมือแบบนี้มีอัตราผลบวกลวงที่ไม่เป็นศูนย์ ดังนั้นย่อมต้องมีนักเรียนผู้น่าสงสารที่ใช้เวลาหลายสัปดาห์ทุ่มทำรายงานปลายภาค 20 หน้าแล้วถูกจับว่าใช้ AI เด็กคนนั้นจะไม่มีทางเยียวยาหรืออุทธรณ์ได้ เพราะโรงเรียนจ่ายเงินก้อนโตให้ตัวตรวจจับ AI ไปแล้ว และจะเชื่อว่ามันถูกต้อง
เหมือนที่เราตัดสินใจกันไปแล้วว่าเครื่องคิดเลขทำให้ไม่ต้องสนใจทักษะเลขคณิตอีกต่อไป
ในสหรัฐฯ เรื่องแบบนี้เกิดขึ้นตลอด ฟีดแบ็กจากระบบตรวจสอบที่อยู่ถูกยอมรับโดยไม่ต้องได้รับอนุมัติจากเจ้าของบัญชี ทำให้ที่อยู่ถูกเปลี่ยนไปตามอำเภอใจได้ด้วยซ้ำ พอโทรหาศูนย์บริการลูกค้า พวกเขาก็บอกว่า “ระบบแจ้งว่าที่อยู่ไม่ถูกต้องครับ/ค่ะ” ราวกับว่าระบบรู้ดีกว่า DMV หรือเอกสารบ้านว่าผมอยู่ที่ไหนมาตลอด 5 ปี ถ้าอัตราความผิดพลาดต่ำพอ ผู้คนในสหรัฐฯ ก็แค่ยอมรับมันไป
แล้วมันก็แย่ลงอีก อัตราความผิดพลาดอาจไม่ได้ต่ำ แต่อาจสูงในกลุ่มย่อยบางกลุ่ม ตอนนั้นคุณจะได้เห็นลำดับชั้นของตัวเองในสังคม ลองถามคนผิวสีน้ำตาลดูว่าในช่วงปี 2003–2006 การขึ้นเครื่องบินสนุกแค่ไหน ในนิวยอร์ก ถ้าการจับคู่ระหว่างนามสกุลกับรหัสไปรษณีย์ผิด คุณก็อาจยืม Citibike ที่ให้บริการบนพื้นที่สาธารณะไม่ได้ด้วยซ้ำ
เรื่องนี้ก็คงเป็นแบบเดียวกัน เว้นแต่จะมีคดีใหญ่ระดับ ACLU ที่ทำให้เรื่องนี้ถูกเปิดโปง ความเสียหายน่าจะดำเนินต่อไปจนกว่าจะได้รับการแก้ไข บางทีลักษณะละเอียดอ่อนของสไตล์ภาษาอาจถูกใช้เป็นทริกเกอร์ โดยอาจไม่ได้ตั้งใจ คนใน “กลุ่มใน” ที่ไม่ถูกกระทบจะอ้างว่าเป็นระบบที่ยุติธรรม ส่วนคนอื่น ๆ ต้องแบกรับภาระพิสูจน์และปกป้องตัวเองต่อหน้ากล่องดำ
ครูคนหนึ่งของลูกผมส่งคำเตือนไปให้นักเรียนว่าเขาจะตรวจเรียงความทุกชิ้นด้วยซอฟต์แวร์ตรวจจับ AI และบอกว่าจะโดนลงโทษอะไรหากถูกจับได้
เพื่อนร่วมชั้นคนหนึ่งเอาคำเตือนของครูคนนั้นไปใส่ในตัวตรวจ AI แล้วผลออกมาเป็นบวกว่ามัน สร้างโดย AI
LLM คงได้กินงานเขียนประเภทนี้เข้าไปมหาศาลแล้ว ไม่ว่าจะมัธยมหรือมหาวิทยาลัย ก็ไม่น่าแปลกที่รายงานแบบมีรูปแบบตายตัว ซึ่งต้องตรงตามข้อกำหนดและโดยทั่วไปควรได้คะแนนดี จะถูกมองว่ามีโอกาสสูงว่าสร้างด้วยเทคโนโลยีแบบ GPT
LLM ก็น่าจะถูกฝึกด้วยประมวลรายวิชาและเอกสารพื้นฐานสำหรับครูจำนวนมากเช่นกัน และการสื่อสารสั้น ๆ ระหว่างครูกับผู้ปกครองหรือครูกับนักเรียนก็หลุดออกจากบริเวณแรงดึงดูดของงานเขียนแบบเดียวกับที่ LLM ใช้ได้ยาก
ที่สงสัยก็เพราะปัญหาการสร้างข้อความด้วย “AI” นี้ไม่ใช่ปัญหาเชิงเทคนิค แต่เป็น ปัญหาของมนุษย์ 101%
อัตราผลบวกลวง 4% นั้นสูงอย่างไร้เหตุผล หากมันอาจหมายถึงการสอบตกหรือถูกไล่ออก ยิ่งไปกว่านั้น คนโกงจริงจังสามารถเลี่ยงได้ใน 2 นาทีด้วยพรอมป์ต์นำหน้าอย่าง “เขียนในสไตล์ของคนนั้นคนนี้”
มันคล้ายกับ “ครูเตือนว่าจะเอาเรียงความทั้งหมดไปเทียบกับเรียงความของนักเรียนคนอื่น ๆ ว่าเหมือนกันหรือไม่ และถ้าถูกจับได้จะลงโทษ มีนักเรียนคนหนึ่งลองค้น Google แล้วพบว่าคำถามเรียงความนั้นปรากฏเป็นตัวอย่างในหนังสือเล่มหนึ่ง”
ฝั่งหนึ่งสมเหตุสมผลโดยสมบูรณ์ อีกฝั่งหนึ่งไม่ใช่ แน่นอนว่ามีพื้นที่สีเทาอยู่ การใช้ ChatGPT บางอย่างอาจไม่ใช่การลอก และอาจเรียกได้ว่าเป็นการที่เด็ก ๆ เรียนรู้การใช้เครื่องมือ แต่ถ้าฝากให้มันทำ 95% ของเรียงความ นั่นก็คือการลอก
ถ้าเป็นคนที่ต้องตรวจงานนักเรียนหรืออ่านใบสมัครงาน การมองให้ออกอย่างรวดเร็วว่าเป็น ข้อความที่ AI สร้าง กลายเป็นเรื่องง่ายมาก
ดูเหมือนข้อความจะใช้กรอบทั่วไปแบบเดียวกัน แล้วแค่เปลี่ยนคำ อีกอย่างคือมีปรากฏการณ์ที่ผมเรียกว่า “คำประจำสัปดาห์” คือ AI engine บางตัวไปติดใจกับคำภาษาอังกฤษบางคำ ซึ่งมักเป็นคำแปลก ๆ แล้วใช้มันทุกโอกาส ใช้เวลาไม่นานก็จะตระหนักว่าสุภาษิตที่ว่ามันคือ autocomplete ฉีดสเตียรอยด์นั้นถูกต้อง
แต่การเขียนโปรแกรมให้คอมพิวเตอร์ทำเรื่องนี้ไม่ง่าย สมัยทำงานที่เก่า ผมเคยดูแลเครื่องมือตรวจจับการคัดลอกผลงาน แล้วไม่นานก็รู้ว่าเครื่องมือพวกนั้นห่วยแค่ไหน และยังรู้ด้วยว่าหลอกมันได้ง่ายเพียงใด แต่นั่นเป็นอีกเรื่องหนึ่ง คณาจารย์เองก็รู้ในไม่ช้าว่าเครื่องมือมันเละเทะ ดังนั้นเมื่อนักเรียนที่ถูกกล่าวหาว่าคัดลอกผลงานโต้แย้ง ข้อกล่าวหาก็มักถูกถอนเงียบ ๆ
ประมาณว่า “เขียนเกี่ยวกับหัวข้อทางเทคนิค หัวข้ออะไรก็ได้ 1,500 คำ นี่คือ rubric” ใน rubric มีรายการอย่าง “ใช้ประโยคที่แนะนำหัวข้อของย่อหน้า” และผลก็คือเราต้องเขียนร้อยแก้วที่เป็นสูตรสำเร็จอย่างสุดขั้ว
ไม่แน่ใจว่ามันทำให้เป็นผู้สื่อสารที่ยอดเยี่ยมได้ไหม แต่ผมคิดว่ามันได้ผลดีมากในการยกระดับคนที่สื่อสารแย่มากให้ขึ้นมาถึงระดับขั้นต่ำพื้นฐาน มันใช้ได้ผลกับงานเขียนอื่น ๆ บางงานด้วย ส่วนหนึ่งเพราะยิ่งเป็นสูตรสำเร็จมากเท่าไร นักศึกษาปริญญาเอกที่ตรวจงานจนล้นมือก็ยิ่งชอบ
นักเรียนที่มีวินัยมากพออาจดูเหมือน ChatGPT ได้ และต้นทุนของ การกล่าวหาเท็จ นั้นสูงมาก
ผมอาจเอาคลังข้อความงานเขียนของตัวเองใส่ใน ChatGPT แล้วสั่งให้เขียนในสไตล์ของผมก็ได้
แต่บ่อยครั้งเมื่อเขาส่งประโยคบางประโยคมา ผมเดาได้ถูก 100% ว่าก่อนหน้านั้นผ่าน AI มาหรือไม่ พอคุ้นกับวิธีจัดโครงสร้างประโยคแล้ว มองออกง่ายมาก ถ้าอยู่ในตำแหน่งที่มีอำนาจอย่างครู ส่วนที่ยากที่สุดก็คงเป็นการพิสูจน์เรื่องนั้น
ผมเข้าใจคอมเมนต์ส่วนใหญ่ตรงนี้ยาก
สมัยมัธยมใช้โทรศัพท์มือถือในชั้นเรียนไม่ได้ จึงโกงไม่ได้ ทั้งใบงานหรือควิซ รวมถึงข้อสอบปรนัย สอบปากเปล่า และสอบเรียงความก็เช่นกัน
แต่เธรดด้านบนพูดเหมือนต้องออกแบบระบบโรงเรียนใหม่ทั้งหมด และหลายคนเสนอให้พึ่งพาการสอบปากเปล่ากับการสอบที่มีผู้คุมสอบ ผมไม่เข้าใจว่ามันแก้ปัญหาอะไรได้มากกว่าการสอบ OMR ในห้องเรียนแบบง่าย ๆ ที่ครูคอยตรวจว่านักเรียนไม่ใช้โทรศัพท์มือถือกันแน่
ในหลายที่ โดยเฉพาะในสหรัฐฯ แทบไม่มีการสอบที่มีผู้คุมสอบ และสัดส่วนไม่น้อยของเกรดทั้งหมดประกอบจากงานรายวิชา พอบวกกับการทำให้การศึกษาเป็นดิจิทัลที่เดินหน้าแบบต้านไม่ได้ ก็เลยกลายเป็นสถานการณ์ตอนนี้
พอถึงระดับมหาวิทยาลัย ก็มีโปรเจกต์อย่างรายงานวิจัยหรือรายงานปลายภาคที่ใช้เวลานานเกินกว่าจะทำให้เสร็จในห้องเรียนได้ โปรเจกต์แบบนี้เปราะบางต่อ การจ้างเขียนแทน มากกว่าการคัดลอกผลงานมาตั้งนานแล้ว และคุณจะประหลาดใจถ้ารู้ว่ามันเกิดขึ้นบ่อยแค่ไหนจริง ๆ แม้แต่ในมหาวิทยาลัยชั้นนำ LLM ก็แค่ลดอุปสรรค ทำให้มันเกิดบ่อยขึ้นเท่านั้น
นี่เป็นปัญหาจริง และผู้คนโกงกันอย่างซับซ้อนกว่าที่คิดตอนแรกมาก
โทรศัพท์มือถือไม่ใช่วิธีโกงเพียงอย่างเดียว และจริง ๆ แล้วอาจแอบใช้ได้ยากกว่าวิธีเก่า ๆ ด้วยซ้ำ