อย่าปล่อยให้ AI แย่งอำนาจการตัดสินใจไป — บทเรียนจากความล้มเหลวของระบบอัตโนมัติสองครั้ง
(jessyt.tistory.com)บทความนี้เริ่มต้นจากความล้มเหลวสองครั้งที่ผู้เขียนพบขณะใช้งานระบบเทรดอัตโนมัติและระบบเผยแพร่บล็อกอัตโนมัติด้วย Claude Code ด้วยตนเอง
- เทรดอัตโนมัติ: ผู้เขียนมีความรู้เชิงโดเมนด้านการเทรดไม่เพียงพอ จึงไม่สามารถตรวจสอบโค้ดที่ AI เขียนได้ และผลลัพธ์คือ ชนะ 0 แพ้ 8 และสินทรัพย์ขาดทุน 3%
- เผยแพร่บล็อกอัตโนมัติ: ปล่อยบทความที่มีข้อมูลไม่ถูกต้องออกไปโดยไม่ตรวจทาน จนได้รับฟีดแบ็กจากผู้อ่าน
ผู้เขียนมองว่าสาเหตุร่วมของทั้งสองเหตุการณ์คือ "การยกอำนาจนำให้ AI" และเสนอความสามารถสองอย่างเพื่อป้องกันเรื่องนี้ ได้แก่ (1) ทักษะการรู้เท่าทันตัวบทในการตั้งคำถามอย่างลึกซึ้งและเข้าใจคำตอบ และ (2) ความสามารถในการประเมินความถูกต้องของผลลัพธ์ นอกจากนี้ยังแนะนำกลไกเชิงปฏิบัติอย่าง LLM Wiki ที่ฝึกด้วยข้อมูลส่วนบุคคล และฮาร์เนส (Harness) ที่ใช้จำกัดพฤติกรรมของ AI
เหตุผลที่ผู้เขียนตั้งใจให้บทสรุปเริ่มด้วยเรื่องเล่าความล้มเหลวสองกรณี ก็เพราะสิ่งที่ทำให้เกิดคอมเมนต์ใน GeekNews ไม่ใช่ทฤษฎีนามธรรม แต่เป็นประสบการณ์ที่เป็นรูปธรรมและชวนให้โต้แย้งหรือเห็นด้วยได้ เช่น "ชนะ 0 แพ้ 8"
ยังไม่มีความคิดเห็น