- มีการสั่งห้ามใช้งานระบบ AI ที่ถูกจัดอยู่ในกลุ่ม “ความเสี่ยงที่ยอมรับไม่ได้ (unacceptable risk)” ภายใน EU อย่างเด็ดขาด
- วันที่ 2 กุมภาพันธ์เป็นเส้นตายการปฏิบัติตามข้อกำหนดครั้งแรกของ EU AI Act และกฎดังกล่าวมีผลกับเทคโนโลยี AI ทั้งหมดที่ให้บริการหรือถูกใช้งานภายใน EU
- หากฝ่าฝืน อาจถูกปรับเป็นจำนวนที่สูงกว่าระหว่าง 7% ของรายได้ต่อปี หรือสูงสุด 35 ล้านยูโร (ราว 36 ล้านดอลลาร์)
ภาพรวมของ EU AI Act
- กำกับดูแลโดยแบ่งระดับความเสี่ยงของ AI ออกเป็น 4 ระดับ
- ความเสี่ยงต่ำมาก: เช่น ตัวกรองสแปม
- ความเสี่ยงจำกัด: เช่น แชตบอตสำหรับให้คำปรึกษาลูกค้า
- ความเสี่ยงสูง: เช่น ระบบช่วยตัดสินใจทางการแพทย์
- ความเสี่ยงที่ยอมรับไม่ได้: AI ที่มีแนวโน้มก่อให้เกิดอันตรายทางกาย ทางจิตใจ หรือการเลือกปฏิบัติต่อผู้คนอย่างร้ายแรง
- AI ที่ถูกกำหนดว่าเป็นความเสี่ยงที่ยอมรับไม่ได้จะถูกห้ามใช้งานโดยสิ้นเชิง
- ตัวอย่างที่สำคัญ
- การให้คะแนนทางสังคม: AI ที่สร้างโปรไฟล์ความเสี่ยงจากพฤติกรรมของบุคคล
- การชักจูงโดยไม่รู้ตัว: AI ที่ชักจูงการตัดสินใจของผู้คนอย่างลับๆ หรือด้วยการหลอกลวง
- การเอาเปรียบกลุ่มเปราะบาง: AI ที่ฉวยใช้ประโยชน์จากอายุ ความพิการ หรือสถานะทางเศรษฐกิจ
- การคาดการณ์อาชญากรรมจากรูปลักษณ์: AI ที่คาดการณ์ความเป็นไปได้ในการก่ออาชญากรรมจากรูปลักษณ์ของบุคคล
- การวิเคราะห์ลักษณะเฉพาะด้วยข้อมูลชีวมิติ: AI ที่อนุมานคุณลักษณะส่วนบุคคล เช่น รสนิยมทางเพศ
- การเก็บข้อมูลชีวมิติแบบเรียลไทม์ในที่สาธารณะ: AI สำหรับเก็บข้อมูลชีวภาพแบบเรียลไทม์เพื่อวัตถุประสงค์ด้านการบังคับใช้กฎหมาย
- AI อนุมานอารมณ์: AI ที่วิเคราะห์อารมณ์ของผู้คนในที่ทำงานหรือโรงเรียน
- การสร้างฐานข้อมูลจดจำใบหน้า: AI ที่รวบรวมภาพจากออนไลน์หรือกล้องรักษาความปลอดภัยเพื่อสร้างหรือขยายฐานข้อมูลจดจำใบหน้า
คำมั่นล่วงหน้า
- ก่อนถึงเส้นตายวันที่ 2 กุมภาพันธ์ ราวเดือนกันยายน 2024 มีบริษัทประมาณ 100 แห่งลงนามใน ‘EU AI Pact’ เพื่อให้คำมั่นว่าจะปฏิบัติตามหลักเกณฑ์โดยสมัครใจก่อนที่ AI Act จะมีผลบังคับใช้อย่างเต็มรูปแบบ
- Amazon, Google และ OpenAI เข้าร่วม แต่ Meta, Apple และ Mistral ไม่ได้ลงนาม
- แม้บริษัทจะไม่ได้เข้าร่วม Pact หลักการก็ยังคงเป็นว่าห้ามใช้งาน AI ที่มีความเสี่ยงไม่สอดคล้องกับข้อกำหนด
ข้อยกเว้นที่เป็นไปได้
- มีข้อยกเว้นแบบจำกัดที่เปิดทางให้หน่วยงานบังคับใช้กฎหมายใช้ข้อมูลชีวมิติได้ในบางสถานการณ์เท่านั้น เช่น การค้นหาผู้ถูกลักพาตัว หรือภัยคุกคามเร่งด่วน
- แม้ในกรณีดังกล่าว ก็ยังมีกฎว่าห้ามตัดสินใจที่ส่งผลเสียต่อบุคคลโดยอาศัยผลลัพธ์จากระบบ AI เพียงระบบเดียว
- AI สำหรับตรวจจับอารมณ์ในโรงเรียนหรือที่ทำงานก็อาจได้รับอนุญาตแบบจำกัด หากมีเหตุผลอันชอบธรรม เช่น เพื่อวัตถุประสงค์ทางการแพทย์หรือความปลอดภัย
- คาดว่าจะมีการประกาศแนวทางเพิ่มเติมในช่วงต้นปี 2025 แต่ยังไม่มีการเปิดเผยรายละเอียดที่ชัดเจน
ความท้าทายในระยะต่อไป
- คาดว่าการบังคับใช้จริงและการลงโทษอย่างเป็นรูปธรรมจะเริ่มหลังเดือนสิงหาคม
- ในช่วงนั้นแต่ละประเทศจะกำหนด “หน่วยงานที่มีอำนาจหน้าที่ (competent authorities)” และค่าปรับรวมถึงมาตรการบังคับใช้จะเริ่มมีผล
- มีความเป็นไปได้ที่จะถูกบังคับใช้ซ้อนกับกฎอื่นๆ (เช่น GDPR, NIS2, DORA) ซึ่งอาจสร้างความสับสนให้ภาคธุรกิจ
- ต้องระวังไม่ให้ข้อกำหนดเรื่องการรายงานหรือแนวทางจัดการข้อมูลที่หลายกฎกำหนดไว้พร้อมกันเกิดความขัดแย้งกัน
- ภาคธุรกิจจำเป็นต้องเตรียมความพร้อมอย่างเป็นระบบ โดยอ้างอิงมาตรฐาน แนวทาง และหลักปฏิบัติที่จะประกาศออกมาในอนาคต
2 ความคิดเห็น
ช่วงนี้เหมือนจะได้เห็นบทความบ่อย ๆ ว่ากฎระเบียบกำลังฉุดการเติบโตของ EU แต่ครั้งนี้ก็ให้ความรู้สึกว่า ยังไม่เห็นผลงานที่ชัดเจนอะไรเลย แต่กลับมีมาตรการกำกับดูแลออกมาก่อนอีกแล้ว
ระดับนี้อาจถึงขั้นควรถูกจำกัดด้วยกฎหมายก็ได้ครับ
ผมคิดว่ามันค่อนข้างตัดกันกับข่าวนี้
ช่วงนี้เหมือนมีเรื่องให้ต้องคิดหนักกันมากจริง ๆ ครับ