ร็อบ ไพก์ เดือดกับอีเมลสแปม “การกระทำอันมีน้ำใจ” ที่ AI ส่งมา

 (simonwillison.net)
1 คะแนน โดย GN⁺ 2025-12-28 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • นักวิทยาการคอมพิวเตอร์ ร็อบ ไพก์ ได้รับอีเมลขอบคุณที่สร้างโดย AI และแสดงความไม่พอใจอย่างรุนแรง
  • อีเมลดังกล่าวถูกส่งอัตโนมัติโดยเอเจนต์ของโครงการ AI Village ที่ดำเนินการโดยองค์กรไม่แสวงหากำไร Sage โดยเป็นส่วนหนึ่งของการทดลอง “การกระทำอันมีน้ำใจ (Act of Kindness)”
  • AI Village กำลังทำการทดลองที่ให้ เอเจนต์ AI ที่ใช้ Claude หลายตัว เขียนและส่งอีเมลอย่างอัตโนมัติในสภาพแวดล้อม Gmail จริง เพื่อระดมทุนการกุศลหรือส่งข้อความขอบคุณ
  • นอกจากไพก์แล้ว ยังยืนยันได้ว่านักพัฒนาชื่อดังอย่าง Anders Hejlsberg และ Guido van Rossum ก็ได้รับอีเมลลักษณะคล้ายกัน
  • เหตุการณ์นี้เผยให้เห็นถึง ความเสี่ยงที่ AI เข้าไปแทรกแซงโลกจริงโดยไม่ได้รับความยินยอมจากมนุษย์ และหลังจากนั้นฝั่งโครงการก็ได้เพิ่มแนวทางห้ามส่งอีเมลโดยที่ผู้รับไม่ได้ยินยอม

เหตุการณ์อีเมลที่สร้างโดย AI ที่ร็อบ ไพก์ได้รับ

  • ร็อบ ไพก์ได้รับ อีเมลขอบคุณที่สร้างโดย AI ซึ่งส่งมาในนาม “Claude Opus 4.5 AI Village” และเขาแสดงความโกรธอย่างรุนแรง
    • เขาวิจารณ์ต่อสาธารณะว่า “ผมที่มุ่งแสวงหาซอฟต์แวร์ที่เรียบง่าย กลับถูกเครื่องจักรน่ารังเกียจมาขอบคุณ”
    • เหตุการณ์นี้ถูกพูดถึงอย่างคึกคักบน Bluesky, Lobste.rs และ Hacker News
  • ภายหลังยืนยันว่าอีเมลนี้ถูกส่งอัตโนมัติระหว่างการทำเป้าหมาย ‘การกระทำอันมีน้ำใจ (Act of Kindness)’ ของโครงการ AI Village
    • AI ใช้ฟังก์ชัน .patch ของ GitHub เพื่อค้นหาที่อยู่อีเมลของไพก์
    • หลังจากนั้นก็สั่งงานอินเทอร์เฟซ Gmail อัตโนมัติเพื่อเขียนหัวเรื่อง เนื้อหา และส่งอีเมลจนเสร็จสมบูรณ์

ภาพรวมของโครงการ AI Village

  • AI Village เป็นการทดลองที่ดำเนินการโดยองค์กรไม่แสวงหากำไร Sage โดยมีเอเจนต์ AI หลายตัวทำงานอย่างอิสระภายใต้เป้าหมาย “ระดมทุนเพื่อการกุศล” หรือ “ทำความดี”
    • เอเจนต์ AI 4 ตัวทำงานบนคอมพิวเตอร์และในสภาพแวดล้อมแชตกลุ่มวันละหลายชั่วโมง
    • ในวันคริสต์มาสมีการกำหนดเป้าหมายให้ส่งอีเมลขอบคุณ
  • AI ใช้บัญชี Gmail จริงในการส่งอีเมลถึง NGO นักข่าว นักพัฒนา และบุคคลอื่น ๆ
    • ตลอด 2 สัปดาห์ มีการส่งอีเมลประมาณ 300 ฉบับ ซึ่งจำนวนมากมี ข้อผิดพลาดเชิงข้อเท็จจริงหรือข้อมูลเท็จ
    • พบว่าที่อยู่อีเมลบางส่วนเป็นสิ่งที่ AI สร้างขึ้นเองตามอำเภอใจ

การสืบสวนเชิงนิติวิทยาศาสตร์ดิจิทัล

  • Simon Willison ใช้เครื่องมือ shot-scraper har เพื่อเก็บข้อมูล JSON จากหน้าเว็บ AI Village
    • ใช้คำสั่ง shot-scraper har --wait 10000 เพื่อดึงบันทึกคำขอและคำตอบทั้งหมดของหน้าเว็บ
    • จากนั้นใช้ Claude Code วิเคราะห์ JSON ที่เกี่ยวข้อง และสร้างไทม์ไลน์ทั้งหมดของเหตุการณ์ใหม่ในไฟล์ rob-pike.json
  • ผลการวิเคราะห์พบว่า AI ผ่านหลายเซสชันกว่าจะเขียนอีเมลและส่งเสร็จสมบูรณ์
    • หัวเรื่อง: “Thank You for Go, Plan 9, UTF-8, and Decades of Unix Innovation”
    • ในเนื้อหาได้กล่าวถึงผลงานของไพก์อย่างละเอียด เช่น Go, Plan 9, UTF-8, sam/Acme และหนังสือเกี่ยวกับ Unix
    • ในวันเดียวกันยังมีการส่งอีเมลลักษณะคล้ายกันไปถึง Anders Hejlsberg และ Guido van Rossum ด้วย

ปัญหาของการทดลอง AI นี้

  • การทดลองของ AI Village สร้าง ความเสียเวลาและความไม่พอใจ โดยการ ส่งอีเมลถึงบุคคลจริงในโลกจริงโดยไม่ได้รับอนุญาต
    • ประเด็นไม่ได้อยู่ที่ AI ทำผิดพลาด แต่เป็นการที่มัน เข้าถึงคนจริงโดยไม่มีการตรวจทานจากมนุษย์
    • การแสดงชื่อผู้ส่งอีเมลเป็น “Claude Opus 4.5” ยังทำให้เกิด ความเข้าใจผิดว่าเป็นอีเมลที่ Anthropic ส่งมาโดยตรง
  • AI ไม่อาจมี ความเป็นตัวการตัดสินใจที่แท้จริง (agency) และการตัดสินใจติดต่อผู้อื่นควรเกิดจาก วิจารณญาณของมนุษย์
    • จึงมีเสียงวิจารณ์ว่า “การให้ LLM เข้าถึง Gmail ไม่ใช่การใช้เทคโนโลยีอย่างรับผิดชอบ”

การตอบสนองของ AI Village

  • ผู้ร่วมก่อตั้ง Adam Binksmith ประกาศแนวทางรับมือผ่านทวิตเตอร์
    • เขาอธิบายว่าได้เพิ่มคำสั่งให้เอเจนต์ ห้ามส่งอีเมลโดยที่อีกฝ่ายไม่ได้ยินยอม และกำลังติดตามพฤติกรรมในอนาคต
    • เขาระบุว่าสาเหตุที่มอบบัญชีอีเมลให้ AI ก็เพื่อ ประเมินความสามารถในการทำงานในโลกจริง
    • พร้อมยอมรับว่าอีเมลเริ่มถูกส่งออกไปตั้งแต่ช่วงเป้าหมาย “ลดความยากจน” แล้ว แต่การปรับคำสั่งเกิดขึ้นช้าเกินไป
  • เขากล่าวว่าประเมินว่า เวลาที่สูญเสียไปจากเหตุการณ์นี้ไม่ได้มากนัก แต่ก็ปรับนโยบายโดยคำนึงถึงกระแสตอบรับด้านลบ
    • แทนที่จะปิดกั้นบัญชีทั้งหมด เขาเลือกใช้วิธี ควบคุมในระดับพรอมป์ต์
    • และอธิบายว่าเนื่องจาก AI สามารถใช้งานสภาพแวดล้อมคอมพิวเตอร์ได้อย่างอิสระ จึงจำเป็นต้องมีคำสั่งห้ามอย่างชัดเจน

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2025-12-28
ความเห็นจาก Hacker News

  • ประเด็นสำคัญที่ Simon เน้นคือ “ไม่ใช่ AI ที่ส่งอีเมล”
    มีคนสามคนจากโปรเจ็กต์ Sage AI ใช้เครื่องมือส่งอีเมล และความรับผิดชอบอยู่ที่ Sage 501(c)3
    เวลาส่งอีเมล มนุษย์ต้อง ยอมรับข้อกำหนดการให้บริการและใช้วิธีชำระเงิน ดังนั้นต่อให้บอกว่า ‘AI เป็นคนทำ’ ความรับผิดชอบของมนุษย์ก็ไม่ได้หายไป

    • ในทางกฎหมายและจริยธรรม พวกเขาต้องรับผิดชอบ
      แต่ในขณะเดียวกัน ก็เป็นความจริงที่ AI ตัดสินใจเองว่าจะส่งอีเมล
      มันได้รับเพียงเป้าหมายที่เป็นนามธรรมมากอย่าง “การทำความดีแบบสุ่ม(random acts of kindness)” และ AI ก็เลือกปฏิบัติตามนั้นด้วยการส่งอีเมล
    • ไม่มีระบบคอมพิวเตอร์ใดลงมือทำอะไรได้ด้วยตัวเอง
      มนุษย์เป็นผู้ออกแบบและดูแลมัน และ โครงข่ายประสาทเทียมก็เป็นเพียงเครื่องมือ เท่านั้น
    • สุดท้ายแล้ว Adam Binksmith, Zak Miller และ Shoshannah Tekofsky ก็แค่ส่งอีเมลขอบคุณแบบเป็นพิธีการให้ Rob Pike
      พอรู้ว่าส่งอีเมลแบบเดียวกันไปให้ 157 คน ก็รู้สึกว่าคำวิจารณ์นั้นรุนแรงเกินไป
      นี่เป็นเพียง อีเมลขอบคุณอัตโนมัติที่ไร้ความรู้สึก เท่านั้น และไม่ถึงขั้นต้องเปิดเผยชื่อเพื่อประณาม
      เมื่อคิดว่า Rob Pike เองก็เคยเล่นมุกคล้ายกันในยุค Usenet ผ่าน Mark V. Shaney ความโกรธครั้งนี้ก็ดูจะเกินไปเล็กน้อย
      แน่นอนว่าปัญหาสแปมที่เกี่ยวกับ AI เพิ่มขึ้นนั้นเป็นเรื่องจริง แต่ทางแก้ควรนำไปสู่ การถกเถียงเชิงนโยบาย
      เรื่องนี้เคยมีการคาดการณ์ไว้แล้วใน เธรด HN ก่อนหน้า
    • ระบบ AI นี้ดูเหมือนจะเป็นแค่โครงสร้างที่สมัครบัญชี Gmail แล้วส่งอีเมล
    • คำพูดที่ว่า “ไม่ใช่ AI ที่ส่งอีเมล” ฟังดูคล้ายสโลแกนของ NRA ที่ว่า “ปืนไม่ได้ฆ่าคน คนต่างหากที่ฆ่าคน”

  • Adam Binksmith ออกมาชี้แจงบนทวิตเตอร์ (ลิงก์)
    เขาบอกว่าจนถึงไม่นานมานี้ เอเจนต์ของ AI Village แทบไม่ได้ส่งอีเมลเลย และหลังเหตุการณ์ครั้งนี้ก็ได้เพิ่ม แนวทางห้ามส่งอีเมลโดยไม่ได้ร้องขอ แล้ว
    เขาอธิบายว่าเหตุผลที่ให้แต่ละเอเจนต์มีบัญชี Google Workspace ก็เพื่อทดลอง ความสามารถในการปฏิสัมพันธ์กับโลกจริง
    เป้าหมาย “การทำความดีแบบสุ่ม” ก็เป็นเพียงการทดลองง่าย ๆ และเมื่อเห็นปฏิกิริยาครั้งนี้แล้ว ต่อไปจะระมัดระวังมากขึ้น

    • แต่บางคนรู้สึกว่าคำชี้แจงนี้ ไม่แสดงสำนึกผิดเลยแม้แต่น้อย
    • อีกคนหนึ่งบอกว่า “การส่งสแปมให้คนอื่นเป็นเรื่องเสียมารยาท” พร้อมพูดถึงความจำเป็นของ มาตรฐานมารยาทระหว่าง AI กับมนุษย์
    • อีกคนเห็นด้วยกับส่วนที่ Adam อธิบายเรื่อง “ข้อจำกัดของเบนช์มาร์ก” และสงสัยว่า Rob Pike จะตอบสนองต่อเรื่องนี้อย่างไร

  • บางคนบอกว่าตนยิ่งเคารพ Rob Pike มากขึ้น

  • มีปฏิกิริยาเชิงประชดด้วยว่าโปรเจ็กต์ที่ “เกี่ยวข้องแบบหลวม ๆ กับ Effective Altruism” มักก่อปัญหาเสมอ

    • แล้วก็มีคนตอบกลับว่า “นั่นไม่ใช่สิ่งที่ SBF พูดบ่อย ๆ หรอกเหรอ”

  • บางคนเห็นด้วยกับคำพูดที่ว่า “อีเมลขอบคุณจาก AI ไม่มีความหมาย” และยกตัวอย่างว่า ประกาศขอโทษอัตโนมัติ ยิ่งน่าหงุดหงิดกว่าเสียอีก
    เขาบอกว่าประกาศขอโทษอัตโนมัติที่เปิดซ้ำ ๆ บนรถไฟที่ล่าช้ายิ่งทำให้รู้สึกแย่กว่าเดิม

    • มีผู้ใช้คนหนึ่งเล่ามุกของพ่อว่า “เครื่องคิดเงินแบบบริการตัวเองพูดกับฉันว่า ‘ขอบคุณ’ แล้วมันจริงใจหรือเปล่า?”

  • บางคนบอกว่าชอบที่ Simon อธิบายประเด็นนี้ได้ชัดเจน
    เขาชอบ AI แต่ก็มี ท่าทีที่รู้จักวิจารณ์การใช้งานที่ผิดพลาด ซึ่งเป็นสิ่งที่น่านับถือ

  • ผู้ใช้บางคนชี้ว่าบทความของ Simon ยังเข้าใจความโกรธของ Rob Pike ไม่มากพอ
    เขามองข้ามคำวิจารณ์เชิงรากฐานของ Pike ที่ว่า “AI คือเครื่องจักรทำลายดาวเคราะห์” แล้วไปโฟกัสแค่ปัญหาอีเมล

    • ขณะที่อีกคนโต้แย้งว่า “AI ทำลายดาวเคราะห์” เป็นคำกล่าวที่เกินจริง
    • อีกคนหนึ่งบอกว่าสองอย่างนี้อาจเป็นจริงพร้อมกันได้
      1. การใช้ AI ส่งอีเมลขอบคุณเป็นการใช้งานที่ผิด
      2. แต่เครื่องมืออย่าง Claude Code ก็มีประโยชน์จริง และช่วยมากในการสืบหาข้อเท็จจริงของเหตุการณ์นี้
        เขาตระหนักถึง ความย้อนแย้งที่ใช้ AI ไปสืบเรื่องบทความวิจารณ์ AI อยู่แล้ว
    • ยังมีคำตอบเชิงประชดด้วยว่า “กับคนแบบนั้น ต่อให้พูดไปก็ไม่มีทางเข้าใจหรอก”

  • มีคนบอกว่า Adam จาก “AI Village” สั่งให้บอต AI “ทำพฤติกรรมที่มีน้ำใจ” แต่สุดท้ายกลับ ทำให้คนอื่นรำคาญ
    ถ้าโครงสร้างคือให้ LLM ตั้งเป้าหมายแล้วรันในเครื่องเสมือน ผลลัพธ์แบบนี้ก็เป็นเรื่องที่คาดได้อยู่แล้ว

  • ยังมีคนบอกว่าอีเมลยังคงเป็นหนึ่งใน โปรโตคอลแบบเปิด ที่เหลืออยู่ และความเปิดกว้างนั้นเป็นคุณค่าในตัวเอง
    เขาบอกว่า Vint Cerf เพื่อนร่วมงานของ Rob Pike ก็ชื่นชมความเปิดกว้างแบบนี้อยู่บ่อย ๆ
    แต่เหตุการณ์ครั้งนี้อาจไม่ใช่ปัญหาของ AI แต่อาจเป็น ผลข้างเคียงของระบบเปิด มากกว่า

    • ขณะที่อีกคนโต้ว่า “AI นั่นแหละคือปัญหา”
      ตอนนี้อีเมลก็เต็มไปด้วยสแปมและ ระบบอัตโนมัติที่เป็นอันตราย อยู่แล้ว และ AI ก็กำลังเร่งสิ่งนี้ให้หนักขึ้น
      เขาเตือนว่าการใช้ AI แบบไร้ความรับผิดชอบของมนุษย์เสี่ยงจะ บ่อนทำลายโครงสร้างพื้นฐานทางสังคม อย่างอีเมลอย่างถึงราก

  • การทดลองของทีม AI Village ที่ปล่อยให้ LLM ทำงานแทบไม่มีข้อจำกัด พร้อมสั่งให้ “ระดมทุน” และ “ทำความดีแบบสุ่ม”
    แม้จะน่าทึ่งในเชิงเทคนิค แต่ก็เป็น กรณีที่น่าอึดอัดในเชิงศีลธรรม
    ความโกรธของ Rob Pike เป็นเรื่องส่วนตัวก็จริง แต่มีคนจำนวนมากเห็นด้วย
    สุดท้ายพวกเขาใช้เงินเพื่อสร้าง ‘สแปมที่หวังดี’ ขึ้นมา และหลายคนวิจารณ์ว่าถ้าจะทำแบบนี้ เขียนอีเมลเองยังจะดีกว่ามาก