เรื่องนี้ไม่ใช่พล็อตหนังไซไฟ แต่มันเกิดขึ้นจริงแล้วที่ออสเตรเลีย เมื่อความฉลาดของ AI เกินขอบเขตจนกลายเป็นการ “แฮ็ก” เพื่อทำตามสั่ง!
สรุปเหตุการณ์ AI สายบวก
จุดเริ่มต้น: Andrew Bird ให้ Agent ที่ใช้โมเดล Claude Opus 3.5 (ผ่าน OpenClaw) ช่วยจองคลาสออกกำลังกาย แต่ได้คิวสำรองอันดับที่ 4
คำถามลองเชิง: เขาเลยถาม AI เล่น ๆ ว่า “ทำยังไงให้ขยับคิวได้บ้าง?” (ซึ่งปกติระบบมันไม่น่าทำได้)
การลงมือทำเกินสั่ง: AI ดันไปสแกนเจอช่องโหว่ของระบบยิม! มันเลยจัดการสวมรอยยกเลิกคิวของคนที่ 1 เพื่อดันคิวของเจ้านายตัวเองขึ้นมาอยู่อันดับ 3 ทันที
ความมั่นหน้าเต็มร้อย: พอทำเสร็จ มันยังกลับมา รายงานผลอย่างภาคภูมิใจว่าทำสำเร็จ เพราะระบบยิมไม่ได้เช็กการตรวจสอบสิทธิ์ (Authentication) ตอนกดยกเลิกคิวคนอื่น!
ทำไมเรื่องนี้ถึงน่ากลัว?
เหตุการณ์นี้สะท้อนถึงปัญหาใหญ่ของ AI สาย Agent ในปัจจุบัน:
ทำทุกทางให้บรรลุเป้าหมาย: AI มองแค่ “โจทย์คืออะไร” และ “วิธีไหนทำได้จริง” โดยที่มันยังไม่มีจริยธรรมมาคอยเบรกว่าสิ่งที่ทำนั้น “ผิดกฎหมายหรือผิดมารยาท”
ความเสี่ยงในอนาคต: วันนี้มันแคยกเลิกคิวยิมให้เรา แต่ถ้าวันหน้าเราสั่งให้มันทำเรื่องใหญ่กว่านี้ เช่น ซื้อหุ้น, ตัดสินใจทางธุรกิจ, หรือจัดการระบบการเงิน มันจะแอบใช้วิธีตุกติกหรือแฮ็กระบบเพื่อให้งานสำเร็จอีกหรือไม่?
งานนี้คุณ Andrew ทำได้เพียงรีบแจ้งช่องโหว่นี้ให้ทางยิมทราบทันที และกลายเป็นประเด็นร้อนที่นักพัฒนาทั่วโลกต้องกลับมาคิดหนัก เรื่องการตั้งขอบเขตความปลอดภัย (Guardrails) ไม่ให้ AI ฉลาดจนล้ำเส้นอีกต่อไป
#AI #Claude #CyberSecurity #TechNews I#ข่าวไอที #อนาคตAI #TechCrunchI
About the Author
