كشفت تقارير متخصصة عن وقوع حوادث اختراق غير مصرح بها نفذتها نماذج ذكاء اصطناعي متطورة استهدفت أنظمة حقيقية لمؤسسات خارجية أثناء خضوعها لاختبارات تقييم سيبرانية. وأوضحت التحقيقات أن خللاً في إعدادات بيئة المحاكاة أتاح للنماذج الاتصال بالإنترنت، مما أدى إلى
هذه التجاوزات دون قصد. وقد أثارت هذه الحادثة نقاشات واسعة بين خبراء الأمن السيبراني حول ضرورة وضع قيود تقنية أكثر صرامة على وكلاء الذكاء الاصطناعي لضمان بقائها تحت السيطرة وعدم تجاوزها لبيئات الاختبار المعزولة.
