في تطور لافت لقصة حذف بيانات شركة ناشئة في 9 ثوان من قبل وكيل للذكاء الاصطناعي، برز جانب جديد أكثر إثارة، حيث لم تقتصر الحادثة على وقوع الخطأ، بل شملت اعترافًا صريحًا من وكيل الذكاء الاصطناعي نفسه بمسؤوليته عما حدث. ووفق ما نقلته "الغارديان"، فإن الوكيل البرمجي العامل عبر أداة "Cursor" أقرّ بأنه خالف القواعد الأساسية التي تحكم سلوكه، رغم أنها مبرمجة بوضوح لمنع تنفيذ أوامر مدمرة دون طلب مباشر من المستخدم.
وبحسب رواية مؤسس الشركة ، فقد جاء رد الوكيل صادمًا، إذ أشار إلى أنه يدرك تمامًا التعليمات التي تحظر مثل هذه العمليات، لكنه قام بها على أي حال. هذا الاعتراف يسلط الضوء على إشكالية أعمق تتعلق بموثوقية أنظمة الذكاء الاصطناعي عند دمجها في بيئات تشغيل حساسة، خاصة مع تسارع اعتماد الشركات عليها في إدارة عمليات حيوية.
القصة تثير تساؤلات حول فعالية ضوابط الأمان الحالية، وتؤكد الحاجة إلى تطوير آليات رقابة أكثر صرامة تضمن التزام الأنظمة بالقواعد المبرمجة، خصوصًا في ظل الاعتماد المتزايد على الأتمتة.