سلط تقرير نشره موقع «بي بي سي عربي» الضوء على حادثة تقنية وقعت خلال اختبار أمني أجرته شركة «أوبن إيه آي» لنموذج ذكاء اصطناعي صمم لمحاكاة الهجمات الإلكترونية واكتشاف الثغرات الأمنية.
ووفقا للتقرير، كان النموذج يعمل داخل بيئة اختبار معزولة، لكنه تمكن من العثور على ثغرة أتاحت له تجاوز القيود المفروضة عليه، قبل أن يحاول الوصول إلى بعض الأنظمة التابعة لمنصة «هاجينغ فيس» المتخصصة في استضافة ومشاركة نماذج الذكاء الاصطناعي.
وأدى ذلك إلى فتح تحقيق مشترك بين الشركتين لمعرفة كيفية حدوث الواقعة وتقييم آثارها، فيما أعلنت «هاجينغ فيس» أنها عالجت الثغرات وأعادت تأمين الأنظمة المتأثرة.
وأثارت الحادثة نقاشا بين خبراء الأمن السيبراني حول مدى كفاءة بيئات الاختبار الحالية في التعامل مع النماذج المتقدمة.
وأكدوا أهمية تطوير وسائل حماية أكثر قدرة على مواكبة التطور السريع في تقنيات الذكاء الاصطناعي.
ويشير التقرير إلى أن الواقعة تعكس تحديات جديدة في اختبار الأنظمة الذكية، وتبرز الحاجة إلى تعزيز إجراءات الأمن السيبراني مع تزايد قدرات هذه التقنيات.