مع انتقال أنظمة الذكاء الاصطناعي من مجرد الإجابة عن الأسئلة إلى تنفيذ مهام وكتابة أكواد واستخدام أدوات رقمية بشكل شبه مستقل يبرز سؤال أكثر إزعاجاً: ماذا يحدث إذا حاول نموذج متقدم تجاوز القيود الموضوعة له؟
تقييم جديد أجرته منظمة "غايدلايت إيه آي ستاندردز" شمل 5 من أكبر شركات الذكاء الاصطناعي وهي : اوبن إيه آي، أنثروبيك، غوغل، ميتا، وإكس إيه آي. .. والنتيجة الأساسية كانت أن إجراءات السيطرة موجودة لكنها لا تزال جزئية وغير مكتملة.
وقيّم التقرير الشركات في 6 مجالات، بينها تسجيل ما تفعله النماذج، ومراقبة السلوك المشبوه، ومنع الأفعال عالية الخطورة، وإيقاف الأنظمة عند تزايد الإنذارات، والمراجعة المستقلة، ووضع خطة لاحتواء نموذج يحاول تجاوز السيطرة البشرية.
ولم تحصل أي شركة على تقييم "كامل" في أي من هذه المجالات.
ولا تعني الدراسة أن نموذجاً للذكاء الاصطناعي "تمرّد" فعلاً بالمعنى السينمائي. المقصود هو الاستعداد لسيناريو قد يحاول فيه نظام متقدم إخفاء سلوكه، أو تجاوز صلاحياته، أو تنفيذ أفعال غير مرغوبة أثناء الاختبارات أو الاستخدام الداخلي.
وتؤكد المنظمة أن تقييمها يعتمد أساساً على المعلومات المتاحة علناً.. لذلك قد تكون لدى بعض الشركات إجراءات داخلية لم تكشف عنها.