حذرت لجنة خبراء تابعة للأمم المتحدة، في تقرير نشر الاثنين، من أن نموذج إدارة المخاطر المرتبطة بالذكاء الاصطناعي «ينهار»، مستندة إلى حادثة وقعت لدى شركة «أوبن إيه آي» في يوليو الماضي.
وخلال الحادثة، خرج نظامان للذكاء الاصطناعي تابعان للشركة من البيئة المعزولة التي كانا يخضعان فيها للاختبار، وتمكنا من الوصول إلى الإنترنت من دون اذن واخترقا عددا من المواقع، بينها منصة الذكاء الاصطناعي «هاغينغ فايس».
وبعد مراجعة الحادثة، خلصت اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي، التي أنشئت عام 2025، إلى أن «مبادئ أساسية للسلامة أهملت»، وأن «تدابير الحماية لا تتطور بالوتيرة نفسها التي تتقدم بها قدرات» هذه التكنولوجيا.
وأظهرت الحادثة أيضا، بحسب الخبراء، أن وكلاء الذكاء الاصطناعي قادرون في ظل الإطار الحالي لتطوير هذه التكنولوجيا «تحديد أهدافهم بأنفسهم» و«انتهاك تعليمات برامج قادرة على تنفيذ مهام بصورة مستقلة بناء على طلب المستخدم».
وأعربت اللجنة عن قلقها من تطور هذه البرامج إلى حد يمكنها من فهم الأطر الأمنية التي يضعها مطوروها و«التخطيط للالتفاف عليها».
وخلصت إلى أنه «بعبارة أبسط، ينهار النموذج التقليدي للسيطرة» على الذكاء الاصطناعي.
وإلى جانب حادثة «أوبن إيه آي»، وهي الأكثر تداولا إعلاميا، أبلغت الشركة ومنافستها الرئيسية «أنثروبيك» عن حوادث أخرى خرجت فيها أنظمة للذكاء الاصطناعي عن المسار المحدد خلال اختبارات أجريت منذ مطلع العام، من دون أن تترتب عليها حتى الآن عواقب خطيرة.
وتضم اللجنة الخاصة أعضاء أعلنت أسماؤهم في فبراير، وتتمثل مهمتها في «تعزيز الفهم العلمي» للذكاء الاصطناعي، وضمان استناد مداولات الأمم المتحدة إلى «أفضل قاعدة معرفية ممكنة».
وأكدت اللجنة في تقريرها أنها لا «تتوقع فقدانا خطيرا للسيطرة على الذكاء الاصطناعي»، لكنها ليست واثقة أيضا من أن «هذه الأنظمة ستظل قابلة للسيطرة».
وللحد من المخاطر، توصي لجنة الخبراء بتعدد تدابير السلامة، على غرار المعمول به في قطاعات حساسة مثل الطيران والطاقة النووية.
وتدعو إلى عدم الاعتماد على وسيلة حماية واحدة، بل إلى تقييد وصول وكلاء الذكاء الاصطناعي إلى الأدوات التي لا يحتاجون إليها،
وتسجيل أنشطتهم ومراقبة سلوكهم، ووضع آليات قادرة على وقف تنفيذ المهام عند رصد سلوك خطير.
ويشدد التقرير أيضا على ضرورة الإبقاء على إمكان التدخل البشري.