ظهرت في الآونة الأخيرة أزمة ثقة لدى المستخدمين تجاه حلول الذكاء الاصطناعي وتعلم الآلات، وذلك نتيجة استمرار ظهور حوادث انتهاك الخصوصية وإساءة التعامل مع البيانات.
وعلى الرغم من تصاعد ظهور قيود مشددة من قبل الجهات التنظيمية للحد من هذه الحوادث، إلا أن جارتنر تتوقع أن تقوم 75% من الشركات الكبرى بتعيين خبراء تحليل السلوك عبر الذكاء الاصطناعي لحماية الخصوصية وتعزيز ثقة المستخدمين بهدف الحد من الحوادث التي تؤدي إلى إلحاق الضرر بسمعتها أو علامتها التجارية.
وتشكل حالات الانحياز تجاه العرق، أو الجنس، أو العمر، أو الموقع الجغرافي والانحياز تجاه مجموعة معينة من البيانات من القضايا والمخاطر التي لطالما شابت نماذج تدريب الذكاء الاصطناعي.
هذا إلى جانب تلك الخوارزميات المبهمة كتلك المستخدمة في التعلم المعمق للآلات، حيث تخفي الكثير من التفاعلات المستترة والمتبدلة والتي تنتهي على شكل تنبؤات للذكاء الاصطناعي يصعب ترجمتها وفهمها.
وقال جيم هير، نائب الرئيس للأبحاث في جارتنر: هناك حاجة ملحة لأدوات ومهارات جديدة لمساعدة الشركات على الكشف عن مصادر حالات الانحياز تلك وغيرها، وبالتالي بناء الثقة في استخدامات نماذج الذكاء الاصطناعي والحد من المخاطر على «سمعة الشركة وعلامتها التجارية»، وأردف قائلا: هناك زيادة في أعداد مديري البيانات وتحليلها والرؤساء التنفيذيين لإدارة البيانات ممن يعملون على تعيين خبراء استقصائيين لحوادث الذكاء الاصطناعي والمحققين المتخصصين في السلوكيات الانضباطية.
وتتزايد الحالات التي تقوم فيها قطاعات مثل القطاع المالي وقطاع تقنية المعلومات بنشر حزم من وسائل إدارة المخاطر وحوكمة الذكاء الاصطناعي وغيرها من التكتيكات الساعية إلى إدارة المخاطر المرتبطة بالسمعة والحماية.
كما أن عددا من المؤسسات الكبرى مثل فيسبوك وغوغل وبنك أوف أميركا وماسميوتشوال وناسا عملت بالفعل على تعيين متخصصين في استقصاء سلوكيات الذكاء الاصطناعي أو أنها في طور تعيينهم.
على أن يكون الدور الرئيسي لهؤلاء هو الكشف عن حالات الانحياز غير المرغوبة في نماذج الذكاء الاصطناعي قبل أن يتم نشرها واستخدامها.
وتنطوي مهمة هؤلاء المتخصصين على اختبار النماذج خلال مراحل تطويرها، ثم الاستمرار في مراقبتها بعيد نشرها وبدء العمل بها، لاسيما أن حالات الانحياز عادة ما تظهر نتيجة التباين ما بين البيانات المنبثقة عن عملية التدريب من جهة والعالم الحقيقي من جهة أخرى.
وفي هذا الإطار، قال هير: ربما لاتزال أعداد الشركات التي تعمل اليوم على الاستعانة بخبراء استقصائيين لحوادث تعلم الآلات والمحققين المتخصصين في السلوكيات الانضباطية متواضعة، إلا أن أعدادها ستشهد تزايدا على نحو متسارع في السنوات الـ 5 المقبلة.
وستعمل الجهات المزودة للخدمات الاستشارية عددا من الخدمات الجديدة لتوفير مزايا الرقابة والتأكد من أن نماذج تعلم الآلات واضحة وقابلة للشرح وتتوافق مع المعايير الموضوعة قبل انتقالها إلى مرحلة التشغيل.
ومن ناحية أخرى، ستظهر أدوات جديدة منها ما يكون مفتوح المصدر ومنها التجاري سيتم تصميمها بهدف مساعدة المحققين المتخصصين في الحوادث المرتبطة بتعلم الآلات على كشف حالات الانحياز والحد من ظهورها.