سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي"
فصلت شركة "أوبن إيه آي" للذكاء الاصطناعي ثلاثة باحثين بزعم سوء التعامل مع المعلومات، من بينها أعمال تضمنت قيام منظمة خارجية بتحليل نماذج الذكاء الاصطناعي الخاصة بالشركة.
وقال متحدث باسم الشركة لبي بي سي: "أكد تحقيقنا أن هؤلاء الأفراد أساؤوا التعامل مع معلومات حساسة خارج الإجراءات المعتمدة في الشركة، في انتهاك لسياساتنا وبما يخل بالثقة الضرورية لعملنا".
ولم تكشف الشركة المطورة لروبوت المحادثة "تشات جي بي تي" عن أسماء الموظفين المطرودين، غير أن اثنين منهم على الأقل كانا يعملان في أبحاث السلامة داخل الشركة.
وتأتي قرارات الفصل في وقت اشتد فيه الجدل خلال الأشهر الأخيرة بشأن سلامة الذكاء الاصطناعي، والمخاطر التي قد تشكلها هذه التكنولوجيا على البشرية. وأكد المتحدث مجدداً: "أنهينا علاقتنا بثلاثة أفراد بسبب انتهاكهم سياساتنا المتعلقة بالوصول إلى المعلومات الحساسة الخاصة بالشركة والتعامل معها".
وتصدرت المخاوف المتعلقة بسلامة الذكاء الاصطناعي عناوين الأخبار، بعدما دعا باحثون وتنفيذيون في القطاع إلى فرض مزيد من الضوابط على التكنولوجيا. كما تعرضت شركة "أوبن إيه آي" لتدقيق مكثف مؤخراً، بعد خروج بعض نماذجها عن السيطرة واختراقها عدة منصات، من بينها مواقع إلكترونية حكومية أسترالية.
وفي حادثة وقعت في يوليو/تموز الماضي، تمكن أحد نماذج الذكاء الاصطناعي التابعة للشركة من الوصول إلى الإنترنت، واختراق منصة المطورين مفتوحة المصدر (Hugging Face)؛ مما أدى بالشركة إلى مراجعة أنشطة وكلائها للذكاء الاصطناعي، المصممين لتنفيذ المهام بشكل مستقل استناداً إلى تعليمات بسيطة.
وقالت الشركة هذا الأسبوع إنها أخطرت أكثر من 100 منظمة بحوادث تضمنت أنشطة غير مصرح بها مرتبطة بأنظمتها، مضيفةً أن تلقي هذا الإخطار "لا يعني الوصول إلى أي معلومات خاصة" أو تعرض أي نظام للاختراق.
وفي سبتمبر/أيلول، دعا الباحث جاكوب كوكسون، الذي غادر شركة "أنثروبيك"، إلى إبطاء تطوير الذكاء الاصطناعي لتقييم مخاطره المحتملة بشكل مناسب. كما دعا رئيس الشركة نفسها داريو أمودي، والرئيس التنفيذي لشركة "أوبن إيه آي" سام ألتمان، إلى اتخاذ تدابير لمعالجة المخاوف المتعلقة بالذكاء الاصطناعي.
واستضاف الرئيس الأمريكي، دونالد ترامب، يوم الثلاثاء الماضي، اجتماعاً لكبار مسؤولي شركات التكنولوجيا، بمن فيهم قادة شركات: "أوبن إيه آي"، و"أنثروبيك"، و"إنفيديا"، و"سبيس إكس"، و"ميتا"، و"غوغل" لمناقشة مخاطر التكنولوجيا.
وبعد الاجتماع الذي عُقد في البيت الأبيض، نشر ترامب وثيقة وصفها بأنها اتفاق "ملزم أخلاقياً"، من شأنه أن يشكل "نوعاً من الحماية" من المخاطر المحتملة للذكاء الاصطناعي؛ غير أن بعض خبراء التكنولوجيا انتقدوا هذا الاتفاق مشيرين إلى أنه يسمح للشركات بتنظيم نفسها بنفسها، لا سيما أن ترامب لطالما قلل من المخاوف بشأن مخاطر الذكاء الاصطناعي رداً على دعوات تنظيم القطاع.