- الطبيب أو المختص الصحي أو الموظف يبقى مسؤولاً مهنياً عن أي قرار أو توصية أو توثيق أو تواصل أو محتوى يتم اعتماده ضمن نطاق عمله
- يلتزم جميع العاملين بالمحافظة على سرية بيانات المرضى والعاملين والمنشآت وعدم إدخال أو تحميل أي بيانات تعريفية أو سرية غير مصرح بتداولها
- يجوز للوزارة متى دعت الحاجة تشكيل فريق أو لجنة فنية لتقييم أدوات الذكاء الاصطناعي اللغوية أو نماذج اللغة الكبيرة المقترح استخدامها ضمن العمل الرسمي
عبدالكريم العبدالله
اعتمد وكيل وزارة الصحة الشيخ د.سلمان الصباح الدليل العملي لاستخدام أدوات الذكاء الاصطناعي اللغوية في الممارسة الصحية، كإطار إرشادي للعاملين في المنشآت الصحية التابعة لوزارة الصحة.
وجاء في الدليل الذي تنشره «الأنباء» أنه يقصد بأدوات الذكاء الاصطناعي اللغوية ونماذج اللغة الكبيرة الأدوات الرقمية القادرة على توليد أو تلخيص أو ترجمة أو تحليل النصوص والردود المكتوبة بناء على أوامر المستخدم، بما في ذلك أدوات المحادثة الذكية، وأدوات التلخيص، وأدوات المساعدة في الصياغة، وأي أدوات مشابهة يمكن استخدامها في السياق الصحي أو الإداري أو التعليمي أو البحثي، وعلى سبيل المثال لا الحصر: ChatGPTو Claude وGemini وOpenEvidence وغيرها.
وتضمن الدليل أن أحكامه تسري على استخدام أدوات الذكاء الاصطناعي اللغوية ونماذج اللغة الكبيرة في سياقات العمل الصحي والإداري والتعليمي والبحثي داخل منشآت وزارة الصحة وخارجها، متى كان الاستخدام مرتبطا بالعمل أو بيانات أو محتوى أو مسؤوليات تخص وزارة الصحة، بما يشمل الصياغة والتلخيص والترجمة وإعداد المواد التعليمية وتنظيم المعلومات والبحث المبدئي ودعم التفكير المهني.
ولا تسري هذه الإرشادات على الأنظمة الطبية الرقمية أو الأجهزة الطبية أو أدوات الذكاء الاصطناعي المعتمدة رسميا ضمن أنظمة الوزارة أو أنظمة التصوير والتحليل السريري، والتي تخضع لإجراءات اعتماد وتنظيم مستقلة.
الاستخدام الآمن
وذكر الدليل أنه يهدف إلى تمكين الاستخدام الآمن والمسؤول لأدوات الذكاء الاصطناعي اللغوية، ولا يهدف إلى منع الاستفادة منها أو اعتمادها كبديل عن الحكم المهني أو المسؤولية الطبية أو السياسات والأنظمة الرسمية المعتمدة في الوزارة، علما أن مخرجات هذه الأدوات تعد مخرجات مساعدة وغير نهائية، ولا يجوز التعامل معها كمرجع نهائي أو توصية سريرية معتمدة أو بديل عن تقييم الطبيب أو المختص الصحي.
وجاء في الدليل أنه يبقى الطبيب أو المختص الصحي أو الموظف مسؤولا مهنيا عن أي قرار أو توصية أو توثيق أو تواصل أو محتوى يتم اعتماده ضمن نطاق عمله، ولا يعفي استخدام أدوات الذكاء الاصطناعي اللغوية من المسؤولية المهنية أو القانونية أو الأخلاقية المقررة.
سرية بيانات المرضى وحماية المعلومات
وأفاد الدليل بأنه يلتزم جميع العاملين بالمحافظة على سرية بيانات المرضى والعاملين والمنشآت، وعدم إدخال أو تحميل أو نسخ أي بيانات تعريفية أو سرية أو لقطات شاشة أو تقارير أو صور أو تسجيلات أو ملفات تحتوي على معلومات صحية أو إدارية غير مصرح بتداولها في أي أداة لغوية أو خدمة سحابية أو منصة غير معتمدة رسميا من الجهات المختصة في الوزارة.
ويشمل ذلك، على وجه الخصوص، أسماء المرضى، والأرقام المدنية، وأرقام الملفات الطبية، وأرقام الهواتف، والعناويــــن، والصور، والتسجيــلات الصوتية، ونتائج المختبر، وتقارير الأشعة، وملخصات الخروج، ولقطات الشاشة من الأنظمة، أو أي تفاصيل قد تكشف هوية المريض أو سرية العمل.
وأكد الدليل انه لا يجوز استخدام أدوات الذكاء الاصطناعي اللغوية أو نماذج اللغة الكبيرة أو الخدمات السحابية المرتبطة بها على بيانات مرضى فعلية أو بيانات سرية أو بيانات تشغيلية تخص الوزارة، إلا بعد اعتمادها رسميا من الجهات المختصة، وبما يراعي متطلبات حماية البيانات، وأمن المعلومات، والحوسبة السحابية، وسرية المرضى، والضوابط الفنية والقانونية المعمول بها في دولة الكويت، علما انه لا يعد توافر الأداة للعامة أو سهولة استخدامها أو شهرتها سببا كافيا لاستخدامها في العمل المرتبط بالمرضى أو بيانات الوزارة دون اتباع الضوابط والإرشادات المعتمدة.
وأشار الدليل إلى انه يجوز للوزارة، متى دعت الحاجة، تشكيل فريق أو لجنة فنية لتقييم أدوات الذكاء الاصطناعي اللغوية أو نماذج اللغة الكبيرة المقترح استخدامها ضمن العمل الرسمي، أو ربطها بأنظمة الوزارة، أو استخدامها في سياقات قد تؤثر على المرضى أو الجمهور.
كما لفت إلى انه يراعى في تشكيل الفريق أو اللجنة أن تضم، بحسب طبيعة الأداة والغرض من استخدامها، ممثلين عن الجوانب السريرية، والصحة الرقمية أو نظم المعلومات، وأمن المعلومات، والشؤون القانونية، وحماية البيانات، والجودة وسلامة المرضى، وأي تخصصات أخرى ذات صلة.
ويكون التقييم وفق معايير تشمل الغرض من الاستخدام، ومستوى الخطورة، ونوع البيانات المستخدمة، وحماية الخصوصية، والأمن السيبراني، وجودة الأداء، وقابلية التحقق من المخرجات، والملاءمة للسياق المحلي، وحدود المسؤولية، وآلية المراقبة، وخطة التعامل مع الأخطاء أو الحوادث
حدود الاستخدام السريري
وأفاد الدليل بأنه لا يجوز الاعتماد على مخرجات أدوات الذكاء الاصطناعي اللغوية كأساس وحيد للتشخيص أو العلاج أو الوصف الدوائي أو حساب الجرعات أو تفسير الفحوصات أو تقرير الدخول أو الخروج أو الإحالة أو الفرز أو التنبؤ من خطورة الحالة المرضية.
ويجوز استخدامها أداة مساعدة للتعلم، وترتيب التفكير، وتوسيع الاحتمالات، وتلخيص المعلومات، بشرط التحقق من المخرجات بشكل دقيق، والتأكد من أن مصادر الإجابات حقيقية ومهنية موثوقة ومعتمدة، ومراجعتها من المختص المسؤول قبل أي استخدام مهني أو سريري.
وأشار الدليل إلى التزام العاملين بالتمييز بين مستويات الاستخدام الواردة في الدليل المرفق، وذلك على النحو الآتي:
1 - استخدامات منخفضة الخطورة:
مثل الصياغة العامة، الترجمة، التلخيص، وإعداد مواد تعليمية أو إدارية غير سرية، مع وجوب المراجعة البشرية.
2 - استخدامات متوسطة الخطورة:
مثل تلخيص الإرشادات، ترتيب التشخيصات التفريقية، أو مراجعة معلومات دوائية عامة، مع وجوب التحقق من المصادر قبل الاستخدام.
3 - استخدامات عالية الخطورة:
لا يجوز الاعتماد فيها على أدوات الذكاء الاصطناعي اللغوية لاتخاذ القرار، مثل التشخيص النهائي، اختيار العلاج، تحديد الوصفة، تحديد أو احتساب الجرعة، الفرز الإكلينيكي، قرار ترخيص المريض، أو القرارات الخاصة بمريض محدد.
التحقق من المخرجات
وألزم الدليل العاملين بالتحقق من مخرجات أدوات الذكاء الاصطناعي اللغوية قبل استخدامها، خاصة في السياقات الطبية أو الدوائية أو التعليمية أو الرسمية، وذلك من خلال مراجعة المصدر، والمنطق، والملاءمة المحلية، والتأكد من توافقها مع السياسات والإرشادات المعتمدة في وزارة الصحة، علما انه لا تعد جودة الصياغة أو ثقة الأسلوب دليلا على صحة المعلومة، كما لا يجوز قبول أي مخرج لمجرد أنه مكتوب بلغة مقنعة أو منظمة.
المخرجات العربية والترجمة
وذكر انه عند استخدام أدوات الذكاء الاصطناعي اللغوية لإنتاج أو ترجمة أو تبسيط محتوى باللغة العربية، يجب مراعاة أن دقة المخرجات العربية قد تختلف عن المخرجات الإنجليزية في بعض المهام الطبية أو التقنية، وأن سلامة اللغة لا تعني بالضرورة صحة المحتوى العلمي أو السريري، ويجب مراجعة أي محتوى عربي قبل استخدامه مهنيا أو توجيهه للمرضى أو الجمهور، للتأكد من دقته السريرية، ووضوح المعنى، وسلامة الترجمة، وملاءمته الثقافية، ومناسبته لمستوى الثقافة الصحية للفئة المستهدفة، ولا يجوز استخدام أو نشر أي مادة عربية موجهة للمرضى أو الجمهور إذا كانت مترجمة أو مولدة أو مبسطة بواسطة هذه الأدوات دون مراجعة واعتماد من مختص صحي مسؤول.
الأدوات الموجهة إلى المرضى أو الجمهور
وشدد على انه لا يجوز لأي منشأة صحية أو إدارة أو قسم إطلاق أو استخدام أو الترويج لأي أداة لغوية موجهة إلى المرضى أو الجمهور لتقديم نصائح صحية أو معلومات علاجية أو فرز أو توجيه سريري باسم وزارة الصحة أو إحدى منشآتها، ولا يجوز النظر في استخدام أي أداة من هذا النوع إلا بعد وضع آلية تقييم واعتماد من الجهات المختصة في الوزارة، تراعي الجوانب السريرية، والقانونية، والتقنية، وأمن المعلومات، وحماية خصوصية البيانات، وسلامة المرضى، وحدود استخدام الأداة وآلية مراقبة أدائها، كما يجب أن يتضمن أي استخدام يتم اعتماده لاحقا ضوابط واضحة تبين حدود الأداة، وضرورة عدم اعتبار مخرجاتها بديلا عن تقييم الطبيب أو المختص الصحي أو طلب الرعاية العاجلة عند الحاجة.
التوثيق والإفصاح عند الحاجة
وراعى الدليل متطلبات التوثيق والإفصاح المهني عند استخدام أدوات الذكاء الاصطناعي اللغوية في إعداد محتوى قد يؤثر بصورة واضحة على نصيحة موجهة لمريض أو تواصل رسمي أو مادة تعليمية أو بحثية، وذلك وفق السياسات المهنية والبحثية والإرشادات المعتمدة، مشددا انه لا يجوز نسخ نص مولد أو معدل بواسطة هذه الأدوات إلى السجل الطبي أو التقارير الرسمية دون قراءة ومراجعة وتصحيح واعتماد من المختص المسؤول.
التوعية والتدريب للعاملين
ومنح الدليل الجهات المختصة في وزارة الصحة نشر الدليل وإعداد مواد توعوية وتدريبية مختصرة للعاملين حول الاستخدام الآمن والمسؤول لأدوات الذكاء الاصطناعي اللغوية، على أن توضح الاستخدامات المسموحة، والاستخدامات عالية الخطورة، ومحظورات الخصوصية، وحدود هذه الأدوات، وطرق التحقق من المخرجات.
ومنح الدليل الجهات المختصة في وزارة الصحة إعداد مواد توعوية مبسطة للجمهور حول حدود أدوات الذكاء الاصطناعي اللغوية في الموضوعات الصحية، بما يؤكد أنها أدوات مساعدة قد تنتج معلومات غير دقيقة أو غير مكتملة أو خاطئة تماما، وأنها لا تغني عن استشارة الطبيب أو المختص الصحي أو الرجوع إلى المصادر الطبية المعتمدة.
وألزم الدليل المنشآت الصحية بإبلاغ الجهة المختصة في الوزارة عن أي حادث أو خطأ أو شبهة خرق لخصوصية المرضى أو استخدام غير آمن لأدوات الذكاء الاصطناعي اللغوية، وذلك وفق الآليات المعتمدة للجودة وسلامة المرضى وأمن المعلومات، ويشمل ذلك أي إدخال غير مصرح به لبيانات مرضى أو بيانات سرية في أداة غير معتمدة، أو استخدام مخرج غير متحقق منه في سياق قد يؤثر على سلامة المرضى أو جودة الرعاية.
المتابعة والالتزام
وذكر الدليل انه يتولى مديرو المستشفيات والمراكز التخصصية والإدارات ورؤساء مراكز الرعاية، والأقسام المعنية متابعة نشر الدليل والتوعية به، والتأكد من الالتزام بضوابطه ضمن نطاق اختصاصهم، واتخاذ ما يلزم لمعالجة أي استخدام غير آمن أو مخالف. وأفاد الدليل بأنه يجب ان تراجع هذه الإرشادات والدليل المرفق دوريا أو كلما دعت الحاجة، نظرا للتطور السريع في أدوات الذكاء الاصطناعي اللغوية وتطبيقاتها الصحية، ويجوز تحديثها أو تعديلها وفق المستجدات العلمية والتنظيمية والتقنية.