الأستاذ حسنين موسى أصبح الذكاء الاصطناعي من التقنيات المهمة في المجال الطبي، وخاصة في مجال التشخيص، حيث تُستخدم خوارزميات التعلم الآلي والتعلم العميق لتحليل الصور الطبية، والسجلات الصحية الإلكترونية، والنتائج المخبرية، وغيرها من البيانات السريرية. وقد أظهرت هذه التقنيات قدرة كبيرة على دعم الأطباء وتسريع تحليل المعلومات واكتشاف بعض الأنماط المرضية. ومع ذلك، فإن استخدام الذكاء الاصطناعي في التشخيص الطبي لا يخلو من تحديات وعوائق. وتشمل هذه التحديات جودة البيانات، والتحيز الخوارزمي، وصعوبة تفسير قرارات بعض النماذج، والحاجة إلى التحقق الخارجي من الأداء، وحماية خصوصية المرضى، والمسؤولية القانونية، وصعوبة دمج الأنظمة في سير العمل الطبي. وتؤكد منظمة الصحة العالمية أن تطبيق الذكاء الاصطناعي الصحي يحتاج إلى الشفافية، والرقابة البشرية، وحماية الخصوصية، والتقييم الصارم للسلامة والفعالية. منظمة الصحة العالمية +١ الكلمات المفتاحية: الذكاء الاصطناعي، التشخيص الطبي، التعلم الآلي، التعلم العميق، التحيز الخوارزمي، خصوصية البيانات، قابلية التفسير. المقدمة شهد القطاع الصحي خلال السنوات الأخيرة تطوراً متسارعاً في استخدام تقنيات الذكاء الاصطناعي. وتستخدم هذه التقنيات في تحليل الأشعة السينية والتصوير المقطعي والرنين المغناطيسي، إضافة إلى تحليل البيانات السريرية والتنبؤ بالمخاطر الصحية ودعم اتخاذ القرار الطبي. وتكمن أهمية الذكاء الاصطناعي في قدرته على معالجة كميات كبيرة من البيانات خلال فترة زمنية قصيرة، مما قد يساعد الطبيب في اكتشاف مؤشرات مرضية يصعب ملاحظتها بالطرق التقليدية. إلا أن ارتفاع الأداء التقني للنظام لا يعني تلقائياً أن النظام آمن أو صالح للاستخدام السريري في جميع البيئات؛ إذ تتأثر النتائج بنوعية البيانات المستخدمة في التدريب، وبالسكان الذين يمثلهم dataset، وبالبيئة السريرية التي يعمل فيها النظام. وتشير مراجعات حديثة إلى استمرار وجود مشكلات تتعلق بالتحقق الخارجي، وجودة البيانات، والشفافية، والاندماج مع سير العمل السريري. PubMed +١ أهم المشاكل والعوائق 2.1 ضعف جودة البيانات الطبية تعتمد نماذج الذكاء الاصطناعي على البيانات التي يتم تدريبها عليها. وإذا كانت البيانات ناقصة أو غير دقيقة أو غير ممثلة لجميع فئات المرضى، فقد يتعلم النظام أنماطاً غير مناسبة. وتشير إدارة الغذاء والدواء الأمريكية (FDA) إلى أن تطوير وتقييم أنظمة الذكاء الاصطناعي الطبية قد يتطلب مجموعات بيانات كبيرة ومتنوعة، بينما يمكن أن تواجه المؤسسات صعوبات في الحصول على بيانات مرضى ممثلة بشكل جيد بسبب التكلفة، والخصوصية، وصعوبة الحصول على البيانات المعلّمة، وانخفاض معدل انتشار بعض الأمراض. U.S. Food and Drug Administration مثال: إذا تم تدريب نموذج لاكتشاف مرض معين باستخدام صور طبية من مستشفى واحد أو من فئة سكانية محددة، فقد لا يحافظ النموذج على مستوى الأداء نفسه عند استخدامه في مستشفى آخر أو مع مجموعة مختلفة من المرضى. 2.2 التحيز الخوارزمي Algorithmic Bias من أخطر التحديات احتمال انتقال التحيز الموجود في البيانات إلى الخوارزمية. فإذا كانت فئة معينة من المرضى ممثلة بصورة أقل في بيانات التدريب، فقد يكون أداء النموذج مختلفاً بين المجموعات. وتؤكد منظمة الصحة العالمية أن بيانات التدريب قد تحتوي على تحيزات منهجية نتيجة عدم تمثيل بعض الفئات بصورة كافية، كما تشير الأدبيات الحديثة إلى أن التحيز يمكن أن يظهر في مراحل متعددة من دورة حياة النظام، من جمع البيانات وحتى الاستخدام السريري. Iris +١ 2.3 صعوبة تفسير قرارات الذكاء الاصطناعي بعض نماذج التعلم العميق تعمل بطريقة يصعب على الطبيب فهمها بصورة مباشرة؛ ولذلك توصف أحياناً بأنها "صندوق أسود" Black Box. وقد يمثل ذلك مشكلة مهمة في التشخيص، لأن الطبيب لا يحتاج فقط إلى معرفة النتيجة، وإنما قد يحتاج أيضاً إلى فهم الأسباب أو الأدلة التي اعتمد عليها النظام. وتشير مراجعات منهجية إلى استمرار وجود فجوات في قابلية تفسير أنظمة الذكاء الاصطناعي الطبية، كما أن طرق تقييم جودة التفسيرات نفسها ليست موحدة بصورة كافية. PubMed +١ 2.4 الحاجة إلى التحقق السريري والخارجي قد يعطي نموذج الذكاء الاصطناعي نتائج ممتازة عند اختباره على البيانات التي تشبه بيانات التدريب، لكن الأداء قد يتغير عندما ينتقل إلى مستشفى أو جهاز تصوير أو مجموعة مرضى مختلفة. لذلك فإن التحقق الخارجي External Validation يعد مرحلة مهمة قبل الاعتماد السريري الواسع. وتشير مراجعات حديثة إلى أن عدداً من الدراسات المنشورة لا يزال يفتقر إلى التحقق الخارجي الكافي، كما أن بعض الأدلة المتاحة تركز على الأداء التقني بدلاً من قياس النتائج السريرية الفعلية. PubMed +١ 2.5 حماية خصوصية المرضى تحتوي البيانات الطبية على معلومات شديدة الحساسية، مثل التاريخ المرضي، ونتائج الفحوصات، والصور الطبية، والمعلومات الجينية. استخدام هذه البيانات في تدريب أنظمة الذكاء الاصطناعي يثير تساؤلات تتعلق بـ: من يملك البيانات؟ كيف يتم تخزينها؟ من يستطيع الوصول إليها؟ هل حصل المريض على موافقة مناسبة؟ كيف يمكن منع تسرب البيانات؟ كيف يمكن استخدام البيانات في البحث دون الإضرار بخصوصية المريض؟ وتضع منظمة الصحة العالمية حماية الخصوصية والاستقلالية البشرية ضمن المبادئ الأساسية لاستخدام الذكاء الاصطناعي في الصحة. منظمة الصحة العالمية +١ 2.6 المسؤولية القانونية والأخلاقية إذا قدم نظام ذكاء اصطناعي تشخيصاً خاطئاً وأدى ذلك إلى ضرر للمريض، تظهر أسئلة مهمة حول المسؤولية: هل تقع المسؤولية على الطبيب، أم المستشفى، أم الشركة المطورة، أم الجهة التي اعتمدت النظام؟ وتشير مراجعات العوائق في الذكاء الاصطناعي الطبي إلى وجود تحديات مرتبطة بالمسؤولية القانونية، والموافقة، واستقلالية المريض، والثقة، والتعليم والتدريب.PubMed ولهذا تؤكد منظمة الصحة العالمية أهمية وجود إشراف بشري واضح ومسؤولية محددة عند استخدام أنظمة الذكاء الاصطناعي الصحية. Iris 2.7 صعوبة دمج الذكاء الاصطناعي في سير العمل الطبي لا يكفي أن يكون النظام دقيقاً من الناحية التقنية؛ بل يجب أن يكون قابلاً للاستخدام ضمن البيئة الطبية الفعلية. وقد يواجه المستشفى مشكلات مثل: عدم توافق النظام مع أنظمة السجلات الطبية الإلكترونية. الحاجة إلى تدريب الأطباء والعاملين. زيادة الخطوات المطلوبة أثناء الفحص. اختلاف البنية التحتية التقنية بين المستشفيات. صعوبة صيانة وتحديث النظام. وقد صنفت مراجعة منهجية للعوائق في الذكاء الاصطناعي الطبي تحديات سير العمل، والتوافق بين الأنظمة، ونقص التدريب، والتكلفة، ضمن مجموعة واسعة من العوائق أمام التطبيق العملي. PubMed 2.8 الاعتماد المفرط على الذكاء الاصطناعي من المخاطر المحتملة أن يعتمد المستخدم على توصية النظام دون مراجعة كافية، خصوصاً عندما يقدم النظام نتيجة بثقة عالية أو بطريقة تبدو مقنعة. ولهذا تؤكد منظمة الصحة العالمية أن الإنسان يجب أن يبقى مسيطراً على القرارات الصحية، وأن استخدام الذكاء الاصطناعي يجب أن يترافق مع إشراف وتقييم مناسبين. منظمة الصحة العالمية 2.9 التكلفة والبنية التحتية تحتاج أنظمة الذكاء الاصطناعي الطبية إلى أجهزة حاسوبية، وتخزين للبيانات، وشبكات آمنة، وبرمجيات متخصصة، بالإضافة إلى كوادر قادرة على تشغيل النظام ومراقبته. وقد يكون توفير هذه المتطلبات أكثر صعوبة في المؤسسات الصحية محدودة الموارد، مما قد يؤدي إلى تفاوت في إمكانية الوصول إلى التقنيات الحديثة. وتناقش منظمة الصحة العالمية أيضاً مخاطر عدم المساواة في الوصول إلى تقنيات الذكاء الاصطناعي والقدرات اللازمة لتطبيقها. منظمة الصحة العالمية +١ كيف يمكن الحد من هذه العوائق؟ يمكن تقليل المخاطر من خلال مجموعة من الإجراءات، أهمها: استخدام بيانات متنوعة وعالية الجودة تمثل مختلف فئات المرضى. إجراء تحقق خارجي متعدد المراكز قبل الاعتماد السريري. اختبار النموذج باستمرار بعد نشره للتأكد من عدم تراجع الأداء. تطوير تقنيات الذكاء الاصطناعي القابل للتفسير. الحفاظ على الإشراف البشري في القرارات الطبية المهمة. تطبيق معايير قوية لحماية البيانات والخصوصية. تحديد المسؤوليات القانونية والأخلاقية بوضوح. تدريب الأطباء والعاملين الصحيين على فهم حدود النظام. دمج النظام مع سير العمل الطبي بدلاً من جعله أداة منفصلة. مراقبة النظام بعد استخدامه في الواقع السريري بصورة مستمرة. وتشير FDA إلى أن من المجالات المهمة للبحث التنظيمي تطوير طرق أفضل لقياس الأداء وعدم اليقين والتحيز، وتقييم الأنظمة التي تتغير بمرور الوقت، إضافة إلى المراقبة بعد طرح الأنظمة للاستخدام. U.S. Food and Drug Administration الخاتمة يمثل الذكاء الاصطناعي فرصة مهمة لتطوير التشخيص الطبي وتحسين سرعة تحليل البيانات ودعم الأطباء، لكنه ليس بديلاً تلقائياً عن الخبرة الطبية والحكم السريري. وتتمثل أبرز العقبات في جودة البيانات وتمثيلها، والتحيز، وقابلية التفسير، والتحقق الخارجي، والخصوصية، والمسؤولية القانونية، والتكلفة، والتكامل مع الأنظمة الصحية. وبناءً على الأدلة الحالية، فإن الاستخدام الآمن للذكاء الاصطناعي في التشخيص يتطلب الانتقال من التركيز على دقة النموذج وحدها إلى تقييم شامل يشمل السلامة، والإنصاف، وقابلية التفسير، والنتائج السريرية، وتجربة المستخدم، والمراقبة المستمرة. وهذا يتفق مع مبادئ منظمة الصحة العالمية التي تركز على السلامة، والشفافية، والاستقلالية، والمساءلة، والإنصاف.