الذكاء الاصطناعي في العيادة: مساعد ذكي أم صندوق أسود؟

في إحدى غرف الأشعة، أنهى طبيب للتو فحص صورة صدر وقرر أنها سليمة. قبل أن ينتقل للحالة التالية، ظهر تنبيه من النظام: منطقة مشبوهة في الرئة اليسرى، احتمال ورم 94 بالمئة. قرب الطبيب الصورة وأعادها وقلبها، ثم سأل السؤال الذي يسأله أي عقل علمي: لماذا؟ على أي أساس؟

الشاشة لم تجب. النظام يعطي النتيجة ولا يعطي التعليل. وهذه اللحظة تختصر معضلة الذكاء الاصطناعي الطبي كلها: قرار قد يغير حياة إنسان، صادر من صندوق لا يشرح نفسه.

الإنصاف قبل النقد

من الظلم أن نبدأ بالتخويف. الحقيقة أن الخوارزميات أنجزت في الطب ما يستحق الاحترام. نماذج اليوم تقرأ صورة الشبكية فتكتشف اعتلال السكري قبل أن يشعر المريض بشيء، وتراجع ملايين صور الأشعة فتلتقط أنماطا أدق من أن تراها عين بشرية، ولا تتعب في نهاية مناوبة طويلة ولا يتشتت انتباهها بعد الحالة الأربعين.

الآلة لا تنافس الطبيب في الفهم، لكنها تتفوق عليه في شيئين لا يملكهما بشر: ذاكرة لا تمتلئ، وتركيز لا ينفد.

المشكلة ليست في الذكاء بل في الصمت

المعضلة تبدأ حين نسأل النموذج عن السبب. الشبكات العصبية العميقة، وهي قلب هذه الأنظمة، تتعلم من ملايين الأمثلة وتبني داخلها ملايين المعاملات الرياضية، ثم تخرج بالنتيجة من دون طريق واضح يمكن تتبعه. هي عمليا “تشعر” أن هذه البقعة ورم، بنفس الطريقة التي تعرف بها أنت وجه صديقك من دون أن تستطيع وصف كيف عرفته.

المشكلة أن الطب لا يقبل الشعور. الطبيب تدرب طوال حياته على تبرير قراره أمام زملائه وأمام المريض وأمام القضاء إن لزم الأمر. فكيف يوقع على تشخيص مصدره نظام لا يستطيع مساءلته؟ الثقة العمياء تهور، والرفض الكامل خسارة، والوقوف في المنتصف بلا أدوات هو واقع معظم الأطباء اليوم.

ولماذا تخطئ أصلا؟

لأنها تتعلم من بياناتنا، وبياناتنا ليست بريئة. النموذج الذي تدرب على مرضى من مجتمع معين يتعثر مع مجتمع آخر، وأشهر الأمثلة نماذج الأمراض الجلدية التي تدربت على بشرة فاتحة فتراجعت دقتها مع البشرة الداكنة.

وهنا نقطة تخصنا نحن تحديدا: بياناتنا الطبية شحيحة وغير مؤرشفة رقميا أصلا، كما رأينا في مقالات هذه السلسلة، فالأنظمة التي نستوردها تدربت على مرضى غيرنا، بأمراضهم وأجسادهم وأنماط حياتهم. نحن نشتري ذكاء يقرأ مرضانا بعيون سواهم، ثم نتفاجأ حين يخطئ.

الحل له اسم: قابلية التفسير

الجواب العلمي على الصندوق الأسود ليس التخلي عن الذكاء الاصطناعي، بل إجباره على الكلام. هناك حقل بحثي كامل اسمه الذكاء الاصطناعي القابل للتفسير، وهدفه تحويل “ورم بنسبة 94 بالمئة” إلى “هذه المنطقة تحديدا أثارت النموذج، بسبب كثافتها وشكل حوافها، وهي تشبه مئات الحالات المؤكدة التي تعلم منها”.

الفرق ليس تجميليا. خريطة حرارية تظهر للطبيب أين نظر النموذج تحول العلاقة من إملاء إلى حوار: الطبيب يستطيع أن يوافق، أو يعترض، أو يكتشف أن النموذج انخدع بأثر جراحة قديمة. هكذا يصبح النظام مساعدا حقيقيا بدل كاهن غامض يصدر الأحكام.

وإذا أخطأ.. من يحاسب؟

سؤال لم يحسمه قانون في العالم حتى الآن بشكل كامل: الطبيب الذي وثق بالنظام؟ المستشفى التي اشترته؟ الشركة التي طورته؟ القاعدة التي تترسخ عالميا أن الذكاء الاصطناعي أداة استشارية، والقرار الأخير والمسؤولية للطبيب.

قاعدة منطقية، لكنها تفترض شيئا مهما: أن الطبيب قادر فعلا على فهم الأداة ومساءلتها. وهكذا نعود إلى النقطة نفسها. بلا تفسير، نحن نحمل الطبيب مسؤولية قرار لم يشارك في صناعته.

المعادلة الصحيحة ليست طبيبا ضد آلة، بل طبيبا مع آلة يفهمها ويحاورها. والمساعد الذكي الحقيقي ليس صاحب أعلى دقة على الورق، بل الذي يريك كيف فكر.

ولمن يجهز اليوم مشروع ذكاء اصطناعي في مستشفى أو عيادة، سؤال واحد يستحق مكانا ثابتا في دفتر الشروط قبل أي شيء آخر: هل يشرح النظام قراراته؟ فالصندوق الأسود مقبول حين يرشح لك أغنية، ومرفوض تماما حين يشخص ورما.