10 مهام للذكاء الاصطناعي في المستشفيات: ما الذي يجب ألا تلمسه أنظمة الذكاء الاصطناعي مطلقاً؟
عشر مهام مكتوبة على لوحة بيضاء في مكتب الاستقبال بالمستشفى. عرض أحد الموردين إسناد بعضها إلى نظام ذكاء اصطناعي، ويريد المسؤول معرفة أيها.
قبل المتابعة، صنّف هذه المهام إلى أربع فئات، مع تحديد المهام التي تُنفّذ تلقائيًا، والمهام التي تتطلب موافقة شخص، والمهام التي تحتاج إلى إصلاح قبل تنفيذها، والمهام التي لا تُسند إلى نظام ذكاء اصطناعي.
إرسال تذكيرات بالمواعيد للمرضى الذين اشتركوا في الخدمة.
الرد على استفسار جديد عبر الموقع الإلكتروني في غضون ثوانٍ.
صياغة رد على سؤال "كم تكلفة استبدال مفصل الركبة؟".
تحديد مدى ملاءمة الاستفسار الجديد وتوجيهه إلى القسم المختص.
طلب تقييم من المريض على جوجل بعد الزيارة.
متابعة الاستفسارات الواردة عبر واتساب، والهاتف، ونموذج الموقع الإلكتروني، والحضور الشخصي، والمسجلة في أربعة مواقع مختلفة من قِبل الموظف المتاح.
تحديد من يحصل على خصم على الرسوم، بناءً على الموظف المتواجد في المكتب في ذلك اليوم.
إرسال نتائج التحاليل المخبرية إلى المريض.
الموافقة على طلب إعادة صرف وصفة طبية.
الرد على رسالة واتساب نصها: "والدي يعاني من ألم في الصدر ويتنفس بسرعة".
أنا بودهايان دوتا، مؤسس شركة باتي جالاو، وهي شركة استشارية متخصصة في نمو التسويق في قطاع الرعاية الصحية باستخدام الذكاء الاصطناعي، ومقرها في جواهاتي. نقوم بتطوير أنظمة المحتوى والتسويق، مثل باتي لينك إيه آي وباتي سينس وغيرها من أنظمة الذكاء الاصطناعي المخصصة، في مختلف قطاعات الرعاية الصحية. كما نقدم خدمة باتي أوبس، وهي خدمة تدقيق جاهزية الذكاء الاصطناعي بسعر ثابت لمشغلي الرعاية الصحية. يرتب هذا المقال القائمة باستخدام نفس معيار السؤالين الذي تستخدمه باتي أوبس، ويوضح المواضع التي تكون فيها الإجابات أقل وضوحًا مما تبدو عليه، ويحدد ما يجب أن يتضمنه سجل المهام المستبعدة.
لماذا تفشل معظم مشاريع الذكاء الاصطناعي التجريبية في قطاع الرعاية الصحية قبل إرسال الرسالة الأولى؟
تشير دراسة أجرتها مؤسسة MIT NANDA عام 2025 إلى أن حوالي 95% من المشاريع التجريبية للذكاء الاصطناعي الآلي في المؤسسات لا تُحقق أي تأثير ملموس على الأرباح والخسائر، بينما تتوقع شركة Gartner إلغاء أكثر من 40% من مشاريع الذكاء الاصطناعي الآلي بحلول نهاية عام 2027. ويُرجع تحليل شركة Deloitte لنتائج معهد ماساتشوستس للتكنولوجيا السبب إلى سير العمل والسياسات التنظيمية، وليس إلى النموذج نفسه.
إذا وضعنا هذه النتائج على السبورة البيضاء، سيتضح لنا النمط جليًا. فالمشروع التجريبي الذي يتجاهل عملية الفرز يُحوّل قائمة المهام إلى نظام إنتاجي عن طريق الخطأ. إذ تُعامل جميع المهام بنفس الطريقة، وبالتالي فإن التذكير ورسالة التنبيه لا يحظيان بنفس مستوى الإشراف. أما BattiOps، فتبدأ بالفرز، وتبدأ بمكالمة تقييم مدتها 20 دقيقة، قد تنتهي بإخبارنا لك بصراحة أنك غير مناسب.
المعيار: سؤالان، مُضاعفان
لكل عملية درجتان. الملاءمة: هل يستطيع الوكيل تشغيل هذه العملية بكفاءة؟ المخاطر: ماذا يحدث في حال فشل الضوابط؟ الأولوية هي ضعف الأولويات، ويُصنّف كل إجراء ضمن إحدى أربع فئات: النشر الفوري، أو التجريب، أو إعادة التصميم أولًا، أو عدم الأتمتة.
يسهل الإجابة على السؤال الثاني من خلال الرجوع إلى المبادئ التوجيهية الأخلاقية للذكاء الاصطناعي في الرعاية الصحية الصادرة عن المجلس الهندي للأبحاث الطبية (ICMR) عام ٢٠٢٣. تنطلق هذه المبادئ من فرضية عدم إمكانية محاسبة الذكاء الاصطناعي على قراراته، وبالتالي يبقى البشر هم أصحاب القرار النهائي، وتطلب من المؤسسات النظر في إمكانية التراجع عن أي قرار يتخذه الذكاء الاصطناعي. بعبارة أخرى، إذا حدث خطأ ما، فهل يمكن إصلاحه؟
الكشف، فئة تلو الأخرى
النشر الفوري: المهمتان ١ و٢. كلتاهما منظمتان وقابلتان للتكرار والتراجع. لا يتطلب تصحيح التذكير المتأخر ساعة واحدة أي تكلفة، ويشير الإشعار فقط إلى وصول الرسالة. الشرط المطبق على المهمة الأولى هو أن يكون لدى المريض سجل موافقة لهذا الغرض المحدد، وهو سؤال يتعلق بحماية البيانات الشخصية قبل أن يتعلق بالذكاء الاصطناعي. حتى هنا، يعمل النظام الآلي تحت إشراف شخص يراجع عمله لمدة 30 يومًا.
المهمة التجريبية: المهام 3 و4 و5. مناسبة، ولكنها حساسة، لذا يقوم النظام الآلي بصياغة المسودات ويوافق عليها الموظفون حتى يكتسب مزيدًا من الحرية. يُعدّ الرد على التكلفة التزامًا يعتمد على حالة المريض. عادةً ما يكون توجيه الاستفسار قابلاً للاسترداد، ولكن لا ينبغي أبدًا توجيه رسالة تصف الأعراض تلقائيًا. طلب المراجعة دقيق للغاية، حيث لا ينبغي أن يتلقى المريض الذي لم تكن عملية خروجه من المستشفى على ما يرام طلبًا مهذبًا بخمس نجوم، ولا يعرف أي مريض هو المقصود إلا شخصٌ مُعيّن.
يُخفي قسم "المهمة التجريبية" مشكلةً يغفل عنها معظم الطيارين. "موافقة الموظفين" لا تحمي أي شخص إلا إذا كانت الموافقة شرطًا أساسيًا. تشير الأبحاث المنشورة في مجلة "مايو كلينك بروسيدنجز: الصحة الرقمية" حول الإشراف البشري على الذكاء الاصطناعي في الرعاية الصحية إلى ميلٍ موثق لدى الناس للإفراط في الثقة بمخرجات الحاسوب. إن قيام موظف الاستقبال بالموافقة على 40 مسودة في الساعة لا يُعدّ إشرافًا. لهذا السبب، لا يُعتمد أي مشروع تجريبي إلا بعد نجاحه التام، بناءً على الأدلة وليس لمجرد مرور شهر دون نشاط.
إعادة التصميم أولاً: المهمتان 6 و7. هذه المهمة هي الأقل تقديرًا، لأن الإجابة ليست بالنفي، بل هي "لم يحن الوقت بعد". لا يستطيع الموظف تنظيم عملية لم يحددها أحد. فالاستفسارات المسجلة في أربعة أماكن ستُؤتمت بشكل سيئ، وقاعدة تخفيض الرسوم التي تعتمد على شخص واحد سيعيد الموظف ابتكارها في كل مرة، وبشكل مختلف. الحل يكمن في سجل واحد، ومسؤول واحد، وقاعدة مكتوبة واحدة. بمجرد وجود ذلك، يمكن إنجاز هذه المهام.
المهام الممنوعة من الأتمتة: 8 و9 و10. يُعدّ إصدار نتائج المختبر والموافقة على تجديد وصفة طبية من الإجراءات السريرية، وقد حددتها BattiOps صراحةً في سجل مكتوب للمهام الممنوعة من الأتمتة. أما المهمة الثالثة فهي الأصعب.
في فبراير 2026، نشر باحثون في مستشفى ماونت سيناي اختبارًا مُنظّمًا لـ ChatGPT Health في مجلة Nature Medicine. وقد قلّلت الأداة من تصنيف أكثر من نصف حالات الطوارئ الواضحة. في إحدى حالات الربو، رصدت الأداة علامات إنذار مبكرة لفشل تنفسي في شرحها الخاص، ومع ذلك نصحت المريض بالانتظار. استخدمت الدراسة سيناريوهات سريرية افتراضية، وليست محادثات حقيقية، واختبرت أداة عامة للمستهلكين، وليس مساعدًا طبيًا تابعًا للمستشفى. والدرس المستفاد هو أنه كلما كان تعريفك أدق، كانت النتائج أكثر فائدة. لا ينبغي لأحد أن يعرف كيف يتعامل النظام مع رسالة عاجلة من خلال انتظار رسالة حقيقية. وقد حدّدت BattiOps هذا الأمر عمدًا، حيث لا تستخدم اتصالات طوارئ ذاتية، ولا ذكاءً اصطناعيًا سريريًا أو تشخيصيًا، ولا أتمتة للقرارات السريرية.
ما الذي يجب أن يتضمنه سجل المهام المستبعدة؟
لا تُفيد قائمة العناصر "الممنوعة" إلا إذا كان بالإمكان تنفيذها. أيًا كان الشكل الذي يختاره المستشفى، يجب أن يُجيب كل إدخال على أربعة أسئلة:
ما هي المهمة؟ ومن المسؤول عنها؟
لماذا تم استبعادها؟ حدد بدقة الضرر، وهل يُمكن تداركه.
ما الذي يُمكن أن يفعله النظام بالقرب منها، إن وُجد؟ على سبيل المثال، هل يُمكنه إيصال رسالة إلى شخص بشري أسرع من أن يلاحظها الشخص؟
متى تتم مراجعة الاستبعاد لاحقًا؟ ومن سيُراجعها؟
تطلب إرشادات المجلس الهندي للأبحاث الطبية من المؤسسات تحديد المسؤولية القانونية قبل اعتماد الذكاء الاصطناعي للاستخدام السريري. السجل هو المكان الذي يُدوّن فيه هذا التعريف كتابيًا. وهو أيضًا الوثيقة الوحيدة التي لا داعي لإدراجها في عرض البائع، لأن العرض يُسوّق لما يُمكن للأداة فعله، بينما يُفصّل السجل ما لا يُمكنها فعله.
من الفرز إلى البناء
القائمة المُصنّفة هي تشخيص، والتشخيص الذي يتوقف عند التقرير ليس سوى نصف المهمة. تستغرق عملية تدقيق BattiOps من أسبوعين إلى ثلاثة أسابيع، وتُختتم بتقرير يتراوح بين 12 و15 صفحة وجولة تعريفية مدتها 60 دقيقة. تغطي مرحلة النشر فقط ما تم تقييمه بأنه آمن، ويتم التحقق من العمل من قِبل شخص لمدة 30 يومًا. نعمل على منصات نتحكم بها بشكل كامل، بما في ذلك واتساب، والويب، وملف تعريف جوجل للأعمال، ونظام إدارة علاقات العملاء (CRM). أي شيء يتطلب نظام معلومات المستشفى (HIS) أو السجل الطبي الإلكتروني (EMR) أو نظام معلومات المختبر (LIS) الخاص بالمستشفى، يُحال إلى مُورّد المستشفى، كقاعدة عامة. إذا تم تكليف العمل خلال 90 يومًا، يُخصم 50% من رسوم التدقيق من تكلفة المرحلة الأولى من النشر، حتى لا يكون التشخيص طريقًا مسدودًا.
الأخطاء الشائعة
الخطأ الأول: تصنيف الأدوات حسب وظائفها بدلًا من التركيز على عواقب استخدامها الخاطئ.
الخطأ الثاني: اعتبار "موافقة الموظفين" ضمانة دون التحقق من صحة هذه الموافقات.
الخطأ الثالث: الاعتماد على عرض توضيحي من المورّد لتحديد القائمة، بدلًا من الاعتماد على لوحة المعلومات الخاصة بالمستشفى.
الخطأ الرابع: كتابة الاستثناءات مرة واحدة فقط دون مراجعتها مع تغير الأدوات.
هل هذا ينطبق فقط على المستشفيات ذات فرق العمليات الكبيرة؟
لا. حتى مكتب الاستقبال الصغير المكون من ثلاثة موظفين يستخدم لوحة بيضاء أقصر، وليست مختلفة. تبقى المهام كما هي، وكذلك المهمتان أو الثلاث التي لا ينبغي أن تصل إلى الموظف. غالبًا ما تكون الفرق الأصغر حجمًا أكثر عرضة للخطر، لعدم وجود من يتولى مهمة طرح الأسئلة.
💡لم تكن اللوحة البيضاء هي المشكلة أبدًا، بل ترك المهمة الرابعة دون كتابة هو المشكلة.
ملاحظة حول الأمثلة: قائمة المهام العشر ومواقعها هي مثال توضيحي مُركّب لعرض آلية العمل، وليست نتاج تدقيق حقيقي من عميل. يُقيّم تدقيق BattiOps الحقيقي كل عملية بناءً على حجم العمليات، والمسؤولين عنها، والأدوات المستخدمة في المستشفى، وقد يُصنّف المهمة نفسها بشكل مختلف.
