مجموعة عيادات في دبي تريد مساعدا ذكيا على واتساب وعلى موقعها: حجز المواعيد وتغييرها، وساعات العمل، وشركات التأمين المقبولة، وطريقة الاستعداد لفحص الأشعة. يستطيع المزود أن يجعل النموذج يجيب خلال أسبوعين. لكن ما يحدد موعد الإطلاق فعلا هو قدرة العيادة على أن تثبت أن المساعد يستوفي سياسة هيئة الصحة بدبي بشأن الذكاء الاصطناعي، وأن بيانات المرضى التي يلمسها تبقى حيث يشترط القانون.
ولا شيء من ذلك غريب. إنها قائمة قصيرة من الأمور التي تقرر وتبنى وتكتب قبل أن يكتب أول مريض سؤاله، وكلها تقريبا أرخص في اليوم الأول منها بعد وصول شكوى.
ما الذي تغطيه سياسة الهيئة، ومن تلزم
سياسة هيئة الصحة بدبي للذكاء الاصطناعي في الرعاية الصحية، ورقمها المرجعي DHA/HISHD/PP-09، تنطبق على كل منشأة صحية وكل مهني صحي مرخص من الهيئة يستخدم الذكاء الاصطناعي في الخدمات الصحية، وعلى المطورين الذين يستخدمون بيانات مرضى دبي لبناء حلول ذكاء اصطناعي. وقراءة مكتب بيرد آند بيرد لتعميم الهيئة تعرض الإطار نفسه: الأخلاقيات، والمساءلة، والشفافية، والسلامة والأمن، والخصوصية. والسياسة ملزمة، فهي تنص على أن على جميع الأطراف الامتثال، وتمنح قطاع التنظيم الصحي في الهيئة صلاحية التدقيق والتفتيش وفرض الجزاءات.
وفيها سطران يهمان المساعد أكثر من غيرهما. الأول أن المساءلة عن النتائج يجب أن يتفق عليها المصمم والمطور والمشغل والمستخدم النهائي، فعقدكم مع المزود يجب أن يحدد من يسأل عن ماذا. والثاني أن السياسة تعدد القوانين الاتحادية التي يجب أن يمتثل لها أي حل ذكاء اصطناعي، ومنها قانون استخدام تقنية المعلومات والاتصالات في المجالات الصحية. وهذا هو القانون الذي يحدد أين يمكن أن تقيم البيانات.
قرروا أولا هل المساعد سريري أم لا
أهم قرار هو النطاق، وهو قرار تجاري قبل أن يكون تقنيا. المساعد الذي يحجز المواعيد ويشرح مواقف السيارات ويعدد شركات التأمين المقبولة يتعامل مع بيانات شخصية وصحية، لكنه لا يصدر أي حكم سريري. أما المساعد الذي يسأل عن الأعراض ويقترح هل يأتي المريض اليوم فهو يقوم بالفرز الطبي، وعندها تشتد متطلبات السياسة في التحقق والتجاوز البشري والإبلاغ. والبرمجيات التي تشخص أو توصي بعلاج قد تنظم أيضا بوصفها جهازا طبيا بموجب القانون الاتحادي، كما تشير مراجعة الرابطة الدولية للمحامين لتنظيم الذكاء الاصطناعي الصحي في الإمارات، ولذلك مسار تسجيل خاص به.
اكتبوا النطاق في قائمتين: ما يجوز له أن يجيب عنه، وما يجب أن يحوله إلى شخص. جملة مثل «أي سؤال عن الأعراض أو النتائج أو الأدوية يحول إلى ممرضة» جملة تستطيع العيادة أن تدافع عنها. أما نموذج قيل له «كن حذرا مع الأسئلة الطبية» فلا. ومثال عملي يبين أهمية القائمتين: يكتب أب «ابني مصاب بحمى منذ ثلاثة أيام، هل أستطيع إحضاره غدا الساعة 10؟». نصف الرسالة المتعلق بالحجز داخل النطاق، والحمى خارجه. الرد الصحيح يعرض موعد الساعة 10، ويقول إن ممرضة ستتصل بشأن الأعراض، ويضع المحادثة في قائمة الممرضة المسماة. والرد الخاطئ، وهو ما يميل إليه نموذج بلا قيود، يضيف نصيحة عن الأدوية والجرعات. ضعوا هذا الشكل بعينه في مجموعة الاختبار، فطلب حجز يحيط بتفصيل سريري من أكثر الرسائل التي يتلقاها مساعد كهذا، وأكثرها عرضة للخطأ. وراجعوا القائمتين مع المدير الطبي قبل الاختبار لا بعده، فهو من سيسأل عنهما إن وقع خطأ، وتوقيعه عليهما يحول النطاق من رأي المزود إلى قرار المنشأة.
الإفصاح الذي يراه المريض
تشترط السياسة أن يفصح كل حل ذكاء اصطناعي صحي عن الوظائف التي يقوم بها الذكاء الاصطناعي، وكيف جرى التحقق منه، وأي بيانات يستخدم، وحدوده، ودور المهني الصحي في القرار النهائي. وفي المساعد الذي يخاطب المرضى، جزء من ذلك مكانه المحادثة نفسها: الرسالة الأولى تقول إنه مساعد آلي، وبماذا يستطيع أن يساعد، وكيف يصل المريض إلى شخص. والباقي مكانه صفحة مكتوبة قصيرة تستطيع العيادة أن تسلمها للهيئة، أو لمريض يسأل. واكتبوا الرسالة الأولى باللغتين، وبعبارات يفهمها مريض قلق، لا بلغة قانونية.
وتتوقع السياسة كذلك وسائل مدمجة للاعتراض على القرارات المهمة. وهذا يعني عمليا طريقا ظاهرا إلى شخص في كل قناة، وهو بالمصادفة ما يريده المرضى أيضا.
أين تحفظ المحادثة
رسالة تقول «أحتاج إلى تأجيل مراجعة السكري» معلومة صحية. وبموجب القانون الاتحادي رقم 2 لسنة 2019 في شأن استخدام تقنية المعلومات والاتصالات في المجالات الصحية، فالأصل أن تحفظ البيانات الصحية وتعالج داخل الدولة، ولا يجوز نقلها إلى الخارج إلا في حالات يحددها قرار وزاري. وملخص مكتب التميمي وشركاه لهذه الاستثناءات يعدد عشرة منها، من بينها التطبيب عن بعد والعلاج في الخارج، ولكل منها شروطه. ونموذج مستضاف في الخارج يجيب عن أسئلة الحجز ليس واحدا منها في ظاهر الأمر.
لذلك يحسم سؤال الاستضافة قبل اختيار النموذج. في أي منطقة يعمل النموذج، وأين تحفظ نصوص المحادثات، وإلى أين تذهب السجلات والتحليلات، وهل ينسخها أي مزود فرعي إلى مكان آخر؟ يجب أن يغطي الجواب المسار كله، لا الخادم الرئيسي وحده. واطلبوا من المزود رسما بسيطا لمسار الرسالة من لحظة كتابتها إلى لحظة حذفها، بأسماء الخدمات ومناطقها. فإن لم يستطع رسمه فهو لا يعرف الجواب، وهذا جواب بحد ذاته. والسبب القانوني والسبب المتعلق بالسرعة في الاستضافة داخل الإمارات قراران منفصلان، وهنا يغلب السبب القانوني.
شخص يستطيع تجاوزه، ووسيلة لإيقافه
تنص السياسة على أن حلول الذكاء الاصطناعي التي قد تؤثر في الناس تأثيرا كبيرا يجب أن يستطيع مستخدمون نهائيون محددون تجاوزها أو عكس قراراتها. وتطلب كذلك ما تسميه التراجع التدريجي: تنبيهات آلية، والقدرة على التوقف على مراحل حين يتعطل جزء من الأجهزة أو البرمجيات. وفي المساعد يصبح هذا محددا. موظف مسمى يستطيع أن يتولى أي محادثة. ومفتاح إيقاف يبلغه مدير غير تقني. وحين يتعطل النموذج أو نظام الحجز، يقول المساعد ذلك صراحة ويعطي رقم هاتف العيادة بدل أن يخترع موعدا. وسموا الموظف في الوثيقة باسمه ووظيفته، ومن ينوب عنه في الإجازات والعطل الرسمية.
اختبروا مسار التعطل قبل الإطلاق بالعناية نفسها التي تختبرون بها المسار السليم. فالمساعد الذي يؤكد حجزا لم يسجله النظام هو الحادثة الأرجح أن تصل إلى الجهة التنظيمية.
تحقق تستطيعون إثباته، ومراقبة بعد الإطلاق
تطلب السياسة تحققا مستقلا من طرف ثالث مختص، وبيانات تحقق قابلة للتدقيق، ومراقبة في الممارسة الفعلية تقارن النتائج الحقيقية بما ظهر في الاختبار. وعلى المنشآت التي تستخدم الذكاء الاصطناعي أن تبلغ قطاع التنظيم الصحي بالحوادث ومسائل سلامة المرضى، وأن تجري تدقيقا مستقلا منتظما. ولا تجعلوا المزود يصحح عمله بنفسه، فالطرف الثالث الذي تطلبه السياسة قد يكون جهة تدقيق أو مستشارا مستقلا، والمهم أنه لم يبن المساعد.
وفي مساعد الحجز يعني ذلك مجموعة اختبار من أسئلة حقيقية بالعربية والإنجليزية لها إجابات صحيحة معروفة، ودرجة نجاح يتفق عليها قبل الاختبار، ونتيجة مكتوبة، وعينة شهرية يقرؤها شخص بعد الإطلاق. واختبار القبول الذي يجب أن يجتازه المساعد العربي هو العمل نفسه، موجها إلى سؤال الجهة التنظيمية كما هو موجه إلى سؤال المريض. احتفظوا بكل نسخة من النتائج، فعبارة «كان يعمل جيدا يوم الإطلاق» ليست دليلا.
وصول المزود إلى بيانات المرضى
معايير الهيئة للموافقة على المعلومات الصحية وضبط الوصول إليها، النافذة منذ 2025/04/02، تشترط أن تتضمن العقود مع الموردين متطلبات الأمن وقواعد الوصول إلى أنظمة المعلومات الصحية، وسجلا بصلاحيات الأطراف الخارجية، ومراقبتها، وإلغاءها عند انتهاء العقد. وإن كان المساعد يقرأ نظام الحجز أو الملف الطبي، فالمزود طرف خارجي بهذا المعنى تماما. وانتهاء العقد ليس الوقت المناسب لاكتشاف أن النصوص محفوظة لدى المزود بلا موعد للحذف.
ضعوا ذلك في العقد: أي أنظمة يقرأ منها المساعد، وأيها يكتب فيها، ومن لدى المزود يرى نصوص المحادثات، وكم تحفظ، وماذا يحدث لها عند انتهاء العقد. واستبيان الأمن الذي يرسله المشتري الحريص يسأل الأسئلة نفسها، ويجب أن تتطابق الإجابات في الموضعين.
أسئلة شائعة
هل يحتاج مساعد يقتصر على الحجز إلى موافقة الهيئة قبل إطلاقه؟
لا تصف السياسة ترخيصا مستقلا للمساعد، بل تضع متطلبات يجب أن تستوفيها المنشأة المرخصة ويمكن تدقيقها على أساسها. اسألوا جهة الاتصال لديكم في الهيئة هل تحتاج حالتكم إلى أي إخطار، وأبقوا الأدلة جاهزة في الحالتين.
هل نستطيع استخدام مزود نماذج دولي؟
فقط إذا بقيت البيانات الصحية حيث يشترط القانون، أو انطبق استثناء من الاستثناءات المحددة. عدد من المزودين يقدم استضافة داخل الإمارات، فتأكدوا كتابة من منطقة النموذج ونصوص المحادثات والسجلات قبل التوقيع.
من المسؤول إذا أعطى المساعد إجابة خاطئة؟
تقول السياسة إن المساءلة يجب أن يتفق عليها المصمم والمطور والمشغل والمستخدم النهائي، فاكتبوها في العقد. ومع ذلك تبقى المنشأة هي الجهة التي ينظر إليها المريض والهيئة أولا.
هل يجب أن يعمل المساعد بالعربية؟
لا تنص السياسة على ذلك، لكن كثيرا من المرضى في دبي يكتبون بالعربية أو يمزجون اللغتين. فإن كان يخدمهم فاختبروه باللغتين، وحولوا إلى شخص كل ما لا يحسن التعامل معه.
ما الذي نحتفظ به دليلا؟
وثيقة النطاق، ونص الإفصاح، وخريطة الاستضافة، ومجموعة الاختبار ونتائجها، وإجراء التجاوز والإيقاف، وبنود عقد المزود، وعينات المراقبة الشهرية. هذا الملف يجيب عن معظم ما سيسأله المدقق.
الترتيب الذي أعمل به
حددوا النطاق واكتبوا قائمة التحويل إلى الأشخاص. ارسموا خريطة لمكان حفظ كل رسالة وكل سجل، واختاروا النموذج على أساس هذه الخريطة. اكتبوا نص الإفصاح وطريق الوصول إلى شخص. اتفقوا على المساءلة وصلاحيات الوصول إلى البيانات في عقد المزود. ابنوا مجموعة الاختبار، واجتازوها، واحفظوا النتيجة. ثم أطلقوا المساعد على قناة واحدة، واقرؤوا عينة كل أسبوع، وأبلغوا بما تقول السياسة إنه يجب الإبلاغ عنه. ولا تتوسعوا إلى قناة ثانية قبل شهر كامل من العينات السليمة.
تصميم مساعد يثق به المرضى وتقبله الجهة التنظيمية هو عمل استشاري الذكاء الاصطناعي المحادثي، ويبدأ من الموجز نفسه في صفحة واحدة الذي يبدأ به أي مساعد آخر. وتوثيق لخدمات وحلول الذكاء الاصطناعي تبني مساعدين مخصصين باستضافة داخل الإمارات ومسار بيانات موثق. وإن كنتم تخططون لمساعد في منشأة صحية بدبي، تواصلوا معي من هنا.