الأسئلة الطبية الواقعية تثير حيرة روبوتات الدردشة الذكية

الولايات المتحدة - وكالة أنباء إخباري

الذكاء الاصطناعي الطبي: بين دقة المختبر وتحديات الواقع

في عصر يتزايد فيه الاعتماد على التكنولوجيا، برزت روبوتات الدردشة المدعومة بالذكاء الاصطناعي كأدوات واعدة لحل مجموعة واسعة من المشكلات، بما في ذلك الاستشارات الطبية الأولية. ومع ذلك، فإن دراسة حديثة نشرت في مجلة Nature Medicine تلقي بظلال من الشك على مدى استعداد هذه التقنيات لتقديم الدعم الطبي في العالم الحقيقي. فقد كشفت الدراسة، التي أجراها باحثون من جامعة أكسفورد، أن هذه الروبوتات، رغم قدرتها على تحديد المشكلات الطبية بدقة تصل إلى 95% في بيئة المختبر، فإن أداءها يتدهور بشكل كبير عندما يتفاعل معها أفراد حقيقيون لطرح أسئلة طبية.

أظهرت التجارب المخبرية أن نماذج الذكاء الاصطناعي المتقدمة، مثل GPT-4o و Command R+ و Llama 3، قادرة على تشخيص المشكلات الطبية بدقة تصل إلى 95%، وتقديم توصيات بشأن الإجراءات الواجب اتخاذها، مثل الاتصال بالطبيب أو التوجه إلى قسم الطوارئ، بنسبة تزيد عن 56% من الوقت. هذه النتائج تبدو مشجعة للغاية، وتشير إلى إمكانيات هائلة للذكاء الاصطناعي في مجال الرعاية الصحية.

لكن الصورة تتغير جذريًا عند الانتقال إلى سيناريوهات العالم الواقعي. عندما طُلب من المشاركين في الدراسة طرح سيناريوهات طبية بأسلوب حواري طبيعي على روبوتات الدردشة، انخفضت دقة التشخيص إلى أقل من 35%، بينما بلغت دقة تحديد الإجراء الصحيح حوالي 44%. هذا الانخفاض الملحوظ يسلط الضوء على فجوة كبيرة بين المعرفة النظرية للذكاء الاصطناعي والقدرة على تطبيقها بفعالية في سياقات تفاعلية معقدة.

يعزو آدم مهدي، عالم الرياضيات وقائد فريق البحث في مختبر "Reasoning with Machines" بجامعة أكسفورد، هذا التفاوت إلى أن "الذكاء الاصطناعي يمتلك المعرفة الطبية، لكن الناس يواجهون صعوبة في الحصول على نصائح مفيدة منه". وأوضح مهدي أن المشكلة لا تكمن في نقص المعرفة لدى نماذج اللغة الكبيرة (LLMs)، بل في آلية التفاعل بين المستخدم والروبوت.

للتحقق من دقة الروبوتات في بيئة المختبر، قام مهدي وزملاؤه بتزويد النماذج بسيناريوهات تصف 10 حالات طبية مختلفة، وتتبعوا مدى دقة التشخيص والتوصيات المقدمة. بعد ذلك، تم توزيع ما يقرب من 1300 متطوع عشوائيًا لطرح هذه السيناريوهات على أحد نماذج LLMs، أو استخدام طرق أخرى لتحديد ما يجب فعله. طُلب من المشاركين أيضًا شرح سبب استنتاجاتهم وما يعتقدون أنه المشكلة الطبية.

الغالبية العظمى من المشاركين الذين لم يستخدموا روبوتات الدردشة لجأوا إلى محركات البحث مثل جوجل. المفاجأة كانت أن هؤلاء المستخدمين، الذين اعتمدوا على "الدكتور جوجل"، حققوا نتائج أفضل من أولئك الذين استخدموا روبوتات الدردشة. فقد نجح مستخدمو جوجل في تشخيص المشكلة بنسبة تزيد عن 40% من الوقت، مقارنة بمتوسط 35% لمستخدمي الروبوتات. يعتبر مهدي هذا الفارق "ذا دلالة إحصائية مهمة".

يشير هذا إلى أن المشكلة الحقيقية تكمن في "التفاعل مع الناس"، وليس في قدرات الذكاء الاصطناعي نفسه، خاصة وأن هذه الروبوتات كانت من أحدث ما توصلت إليه التكنولوجيا في أواخر عام 2024 عندما أجريت الدراسة.

في بعض الحالات، قدمت روبوتات الدردشة معلومات غير صحيحة أو غير كاملة أو مضللة. لكن في معظم الأحيان، تبدو المشكلة في الطريقة التي يتفاعل بها الناس مع هذه النماذج. يقول مهدي إن الناس يميلون إلى تقديم المعلومات بشكل تدريجي وبطيء، بدلاً من تقديم القصة كاملة دفعة واحدة. وهذا يمكن أن يشتت انتباه روبوتات الدردشة بسهولة بالمعلومات غير ذات الصلة أو الجزئية. بل إن المشاركين في بعض الأحيان تجاهلوا تشخيصات الروبوتات حتى عندما كانت صحيحة.

كما لوحظ أن تغييرات طفيفة في طريقة وصف الأشخاص للسيناريوهات أدت إلى اختلافات كبيرة في استجابة روبوت الدردشة. على سبيل المثال، عند وصف حالة "نزف تحت العنكبوتية" (نوع من السكتة الدماغية)، قال أحد المتطوعين إنهم "شعروا فجأة بأسوأ صداع على الإطلاق"، مما دفع GPT-4o إلى تقديم نصيحة صحيحة بطلب المساعدة الطبية الفورية. في المقابل، وصف متطوع آخر الصداع بأنه "صداع رهيب"، فاقترح GPT-4o أن الشخص قد يعاني من الصداع النصفي ويجب عليه الراحة في غرفة مظلمة وهادئة، وهو اقتراح قد يكون قاتلاً في الواقع.

لا يزال سبب هذه التغييرات الدقيقة في الوصف التي تؤدي إلى تغييرات جذرية في الاستجابة غير معروف. ويعتبر هذا جزءًا من "مشكلة الصندوق الأسود" في الذكاء الاصطناعي، حيث لا يستطيع حتى المطورون تتبع منطق النموذج.

تؤكد نتائج الدراسة أن "أياً من نماذج اللغة التي تم اختبارها لم تكن جاهزة للنشر في رعاية المرضى المباشرة"، حسبما ذكر مهدي وزملاؤه. ويأتي هذا الاستنتاج متوافقًا مع تقارير أخرى. فقد صنفت منظمة ECRI، وهي منظمة عالمية غير ربحية لسلامة المرضى، في تقرير لها نُشر في 21 يناير، استخدام روبوتات الدردشة الذكية في الطب كأكبر خطر تكنولوجي صحي لعام 2026. وأشار التقرير إلى أن روبوتات الدردشة تقدم تشخيصات خاطئة بثقة، وتخترع أجزاء من الجسم، وتوصي بمنتجات أو إجراءات طبية قد تكون خطيرة، وتنصح بإجراء فحوصات أو علاجات غير ضرورية، وتعزز التحيزات أو الصور النمطية التي قد تزيد من الفوارق الصحية.

على الرغم من هذه التحذيرات، يستخدم معظم الأطباء روبوتات الدردشة بالفعل في بعض جوانب عملهم، مثل نسخ السجلات الطبية أو مراجعة نتائج الاختبارات. وقد أعلنت OpenAI عن "ChatGPT for Healthcare" وأطلقت Anthropic "Claude for Healthcare" في يناير، ويتعامل ChatGPT بالفعل مع أكثر من 40 مليون سؤال صحي يوميًا.

من المنطقي أن يلجأ الناس إلى روبوتات الدردشة للمساعدة الطبية، كما يوضح سكوت لوكاس، نائب رئيس قسم سلامة الأجهزة في ECRI. "يمكنها الوصول إلى مليارات نقاط البيانات وتجميعها وتقديمها بتنسيق سهل الفهم ومقنع، يمكن أن يقدم لك نصائح دقيقة حول السؤال الذي طرحته تمامًا وبطريقة واثقة". ولكنه يضيف: "نماذج اللغة التجارية ليست جاهزة للاستخدام السريري الفعلي. الاعتماد كليًا على مخرجات نماذج اللغة الكبيرة ليس آمنًا".

من المتوقع أن يصبح كل من نماذج الذكاء الاصطناعي والمستخدمين أكثر تطوراً بمرور الوقت، مما قد يساهم في سد فجوة التواصل التي أبرزتها دراسة مهدي.

تؤكد هذه الدراسة المخاوف بشأن سلامة وموثوقية نماذج اللغة الكبيرة في رعاية المرضى، والتي ناقشتها مجتمعات تعلم الآلة لفترة طويلة، كما تقول ميشيل لي، باحثة في مجال الذكاء الاصطناعي الطبي في كلية الطب بجامعة هارفارد. فقد أوضحت هذه الدراسة وغيرها نقاط ضعف الذكاء الاصطناعي في البيئات الطبية الحقيقية. وتعمل لي وزملاؤها على دراسات جديدة لاقتراح تحسينات محتملة في تدريب واختبار وتطبيق نماذج الذكاء الاصطناعي لجعلها أكثر موثوقية في سياقات طبية متنوعة.

يخطط مهدي لإجراء دراسات إضافية حول تفاعلات الذكاء الاصطناعي بلغات أخرى ومع مرور الوقت. وقد تساعد هذه النتائج مطوري الذكاء الاصطناعي في تصميم نماذج أقوى يمكن للناس الحصول منها على إجابات دقيقة. ويختتم مهدي بالقول: "الخطوة الأولى هي إصلاح مشكلة القياس. لم نكن نقيس ما يهم حقًا، وهو كيفية أداء الذكاء الاصطناعي مع الأشخاص الحقيقيين".

وكالة أنباء إخباري