عالمي - وكالة أنباء إخباري
الروبوتات الدردشة الذكية تواجه صعوبة في الاستجابة للاستفسارات الطبية الواقعية، مما يثير مخاوف بشأن سلامة المرضى
على الرغم من قدراتها المذهلة في البيئات الخاضعة للرقابة، تفشل روبوتات الدردشة الذكية (AI) المتطورة في تقديم مشورة طبية دقيقة وآمنة عند مواجهة تعقيدات التفاعل البشري في العالم الحقيقي. تكشف دراسة حديثة نُشرت في مجلة Nature Medicine عن انخفاض كبير في دقة التشخيص والإجراءات الموصى بها عندما يتفاعل الأشخاص العاديون مع نماذج اللغة الكبيرة (LLMs) هذه للحصول على مساعدة طبية، مما يؤكد المخاوف الجسيمة المتعلقة بالسلامة لتطبيقات الصحة الرقمية.
تسلط النتائج، التي قادها عالم الرياضيات آدم مهدي من مختبر جامعة أكسفورد للاستدلال بالآلات، الضوء على تناقض صارخ بين أداء الذكاء الاصطناعي في بيئات المختبر وفائدته العملية. في الاختبارات المعملية الخاضعة للرقابة، أظهرت نماذج اللغة الكبيرة المتقدمة مثل GPT-4o و Command R+ و Llama 3 كفاءة ملحوظة، حيث حددت المشكلات الطبية بدقة 95 بالمائة وأوصت بإجراءات مناسبة، مثل استشارة الطبيب أو الذهاب إلى الرعاية العاجلة، في أكثر من 56 بالمائة من الحالات. ومع ذلك، عندما قدم ما يقرب من 1300 متطوع في الدراسة سيناريوهات طبية بطريقة حوارية، انخفضت دقة روبوتات الدردشة إلى أقل من 35 بالمائة للتشخيص وحوالي 44 بالمائة لاقتراح مسار العمل الصحيح. لم يكن هذا الأداء أسوأ من نتائج المختبر فحسب، بل كان أيضًا أدنى من عمليات البحث البسيطة على Google، حيث حقق المشاركون دقة تزيد عن 40 بالمائة.
اقرأ أيضاً
- التموين والإنتاج الحربي وجهاز مستقبل مصر يبحثون تعزيز التعاون لدعم المشروعات القومية وتعزيز الأمن الغذائي
- الرئيس ﻋﺒﺪ الفتاح السيسى يؤكد أن شباب مصر هم قوة وطننا وصُنّاع مستقبله
- تقرير حكومي يكشف: معاداة السامية ضد الأطفال اليهود في المدارس البريطانية "صادمة"
- إنجاز تاريخي: لاعب جولف يحقق ضربة الحفرة الواحدة من مسافة 411 ياردة
- موافقة خطط مأوى الحمير لليوتيوبرز المشاهير في وست ساسكس
يؤكد مهدي أن المشكلة ليست نقصًا في المعرفة الطبية داخل نماذج الذكاء الاصطناعي، التي كانت متطورة في أواخر عام 2024 عند إجراء الدراسة. ويوضح: "يمتلك الذكاء الاصطناعي المعرفة الطبية، لكن الناس يواجهون صعوبة في الحصول على نصيحة مفيدة منه". تكمن المشكلة الأساسية في التفاعل بين الإنسان والذكاء الاصطناعي. غالبًا ما يقدم المستخدمون المعلومات بشكل مجزأ بدلاً من سرد كامل، وتكون روبوتات الدردشة عرضة للتشتت بسبب التفاصيل غير ذات الصلة أو الجزئية. يمكن أن تؤدي فجوة الاتصال هذه إلى نصيحة غير دقيقة بشكل خطير، كما يتضح من مثال مخيف من الدراسة.
وصف متطوعان أعراض نزيف تحت العنكبوتية، وهو نوع حاد من السكتة الدماغية. أدت عبارة أحد المشاركين، "أصبت فجأة بأسوأ صداع على الإطلاق"، إلى أن ينصح GPT-4o بشكل صحيح بطلب العناية الطبية الفورية. في المقابل، حصل متطوع آخر يصف "صداعًا فظيعًا" على توصية بالراحة في غرفة مظلمة وهادئة، وهو تشخيص خاطئ قد يكون مميتًا. تظل الأسباب الكامنة وراء هذه التحولات الدرامية في الاستجابة بسبب الصياغة الدقيقة غير واضحة، وهو مظهر من مظاهر "مشكلة الصندوق الأسود" للذكاء الاصطناعي حيث لا يستطيع حتى المبدعون تتبع منطق النموذج بالكامل.
تتردد هذه النتائج مع تحذيرات أوسع من منظمات سلامة المرضى. حددت منظمة ECRI العالمية غير الربحية، في تقريرها الصادر في 21 يناير، استخدام روبوتات الدردشة الذكية في الطب على أنه أخطر خطر على تكنولوجيا الصحة لعام 2026. وتشمل مخاوف ECRI نماذج الذكاء الاصطناعي التي تقترح بثقة تشخيصات خاطئة، وتخترع أجزاء من الجسم، وتوصي بمنتجات أو إجراءات خطيرة، وتنصح باختبارات غير ضرورية، وتزيد من التفاوتات الصحية من خلال مخرجات متحيزة. تمتد الآثار الأخلاقية إلى الذكاء الاصطناعي الذي يعمل كمعالجين، حيث أظهرت الدراسات أن روبوتات الدردشة ترتكب أخطاء فادحة.
على الرغم من هذه القيود الحرجة، يتسارع دمج الذكاء الاصطناعي في الرعاية الصحية. يشير سكوت لوكاس، نائب رئيس ECRI لسلامة الأجهزة، إلى أن معظم الأطباء يستخدمون بالفعل روبوتات الدردشة لمهام مثل نسخ السجلات الطبية أو مراجعة نتائج الاختبارات. كما يتجه مطورو الذكاء الاصطناعي الرئيسيون إلى المجال الطبي، حيث أطلقت OpenAI برنامج ChatGPT للرعاية الصحية وقدمت Anthropic برنامج Claude للرعاية الصحية في يناير. يُقال إن ChatGPT وحده يتعامل مع أكثر من 40 مليون سؤال متعلق بالرعاية الصحية يوميًا، مما يدل على اعتماد الجمهور الكبير على هذه الأدوات.
يعترف لوكاس بجاذبية روبوتات الدردشة الذكية: "يمكنها الوصول إلى مليارات نقاط البيانات وتجميع البيانات ووضعها في تنسيق سهل الهضم وموثوق ومقنع يمكن أن يمنحك نصيحة محددة بشأن السؤال الذي كنت تطرحه تقريبًا ويفعل ذلك بطريقة واثقة." ومع ذلك، فإنه يصدر تحذيرًا صارخًا: "نماذج اللغة الكبيرة التجارية ليست جاهزة للاستخدام السريري الأساسي. الاعتماد فقط على مخرجات نماذج اللغة الكبيرة ليس آمنًا."
سيتطلب سد فجوة الاتصال هذه تقدمًا من كلا الجانبين. تؤكد ميشيل لي، باحثة الذكاء الاصطناعي الطبية في كلية الطب بجامعة هارفارد، أن الدراسة تؤكد المخاوف طويلة الأمد داخل مجتمع التعلم الآلي بشأن سلامة وموثوقية نماذج اللغة الكبيرة في رعاية المرضى. تقترح أبحاثها الخاصة، التي نُشرت في 3 فبراير في Nature Medicine، تحسينات في تدريب نماذج الذكاء الاصطناعي واختبارها وتنفيذها لتعزيز الموثوقية عبر السياقات الطبية المتنوعة.
بالنظر إلى المستقبل، يخطط مهدي لإجراء دراسات إضافية حول تفاعلات الذكاء الاصطناعي بلغات مختلفة ومع مرور الوقت، بهدف تزويد المطورين برؤى لتصميم نماذج أكثر قوة يمكن أن تقدم إجابات دقيقة وموثوقة لأشخاص حقيقيين. ويختتم قائلاً إن التحدي الأساسي هو "إصلاح مشكلة القياس" من خلال التركيز على كيفية أداء الذكاء الاصطناعي حقًا في السيناريوهات التي تركز على الإنسان، بدلاً من مجرد بيئات المختبر الخاضعة للرقابة. وحتى ذلك الحين، يظل وعد الذكاء الاصطناعي في رعاية المرضى المباشرة مسعى حذرًا، يتطلب تطويرًا صارمًا وإرشادات واضحة لضمان سلامة المرضى.