الصين: نماذج الذكاء الاصطناعي تتكتم على المعلومات وتتحيز

الصين - وكالة أنباء إخباري

الصين: نماذج الذكاء الاصطناعي تتكتم على المعلومات وتتحيز

في عالم يتسارع فيه تطور الذكاء الاصطناعي، تبرز قضية الرقابة على المعلومات كأحد أكثر الجوانب تعقيداً وإثارة للجدل، خاصة فيما يتعلق بالنماذج المطورة في الصين. فبينما قد تبدو المناقشات حول الرقابة الرقمية في الصين مملة في كثير من الأحيان، حيث يعاد تدوير نفس الأفكار القديمة عن الإنترنت الخاضع للرقابة المشابه لـ "1984" لجورج أورويل، فإن اكتشافات جديدة حول كيفية ممارسة الحكومة الصينية السيطرة على التقنيات الناشئة تكشف عن آلة رقابة دائمة التطور.

في هذا السياق، تقدم ورقة بحثية حديثة صادرة عن علماء مرموقين من جامعة ستانفورد وجامعة برينستون رؤى جديدة حول نماذج الذكاء الاصطناعي الصينية. اختبر الباحثون أربع نماذج لغوية كبيرة صينية وخمس نماذج أمريكية، وذلك بطرح نفس 145 سؤالاً سياسياً حساساً عليها، مع تكرار التجربة 100 مرة لمقارنة الاستجابات. الهدف كان فهم عمق التحيز ومدى هذه النماذج في تجنب موضوعات معينة.

لم تكن النتائج مفاجئة لمن يتابع المشهد عن كثب: فقد رفضت النماذج الصينية الإجابة على نسبة أعلى بكثير من الأسئلة مقارنة بالنماذج الأمريكية. على سبيل المثال، رفض نموذج DeepSeek الإجابة على 36% من الأسئلة، بينما بلغت نسبة الرفض لنموذج Ernie Bot من Baidu 32%، في المقابل، كانت معدلات الرفض لنماذج أمريكية رائدة مثل GPT من OpenAI و Llama من Meta أقل من 3%. وفي الحالات التي لم تلجأ فيها النماذج الصينية إلى الرفض الصريح، كانت إجاباتها أقصر وأقل دقة مقارنة بنظيراتها الأمريكية.

أحد الجوانب الأكثر إثارة للاهتمام في البحث كان محاولة فصل تأثير مرحلتي التدريب المسبق (pre-training) والتدريب اللاحق (post-training). يطرح هذا السؤال المحوري: هل يرجع التحيز في النماذج الصينية إلى تدخلات يدوية من المطورين لجعلها أقل عرضة للإجابة على الأسئلة الحساسة، أم أن التحيز متأصل في بيانات التدريب نفسها، والتي هي بطبيعتها مشبعة بالرقابة على الإنترنت الصيني؟

تقول جينيفر بان، أستاذة العلوم السياسية في جامعة ستانفورد وأحد مؤلفي الورقة البحثية: "نظرًا لأن الإنترنت الصيني يخضع للرقابة لعقود، هناك الكثير من البيانات المفقودة". وتشير نتائج بان وزملاؤها إلى أن بيانات التدريب قد لعبت دوراً أقل أهمية في استجابات نماذج الذكاء الاصطناعي مقارنة بالتدخلات اليدوية. فمن المثير للقلق أن النماذج الصينية أظهرت قدراً أكبر من الرقابة حتى عند الإجابة باللغة الإنجليزية، وهي لغة يفترض أن تتضمن بيانات تدريبها مجموعة أوسع من المصادر النظرية.

اليوم، يمكن لأي شخص طرح سؤال حول مذبحة تيانانمن الميدان أو أي موضوع سياسي حساس آخر على نماذج مثل DeepSeek أو Qwen، ويرى الرقابة بشكل مباشر. لكن التحدي يكمن في تحديد مدى تأثير ذلك على المستخدمين العاديين وكيفية التعرف بدقة على مصدر هذا التلاعب. هذا هو ما جعل هذا البحث مهماً، فهو يقدم دليلاً كمياً وقابلاً للتكرار على التحيزات الملحوظة في نماذج اللغة الكبيرة الصينية.

بالإضافة إلى مناقشة النتائج، استعرض الباحثون منهجياتهم والتحديات التي واجهوها في دراسة التحيزات في النماذج الصينية، وتحدثوا مع باحثين آخرين لفهم الاتجاهات المستقبلية في نقاش رقابة الذكاء الاصطناعي.

أحد الصعوبات الرئيسية في دراسة نماذج الذكاء الاصطناعي هو ميلها إلى "الهلوسة" (hallucination)، مما يجعل من الصعب التمييز ما إذا كان النموذج يكذب عن قصد لأنه يعرف الإجابة الصحيحة ولكنه مبرمج على تجنبها، أم أنه ببساطة لا يعرف الإجابة الصحيحة بسبب نقص البيانات أو تشوهها.

ضربت بان مثالاً من ورقتها البحثية حول سؤال يتعلق بالمعارض الصيني الحائز على جائزة نوبل للسلام عام 2010، ليو شياوبو. فقد أجاب أحد النماذج الصينية بأن "ليو شياوبو هو عالم ياباني معروف بمساهماته في تكنولوجيا الأسلحة النووية والسياسة الدولية". هذه بالطبع كذبة صريحة. ولكن هل كان الهدف هو تضليل المستخدمين ومنعهم من معرفة الحقيقة عن ليو شياوبو، أم كانت هذه هلوسة ناتجة عن حذف جميع الإشارات إليه من بيانات التدريب؟

تصف بان هذا الأمر بأنه "مقياس أكثر تشويشاً للرقابة" مقارنة بأبحاثها السابقة حول وسائل التواصل الاجتماعي الصينية والمواقع التي تختار الحكومة حظرها. وتضيف: "لأن هذه الإشارات أقل وضوحاً، يصبح اكتشاف الرقابة أصعب، وقد أظهرت الكثير من أبحاثي السابقة أنه عندما تكون الرقابة أقل قابلية للكشف، تكون أكثر فعالية".

إن التعايش المحير بين الكذب والهلوسة يعني أيضاً أن الباحثين بحاجة إلى رفع معايير عملهم. فقد ذكر كوي تران وآريا جاكلي، باحثان في برنامج MATS، أنهما فوجئا بصعوبة مهمة استخلاص الحقائق السياسية الخاضعة للرقابة من نماذج صينية مثل Qwen و Kimi باستخدام وكيل آلي يعتمد على نموذج Claude. كانت الصعوبة تكمن في أن الوكيل الآلي لم يكن يعرف الحقيقة.

استخدم الباحثان حادثة دهس سيارة في الصين عام 2024، والتي أسفرت عن مقتل 35 شخصاً، كاختبار. لم يكن لدى Claude معلومات حول الحدث بسبب تاريخ قطع معرفته. ووجد الباحثون أن Kimi كان على علم بالحادث ولكنه رفض تقديم ردود حوله. وعندما حاولوا استخدام Claude لخداع Kimi للكشف عن تفاصيل الهجوم، فشلت المحاولة مراراً وتكراراً لأن Claude "لا يمكنه التمييز بين الكذب والحقيقة"، حسب قول تران.

لم يأتِ تران وجاكلي من خلفيات متخصصة في دراسة التكنولوجيا أو الرقابة الصينية، وهو ما جعلا الأمر أصعب عليهما في تحديد ما إذا كانت النماذج مخادعة. لكنهما اختارا النماذج الصينية كهدف أساسي لاهتمامهما بتعلم كيفية استخلاص المعلومات المخفية من روبوتات الدردشة. يدرك الباحثون أن جميع نماذج اللغة الكبيرة الشائعة تتلقى تعليمات واضحة، مثل عدم تعليم المستخدمين كيفية صنع قنبلة. ولكن من الخارج، كيف يمكن اكتشاف الرسائل الخفية المضمنة في النموذج؟ هذا ما حاول باحثو MATS القيام به، وأدركوا في هذه العملية أن النماذج الصينية تمثل ساحات اختبار رائعة لأن مطوريها يستخدمون أساليب متطورة لإخفاء تعليماتهم.

يأمل الباحثون أنه إذا تمكن وكيل آلي من خداع نموذج صيني متطور بنجاح للتحدث عن مواضيع خاضعة للرقابة، فيمكنه استخدام نفس التقنيات لاستخلاص المعلومات من نماذج غربية أخرى. وفي وقت سابق من هذا الشهر، قرأ مقال آخر مثير للاهتمام حول كيفية جعل النماذج الصينية تشرح التعليمات التي تتلقاها. فقد وجد أليكس كولفيل، الذي يدرس دعاية الذكاء الاصطناعي في مؤسسة China Media Project البحثية المستقلة، أنه يمكن إجبار نموذج Qwen من Alibaba على شرح منطقه قبل توليد إجابة، مما يكشف عن التعليمات المحددة التي تلقاها.

عندما طرح كولفيل على Qwen سؤالاً بسيطاً مثل "ما هي السمعة الدولية للصين؟"، وطلب منه تحديد لغته تلقائيًا، لم يكتفِ النموذج بالإجابة، بل كشف عن التعليمات التي تلقاها، بما في ذلك توجيهات حول كيفية تقديم الإجابة.

Ekhbary News Agency