إطلاق مساعد ذكاء اصطناعي آمن للتحكم في الوكلاء الرقميين ومنعهم من الخروج عن السيطرة

الولايات المتحدة - وكالة أنباء إخباري

إطلاق مساعد ذكاء اصطناعي آمن للتحكم في الوكلاء الرقميين ومنعهم من الخروج عن السيطرة

في عصر تتسارع فيه وتيرة التحول الرقمي، أصبحت وكلاء الذكاء الاصطناعي (AI agents) أدوات لا غنى عنها في حياتنا اليومية، مقدمةً وعوداً بإدارة المهام المعقدة وتخصيص التجارب الرقمية. وكلاء مثل OpenClaw اكتسبوا شعبية هائلة لقدرتهم على تولي زمام الأمور في عالمنا الرقمي، بدءًا من تجميع ملخصات الأخبار الصباحية المخصصة، مرورًا بالتعامل مع خدمة العملاء لشركات الاتصالات، وصولًا إلى تدقيق قوائم المهام وتنفيذ بعضها بنفسها. هذه القدرات، رغم فائدتها الجمة، لم تخلُ من المشاكل، حيث شهدنا حالات لوكلاء يقومون بحذف رسائل بريد إلكتروني مهمة عن طريق الخطأ، أو كتابة محتوى مسيء بناءً على تصورات خاطئة، بل وحتى شن هجمات تصيد احتيالي على مالكيها.

وسط هذا الارتباك المتزايد، قرر المهندس والباحث الأمني المخضرم نيلز بروفوس، الذي يتابع هذه التطورات بقلق، ابتكار حل جديد. اليوم، يقدم بروفوس نظام IronCurtain، وهو مساعد ذكاء اصطناعي مفتوح المصدر ومصمم خصيصًا ليكون آمنًا، مضيفًا طبقة تحكم أساسية تمنع هذه الوكلاء من إحداث فوضى. بدلاً من السماح للوكيل بالتفاعل مباشرة مع أنظمة المستخدم وحساباته، يعمل IronCurtain داخل آلة افتراضية معزولة. وتخضع أي إجراءات يمكن للوكيل اتخاذها لسياسة محددة، يمكن اعتبارها بمثابة "دستور" يضعه المستخدم ليحكم النظام.

الأهم من ذلك، تم تصميم IronCurtain لقبول هذه السياسات الشاملة باللغة الإنجليزية البسيطة. ومن ثم، يقوم النظام بمعالجتها عبر عملية متعددة الخطوات تستخدم نموذج لغوي كبير (LLM) لتحويل اللغة الطبيعية إلى سياسة أمنية قابلة للتنفيذ. يقول بروفوس: "الخدمات مثل OpenClaw تحظى بشعبية جارفة حاليًا، لكن آمل أن تكون هناك فرصة لنقول: ربما هذه ليست الطريقة الصحيحة للقيام بذلك. بدلًا من ذلك، دعونا نطور شيئًا لا يزال يقدم لنا فائدة عالية جدًا، ولكنه لن يسلك هذه المسارات غير المكتشفة تمامًا، والتي قد تكون مدمرة في بعض الأحيان.".

تكمن أهمية قدرة IronCurtain على تحويل الأوامر البديهية والمباشرة إلى خطوط حمراء قابلة للتنفيذ وحتمية (يمكن التنبؤ بها) في طبيعة نماذج اللغة الكبيرة (LLMs) نفسها. فهي، كما يصفها بروفوس، "عشوائية" واحتمالية بطبيعتها. بمعنى آخر، لا تنتج دائمًا نفس المحتوى أو تقدم نفس المعلومات استجابة لنفس الأمر. وهذا يمثل تحديًا كبيرًا لأنظمة حماية الذكاء الاصطناعي، حيث يمكن للأنظمة أن تتطور بمرور الوقت وتغير طريقة تفسيرها لآليات التحكم أو القيود، مما قد يؤدي إلى سلوكيات جامحة.

يشرح بروفوس أن سياسة IronCurtain يمكن أن تكون بسيطة مثل: "يجوز للوكيل قراءة جميع رسائلي الإلكترونية. يجوز له إرسال بريد إلكتروني إلى جهات الاتصال الخاصة بي دون سؤال. بالنسبة لأي شخص آخر، اسألني أولاً. لا تحذف أي شيء بشكل دائم.". يقوم IronCurtain بتحويل هذه التعليمات إلى سياسة قابلة للتنفيذ، ثم يعمل كوسيط بين وكيل المساعد داخل الآلة الافتراضية والخادم المعروف ببروتوكول سياق النموذج (model context protocol server)، الذي يمنح نماذج اللغة الكبيرة الوصول إلى البيانات والخدمات الرقمية الأخرى لتنفيذ المهام. إن القدرة على تقييد وكيل بهذه الطريقة تضيف مكونًا هامًا للتحكم في الوصول، وهو ما لا توفره منصات الويب مثل مزودي البريد الإلكتروني حاليًا، لأنها لم تُصمم للسيناريو الذي يستخدم فيه كل من المالك البشري وروبوتات وكلاء الذكاء الاصطناعي حسابًا واحدًا.

يشير بروفوس إلى أن IronCurtain مصمم لصقل وتحسين "دستور" كل مستخدم بمرور الوقت، حيث يتعامل النظام مع الحالات الاستثنائية ويطلب مدخلات بشرية حول كيفية المضي قدمًا. النظام، الذي لا يعتمد على نموذج معين ويمكن استخدامه مع أي نموذج لغوي كبير، مصمم أيضًا للاحتفاظ بسجل تدقيق لجميع قرارات السياسة بمرور الوقت. IronCurtain هو نموذج بحثي أولي، وليس منتجًا استهلاكيًا، ويأمل بروفوس أن يساهم الناس في المشروع لاستكشافه وتطويره. يقول دينو داي زوفي، الباحث المعروف في مجال الأمن السيبراني والذي جرب الإصدارات المبكرة من IronCurtain، إن النهج المفاهيمي الذي يتبناه المشروع يتماشى مع حدسه الخاص حول كيفية تقييد الذكاء الاصطناعي الوكيل. "الكثير من الوكلاء فعلوا حتى الآن هو أنهم أضافوا أنظمة أذونات تضع العبء كله على المستخدم ليقول 'نعم، اسمح بهذا'، 'نعم، اسمح بذلك'. معظم المستخدمين سيبدأون في التوقف عن الاهتمام وفي النهاية سيقولون ببساطة، 'نعم، نعم، نعم'. وبعد فترة قصيرة، قد يتخطون جميع الأذونات بخطورة ويمنحون الاستقلالية الكاملة. مع شيء مثل IronCurtain، يمكن أن تكون القدرات - مثل حذف الملفات - خارج متناول النموذج اللغوي الكبير، حيث لا يمكن للوكيل فعل شيء مهما كان.".

يجادل داي زوفي بأن هذه الأنواع من القيود "القطعية"، التي قد تبدو صارمة بشكل مفرط أو مزعجة للبعض في البداية، ضرورية في النهاية لمنح الذكاء الاصطناعي الوكيل مزيدًا من الحرية. "إذا أردنا مزيدًا من السرعة والاستقلالية، فنحن بحاجة إلى هيكل داعم. أنت تضع محرك صاروخ داخل صاروخ حقيقي ليحصل على الاستقرار للوصول إلى حيث تريد. يمكنني ربط محرك نفاث بظهري في حقيبة ظهر، وسأموت بالتأكيد."

Ekhbary News Agency