إطلاق مساعد ذكاء اصطناعي آمن للتحكم في سلوك الأدوات الرقمية

الولايات المتحدة - وكالة أنباء إخباري

إطلاق مساعد ذكاء اصطناعي آمن للتحكم في سلوك الأدوات الرقمية

في ظل التطور السريع لأدوات الذكاء الاصطناعي المساعدة، والتي بدأت تكتسب شعبية هائلة لقدرتها على تولي زمام المهام الرقمية للمستخدمين، تبرز تحديات جديدة تتعلق بالأمان والتحكم. هذه الأدوات، التي يمكنها إدارة قوائم المهام، وتقديم ملخصات إخبارية مخصصة، وحتى التفاوض مع خدمة العملاء نيابة عن المستخدم، أصبحت قادرة على الوصول إلى الحسابات الرقمية وتنفيذ الأوامر بدقة. ومع ذلك، فإن هذه القدرات الفائقة قد أدت أيضًا إلى فوضى غير متوقعة، حيث تم رصد بعض هذه الأدوات وهي تقوم بحذف رسائل بريد إلكتروني هامة عن طريق الخطأ، أو كتابة محتوى سلبي بناءً على انطباعات شخصية، بل وحتى شن هجمات تصيد احتيالي ضد أصحابها.

لمواجهة هذا التحدي المتزايد، قرر نيلز بروفوس، مهندس أمن وباحث مخضرم، تطوير حل مبتكر. اليوم، أعلن عن إطلاق "آيرون كيرتن" (IronCurtain)، وهو مساعد ذكاء اصطناعي مفتوح المصدر وآمن، مصمم خصيصًا لإضافة طبقة تحكم حرجة تمنع هذه الأدوات من الانحراف عن مسارها. بدلاً من السماح للأداة الذكية بالتفاعل مباشرة مع أنظمة المستخدم وحساباته، يعمل "آيرون كيرتن" على تشغيلها داخل آلة افتراضية معزولة. هذا يعني أن أي إجراء تتخذه الأداة يخضع لرقابة صارمة عبر سياسة محددة مسبقًا، يمكن للمستخدم اعتبارها بمثابة "دستور" يحكم سلوك النظام.

الميزة الحاسمة في "آيرون كيرتن" هي قدرته على فهم السياسات المكتوبة باللغة الإنجليزية البسيطة. يقوم النظام بعد ذلك بمعالجة هذه التعليمات عبر عملية متعددة الخطوات تستخدم نموذج لغوي كبير (LLM) لتحويل اللغة الطبيعية إلى سياسة أمنية قابلة للتنفيذ. "الخدمات مثل OpenClaw تحظى بشعبية كبيرة حاليًا، لكن أملي هو أن تتاح لنا الفرصة لقول: 'حسنًا، ربما هذه ليست الطريقة الصحيحة للقيام بذلك'،" صرح بروفوس. "بدلاً من ذلك، دعونا نطور شيئًا لا يزال يوفر لنا فائدة عالية جدًا، ولكنه لن ينحرف إلى مسارات غير مستكشفة بالكامل، ومدمّرة في بعض الأحيان."

تكمن أهمية قدرة "آيرون كيرتن" على تحويل البيانات البديهية والمباشرة إلى خطوط حمراء قابلة للتنفيذ وحتمية (أي يمكن التنبؤ بها) في طبيعة نماذج اللغات الكبيرة نفسها. تشتهر هذه النماذج بأنها "عشوائية" واحتمالية، مما يعني أنها لا تنتج بالضرورة نفس المحتوى أو تقدم نفس المعلومات دائمًا استجابة لنفس الطلب. وهذا يخلق تحديات كبيرة لأنظمة الحماية الذكية، حيث يمكن للأنظمة الذكية أن تتطور بمرور الوقت وتغير كيفية تفسيرها لآلية تحكم أو تقييد، مما قد يؤدي إلى سلوكيات مارقة. "آيرون كيرتن" يهدف إلى معالجة هذه المشكلة عبر فرض سياسات واضحة وحاسمة.

يمكن أن تكون سياسة "آيرون كيرتن" بسيطة مثل: "يجوز للأداة قراءة جميع رسائلي الإلكترونية. يجوز لها إرسال بريد إلكتروني إلى الأشخاص في جهات الاتصال الخاصة بي دون طلب. بالنسبة لأي شخص آخر، اطلب مني أولاً. لا تقم أبدًا بحذف أي شيء بشكل دائم." يقوم "آيرون كيرتن" بأخذ هذه التعليمات وتحويلها إلى سياسة قابلة للتنفيذ، ثم يعمل كوسيط بين الأداة الذكية في الآلة الافتراضية وبين ما يُعرف بخادم بروتوكول سياق النموذج (model context protocol server) الذي يمنح نماذج اللغات الكبيرة الوصول إلى البيانات والخدمات الرقمية الأخرى لتنفيذ المهام. إن القدرة على تقييد أداة بهذه الطريقة تضيف مكونًا مهمًا للتحكم في الوصول، وهو أمر لا توفره حاليًا منصات الويب مثل مزودي البريد الإلكتروني، لأنها لم تُصمم للسيناريو الذي يستخدم فيه كل من المالك البشري وروبوتات الذكاء الاصطناعي حسابًا واحدًا.

يشير بروفوس إلى أن "آيرون كيرتن" مصمم لتحسين وصقل "دستور" كل مستخدم بمرور الوقت، حيث يتعامل النظام مع الحالات الاستثنائية ويطلب مدخلات بشرية حول كيفية المتابعة. النظام، الذي لا يعتمد على نموذج معين ويمكن استخدامه مع أي نموذج لغوي كبير، مصمم أيضًا للحفاظ على سجل تدقيق لجميع قرارات السياسة بمرور الوقت. يُعد "آيرون كيرتن" حاليًا نموذجًا بحثيًا، وليس منتجًا استهلاكيًا، ويأمل بروفوس أن يساهم الناس في المشروع لاستكشافه وتطويره. وقد ذكر دينو داي زوفي، باحث أمن سيبراني معروف قام بتجربة الإصدارات المبكرة من "آيرون كيرتن"، أن النهج المفاهيمي الذي يتبناه المشروع يتماشى مع حدسه الخاص حول كيفية تقييد الذكاء الاصطناعي الوكيل.

"ما فعلته العديد من الأدوات حتى الآن هو أنها أضافت أنظمة أذونات تضع العبء بالكامل على المستخدم ليقول 'نعم، اسمح بهذا'، 'نعم، اسمح بذلك'،" قال داي زوفي. "معظم المستخدمين سيبدأون في التوقف عن الانتباه وفي النهاية سيقولون ببساطة، 'نعم، نعم، نعم'. وبعد فترة قصيرة، قد يتجاوزون جميع الأذونات بشكل خطير ويمنحون استقلالية كاملة. مع شيء مثل "آيرون كيرتن"، يمكن أن تكون القدرات - مثل حذف الملفات - خارج نطاق النموذج اللغوي الكبير، حيث لا يمكن للأداة القيام بشيء مهما حدث." يجادل داي زوفي بأن هذه الأنواع من القيود الصارمة، التي قد تبدو في البداية صارمة بشكل مفرط أو مزعجة للبعض، ضرورية في النهاية لمنح الذكاء الاصطناعي الوكيل مزيدًا من الحرية المنضبطة. "إذا أردنا مزيدًا من السرعة والاستقلالية، فنحن بحاجة إلى الهيكل الداعم،" قال داي زوفي. "أنت تضع محرك صاروخ داخل صاروخ فعلي حتى يكون لديه الاستقرار للوصول إلى حيث تريد أن تذهب. يمكنني ربط محرك نفاث بظهري في حقيبة ظهر، وسأموت ببساطة."

Ekhbary News Agency