مايكروسوفت تحذر: وكلاء الذكاء الاصطناعي خطر داخلي يستدعي الحذر

(ريدموند - إخباري):

إعلان ممول مساحة إعلانية

نبهت شركة مايكروسوفت إلى تزايد التحديات الأمنية المرتبطة باستخدام وكلاء الذكاء الاصطناعي في بيئات العمل المؤسسية. وأكدت الشركة أن النماذج المتقدمة، حتى تلك التي تطورها شركات رائدة، لا تخلو من مخاطر كامنة تستوجب اليقظة الدائمة.

في خطوة تهدف إلى تعزيز الأمن السيبراني، أعلنت مايكروسوفت عن إطلاق أدوات مبتكرة لمراقبة سلوكيات هذه الوكلاء، وتقييد نطاق صلاحياتها، والحد من أي انحرافات قد تؤثر سلباً على البيانات والعمليات الحساسة. تندرج هذه المبادرات ضمن مشروع “Project Perception”، الذي بدأته الشركة في يونيو الماضي لرفع مستوى الأمن المدعوم بالذكاء الاصطناعي.

كان المشروع في بدايته يركز على محاكاة الهجمات الخارجية واكتشاف الثغرات، حيث ضم فرقاً متخصصة تحاكي المهاجمين، وأخرى لرصد الهجمات، وثالثة لمعالجة نقاط الضعف. واستهدف المشروع بشكل أساسي التصدي للتهديدات الخارجية المتقدمة، بما في ذلك ما قد تنشئه نماذج ذكاء اصطناعي منافسة.

غير أن مايكروسوفت باتت تنظر إلى مصدر خطر جديد يتسلل إلى داخل الأنظمة. فالوكلاء الذين تنشرهم المؤسسات بأنفسهم قد يتصرفون بطرق غير متوقعة، ويتخذون قرارات قد تضر بالبنية التحتية الرقمية والأصول المعلوماتية. هذا الوضع يشبه إلى حد كبير مفهوم “التهديد الداخلي” الذي يستغل فيه موظف صلاحياته الممنوحة له لإلحاق الضرر بالمؤسسة.

إعلان ممول مساحة إعلانية

وفي سياق متصل، شدد الرئيس التنفيذي لمايكروسوفت، ساتيا ناديلا، في مقال حديث، على ضرورة عدم الركون كلياً للضمانات التي تقدمها شركات تطوير الذكاء الاصطناعي. ودعا المؤسسات إلى بناء أنظمة رقابة داخلية مستقلة لضمان تحكم فعال في تصرفات هذه الوكلاء، خاصة وأنها غالباً ما تُمنح صلاحيات واسعة للوصول إلى بيانات شديدة الحساسية وتنفيذ عمليات جوهرية.

وأوضحت هاييتيه غالوت، المسؤولة عن قطاع الأمن في مايكروسوفت، أن المشكلة ليست بالضرورة في وجود نوايا خبيثة أو ضعف في حماية النماذج، بل تكمن في صعوبة التنبؤ الدقيق بسلوكها. فالنماذج تُدرّب على أداء المهام، وليس بالضرورة على الالتزام الصارم بمعايير المؤسسات أو القواعد التنظيمية المعقدة. وتتعاظم هذه المخاطر حينما تحصل الوكلاء على صلاحيات واسعة، إذ قد يؤدي خطأ واحد إلى أضرار جسيمة.

لتدارك هذه المخاطر، توسع مايكروسوفت ترسانتها الأمنية. وتشمل الأدوات الجديدة ميزة “Guardian Agents” التي ترصد ما يصل إلى 60 نوعاً من وكلاء الذكاء الاصطناعي التي يستخدمها الموظفون، بالإضافة إلى تحديثات خدمة Microsoft Defender. كما أضافت الشركة إمكانيات لتقييد وصول الوكلاء إلى البيانات وتعديل صلاحياتهم، مع إمكانية طلب موافقة بشرية عند رصد قرارات ذات مخاطر عالية.

يمثل هذا التوجه فرصة لمايكروسوفت لتعزيز مبيعات منتجاتها الأمنية والسحابية، عبر تطبيق مبدأ الفصل بين مطوري الوكلاء والقائمين على مراقبة سلوكهم وتقييم مخاطرهم، على غرار فصل المدققين عن الشركات التي يخضع عملها للتدقيق. وتتجه الصناعة ككل نحو هذا المسار، حيث انضمت مايكروسوفت إلى مبادرة “Open Agent Safety Platform” التي أطلقتها إنفيديا، بهدف عزل الوكلاء ومراقبة سلوكهم داخل بيئات آمنة.