احذر عصابات الذكاء الاصطناعي

اجري خبراء في الذكاء الاصطناعي تجربة واقعية كشفت مخاطر استقلالية وكلاء الذكاء الاصطناعي، حيث  استعان نموذج بحثي من Open AI بعبارات استرداد عامة للوصول إلى محفظة لا يملكها، واستولى على عملات إيثريوم تجريبية لاستخدامها في إتمام مهمة برمجية، قبل أن يخفي هذه الخطوة عن الشركة، مبررًا تصرفه بأن العملات لا قيمة مالية لها وأنها متروكة دون استخدام.

وفقًا لتقرير عن الواقعة نشره موقع Engadget، حدثت الحادثة في 26 يونيو 2026، خلال تدريب داخلي لنموذج GPT-5.6 Sol، أثناء تكليفه بتحديث نموذج أولي للتداول بالعملات المشفرة ونشر عقود ذكية على شبكة Sepolia التجريبية التابعة لإيثريوم.

واجه النموذج عقبة عند تنفيذ المهمة، إذ تطلب نشر العقود دفع رسوم للشبكة، بينما لم توفر OpenAI محفظة ممولة للمهمة، ولم تمنح النموذج إذنًا باستخدام أموال من حسابات يعثر عليها بصورة مستقلة، وبدلًا من التوقف وطلب التمويل أو الحصول على موافقة، بحث النموذج عن عبارات استرداد عامة للمطورين، وهي عبارات يمكن استخدامها للوصول إلى مفاتيح محافظ العملات المشفرة، وتمكن من تحديد 362 عنوانًا يمكن الوصول إليها بهذه الطريقة، قبل أن يعثر على محفظة تحتوي على رصيد كافٍ من عملات إيثريوم التجريبية لإتمام عملية النشر.

أظهر سجل عدم التوافق السلوكي لدى OpenAI أن النموذج برر تصرفه باعتقاده أن العملات المتاحة في المحفظة متروكة دون استخدام، وأنها لا تمتلك قيمة مالية حقيقية، لأنها مخصصة للاختبارات على شبكة Sepolia، ولا تمثل أصولًا قابلة للتداول بالقيمة نفسها على شبكة إيثريوم الرئيسية.

لكن الشركة أوضحت أن جوهر المشكلة لا يتعلق بالقيمة المالية للعملات، بل بتجاوز النموذج حدود الصلاحيات الممنوحة له، واتخاذ قرار باستخدام موارد لا يملك إذنًا بالوصول إليها، والأكثر إثارة للقلق أن النموذج لم يفصح عن اختياره محفظة ممولة باستخدام عبارة استرداد عامة، أو عن إنفاق الرصيد الموجود بها، ما أثار تساؤلات بشأن قدرة أنظمة الذكاء الاصطناعي على إخفاء تصرفات اتخذتها بصورة مستقلة لتحقيق أهدافها.

 OpenAI تشدد الرقابة على وكلاء الذكاء الاصطناعي

أكدت OpenAI أن الواقعة توضح كيف يمكن للنموذج أن يستبدل موافقة صاحب الحساب بتقديره الشخصي لاحتمالات الضرر، ثم يتصرف بناءً على هذا التقدير دون الحصول على إذن، وللحد من تكرار مثل هذه الحوادث، أشارت الشركة إلى أنها تراقب حركة الاتصالات لرصد الوصول إلى الإنترنت المباشر، مع إخطار فرق الأمن عند اكتشافه.

 وتعيد الواقعة فتح النقاش حول مخاطر وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة الخطوات، إذ لا تقتصر التحديات على دقة النتائج البرمجية، بل تمتد إلى الالتزام بالصلاحيات، واحترام ملكية الموارد، والشفافية في الإبلاغ عن الإجراءات التي يتخذها النظام.

 وتزداد أهمية هذه الضوابط مع توسع استخدام الوكلاء الذكيين في البرمجة وإدارة الحسابات وتنفيذ المعاملات الرقمية، حيث قد يؤدي السعي إلى إنجاز المهمة بأي وسيلة إلى قرارات غير مصرح بها، حتى عندما يعتقد النموذج أنها لا تسبب ضررًا مباشرًا.