OpenAI توقف تدريب الذكاء الاصطناعي المتقدم: قدرات سيبرانية مقلقة تثير المخاوف الأمنية

(سان فرانسيسكو - إخباري):

أعلنت شركة OpenAI عن تعليق مؤقت لعمليات تدريب نماذجها المتقدمة للذكاء الاصطناعي، وذلك بعد اكتشاف قدرات سيبرانية مقلقة وغير متوقعة خلال الاختبارات الداخلية. تضمنت هذه الخطوة إيقاف التدريب القائم على التعلم المعزز (RL) لمدة أسبوعين، مع استمرار التدريبات الأصغر لتقييم السلوك وجمع المزيد من الأدلة.

وأبقت الشركة على أكبر عملية تدريب متقدمة قيد التعليق، بينما استأنفت بعض عمليات تدريب وتقييم نموذجها "أسترا" (Astra) بعد تطبيق ضوابط أمنية جديدة. يأتي هذا الإجراء عقب تقييمات أولية أظهرت قدرات متقدمة ومثيرة للقلق لنموذج "أسترا" في مجال الأمن السيبراني، مما دفع OpenAI لتوسيع إطار الاستعداد للمخاطر ليشمل المخاطر أثناء عملية تدريب النموذج نفسها.

كشفت OpenAI عن إجراءات أمنية جديدة لحماية بنيتها التحتية، منها تعزيز العزل الأمني للمهام عالية المخاطر وتوسيع نظام مراقبة النماذج. يستخدم النظام مصنفات تفحص نشاط النموذج عند كل رمز (Token) وتصعّد السلوك المشبوه إلى أنظمة تحقيق آلية، مع التركيز على اكتشاف محاولات الوصول غير المصرح به أو تنفيذ إجراءات تخريبية.