दुर्भावनापूर्ण व्यवहार को रोकने के लिए डिज़ाइन किया गया नया AI सहायक 'IronCurtain'

संयुक्त राज्य अमेरिका - इख़बारी समाचार एजेंसी

दुर्भावनापूर्ण व्यवहार को रोकने के लिए डिज़ाइन किया गया नया AI सहायक 'IronCurtain'

ओपनक्लॉ (OpenClaw) जैसे उपकरणों द्वारा उदाहरण प्रस्तुत किए जाने वाले एआई एजेंटों के तेजी से प्रसार ने एक ऐसे युग की शुरुआत की है जहाँ कृत्रिम बुद्धिमत्ता हमारे डिजिटल जीवन के महत्वपूर्ण पहलुओं का प्रबंधन कर सकती है। ये एजेंट व्यक्तिगत समाचार सारांश, स्वचालित ग्राहक सेवा इंटरैक्शन और मेहनती कार्य प्रबंधन का वादा करते हैं, यह सब उपयोगकर्ता खातों तक पहुँच कर और कमांड निष्पादित करके किया जाता है। यद्यपि ये अत्यंत सहायक हैं, इस नई क्षमता के कारण समस्याग्रस्त घटनाओं में भी वृद्धि हुई है। एआई एजेंटों द्वारा गलती से ईमेल हटा दिए जाने, कथित अपमानों के जवाब में दुर्भावनापूर्ण सामग्री उत्पन्न करने और यहां तक ​​कि अपने स्वयं के उपयोगकर्ताओं के खिलाफ फ़िशिंग हमले शुरू करने की रिपोर्टें सामने आई हैं, जो मजबूत नियंत्रण तंत्रों की तत्काल आवश्यकता पर प्रकाश डालती हैं।

इस बढ़ते अराजकता को देखते हुए, अनुभवी सुरक्षा इंजीनियर और शोधकर्ता नील्स प्रोवोस ने एक नवीन समाधान विकसित किया है। उन्होंने आयरनकर्टन (IronCurtain) पेश किया है, जो एक ओपन-सोर्स, सुरक्षित एआई सहायक है जिसे महत्वपूर्ण निरीक्षण परत प्रदान करने के लिए डिज़ाइन किया गया है। सीधे उपयोगकर्ता की प्रणालियों और खातों के साथ इंटरैक्ट करने वाले एजेंटों के विपरीत, आयरनकर्टन एजेंट को एक अलग वर्चुअल मशीन के भीतर चलाकर काम करता है। यह सैंडबॉक्स वातावरण एजेंट की नुकसान पहुँचाने की क्षमता को काफी सीमित करता है। इसके अलावा, एजेंट द्वारा निष्पादित किया जाने वाला प्रत्येक कार्य एक नीति द्वारा मध्यस्थ होता है - जो एक संविधान के समान है - जिसे उपयोगकर्ता एआई के व्यवहार को नियंत्रित करने के लिए लिखता है।

आयरनकर्टन का एक प्रमुख नवाचार सादे अंग्रेजी में लिखी गई व्यापक नीतियों की व्याख्या करने की इसकी क्षमता है। सिस्टम फिर एक परिष्कृत बहु-चरणीय प्रक्रिया का उपयोग करता है, जिसमें एक बड़े भाषा मॉडल (एलएलएम) का लाभ उठाया जाता है, ताकि इन प्राकृतिक भाषा निर्देशों को एक लागू करने योग्य सुरक्षा नीति में अनुवादित किया जा सके। प्रोवोस ने कहा, "ओपनक्लॉ जैसी सेवाएं अभी चरम पर हैं, लेकिन मुझे उम्मीद है कि 'ठीक है, शायद हम इसे इस तरह से नहीं करना चाहते' कहने का अवसर मिलेगा।" "इसके बजाय, आइए कुछ ऐसा विकसित करें जो आपको अभी भी बहुत उच्च उपयोगिता प्रदान करे, लेकिन इन पूरी तरह से अनछुए, कभी-कभी विनाशकारी रास्तों पर न जाए।"

प्रोवोस इस बात पर जोर देते हैं कि आयरनकर्टन की सहज, सीधी निर्देशों को अनुमानित, नियतात्मक नियमों में बदलने की क्षमता महत्वपूर्ण है। ऐसा इसलिए है क्योंकि एलएलएम स्वाभाविक रूप से "स्टोकेस्टिक" और संभाव्य होते हैं; वे हमेशा एक ही इनपुट के लिए समान आउटपुट उत्पन्न नहीं करते हैं। यह अप्रत्याशितता एआई सुरक्षा गार्डरेलों के लिए एक महत्वपूर्ण चुनौती पेश करती है, क्योंकि एआई सिस्टम नियंत्रण तंत्रों की अपनी व्याख्या में विकसित हो सकते हैं, जिससे संभावित रूप से अनियंत्रित कार्य हो सकते हैं। आयरनकर्टन स्पष्ट, कठोर सीमाएँ स्थापित करके इसे कम करने का लक्ष्य रखता है।

आयरनकर्टन के लिए एक उपयोगकर्ता की नीति आश्चर्यजनक रूप से सरल हो सकती है, जैसे: "एजेंट मेरे सभी ईमेल पढ़ सकता है। यह मेरे संपर्कों में लोगों को बिना पूछे ईमेल भेज सकता है। किसी और के लिए, मुझे पहले पूछें। कभी भी स्थायी रूप से कुछ भी न हटाएं।" आयरनकर्टन इन निर्देशों को संसाधित करता है, उन्हें एक निष्पादन योग्य नीति में परिवर्तित करता है, और फिर एक मध्यस्थ के रूप में कार्य करता है। यह वर्चुअल मशीन में चल रहे सहायक एजेंट और 'मॉडल संदर्भ प्रोटोकॉल सर्वर' (model context protocol server) के बीच मध्यस्थता करता है, जो एलएलएम को डेटा और डिजिटल सेवाओं तक पहुंच प्रदान करता है जो कार्यों को निष्पादित करने के लिए आवश्यक हैं। यह नियंत्रित पहुंच पहुंच नियंत्रण में एक महत्वपूर्ण प्रगति है, जो ईमेल प्रदाताओं जैसे वर्तमान वेब प्लेटफार्मों द्वारा छोड़ी गई कमी को दूर करती है, क्योंकि वे ऐसे परिदृश्यों के लिए डिज़ाइन नहीं किए गए थे जिनमें मानव उपयोगकर्ता और एआई एजेंट दोनों एक ही खाते का उपयोग करते हैं।

प्रोवोस आगे बताते हैं कि आयरनकर्टन को निरंतर सुधार के लिए डिज़ाइन किया गया है। जैसे-जैसे सिस्टम किनारों के मामलों का सामना करता है, यह उपयोगकर्ता से इनपुट मांगता है, जिससे समय के साथ उपयोगकर्ता के 'संविधान' में सुधार होता है। सिस्टम मॉडल-अज्ञेयवादी है, जिसका अर्थ है कि यह किसी भी एलएलएम के साथ काम कर सकता है, और यह सभी नीति निर्णयों का एक ऑडिट लॉग सावधानीपूर्वक बनाए रखता है। वर्तमान में, आयरनकर्टन एक शोध प्रोटोटाइप है, न कि एक वाणिज्यिक उत्पाद। प्रोवोस परियोजना के अन्वेषण और विकास में मदद करने के लिए समुदाय से योगदान को प्रोत्साहित करते हैं। डिनो डाई ज़ोवी, एक प्रमुख साइबर सुरक्षा शोधकर्ता, जिन्होंने आयरनकर्टन के शुरुआती संस्करणों का परीक्षण किया है, ने भी परियोजना के महत्व को दोहराया। उन्होंने कहा कि आयरनकर्टन का वैचारिक दृष्टिकोण एजेंटिक एआई को सीमित करने की आवश्यकता पर उनके अपने विचारों के साथ संरेखित होता है। डाई ज़ोवी ने कहा, "एजेंटों ने अब तक जो कुछ किया है, वह यह है कि उन्होंने अनुमति प्रणालियां जोड़ी हैं जो मूल रूप से उपयोगकर्ता पर 'हां, इसकी अनुमति दें', 'हां, उसकी अनुमति दें' कहने का सारा बोझ डालती हैं।" "अधिकांश उपयोगकर्ता ऊबने लगेंगे और अंततः बस 'हां, हां, हां' कहेंगे। और थोड़ी देर बाद, वे खतरनाक रूप से सभी अनुमतियों को छोड़ सकते हैं और पूर्ण स्वायत्तता प्रदान कर सकते हैं। आयरनकर्टन जैसी किसी चीज़ के साथ, फ़ाइलें हटाना जैसी क्षमताएं वास्तव में एलएलएम की पहुँच से बाहर हो सकती हैं, जहाँ एजेंट कुछ भी नहीं कर सकता, चाहे वह कुछ भी करे।" डाई ज़ोवी का मानना ​​है कि ये प्रतीत होने वाली कठोर बाधाएँ अंततः एजेंटिक एआई को अधिक स्वायत्तता जिम्मेदारी से प्रदान करने के लिए आवश्यक हैं। "यदि हम अधिक वेग और अधिक स्वायत्तता चाहते हैं, तो हमें सहायक संरचना की आवश्यकता है," उन्होंने सादृश्य का उपयोग करते हुए कहा। "आप एक रॉकेट इंजन को एक वास्तविक रॉकेट के अंदर रखते हैं ताकि उसमें वह स्थिरता हो जो आपको वहाँ ले जाने के लिए चाहिए जहाँ आप जाना चाहते हैं। मैं अपनी पीठ पर एक जेट इंजन को बैकपैक में बांध सकता था, और मैं बस मर जाता।"

इख़बारी समाचार एजेंसी