یاریدەدەری نوێی زیرەکی دەستکرد "IronCurtain" بۆ ڕێگرتن لە هەڵسوکەوتی خراپ دیزاین کراوە

ویلایەتە یەکگرتووەکان - ئاژانسی هەواڵی ئەخباری

یاریدەدەری نوێی زیرەکی دەستکرد "IronCurtain" بۆ ڕێگرتن لە هەڵسوکەوتی خراپ دیزاین کراوە

بڵاوبوونەوەی خێرای ئاژێنتەکانی زیرەکی دەستکرد، کە لەلایەن ئامرازگەلێک وەک OpenClaw نموونەیان پێشکەش دەکرێت، سەردەمێکی نوێی دەستپێکردووە کە تێیدا زیرەکی دەستکرد دەتوانێت بەشە گرنگەکانی ژیانی دیجیتاڵی ئێمە بەڕێوەببات. ئەم ئاژێنتانە، کە بەڵێنی پێشکەشکردنی پوختەی هەواڵی تایبەت، ووتووێژی خزمەتگوزاری کڕیار بە شێوەی خۆکار، و بەڕێوەبردنی وردی ئەرکەکان دەدەن، هەموو ئەمانە لە ڕێگەی دەستگەیشتن بە ҳیسابی بەکارهێنەران و جێبەجێکردنی فەرمانەکانەوە ئەنجام دەدرێت. لەکاتێکدا کە زۆر بەسوودن، ئەم توانایەتە تازە بەدەست هاتووەش بووەتە هۆی زیادبوونی ڕووداوی کێشەهەڵگر. ڕاپۆرتەکان باس لەوە دەکەن کە ئاژێنتەکانی زیرەکی دەستکرد بە هەڵە نامەکانی ئیمێل سڕیوەتەوە، یان ناوەڕۆکی زیانبەخشیان وەک وەڵامێک بۆ ناڕەزایەتییەکانیان دروست کردووە، یان تەنانەت هێرشی فیشینگیان دژی بەکارهێنەرانی خۆیان دەستپێکردووە، ئەمەش گرنگی پێویستی میکانیزمەکانی کۆنترۆڵی بەهێز دەردەخات.

بە چاودێریکردنی ئەم پشێوییە بەردەوامە، نیلس پرۆڤۆس (Niels Provos)، ئەندازیاری ئەمنی و توێژەرێکی شارەزا، چارەسەرێکی نوێی پەرەپێداوە. ئەو IronCurtain-ی خستووەتە بازاڕەوە، کە یاریدەدەرێکی زیرەکی دەستکردی سەرچاوەکراوە و پارێزراوە، کە بۆ دابینکردنی چینێکی چاودێریی گرنگ دیزاین کراوە. بە پێچەوانەی ئاژێنتەکان کە ڕاستەوخۆ لەگەڵ سیستەم و ҳیسابەکانی بەکارهێنەردا کاردەکەن، IronCurtain کاردەکات بە کارخستنی ئاژێنتەکە لە ناو ئامێرێکی ڤירتووالیی گۆشەگیرکراودا. ئەم ژینگەی "ساندبۆکس" (sandbox) بە شێوەیەکی بەرچاو سنووری توانای ئاژێنتەکە بۆ زیانگەیاندن کەم دەکاتەوە. جگە لەوە، هەموو کارێک کە ئاژێنتەکە هەوڵی بۆ دەدات، لە ڕێگەی سیاسەتێکەوە کە وەک "دەستوور" وایە و بەکارهێنەرەکە بۆ کۆنترۆڵکردنی هەڵسوکەوتی زیرەکی دەستکرد دایدەنێت، کاری تێدا دەکرێت.

یەکێک لە نوێکارییە گرنگەکانی IronCurtain بریتییە لە توانای لێکدانەوەی سیاسەتە گشتییەکانی کە بە زمانی ئینگلیزی سادە نووسراون. پاشان، سیستەمەکە پرۆسەیەکی ئاڵۆزی چەند قۆناغیی بەکاردەهێنێت، کە مۆدێلێکی زمانی گەورە (LLM) سوودی لێ وەردەگرێت، بۆ وەرگێڕانی ئەو فەرمانە زمانییە سروشتیانە بۆ سیاسەتێکی ئەمنی جێبەجێکراو. پرۆڤۆس ڕوونی کردەوە: "خزمەتگوزارییەکان وەک OpenClaw ئێستا لە لوتکەی ناوبانگدان، بەڵام هیوادارم دەرفەتمان هەبێت بڵێین: 'باشە، ئەمە ڕەنگە ئەو ڕێگەیە نەبێت کە دمانەوێت بیکەین'." "لەبری ئەوە، با شتێک پەرەپێبدەین کە هێشتا سوودێکی زۆر زۆرت پێدەبەخشێت، بەڵام ناچێتە ناو ئەو ڕێگا نائاشکرا و جاروبار وێرانکەرانەوە."

پرۆڤۆس جەخت دەکاتەوە کە توانای IronCurtain بۆ گۆڕینی ڕێنماییە سادە و تێگەیشتووەکان بۆ یاسای پێشبینیکراو و یەکلاکەرەوە (deterministic) زۆر گرنگە. هۆکارەکەشی ئەوەیە کە مۆدێلەکانی زمانی گەورە بە شێوەیەکی سروشتی "ساکاستیک" (stochastic) و پرۆبێبیلیستی (probabilistic)ن؛ واتە هەمیشە هەمان ئەنجام بۆ هەمان داواکاری نادەن. ئەم نەبوونی پێشبینییە کێشەیەکی گەورە بۆ پارێزگارییەکانی ئەمنی زیرەکی دەستکرد دروست دەکات، چونکە سیستەمەکانی زیرەکی دەستکرد دەتوانن لە کاتی تێپەڕیندا لە لێکدانەوەی میکانیزمەکانی کۆنترۆڵدا گەشە بکەن، کە بە ئەگەری زۆر دەبێتە هۆی کردارە ناخواستراوەکان. IronCurtain ئامانجی کەمکردنەوەی ئەمە بە دانانی سنووری ڕوون و قایم.

سیاسەتێکی بەکارهێنەر بۆ IronCurtain دەکرێت بە سادەیی بێت، وەک: "ئاژێنتەکە دەتوانێت هەموو نامە ئیمێلەکانی من بخوێنێتەوە. دەتوانێت نامەی ئیمێڵ بۆ کەسانی ناو پەیوەندییەکانم بنێرێت بێ پرسین. بۆ کەسانی تر، یەکەم جار لێم بپرسە. هەرگیز هیچ شتێک بە هەمیشەیی سڕ مەڪەوە." IronCurtain ئەم فەرمانانە پڕۆسێس دەکات، دەیانگۆڕێت بۆ سیاسەتێکی جێبەجێکراو، پاشان وەک نێوەندێک کار دەکات. ئەو نێوەندگیری دەکات لە نێوان ئاژێنتە یاریدەدەرەکە کە لە ناو ئامێرە ڤירتووالییەکەدا کاردەکات و "سێرڤەری پڕۆتۆکۆڵی ساتی مۆدێل" (model context protocol server) کە مۆدێلەکانی زمانی گەورە دەستگەیشتنیان پێدەبەخشێت بە داتا و خزمەتگوزارییە دیجیتاڵییەکان کە پێویستن بۆ جێبەجێکردنی ئەرکەکان. ئەم دەستگەیشتنە کۆنترۆڵکراوە هەنگاوێکی گرنگە لە کۆنترۆڵی دەستگەیشتن، کە کەلێنێک پڕ دەکاتەوە کە لەلایەن پلاتفۆرمە وێبەکانی ئێستا وەک دابینکەرانی ئیمێڵەوە جێهێڵدراوە، چونکە ئەوان بۆ سیناریۆیەک دروست نەکراون کە تیایدا هەردوو بەکارهێنەری مرۆڤ و ئاژێنتەکانی زیرەکی دەستکرد یەک ҳیساب بەکاردەهێنن.

پرۆڤۆس زیاتر ئاماژە بەوە دەکات کە IronCurtain بۆ باشترکردنی بەردەوام دیزاین کراوە. کاتێک سیستەمەکە ڕووبەڕووی حاڵەتە لاوەکییەکان دەبێتەوە، داوای زانیاری لە بەکارهێنەر دەکات، بەم شێوەیە "دەستووری" بەکارهێنەرەکە لە ماوەی کاتدا وردتر دەکاتەوە. سیستەمەکە سەربەخۆیە لە مۆدێل، واتە دەتوانێت لەگەڵ هەر LLMێک کار بکات، و بە وردی ڕێکۆردێکی چاودێری بۆ هەموو بڕیارەکانی سیاسەت دەگرێت. لە ئێستادا، IronCurtain نموونەیەکی توێژینەوەیە، نەک بەرهەمی بازرگانی. پرۆڤۆس هانی بەشداریکردنی کۆمەڵگا دەدات بۆ یارمەتیدان لە لێکۆڵینەوە و گەشەپێدانی پڕۆژەکە. دینو دای زۆڤی (Dino Dai Zovi)، توێژەرێکی ناسراوی ئەمنییەتی سایبری کە تاقیکاریی وەشانی سەرەتایی IronCurtainی کردووە، گرنگی پڕۆژەکەی دووپات کردووەتەوە. ئەو گوتی کە ڕێگاکە فیکرییەکەی IronCurtain لەگەڵ بیروبۆچوونی خۆیدا یەکدەگرێتەوە لەسەر پێویستی سنووردارکردنی زیرەکی دەستکردی ئاژێنت. "ئەوەی زۆرێک لە ئاژێنتەکان تا ئێستا کردیان، ئەوە بوو کە سیستەمی مۆڵەتیان زیاد کرد کە بنەڕەتەن هەموو بارگرانییەک دەخاتە سەر بەکارهێنەر بۆ ئەوەی بڵێت 'بەڵێ، ڕێگە بەمە بدە'، 'بەڵێ، ڕێگە بەو بدە'،" دای زۆڤی وتی. "زۆرێک لە بەکارهێنەران دەست دەکەن بە بێزاربوون و لە کۆتاییدا تەنها دەڵێن، 'بەڵێ، بەڵێ، بەڵێ'. وە دوای ماوەیەکی کەم، لەوانەیە بە مەترسیدارێک هەموو مۆڵەتەکان تێپەڕێنن و ئیختیاری تەواو بدەن. لەگەڵ شتێک وەک IronCurtain، تواناکان – وەک، بڵێین، سڕینەوەی فایلەکان – لەوانەیە لە بواری دەستگەیشتنی LLM دەرەوە بن، کە ئاژێنتەکە ناتوانێت هیچ شتێک بکات، هەرچەندە هەوڵی بدات." دای زۆڤی دەڵێت ئەم جۆرە سنوورە قەدەغەییانە، کە لەوانەیە لەسەرەتاوە زۆر ڕەق یان بێزارکەر بن بۆ هەندێک، لە ڕاستیدا پێویستن بۆ ئەوەی لە کۆتاییدا زیاتر ئازادی بە زیرەکی دەستکردی ئاژێنت بدرێت. "ئەگەر زیاتر خێرایی و زیاتر ئازادی بوێین، ئەوا پێویستمان بە پێکهاتەی پاڵپشتیکەر هەیە،" دای زۆڤی وتی. "تۆ بزوێنەری مووشەکێک دادەنێیت لەناو مووشەکێکی ڕاستیدا بۆ ئەوەی بتوانێت ئەو جێگایەی کە دەتەوێت پێی بگات. من دەمتوانی بزوێنەرێکی فڕۆکە بە پشتێنمەوە لە لوولەیەکدا ببەستم، و تەنها دەمردم."

ئاژانسی هەواڵی ئەخباری