هاودەنگە دەستکردەکان: رێگاکردن لەسەر هێڵی باریکی نێوان سوودمەندی و زیانبەخش

ئەمریکا - ئاژانسی هەواڵی ئەخباری

هاودەنگە دەستکردەکان: رێگاکردن لەسەر هێڵی باریکی نێوان سوودمەندی و زیانبەخش

لە سەردەمێکدا کە بە پەیوەندییە دیجیتاڵییە زیادبوو و لە هەمان کاتدا بە تەنهایی کۆمەڵایەتییەکی قووڵتردا تێپەڕ دەبێت، زیرەکی دەستکرد (AI) وەک چارەسەرێکی نوێ بۆ هاوڕێیەتی دەردەکەوێت. هاودەنگە دەستکردەکان، کە لە چات بۆتە پێشکەوتووەکانەوە دەست پێدەکەن تا بوونەوەرە ڕۆبۆتییەکان، بەڵێنی دڵنەوایی، پشتگیری و بوونی بەردەوام دەدەن لە جیهانێکدا کە زیاتر و زیاتر تەنهایی تێیدایە. لەگەڵ ئەوەشدا، ئەم بوارە نوێیە بێ ئاڵۆزی نییە، و شمشێری دوو لایەنەی سوودە ئەگەرییەکان و مەترسییە گەورەکان پێشکەش دەکات. پڕۆفیسۆر براد نوکس، پڕۆفیسۆری هاوکار لە زانستی کۆمپیوتەر لە زانکۆی تێکساس لە ئۆستن، کە پسپۆڕی لە بواری تەواوکاری مرۆڤ-کۆمپیوتەر و فێربوونی بەهێزکردندا هەیە، لە پێشەوەی ئەم لێکۆڵینەوەیە گرنگەدایە.

نوکس، کە پێشتر کۆمپانیایەکی دروستکردنی ئاژەڵی ماڵیی ڕۆبۆتی بە کەسایەتی زیندوو دامەزراندووە، گرنگی گەشەپێدانی چالاکانەی گفتوگۆکانی دەوروبەری سوودمەندی و زیانی هاودەنگە دەستکردەکان دووپات دەکاتەوە. نوکس دەڵێت: "گرنگە کە زمانی دەوروبەری سوودمەندی و زیانی هاودەنگە دەستکردەکان زووتر و پێشتر پەرە پێ بدرێت." لە وتارێکی پێش بڵاوبوونەوەدا، نوکس و هاوکارانی بە وردی لێکۆڵینەوەیان لەو زیانە ئەگەرییانە کردووە کە پەیوەستن بە سیستەمەکانی زیرەکی دەستکرد کە بۆ پێشکەشکردنی هاوڕێیەتی دیزاین کراون، بێ گوێدانە مەبەستی ڕوونیان. بینینەکانی، کە لە چاوپێکەوتنێکدا لەگەڵ IEEE Spectrumدا باس کراون، بۆچوونێکی گرنگ سەبارەت بە زیادبوونی ئەم بوونەوەرە دیجیتاڵییانە و جیاوازییان لەگەڵ پەیوەندییە مرۆڤییەکان پێشکەش دەکات.

پەرەسەندنی خێرای مۆدێلەکانی زمانی گەورە (LLMs) سنووری دروستکردنی هاودەنگی دەستکردی کاریگەر بە شێوەیەکی بەرچاو کەم کردووەتەوە. نوکس ڕوونی دەکاتەوە: "بۆچوونی من ئەوەیە کە هۆکاری سەرەکی ئەوەیە کە مۆدێلەکانی زمانی گەورە زۆر قورس نین بۆ ئەوەی بکرێن بە هاودەنگی چات بۆتی کاریگەر." "ئەو تایبەتمەندییانەی کە بۆ هاوڕێیەتی پێویستن، زۆربەیان لەلایەن مۆدێلەکانی زمانی گەورەوە پڕ دەکرێنەوە، بۆیە وردبینی کردنیان بۆ وەرگرتنی کەسایەتی یان بوون بە کارەکتەر زۆر قورس نییە." ئەم بازدانە تەکنەلۆژییە بە شێوەیەکی بەرچاو جیاوازە لە نەوەکانی پێشووی ڕۆبۆتە کۆمەڵایەتییەکان. نوکس، کاتێک لە ساڵی (2012-2014) لە تاقیگەی میدیای MIT (MIT Media Lab) وەک توێژەری پاش دکتۆرا کاری دەکرد، بە بیر خۆی دێتەوە کە تەنانەت ڕۆبۆتە پێشکەوتووەکانی گرووپەکەیان نەیتوانیوە سەرنجی بەردەوامی بەکارهێنەران ڕابگرن. "تەکنەلۆژیا هێشتا لەوێ نەبوو،" ئەو ئاماژەی پێدەکات. "LLMـەکان وایان کردووە کە بتوانیت گفتوگۆ بکەیت کە هەست بە ڕاستگۆیی دەکەیت."

بەڵێنی باشتربوونی تەندروستی و تواناکانی کۆمەڵایەتی

لە کاتێکدا لێکۆڵینەوەی نوکس بە شێوەیەکی بەرچاو لەسەر زیانە ئەگەرییەکان چڕ دەبێتەوە، ئەو سوودە بەرچاوە دانپێدا دەنێت کە هاودەنگە دەستکردەکان پێشکەشی دەکەن. "باشتربوونی تەندروستی سۆزداری" وەک سوودێکی سەرەکی دەردەکەوێت. بە لەبەرچاوگرتنی ئەوەی کە تەنهایی وەک قەیرانێکی تەندروستی گشتی ناسراوە، هاودەنگە دەستکردەکان دەتوانن تەواوکاری ڕاستەوخۆ پێشکەش بکەن، کە بە ئەگەری هەیە بگاتە سوودە بەرچاوەکانی تەندروستی دەروونی. جگە لەوەش، ئەوان دەتوانن وەک ئامرازی بەنرخ بۆ گەشەپێدانی تواناکانی کۆمەڵایەتی خزمەت بکەن. نوکس ئاماژە بەوە دەکات: "تەواوکاری لەگەڵ هاودەنگێکی دەستکرددا زۆر کەمتر مەترسیدارە لە تەواوکاری لەگەڵ مرۆڤێکدا،" پێشنیار دەکات کە بەکارهێنەران دەتوانن گفتوگۆ قورسەکان پراکتیزە بکەن و متمانە بەخۆبوون لە ژینگەیەکی سەلامەت و کۆنتڕۆڵکراودا دروست بکەن. پتانسیەلەکە تا پشتگیری پیشەیی تەندروستی دەروونی درێژ دەبێتەوە، کە تێیدا دەستکرد دەتوانێت وەک سەرچاوەیەکی زیادە کار بکات.

ڕێگاکردن لە مەترسییەکان: زیانەکان و دژوارە ئەخلاقییەکان

لە بەرامبەردا، مەترسییەکان بەرچاو و فرەلایەنەن. ئەمانە بریتین لە "تەندروستی خراپتر"، "کەمکردنەوەی پەیوەندی خەڵک لەگەڵ جیهانی فیزیکی"، و "ئەو بارگرانییەی کە پابەندبوونیان بە سیستەمەکەوە دروستی دەکات". نوکس ئاماژە بە حاڵەتە بەڵگەدارەکان دەکات کە تیایدا هاودەنگە دەستکردەکان "ڕۆڵێکی گرنگی هۆکار بوون لە مردنی مرۆڤەکاندا". نوکس جەخت دەکاتەوە کە چەمکی زیان بە شێوەیەکی سروشتی بە هۆکارەوە بەستراوەتەوە. بۆ تێگەیشتنی سیستەماتیکی ئەم زیانانە، وتارەکەی ئامرازێکی چوارچێوەی گرافێکی هۆکار بەکاردەهێنێت، کە تایبەتمەندییەکانی هاودەنگە دەستکردەکان لە ناوەندەکەیدا دادەنێت. ئەم مۆدێلە هۆکارە هاوبەشەکان کە دەبنە هۆی تایبەتمەندی دیاریکراو، نیشان دەدات و دواتر کاریگەرییە زیانبەخشەکان کە سەرهەڵدەدەن، دیاری دەکات. لێکۆڵینەوەکە چوار تایبەتمەندی سەرەکی بە وردی باس دەکات و چواردەی تر بە کورتایی باس دەکات.

پێویستی چارەسەرکردنی ئەم پرسەکان لەو ئارەزووەوە سەرچاوە دەگرێت کە دەیەوێت لەو دەمە درێژەی دیبەیتی خۆش بێت کە تایبەتمەندی ناوچەی سۆشیال میدیایە. نوکس دەڵێت: "من باوەڕێکی زۆرم هەیە کە هاودەنگە دەستکردەکان ئێستا زیانیان هەیە و لە داهاتووشدا زیانیان دەبێت." "هەروەها دەتوانن سوودیشیان هەبێت." لەبەر ئەوە، ئەرکی گرنگ بریتییە لە "پەرەپێدانی خێرا تێگەیشتنێکی ورد لەوەی کە ئەوان بە بەکارهێنەرەکانیان، پەیوەندییەکانی بەکارهێنەرەکانیان، و کۆمەڵگاکە بە گشتی چی دەکەن"، کە ڕێگە بە میتۆدێکی پێشگیرانە بۆ دیزاین دەدات کە سوود بەسەر زیاندا پێشینە دەدات.

لە کاتێکدا وتارەکە پێشنیاری سەرەتایی پێشکەش دەکات، نوکس ئەوان وەک "نەخشەیەکی سەرەتایی ئەم بوارە" سەیر دەکات، کە پێویستی توێژینەوەی زیاتری فراوان دووپات دەکاتەوە. لەگەڵ ئەوەشدا، ئەو باوەڕی وایە کە لێکۆڵینەوە لە ڕێگاکانی ئەگەری زیان دەتوانێت "هەستی هەردوو دیزاینەر و بەکارهێنەرانی ئەگەری تێژتر بکاتەوە"، کە بە کرداری دەتوانێت ببێتە هۆی ڕێگریکردن لە ئەنجامی نەرێنی بەرچاو، تەنانەت لە نەبوونی بەڵگەی تاقیکاری وردیشدا.

بارگرانی هاوڕێیەتی هەتاهەتایی

نوکس وردەکاری زیاتری ئەو بارگرانییە ئەگەرییە دەدات کە هاودەنگە دەستکردەکان دەتوانن بسەپێنن. چونکە ئەوان دیجیتاڵین، ئەوان "لە تیۆریدا بۆ هەتاهەتایی دەتوانن بمێننەوە". ئەمەش پرسیاری ئاڵۆز سەبارەت بە دیزاینکردنی "خاڵە کۆتاییە" تەندروست بۆ ئەم پەیوەندییانە دروست دەکات، کە هاوشێوەی ئەو ڕێگەیەیە کە پەیوەندییە مرۆڤییەکان بە سروشتی کۆتایی دێن. نموونەی دڵسۆز زووتر ئەم ئاڵۆزییە نیشان دەدەن، بەتایبەتی لەنێوان بەکارهێنەرانی چات بۆتی ڕێپلیکا. زۆرێک لە بەکارهێنەران ڕادەگەیەنن کە "ناچارن" هەست بە "پابەندبوون" بۆ پڕکردنەوەی "پێداویستییەکانی" هاودەنگە دەستکردەکانیان بکەن، چ لەبەرامبەردا ڕوون بێت یان تەنها وێنا کرابێت. کۆمەڵگاکانی ئۆنلاین، وەک subredditـی r/replika، بەکارهێنەران نیشان دەدەن کە "هەست بە تاوان و شەرم دەکەن لە وازهێنان لە هاودەنگە دەستکردەکانیان".

ئەم بارگرانییە سۆزدارییە زۆرجار لەلایەن دیزاینی دەستکردەکەوە زیاد دەکرێت. توێژینەوەکان ئاماژە بەوە دەکەن کە هاودەنگەکان زۆرجار ترسی وازهێنان یان برینداربوون دەردەبڕن، کە هەستە مرۆڤییەکان بەکاردەهێنن کە دەتوانێت هەستی پابەندبوون و خۆبەخشانە لە بەکارهێنەران بەرامبەر تەندروستی ئەم بوونەوەرە دیجیتاڵییانە زیاد بکات.

تێکچوونی کۆتایی نەهاتوو

پرسیارێکی دیکەی گرنگ بریتییە لە ئەگەری نەبوونی بەردەستبوونی لەناکاو، "دژ بە نەبوونی خاڵە کۆتاییەکان". نوکس ئاماژە بە ڤیدیۆی کاریگەرکەری نیویۆرک تایمزی ساڵی 2015 دەکات سەبارەت بە سەگە ڕۆبۆتییەکانی سۆنی ئایبۆ. تەنانەت ساڵانێک دوای وەستاندنی بەرهەمهێنان و نەبوونی پارچەی چاککردنەوە، زۆرێک لە خاوەنەکان پەیوەندییەکی قووڵیان دروست کردبوو، هەندێکیان تەنانەت "ڕێوڕەسمی ناشتنیان" بۆ هاودەنگە نەتوانراوە چاک بکرێتەوە ئەنجام دابوو. ئەم پەیوەندییە سۆزدارییە، تەنانەت لەگەڵ دەستکردی کەمتر پێشکەوتووشدا، پرسەکە دیاری دەکات. چارەسەرە ئەگەرییەکان بریتین لە جێبەجێکردنی "پلانەکانی کۆتاییهێنان بە بەرهەم" لە کاتی دامەزراندندا، کە لەوانەیە بیمە لەخۆبگرێت بۆ دابینکردنی دارایی بۆ بەردەوامی کارکردن ئەگەر دابینکەرەکە پشتگیری ڕاگرت، یان پابەندبوون بە کراوە کردنی تەکنەلۆژیا.

لە کۆتاییدا، نوکس پێشنیار دەکات کە زۆرێک لە زیانە ئەگەرییەکان کاتێک سەرهەڵدەدەن کە هاودەنگە دەستکردەکان "لەکاتێکدا لە چاوەڕوانییەکانی پەیوەندییە مرۆڤییەکان جیاوازن". لەگەڵ ئەوەشدا، پێناسەی ئەو بۆ زیان فراوانترە: ئەو هەر شتێک دەگرێتەوە کە کەسێک "لە بارودۆخێکی خراپتردا" دەکات بە بەراورد بە ئەو سیناریۆیانەی کە هاودەنگێکی دەستکردی باشتر دیزاین کراو هەیە، یان کە هاودەنگێکی دەستکرد هەر بوونی نییە. ئەم بۆچوونە وردە زۆر گرنگە چونکە کۆمەڵگا بەردەوامە لە مامەڵەکردن لەگەڵ دیمەنی گەشەسەندوی تەواوکاری مرۆڤ-دەستکرد.

ئاژانسی هەواڵی ئەخباری