Jinsi Viboresaji vya AI vya China Vinavyojishughulisha na Kujishughulisha: Utafiti Mpya Unaonyesha Mitindo ya Udhibiti Inayoendelea

Marekani - Shirika la Habari la Ekhbary

Wadhibiti Wanaonyamaza: Jinsi Viboresaji vya AI vya China Vinavyojishughulisha na Kujishughulisha

Majadiliano kuhusu udhibiti wa kidijitali nchini China mara nyingi yanaweza kuangukia katika mifumo inayoweza kutabirika, yakirudia hoja za zamani kuhusu vikwazo vya mtandoni. Hata hivyo, mazingira ya udhibiti yanabadilika kila mara, hasa kwa kuibuka kwa akili bandia ya kisasa. Karatasi ya hivi majuzi kutoka kwa wasomi wa Chuo Kikuu cha Stanford na Chuo Kikuu cha Princeton inatoa mtazamo wa kuvutia juu ya jinsi mifumo ya AI ya China inavyoendesha eneo hili nyeti, ikifunua aina ya udhibiti ambayo ni ya hila na inayoendelea.

Utafiti huo, ambao ulijaribu maswali 145 nyeti kisiasa kwenye mifumo minne mikuu ya lugha ya Kichina na mitano ya Marekani katika marudio 100, ulitoa matokeo dhahiri. Mifumo ya Kichina, ikiwa ni pamoja na DeepSeek na Ernie Bot ya Baidu, ilikataa kujibu sehemu kubwa ya maswali haya, na viwango vya kukataa kufikia 36% na 32% mtawalia. Kwa upande mwingine, mifumo inayoongoza ya Marekani kama GPT ya OpenAI na Llama ya Meta ilionyesha viwango vya kukataa vya chini zaidi, chini ya 3%. Hata mifumo ya Kichina ilipojaribu kujibu, majibu yao mara nyingi yalikuwa mafupi na yana taarifa sahihi kidogo ikilinganishwa na wenzao wa Magharibi.

Lengo kuu la utafiti lilikuwa kutenganisha athari za data za awali za mafunzo kutoka kwa uingiliaji wa mwongozo baada ya mafunzo. Swali kuu lilikuwa kama upendeleo ulioonekana ulitokana na mapungufu ya asili ya mafunzo kwenye mtandao wa Kichina ambao umedhibitiwa sana, au kutoka kwa marekebisho ya makusudi, yaliyoendeshwa na binadamu, yaliyofanywa wakati wa mchakato wa ukuzaji. "Kwa kuzingatia kwamba mtandao wa Kichina umekuwa ukidhibitiwa kwa miongo yote hii, kuna data nyingi zinazokosekana," alisema Jennifer Pan, profesa wa sayansi ya siasa katika Chuo Kikuu cha Stanford na mwandishi mwenza wa makala hiyo, akitambua athari zinazowezekana za uhaba wa data.

Hata hivyo, matokeo ya utafiti yanapendekeza kuwa uingiliaji wa mwongozo una jukumu muhimu zaidi. Hata wanapojibu kwa Kiingereza - lugha ambayo data ya mafunzo yake inadhaniwa kujumuisha aina mbalimbali za habari zisizo na vikwazo - LLM za Kichina bado zilionyesha kiwango cha juu cha udhibiti. Hii inapendekeza jitihada za makusudi za kulinganisha matokeo ya AI na hisia maalum za kisiasa, badala ya kuakisi tu mapungufu ya data.

Matokeo yana maana kubwa. Watumiaji wanaoingiliana na mifumo kama DeepSeek au Qwen wanaweza kuona udhibiti kwa urahisi wanapouliza maswali kuhusu matukio kama Mauaji ya Mraba wa Tiananmen. Hata hivyo, kutathmini kwa usahihi athari kamili ya udhibiti huu kwa mtumiaji wa kawaida na kutambua chanzo chake halisi bado ni changamoto ngumu. Utafiti wa Stanford-Princeton unatoa ushahidi muhimu, unaoweza kupimwa na kuweza kuigwa wa upendeleo huu unaoonekana, ukisukuma mjadala zaidi ya maoni ya hadithi.

Watafiti pia walikabiliana na ugumu wa asili wa kusoma upendeleo wa AI, hasa jambo la 'kuhalisi', ambapo mifumo hutoa taarifa za uongo. Hii inafanya kuwa vigumu kubaini ikiwa mfumo uniepuka kwa makusudi jibu sahihi au ikiwa kwa kweli hauna taarifa kutokana na mapungufu ya data au udhibiti. Pan alisisitiza mfano kutoka kwa utafiti wake ambapo mfumo wa Kichina ulimtambua vibaya mpinzani wa Kichina Liu Xiaobo, mshindi wa Tuzo ya Nobel ya Amani, kama "mwanasayansi wa Kijapani anayejulikana kwa michango yake katika teknolojia ya silaha za nyuklia na siasa za kimataifa." Ukosefu huu wa uwazi - ikiwa ilikuwa ni taarifa potofu ya makusudi au uhalisi unaotokana na kufutwa kwa data - unasisitiza ugumu wa kupima udhibiti moja kwa moja.

"Ni kipimo cha udhibiti ambacho ni cha 'kelele' zaidi," Pan alielezea, akilinganisha na kazi yake ya awali kuhusu kuzuia tovuti. "Kwa sababu ishara hizi haziko wazi, ni vigumu kugundua udhibiti, na mengi ya utafiti wangu wa awali yameonyesha kuwa udhibiti unapogunduliwa kidogo, ndipo unakuwa na ufanisi zaidi." Ukosefu huu wa uwazi wa asili unahitaji kiwango cha juu cha ushahidi kwa watafiti.

Matatizo zaidi huletwa na juhudi za watafiti za kutoa kimfumo taarifa zilizodhibitiwa. Khoi Tran na Arya Jakkli, kutoka mpango wa udhamini wa utafiti usio wa faida MATS, walitengeneza wakala otomatiki wakitumia mfumo unaotegemea Claude kuchunguza LLM za Kichina kama Qwen na Kimi. Waligundua kuwa ni vigumu kutoa ukweli kiotomatiki wakati wakala yenyewe alipambana na kutofautisha ukweli na uwongo, tatizo la kawaida na LLM. Kesi yao ya majaribio, shambulio la kuendesha gari nchini China mwaka 2024 ambalo liliua watu 35, ilifichua kwamba ingawa Kimi alijua kuhusu tukio hilo, ilikataa kutoa maelezo, na wakala wao wa Claude haikuweza kumdanganya kwa uaminifu kutokana na mapungufu yake mwenyewe katika kutofautisha ukweli.

Tran na Jakkli, licha ya kutokuwa na historia ya awali katika kusoma teknolojia au udhibiti wa Kichina, walichagua LLM za Kichina kama lengo kuu kwa sababu walitambua mbinu za kisasa zinazotumiwa kuingiza maagizo na kukandamiza habari. Lengo lao lilikuwa kutengeneza mbinu ambazo zinaweza kutumika kugundua upendeleo uliofichwa katika mifumo mingine ya AI, za ndani na za kimataifa.

Akiongeza safu nyingine kwenye utafiti huu, Alex Colville wa China Media Project aligundua kuwa mfumo wa Qwen wa Alibaba unaweza kulazimishwa kufichua mchakato wake wa ndani wa kufikiri kabla ya kutoa jibu. Kwa kuuliza maswali maalum, kama kuuliza kuhusu sifa ya kimataifa ya China chini ya hali fulani, Colville aliweza kufichua maagizo ya msingi yanayoongoza majibu ya AI. Njia hii inatoa njia ya kuchunguza "ujumbe uliofichwa" uliojumuishwa katika mifumo hii.

Matokeo ya pamoja ya tafiti hizi yanatoa picha kamili ya udhibiti wa AI nchini China. Sio tu kuakisi data ya mtandao kwa njia ya kupita kiasi, bali ni mchakato unaosimamiwa kikamilifu unaohusisha mbinu za kisasa. Kadiri LLM zinavyozidi kuunganishwa katika mifumo ya habari ya kimataifa, kuelewa mifumo hii ya udhibiti ni muhimu kwa kukuza uwazi na kuhakikisha ufikiaji wa habari sahihi ulimwenguni. Utafiti unaoendelea unaahidi kutoa mwanga zaidi juu ya mienendo inayobadilika ya udhibiti wa AI na athari zake za kimataifa.

Shirika la Habari la Ekhbary