Kineska vladajuća Komunistička partija koristi umjetnu inteligenciju kako bi ubrzala nadzor i kontrolu svojih 1,4 milijarde građana, pri čemu tehnologija sve dublje prodire u svakodnevni život, predviđa javne prosvjede i prati raspoloženje zatvorenika, navodi se u novom izvješću.
Mnogi od tih sustava već su dobro dokumentirani, od goleme vojske internetskih cenzora koji održavaju "Veliki vatrozid", do nadzornih kamera koje su sveprisutne gotovo na svakoj ulici i svakom bloku širom urbanih područja Kine.
No izvješće koje je u ponedjeljak objavio Australski institut za stratešku politiku (ASPI) opisuje kako su se vladini AI alati, korišteni za "automatizaciju cenzure, jačanje nadzora i preventivno suzbijanje neslaganja", tijekom protekle dvije godine znatno usavršili u kontekstu sve dubljeg tehnološkog rivalstva SAD-a i Kine, piše CNN.
"Kina koristi umjetnu inteligenciju kako bi svoje postojeće sustave kontrole učinila mnogo učinkovitijima i nametljivijima. AI omogućuje KPK-u (Komunističkoj partiji Kine) da nadzire više ljudi, detaljnije i uz manje napora", rekao je Nathan Attrill, koautor izvješća i viši analitičar za Kinu u ASPI-ju, koji djelomično financiraju australska i druga strana ministarstva.
"U praksi, AI je postao okosnica znatno sveprisutnijeg i prediktivnijeg oblika autoritarne kontrole."
Kina uspostavlja još veći nadzor nad stanovništvom
Autori su dodali da su implikacije široke i duboke – omogućuju Pekingu još veće nadziranje stanovništva i upravljanje protokom informacija, kao i jačanje moći u inozemstvu kao globalnom izvoznika nadzorne tehnologije.
Peking je uložio stotine milijardi dolara u AI industriju, ostvarivši velike pomake u istraživanju i razvoju, unatoč nastojanjima SAD-a da ograniči opskrbu Kine naprednim AI čipovima, piše CNN.
I javnost je prihvatila tehnologiju; istraživanje globalne istraživačke skupine IPSOS iz 2024. pokazalo je da su kineski ispitanici puno više uzbuđeni i optimistični oko AI-ja nego njihovi vršnjaci u 32 druge zemlje.
Čak je i kineski čelnik Xi Jinping naglasio važnost AI-ja u razvoju internetske politike zemlje. Na sastanku u studenome s visokim dužnosnicima KPK-a, istaknuo je da AI "donosi izazove upravljanju kibernetičkim prostorom, ali nudi i nove mogućnosti potpore", prema kineskim državnim medijima – za što ASPI tvrdi da su eufemizmi za održavanje moći i stabilnosti režima.
Nalazi ASPI-ja nisu u potpunosti novi; drugi istraživači i instituti diljem svijeta već su objavili slična izvješća i upozorenja. Kineski čelnici otvoreno govore o svojim AI ambicijama, od kojih neke dijele i druge zemlje. I još nije riječ o nacionalnom standardu – lokalne vlasti u velikim urbanim središtima s razvijenom digitalnom infrastrukturom, poput Pekinga ili Šangaja, eksperimentiraju s AI-jem na načine koji u ruralnim provincijama ili manjim gradovima još nisu izvedivi.
No "mnoge namjere i politike vlade sada postaju stvarnost", rekao je Xiao Qiang, znanstvenik koji proučava internetske slobode na Kalifornijskom sveučilištu u Berkeleyju.
Dodao je: "Izvješće nam jasno pokazuje da se Kina kreće u smjeru korištenja AI-ja na nacionalnoj razini... Čim digitalna infrastruktura bude spremna, te se stvari implementiraju."
AI u kaznenom pravosuđu
Kako se AI već koristi u nekim područjima za policijske poslove, sudske postupke i rad zatvora, izvješće tvrdi da bi se tehnologija mogla integrirati u svaki korak već ionako netransparentnoga kineskog sustava kaznenog pravosuđa.
Nadzor počinje kineskom golemom mrežom nadzornih kamera. Iako ne postoje sveobuhvatne statistike o njihovu broju, procjene idu i do 600 milijuna kamera širom zemlje, prema izvješću. To je otprilike tri kamere na svakih sedam ljudi.
Kao i u mnogim drugim zemljama, te kamere sve češće imaju AI mogućnosti poput prepoznavanja lica i praćenja lokacije. Primjerice, dokumenti iz jednoga šangajskog okruga opisuju planove za kamere i dronove s AI-jem koji bi trebali "automatski otkrivati i inteligentno provoditi zakon", uključujući moguće alarmiranje policije o okupljanjima mase, navodi izvješće.
Vrhovni sud Kine također je pozvao sve sudove da do 2025. "razviju kompetentan sustav umjetne inteligencije" koji se može koristiti u raznim pravnim postupcima, uključujući suđenja i administrativne poslove, stoji u izvješću. U jednom primjeru, jedan šangajski AI sustav navodno može preporučiti hoće li suci i tužitelji uhititi osumnjičenike ili im izreći uvjetne kazne.
Na kraju, postoji i inicijativa za stvaranje "pametnih zatvora", gdje AI alati mogu pratiti lokacije i ponašanje zatvorenika. U jednom zatvoru, kamere s prepoznavanjem lica nadzirale su izraze zatvorenika, alarmirajući osoblje ako bi djelovali ljutito. U jednom centru za rehabilitaciju od droga, zatvorenici su prolazili AI-jem potpomognutu terapiju preko VR slušalica.
"Optuženik uhvaćen uz pomoć AI nadzora i suđen u sudnici uz asistenciju AI-ja može biti osuđen na temelju preporuke AI sustava u ‘pametni zatvor‘... koji uključuje opsežnu pametnu tehnologiju", stoji u izvješću.
Kineski Državni ured za informacije i Ministarstvo pravosuđa nisu odgovorili na upite CNN-a. Ranije su kritizirali ASPI zbog financiranja iz američkih državnih agencija i tvrdili da "nema nikakvu vjerodostojnost".
Ove pametne tehnologije mogu pomoći u sprječavanju kriminala i učiniti kineske gradove mnogo sigurnijima, priznao je Xiao, no "zbog političkog sustava, ista se tehnologija može koristiti, i zapravo se koristi, za politički progon".
Kineski sudski sustav hvali se stopom osuda iznad 99%
Xiao je ukazao na nekoliko ranjivih skupina koje bi mogle biti dodatno na meti, uključujući vjerske i etničke manjine poput Ujgura te političke disidente, koji već dugo trpe represiju vlasti.
Kineske tvrtke, uz potporu i financiranje središnje vlade, rade na razvoju velikih jezičnih modela (LLM-ova) za manjinske jezike – uključujući ujgurski, tibetanski, mongolski i korejski – kako bi se poboljšalo "praćenje i kontrola komunikacija na tim jezicima", navodi izvješće.
Ti bi LLM-ovi mogli omogućiti nadgledanje sadržaja koji manjinske zajednice objavljuju i dijele, ali i manipulaciju informacijama koje primaju, navode Xiao i izvješće.
Uloga kineskih tehnoloških divova
Izvješće također ističe ulogu najvećih kineskih tehnoloških tvrtki, nazvavši ih "ključnim omogućavateljima i izvršiteljima politika internetske cenzure KPK-a".
Te su tvrtke oduvijek bile obvezne pridržavati se propisa središnje vlade o sadržaju, no sada su ključni akteri u razvoju tehnologija za cenzuru i njihovoj prodaji manjim poduzećima širom zemlje, ponekad surađujući s vlastima u kaznenim slučajevima, navodi izvješće.
Primjerice, ByteDance, matična tvrtka TikToka, cenzurira sadržaj na Douyinu, verziji aplikacije koja se primarno koristi u Kini, blokirajući ili spuštajući u poretku politički osjetljive sadržaje.
Tencent, tehnološki gigant u području društvenih mreža i igara, koristi AI za nadzor ponašanja korisnika i dodjeljuje im "rizične ocjene" na temelju njihove aktivnosti, uključujući kazne za prekršaje na društvenim mrežama, u chat-grupama i drugim komunikacijskim platformama, navodi izvješće.
Baidu, tražilica, prodaje razne alate za moderiranje sadržaja i surađivao je s državnim agencijama u više od 100 kaznenih slučajeva, uglavnom vezanih uz prijevare i kibernetički kriminal, stoji u izvješću.
"Na internetu, AI omogućuje cenzuru i oblikovanje javnog mnijenja u stvarnom vremenu: platforme koriste automatiziranu moderaciju, analizu sentimenta i preporučne algoritme kako bi spuštale kritike i gurale narative usklađene s partijom", rekao je Attrill, koautor izvješća.
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....