ZDA in Kitajska razmišljata o skupnih pogovorih o umetni inteligenci na vrhu v Pekingu

Wall Street Journal je včeraj poročal, da ZDA in Kitajska razmišljata in poskušata pripraviti prve uradne pogovore o umetni inteligenci (UI). Na vrhu naslednji teden v Pekingu bo potekalo srečanje med ameriškim predsednikom Trumpom in kitajskim predsednikom Xijem. ZDA so že določile sogovornika, to naj bi bil finančni minister Scott Bessent, medtem ko kitajska stran še razmišlja o osebi, ki bo te pogovore vodila. Kitajska je sicer nakazala, da bi pogovore lahko vodil kitajski finančni minister Liao Min. Obe strani se strinjata, da so pogovori nujni za preprečevanje zlorab UI in nepredvidenih posledicah samostojnih aplikacij UI. Tiskovni predstavnik kitajske ambasade v Washingtonu Liu Pengju je potrdil pogovore o UI.

Prvi pogovori o UI so že potekali – toda neuspešno

Leta 2023 so potekali prvi pogovori med administracijami nekdanjega predsednika Bidena in Xija. Takrat je veljalo splošno mnenje, da oba predsednika nista dosegla prepričljivih rezultatov. Takrat sta pogovore vodila predstavnika zunanjih ministrstev, glavni dogovor pa je bil, da UI ne bi smela voditi vojaških nuklearnih programov, te bi vedno morala voditi človeška inteligenca. Rush Doshi, strokovnjak za varnostna vprašanja iz Georgetowna, ki je takrat vodil delegacijo, je predlagal, da se tokratna delegacija osredotoči bolj na tehnično plat UI, kar je v prejšnjih pogajanjih umanjkalo.

Rush Doshi je poudaril, da so leta 2023 govorili o dialogu v zvezi UI in celo vzpostavitvi 'krizne povezave', kot je bilo to za časa Sovjetske zveze za preprečitev jedrskih napadov. Težava je bila, ker je Kitajska pogojevala dialog z zahtevami po koncesijah, ki niso imele povezave z UI, niti niso želeli, da bi pri pogovorih sodelovali funkcionarji, ki so del odločevanja z zadevami v zvezi z UI. Še več, ZDA imajo že vzpostavljene krizne povezave s Kitajsko, vendar v primeru kriz Kitajska ne dviguje telefona, predvsem če so užaljeni, kar se za časa Sovjetske zveze ni nikoli dogajalo. Primer je na primer trk ameriškega izvidnega letala EP-3 s kitajskim lovcem, ali pa tranzit kitajskega izvidnega balona skozi ZDA, takrat namreč Kitajska ni želela odgovarjati na telefonsko krizno povezavo.

Kaj je namen tokratnih pogovorov o UI

Ameriška administracija si bo ponovno prizadevala za vzpostavitev krizne povezave s Kitajsko med visokimi uradniki in vojsko, vendar niso definirali, kako želijo vzpodbuditi kitajsko neodzivnost. Ene izmed glavnih tem bodo nepredvidljivost modelov UI, avtonomni orožarski sistemi ter napadi organizacij, ki niso del uradnih državnih sistemov in obrambnih modelov.

Ameriška administracija si bo ponovno prizadevala za vzpostavitev krizne povezave s Kitajsko med visokimi uradniki in vojsko, vendar niso definirali, kako želijo vzpodbuditi kitajsko neodzivnost.

Medtem je Xi na simpoziju v Šanghaju pozval narod, naj pospeši raziskave in razvoj na področju UI, in poudaril pomembnost raziskav na področju UI kot temelj celotnega kitajskega znanstvenega sistema. Pozval je na več investicij s strani javnih akterjev, država pa bo medtem za te namene namenila še več kot leta 2025, kar je bilo sicer 41 milijard USD. Celotne kitajske investicije v UI leta 2025 so bile 570 milijard USD.

Celotne kitajske investicije v UI leta 2025 so bile 570 milijard USD.

Enako je pozval Trump, ki je dodal nove državne programe za vzpodbujanje UI. Ameriške raziskave poganja velik del privatnega sektorja in vrhunskih državnih institucij, predvsem univerzitetnih. Trump je pozval še Kitajsko, naj preneha krasti in kopirati ameriške modele UI.

Direktor za znanost in tehnologijo v Beli hiši Michael Kratsios pa je opozoril, da Kitajska uporablja velikanske sisteme za kopiranje naprednih ameriških UI sistemov, kar potrjujejo tudi podatki obveščevalnih agencij. To počne z ekstrakcijo znanja iz vrhunskih UI modelov, ki jih nato država subvencionira za gradnjo cenejših modelov. Ameriška podjetja so izrazila veliko skrb kitajske uporabe metode 'distilacije', s katero Kitajska gradi manjše učinkovite modele. Zato so ZDA ravno krajo in distilacijo modelov UI uvrstile med glavne prioritete obveščevalnih agencij.

Večstrankarska skupina v Kongresu je zato sprejela uredbo Multilateral Alignement of Technology Controls on Hardware (MATCH) za omejitev kitajske kraje tehnologije.

Trump je pozval še Kitajsko, naj preneha krasti in kopirati ameriške modele UI.

Kitajska ima svoje pomočnike tudi v Ameriškem kongresu

Ameriški senator Bernie Sanders je medtem doživel plaz kritik, saj je imel pogovore s Šue Lanom, profesorjem na Cinghua univerzi in šefom komiteja za UI nove generacije na kitajskem ministrstvu za tehnologijo. Poleg je bil še Zeng Ji iz Pekinškega instituta za varnost UI. Sanders se je pogovarjal o pravilih za omejitev uporabe UI in varnosti, vendar so njegova skupna stališča z odposlancema Kitajske komunistične partije (KKP) bolj v interesu Kitajske kot ZDA. Kongresniki iz Republikanske in Demokratske stranke so Sandersa opozorili, da Kitajska omejuje ameriška podjetja na Kitajskem, kot na primer vladna prepoved, da bi Meta kupila kitajskega ponudnika Manus AI. Meta je že podpisala pogodbo in se dogovorila za ceno, vendar je vlada v Pekingu čez noč izdala prepoved prodaje.

Medtem je Sanders naredil še večjo neumnost, ko je skupaj s kongresnico Alexandrio Ocasio-Cortez predlagal Artificial Intelligence Data Center Moratorium Act, ki zahteva zvezno prepoved na izgradnjo in posodabljanje novih podatkovnih centrov UI dokler Kongres ne sprejme novega varnostnega okvira za delovanje UI. Sanders namreč pravi, da je UI grožnja zaposlitvam, zasebnosti, demokraciji in okolju. Tako Republikanci kot Demokrati so zakon označili za norost, ki bi dala Kitajski prednost v razvoju UI in ji praktično podarila zmago na tem področju.

Za varnost modelov UI je bolj smiselno, da se zakonodaja pripravi na mednarodni ravni in jo potem upoštevajo vsi, tako ameriška, evropska, kitajska, japonska, avstralska in mnoge druge vlade pa že delajo na mednarodnem okviru vzpostavitve varnosti pred samodejnimi modeli in grožnjami UI. Toda Kitajska za razliko od drugih držav že uporablja razvite modele UI za nadzor civilnega prebivalstva.

UI je grožnja zaposlitvam, zasebnosti, demokraciji in okolju, pravi Sanders.

Izgradnja varnostnih modelov

Zahodni svet se ukvarja z ravnovesjem med varnostjo in razvojem UI. Državni sistemi, v katerih je kršenje pravic, ki so v zahodnih državah del ustavnih sistemov, ne potrebujejo posebnih dovoljenj, ki se tičejo zasebnosti, nadzora, omejitev gibanja, svobode govora itd. Kitajska ali Rusija lahko brez težav implementirata modele, ki kršijo vse omenjene pravice brez posledic za njihove vlade, medtem ko je na zahodu drugače in morajo modeli biti del ustavnih mehanizmov, ki ščitijo ravno te pravice.

Toda kitajski modeli že kršijo ravno te pravice in so za kitajsko KKP izjemen vir informacij in nadzora. Torej se poraja vprašanje, kako na mednarodni ravni vzpostaviti nadzorni mehanizem, ki bi poskrbel za vsaj osnovno spoštovanje pravic.

Zahodni svet se ukvarja z ravnovesjem med varnostjo in razvojem UI.

Morda se to sliši nepomembno, ampak UI bo osnovni del digitalnih sistemov, ki jih uporabljajo avtomobili in celo hladilniki, kar pomeni, da gre lahko nadzor celo v spalnico vsakega prebivalca. Ne gre se čuditi, če je več držav že prepovedalo dostop kitajskim avtomobilom in izdelkom, ki uporabljajo digitalne sisteme UI, v vojaške instalacije, državne agencije, energetsko infrastrukturo. To je storilo že več držav, od Izraela, Švedske, Norveške, Japonske, Avstralije, ZDA itd. Tako je recimo German Marshall Fund pripravil osnutek in predlog okvirja za zaščito in mednarodno zakonodajo na področju varnosti modelov UI v sodelovanju z ZDA, evropskimi državami in Japonsko (Japan Trilateral Forum).

Morda se to sliši nepomembno, ampak UI bo osnovni del digitalnih sistemov, ki jih uporabljajo avtomobili in celo hladilniki, kar pomeni, da gre lahko nadzor celo v spalnico vsakega prebivalca.

Nova kitajska pravila za investicijska podjetja – zaporne in denarne kazni

Kitajska je sprejela nova pravila za podjetja, ki imajo investicije na Kitajskem. Nova pravila, ki jih je sprejel Ekonomski svet KKP, nalaga visoke kazni podjetjem, ki bi želela zapustiti Kitajsko. Vsa podjetja, ki bi želela zmanjšati investicije, prodala podjetja in deleže ter umaknila tehnologijo iz države, bodo obravnavana v sklopu nacionalne varnosti. Že leta 2023 je Kitajska sprejela kaznovalno politiko za podjetja, ki bi se želela umakniti, vendar je zakonodaja takrat podjetja kaznovala denarno, preprečila dostop do sredstev in tehnologije oziroma omejila prenakazila v tujino.

Podjetja v takšnih primerih so del sodnih preiskav vključno z vodstvenimi delavci. Toda pod novo zakonodajo vodilni kader niti ne bo vedel, da je na avtomatični listi za preiskavo, še preden do nje pride. Kitajska bo torej lahko vodilne delavce brez vednosti obravnavala v kazenskem postopku in jim preprečila odhod iz države, še preden se bo podjetje formalno odločilo za odhod iz države. To je državni mehanizem za izsiljevanje podjetij.

Kitajska se namreč boji v luči višanja stroškov tako delovne sile kot energije, da bo vedno več podjetij razmišljalo o odhodu. Enako velja za dvome o javnih financah, v katerih Kitajska kaže eno sliko, medtem ko so dejanski podatki drugačni, kot na primer državni dolg in proračunski primanjkljaj, kjer država zakoplje podatke v mrežo državnih podtalnih finančnih institucij, zunanje trgovine in lokalnih vlad. Tuja podjetja ta situacija vedno bolj skrbi.

Pomembnost regulative UI

Zato je pomembno mednarodno strinjanje regulacije UI, kjer bi mednarodna politika našla dovolj poguma za preprečevanje nepredvidenih posledic samostojnih modelov UI. Ne le državnih, v katerih so lahko mednarodni pritiski dovolj močni za preprečevanje samostojnih akcij, ampak tudi nedržavnih akterjev. Predstavljajmo si namreč, da Islamska država dobi dovolj učinkovite samostojne modele UI, ki bi jih uporabljali kot orožje proti ostalim državam. To namreč ni le zahodni problem, ampak svetovni, kajti Islamska država ni politično profilirana na osi zahod-vzhod.

Glede na to, da smo na začetku dobe UI, pa je vsekakor smiselno razmišljati ne le o varnosti, ampak tudi zaščiti naših ustavnih pravic, kot je pravica do zasebnosti ali svobode govora. Verjetno si svet ne želi podivjane in samostojne UI s posledicami Hirošime.

Glede na to, da smo na začetku dobe UI pa je vsekakor smiselno razmišljati ne le o varnosti, ampak tudi zaščiti naših ustavnih pravic, kot je pravica do zasebnosti ali svobode govora.