Vašington i Peking uspostaviće direktan komunikacioni kanal za reagovanje na incidente povezane sa vještačkom inteligencijom. Dogovor su postigli američki predsjednik Donald Tramp i kineski predsjednik Si Đinping, u trenutku kada dvije najveće sile ubrzano razvijaju sve moćnije AI sisteme.
Sjedinjene Američke Države i Kina dogovorile su uspostavljanje posebnog komunikacionog kanala za slučaj incidenata povezanih sa vještačkom inteligencijom, objavila je Bijela kuća.
Dogovor predstavlja jedan od najkonkretnijih pokušaja Vašingtona i Pekinga da smanje rizik od nesporazuma i nekontrolisane eskalacije u oblasti tehnologije koja se razvija izuzetno brzo.
Dvije zemlje istovremeno su uspostavile „Američko-kineski dijalog o superinteligenciji“, čiji je cilj razmjena stavova o potencijalnim koristima, ali i rizicima razvoja napredne vještačke inteligencije.
Direktna linija za slučaj opasnog AI incidenta
Prema dokumentu Bijele kuće, SAD i Kina će formirati bilateralni komunikacioni kanal posvećen incidentima povezanim sa vještačkom inteligencijom.
Ideja je da dvije države mogu direktno komunicirati ukoliko neki AI sistem izazove incident koji bi mogao imati posljedice po nacionalnu bezbjednost ili šire međunarodne odnose.
Ovakav mehanizam dobija dodatni značaj jer su Vašington i Peking istovremeno tehnološki rivali i dvije vodeće sile u razvoju naprednih AI sistema.
U slučaju ozbiljnog incidenta, direktna komunikacija mogla bi smanjiti rizik da jedna strana pogrešno protumači postupke druge.
Tramp govori o „superinteligenciji“
Vještačka inteligencija bila je među važnim temama razgovora američkog predsjednika Donalda Trampa i kineskog predsjednika Si Đinpinga.
Tramp je posljednjih dana za napredne AI sisteme koristio izraz „superinteligencija“, dok je Si naglasio potrebu da razvoj tehnologije ostane pod ljudskom kontrolom.
„Dvije vodeće zemlje imaju odgovornost da razvijaju vještačku inteligenciju i njome upravljaju za opšte dobro, kao i da osiguraju da njen razvoj u svakom trenutku ostane pod ljudskom kontrolom“, rekao je Si.
Tramp je istovremeno poručio da želi da regulacija AI ostane „tačno na sadašnjem nivou“.
Zašto su SAD i Kina zabrinute?
Razvoj sve moćnijih AI modela posljednjih godina otvorio je pitanje kako spriječiti da autonomni sistemi donesu odluke koje ljudi ne mogu dovoljno brzo kontrolisati ili predvidjeti.
Posebno osjetljivo područje predstavlja njihova potencijalna primjena u nacionalnoj bezbjednosti, sajber-prostoru, vojnim sistemima i kritičnoj infrastrukturi.
Zbog toga se sve više govori o potrebi za mehanizmima komunikacije između država koje razvijaju najnaprednije AI tehnologije.
SAD i Kina su u tom području istovremeno partneri u pojedinim pitanjima i strateški konkurenti.
Besent: „Želimo veću transparentnost“
Američki ministar finansija Skot Besent ranije je predložio uspostavljanje mehanizma za međusobno obavještavanje u slučaju AI incidenata.
„Smatramo veoma važnim prelazak iz netransparentnosti u veću transparentnost između vodeće svjetske sile i one koja je druga najveća na svijetu kada je riječ o vještačkoj inteligenciji“, rekao je Besent.
Upravo bi novi komunikacioni kanal trebalo da omogući da se eventualni ozbiljni incidenti ne rješavaju tek nakon što izazovu međunarodnu krizu.