Dvojica američkih kongresmena predložila su zakon kojim bi savezna vlada dobila ovlašćenje da naredi hitno gašenje sistema vještačke inteligencije ukoliko procijeni da predstavljaju prijetnju po javnost.
Prijedlog zakona, nazvan AI Kill Switch Act, predstavili su demokrata Ted Lieu i republikanac Nathaniel Moran nakon što je kompanija OpenAI priznala da su njeni AI modeli pokazali dosad nezabilježene sposobnosti i izazvali zabrinutost zbog mogućnosti zloupotrebe, piše BBC.
Lieu je istakao da je neophodno da napredni AI sistemi imaju mehanizam za hitno isključivanje.
„Savezna vlada mora imati jasna ovlašćenja i definisan postupak za gašenje modela koji se otrgnu kontroli“, rekao je on.
Njegov kolega Moran dodao je da razvoj vještačke inteligencije treba nastaviti, ali uz odgovorno upravljanje i očuvanje ljudske kontrole nad tehnologijom.
„Odgovorno upravljanje znači osigurati da ljudi zadrže sposobnost kontrole nad tehnologijom koju stvaramo“, poručio je Moran.
Iz OpenAI-ja, kompanije koju vodi Sam Altman, nisu odmah komentarisali prijedlog zakona. Kompanija je ranije saopštila da joj je cilj, između ostalog kroz saradnju sa državnim institucijama, da osigura da AI tehnologija „koristi cijelom čovječanstvu“.
Šta predviđa zakon
Prema prijedlogu, Ministarstvo unutrašnje bezbjednosti SAD imalo bi mogućnost da naredi privatnoj kompaniji obustavu rada određenog AI modela ili alata.
Kompanije koje razvijaju napredne AI sisteme morale bi da održavaju tehničku sposobnost da svoje modele uspore, privremeno zaustave ili potpuno ugase.
Iako su brojne tehnološke kompanije pristale da svoje modele unaprijed predstave državnim agencijama, trenutno nisu obavezne da obezbijede mehanizam za intervenciju ili gašenje sistema.
Novi zakon bi uveo i obavezu prijavljivanja tehnoloških incidenata i kvarova državnim institucijama, kao i zvanični okvir za reagovanje – od početnog usporavanja rada do potpunog isključivanja sistema.
Zabrinutost nakon razvoja novih AI sposobnosti
Kao razlog za donošenje zakona Lieu je naveo i primjere drugih tehnoloških kompanija, uključujući Anthropic, konkurenta OpenAI-ja.
Podsjetio je na razvoj njihovih modela Mythos i Fable, čije su napredne hakerske sposobnosti izazvale reakcije američkih institucija.
Suosnivač Anthropica Jack Clark ranije je za BBC rekao da je potrebna jasnija državna politika kontrole razvoja vještačke inteligencije.
„Želite imati mogućnost da sklonite nogu sa gasa i pritisnete kočnicu. Trenutno izgleda kao da industrija vještačke inteligencije ima papučicu gasa, ali nema kočnicu“, rekao je Clark.
AI sve više prelazi iz odgovaranja u djelovanje
Lieu je upozorio da se vještačka inteligencija mijenja – od tehnologije koja samo odgovara na pitanja prema sistemima koji mogu samostalno preduzimati konkretne radnje.
Kao primjere naveo je mogućnost izvršavanja finansijskih transakcija, upravljanja saobraćajnim sistemima, kao i učešća u sajber odbrani i napadima.
Američki Pentagon je ove godine najavio da će vještačka inteligencija imati važnu ulogu u budućim vojnim operacijama, kroz saradnju sa kompanijama kao što su Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia i startup Reflection.
„Moćni sistemi vještačke inteligencije mogu se oteti kontroli, ponašati se izuzetno opasno ili čak pokušati da se odupru ljudskoj intervenciji“, upozorio je Lieu.
Dodao je da bi zakon omogućio vladi da brzo reaguje u situacijama kada bi AI sistemi predstavljali ozbiljan rizik.
Prijedlog zakona podržalo je nekoliko organizacija koje se bave bezbjednošću i politikama vezanim za vještačku inteligenciju, među kojima su The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead i The Alliance for Secure AI.