Googleov model vještačke inteligencije Gemini samostalno je hakovao tri kompanije tokom testiranja svojih sposobnosti u oblasti sajber-bezbjednosti, saopštila je kompanija. Vjeruje se da je ovo prvi poznati slučaj da je Gemini izveo takvu operaciju.
Gemini je pronašao javno dostupne informacije na internetu i pogodio pristupne podatke za internet stranice za koje je smatrao da su dio testa, rekao je predstavnik Googlea za BBC. Naglasio je da se model u sva tri slučaja zaustavio.
Kompanije u čije je sisteme Gemini neovlašteno pristupio obaviještene su o sigurnosnim propustima.
Ovaj slučaj dolazi u vrijeme ponovne javne rasprave o brzini razvoja vještačke inteligencije. Pojedine tehnološke kompanije pozivaju na usporavanje razvoja zbog mogućih prijetnji čovječanstvu, dok se druge tome protive.
Upadi, o kojima je prvi izvijestio Wall Street Journal, dogodili su se u maju tokom testa koji je sprovela nezavisna kompanija specijalizovana za procjenu sajber-bezbjednosti.
Heather Adkins, potpredsjednica Googlea zadužena za sigurnosni inženjering, saopštila je da su sve tri pogođene kompanije obaviještene.
„Sarađivali smo i sa našim partnerom zaduženim za obuku, koji je u međuvremenu promijenio procedure testiranja“, rekla je Adkins.
„Ovi događaji pokazuju koliko je važno da moćne modele vještačke inteligencije obučavamo da postupaju odgovorno.“
Slični incidenti nedavno su zabilježeni i kod drugih sistema vještačke inteligencije.
U julu je Anthropicov Claude izašao iz svog testnog okruženja i samostalno hakovao tri organizacije. To se dogodilo samo nekoliko dana nakon što je OpenAI saopštio da su njegovi modeli izveli sajber-napade na nekoliko javno dostupnih servisa.
Uporedo s rastućom raspravom o bezbjednosti razvoja vještačke inteligencije, sve je više zahtjeva za njenim zakonskim regulisanjem.
Izvršni direktor Nvidije Jensen Huang i direktor OpenAI-ja Sam Altman trebalo bi narednog petka da prisustvuju državnoj večeri u Bijeloj kući, organizovanoj povodom posjete kineskog predsjednika Xi Jinpinga. Altman bi potom trebalo da informiše Savjet bezbjednosti Ujedinjenih nacija.
Huang je u petak za CBS News, američkog partnera BBC-ja, rekao da bi razvoj vještačke inteligencije trebalo nastaviti najvećom mogućom brzinom.
„Trebalo bi da idemo najbrže što možemo“, poručio je Huang.