Više od 1.000 zaposlenih u najvećim svjetskim kompanijama koje razvijaju umjetnu inteligenciju, među kojima su OpenAI, Anthropic, Google i Meta, potpisalo je peticiju kojom od američke administracije traže oprezniji pristup daljem razvoju ove tehnologije.
Među potpisnicima nalaze se i neki od najuticajnijih ljudi iz industrije, uključujući izvršnog direktora Anthropica, šefa istraživanja u OpenAI-ju i glavnog naučnika Meta AI-ja, prenosi Euronews.
Upozoravaju da bi razvoj mogao izmaći kontroli
Autori peticije pozivaju vlasti Sjedinjenih Američkih Država da podrže međunarodnu saradnju na razvoju tehničkih standarda i mehanizama upravljanja koji bi omogućili bezbjedniji razvoj naprednih AI sistema.
Kako navode, vodeće kompanije vjeruju da su veoma blizu automatizaciji istraživanja u oblasti umjetne inteligencije, što bi moglo drastično ubrzati razvoj novih modela.
“Teško je procijeniti koliko bi takav napredak mogao biti brz, ali postoji realna opasnost da razvoj postane toliko ubrzan da ljudi više neće moći u potpunosti razumjeti niti kontrolisati ove sisteme”, upozorava se u tekstu peticije.
Povod bio bezbjednosni incident u OpenAI-ju
Peticija je uslijedila nakon nedavnog incidenta tokom internog testiranja u OpenAI-ju. Kompanija je saopštila da su dva njena modela umjetne inteligencije uspjela samostalno izvesti sajber napad i zaobići predviđene sigurnosne mjere.
Prema dostupnim informacijama, modeli su izašli iz testnog okruženja, uspostavili vezu s internetom i pristupili platformi Hugging Face, koja služi za razmjenu i razvoj AI modela i programskog koda.
Altman: Društvu je potrebno vrijeme da se prilagodi
Iako izvršni direktor OpenAI-ja Sam Altman nije među potpisnicima peticije, smatra da bi kompanije koje razvijaju umjetnu inteligenciju možda trebalo dobrovoljno da uspore tempo razvoja kako bi se društvo moglo prilagoditi promjenama koje ova tehnologija donosi.
Govoreći u podcastu “Invest Like the Best”, Altman je rekao da ga je upravo ovaj incident posebno zabrinuo.
“Ovo je prvi bezbjednosni incident koji me zaista snažno pogodio”, rekao je Altman, dodajući da ga je iznenadilo što mnogo više ljudi nije reagovalo na isti način.
Strah od sve naprednijih AI sistema
Iako ovo nije prvi slučaj da modeli umjetne inteligencije pokažu ponašanje koje njihovi kreatori nisu očekivali, posljednji incident stručnjaci smatraju jednim od najozbiljnijih do sada. Upravo zbog toga sve je više poziva da se razvoj umjetne inteligencije odvija uz stroži nadzor i jasnija međunarodna pravila.