Iza nedavnih lažnih fotografija Trumpa i pape stoji Midjourney, firma koja postoji tek godinu dana, a svojim korisnicima omogućava kreiranje lažnih fotografija uz pomoć umjetne inteligencije.
U proteklom periodu došlo je do spektakularnog razvoja umjetne inteligencije. Istovremeno, raste zabrinutost zbog nepostojanja nadzora u upotrebi ove tehnologije.
Generator slika Midjourney veoma brzo je postao jedan od najatraktivnijih alata na internetu, stvarajući realistične lažne slike hapšenja bivšeg američkog predsjednika Donalda Trumpa i pape Franje u elegantnoj jakni.
Ova kompanija iz San Francisca sa samo malim timom savjetnika i inženjera sama određuje pravila. Omogućuje, na primjer, korisnicima da generišu slike američkog predsjednika Bidena, Vladimira Putina i drugih svjetskih vođa – ali ne i kineskog predsjednika Xi Jinpinga.
“Samo želimo smanjiti dramu”, rekao je osnivač i glavni izvršni direktor kompanije, David Holz, prošle godine u objavi na chat servisu Discord. “Politička satira u Kini je prilično neprihvatljiva”, dodao je, a “mogućnost da ljudi u Kini koriste ovu tehnologiju je važnija od vaše sposobnosti da generišete satiru.”
Nedosljednost pokazuje kako ovaj lider u AI umjetnosti i sintetičkim medijima postavlja pravila za svoj proizvod u hodu. Bez jedinstvenih standarda, pojedinačne firme same odlučuju šta je dopušteno, a šta ne.
Midjourneyev pristup podsjeća na rana pravila velikih društvenih mreža, koje su zbog labavog nadzora postale ranjive na strano uplitanje, viralne dezinformacije i govor mržnje. Sada je rizik još veći obzirom na to da se alati umjetne inteligencije mogu koristiti za stvaranje izmišljenih scena u kojima učestvuju stvarni ljudi.
Mogućnosti zloupotrebe su zastrašujuće
“Već neko vrijeme umjetna inteligencija tinja, a sada je došlo do šumskog požara,” rekla je Katerina Cizek iz MIT Open Documentary Laba.
Midjourney je pravi primjer kako je razvoj umjetne inteligencije daleko brži od razvoja pravila za njeno korištenje. U godinu dana ova firma je stekla više od 13 miliona korisnika i, zahvaljujući svojim mjesečnim naknadama za pretplatu, učinila Midjourney jednom od najpopularnijih novih kompanija u tehnološkoj industriji.
Firma ima jednog izvršnog direktora, Holza, i četiri savjetnika; istraživački i inženjerski tim od osam ljudi; te dvočlani pravni i finansijski tim. Kažu da imaju oko tridesetak “moderatora i vodiča”.
Mnoge od Midjourneyjevih lažnih slika može izraditi vješti umjetnik koristeći softver za uređivanje slika kao što je Adobe Photoshop. Ali alati ove kompanije za vještački generisane slike omogućavaju bilo kome da ih trenutno stvori jednostavnim davanjem opisa slike.
Midjourney je jedna od nekoliko firmi koje su uspostavile ranu dominaciju u području umjetne inteligencije. Među ostalima su Stable Diffusion i DALL-E, koji je razvio OpenAI , tvorac AI jezičnog modela ChatGPT. Svi su javno objavljeni prošle godine.
Ali svaka od ovih firmi ima potpuno različite smjernice o tome što je prihvatljivo. Pravila OpenAI-ja upućuju DALL-E korisnike da se drže sadržaja s ocjenom “G” i blokiraju stvaranje slika koje uključuju političare kao i “velike zavjere ili događaje povezane s velikim tekućim geopolitičkim događajima.”
Stable Diffusion, koji je pokrenut s nekoliko ograničenja na seksualne ili nasilne slike, nametnuo je neka pravila, ali dopušta ljudima da preuzmu njegov softver otvorenog koda i koriste ga bez ograničenja. Emad Mostaque, izvršni direktor Stability AI-a, start-upa koji stoji iza Stable Diffusion, rekao je za Verge prošle godine da je “u konačnici, odgovornost ljudi za to jesu li etični, moralni i zakoniti”.
Smjernice Midjourneyja su negdje u sredini, precizirajući da korisnici moraju imati najmanje 13 godina i navodeći da firma “nastoji svoje usluge učiniti PG-13 i prilagođenima porodicama” dok upozorava: “Ovo je nova tehnologija i ne funkcioniše uvijek kako očekujemo.”
Smjernice zabranjuju sadržaj za odrasle i krvoproliće, kao i instrukcije koje su “bez poštovanja, agresivne ili na drugi način uvredljive”. Eliot Higgins, osnivač istraživačke kuće otvorenog koda Bellingcat, rekao je da je prošle sedmice izbačen s platforme bez objašnjenja nakon što je serija fotografija koje je napravio na Midjourneyju, izmišljajući Trumpovo hapšenje u New Yorku, postala viralna na društvenim mrežama.
Ova lažna slika generisana umjetnom inteligencijom koja prikazuje hapšenje bivšeg američkog predsjednika Donalda Trumpa stvorena je prošlog mjeseca pomoću Midjourney. Postala je viralna i u nekoliko dana imala je milione pregleda.
Ubrzo je ova firma prekinula besplatni probni period zbog “velike potražnje i zlouporabe probnog perioda”, napisao je Holz na Discordu, sugerišući da korisnici koji ne plaćaju pogrešno koriste tehnologiju i rekavši da se njene “nove mjere zaštite od zloupotrebe… ne čine dovoljnima.” Mjesečne naknade za pretplatu kreću se od 10 do 60 USD.
Firma, rekao je, radi na usavršavanju alata za moderisanje umjetne inteligencije koji bi pregledali generisane slike za nedolično ponašanje.
Takođe je rekao da su se Midjourney i drugi generatori slika suočili s izazovom nadzora nad sadržajem u “ekonomiji senzacionalizma” u kojoj bi ljudi koji zarađuju za život raspirujući bijes pokušali zloupotrijebiti tehnologiju.
Pitanje autorskih prava
Firma je jedna od tuženih u zajedničkoj tužbi koju su u januaru podnijela tri umjetnika koji su optužili Midjourney i dvije druge kompanije za kršenje zakona o autorskim pravima korištenjem “milijardi slika zaštićenih autorskim pravima bez dopuštenja” za obuku svojih tehnologija.
Umjetnici “nastoje zaustaviti ovo očigledno i ogromno kršenje njihovih prava prije nego što njihove profesije budu eliminisane kompjuterskim programom koji je u potpunosti pokrenut njihovim napornim radom”, stoji u njihovoj tužbi podnesenoj Okružnom sudu SAD-a za Sjeverni okrug Kalifornije.
U utrci za stvaranjem AI generatora slika, Midjourney je prošlog ljeta rano stekao vodstvo nad svojim konkurentima stvarajući više umjetničkih, nadrealnih slika.
Visoka estetska kvaliteta slika takođe se, barem Holzu, činila kao zaštita od zloupotrebe alata za stvaranje fotorealističnih slika.
“Trenutno ga ne možete prisiliti da napravi deepfake”, rekao je Holz u intervjuu za Verge.
Midjourney je trenutno veoma popularna igračka na društvenim mrežama. Ljudi koji žele napraviti lažnu sliku treba samo da odu na chat uslugu Discord i opišu šta žele da umjetna inteligencija stvori. U roku od nekoliko sekundi, alat proizvodi sliku koju možete preuzeti, modifikovati i dijeliti po svom nahođenju.
Izmišljena istorija
Shane Kittelson, web dizajner i istraživač u Boca Ratonu, Florida, rekao je da provodi nekoliko sati svake noći nakon što djeca odu spavati koristeći Midjourney kako bi stvorio ono što naziva “malo izmijenjenom istorijom” stvarnih ljudi u imaginarnim scenama.
Kittelson je rekao da uvijek označava svoje slike kao generisane umjetnom inteligencijom, iako ne može kontrolisati što ljudi rade s njima nakon što su online. I brine se da svijet možda nije spreman za to koliko su slike postale realistične, posebno s obzirom na nedostatak alata za otkrivanje lažnih slika ili vladinih propisa koji ograničavaju njihovu upotrebu.
Realističnan prikaz izmišljenih događaja zabrinuo je mnoge, a jedan komentator je napisao : “Ljudi 2100. godine neće znati koji su dijelovi istorije bili stvarni.”
Prošle jeseni, Holz je rekao da je njegova firma “blokirala hrpu riječi povezanih s aktuelnim temama u različitim zemljama” zbog pritužbi korisnika.
Korisnici su prijavili da su riječi “Afganistan”, “Afganistan” i “Afgani” zabranjene.
Čini se da postoje i nova ograničenja za prikazivanje hapšenja nakon što je imaginarno hapšenje Trumpa postalo viralno.
Holz je u svojim komentarima na Discord rekao da zabranjene riječi nisu sve povezane s Kinom. Ipak, priznao je da je ta zemlja posebno delikatan slučaj, jer bi, rekao je, tamošnja politička satira mogla ugroziti kineske korisnike.
Etablirane tehnološke tvrtke suočene su s kritikama zbog kompromisa koje čine kako bi poslovale u Kini. Na Discordu, Holz je pokušao razjasniti motive koji stoje iza njegove odluke, napisavši: “Nismo motivisani novcem i u ovom slučaju je veće dobro očito da ljudi u Kini imaju pristup ovoj tehnologiji.”
Midjourney naglašava svoje pravo da proizvoljno provodi svoja pravila.
“Mi nismo demokratija”, stoji u među smjernicama objavljenim na web stranici tvrtke. “Ponašajte se s poštovanjem ili ćete izgubiti svoja prava na korištenje usluge.”