Izvršni direktor OpenAI-a Sam Altman otkrio je da pristojnost prema ChatGPT-u, poput izraza “molim” i “hvala”, firmu košta milione dolara u operativnim troškovima.
Altman je odgovorio korisniku na X-u koji je pitao koliko je firma potrošila na struju zbog ljudi koji su ljubazni prema njihovim modelima. “Desetke miliona dolara dobro potrošenih — nikad ne znaš”, odgovorio je Altman.
Izgleda da je netko gledao što je operativni sustav HAL učinio u filmu 2001: Odiseja u svemiru pa odlučio biti pristojan prema svom AI pomoćniku (za svaki slučaj, lol). Stručnjaci su takođe otkrili da će chatbot vjerojatnije uzvratiti ljubaznošću ako mu se korisnik tako obrati.
Sudeći po Altmanovu šaljivom tonu, cifra od “desetke miliona dolara” vjerojatno nije precizna. Ipak, svaka poruka ChatGPT-u, bez obzira koliko trivijalna ili besmislena bila, zahtijeva od AI modela da generira puni odgovor u stvarnom vremenu, što se oslanja na moćne računalne sustave i povećava ukupno računalno opterećenje, a to, pak, znači i masovnu potrošnju električne energije.
AI kao energetski žderač budućnosti
AI modeli uvelike se oslanjaju na energiju pohranjenu u globalnim podatkovnim centrima, koji već sada troše oko 2 posto ukupne svjetske električne energije. Prema podacima Goldman Sachsa, svaki upit GPT-4 modelu troši oko deset puta više električne energije nego standardna Google pretraga.
Osim toga, ljubazni odgovori također povećavaju i OpenAI-jev račun za vodu. AI koristi vodu za hlađenje servera koji generiraju podatke. Studija Sveučilišta Kalifornija u Riversideu otkrila je da stvaranje 100 riječi pomoću GPT-4 modela troši količinu vode ekvivalentnu trima bocama, dok i najkraći odgovor, poput “Nema na čemu”, troši oko 1.5 unce vode (oko 44 ml), piše Index.