Rasprava o sigurnosti umjetne inteligencije počinje sličiti kontaktnom sportu; čeka se samo da netko obilježi arenu. Vodeći mediji nalaze se u epicentru: dokumentiraju neugodnu realnost trenutka i predviđaju moguće praktične posljedice. U njima najznačajniji akteri u AI-ju raspravljaju o sigurnosti i potrebi za usporavanjem razvoja, a istodobno se ti isti akteri utrkuju tko će izgraditi veće i naprednije modele. Brojni drugi mediji postavili su pitanje na razini cijele civilizacije: može li AI doista zbrisati čovječanstvo u sljedećih deset godina? To je kontekst. A sada neugodna istina: odgovor na sva pitanja koja se nameću u globalnoj priči vjerojatno je negdje između. Stoga ću i razraditi ovu temu dublje – kao čovjek, roditelj, profesor i profesionalac, i sam sam zabrinut.
Pogledajmo prije svega neke argumente za usporavanje razvoja umjetne inteligencije i protiv njega: vidim i jedne i druge i pokušat ću ih objektivno analizirati.
Sigurnost se nameće kao središnje pitanje debate o mogućem usporavanju razvoja koja ovih dana okupira cijeli svijet i izaziva reakcije. I ja ću se, kao i neke kolege prije mene, nasloniti na paralelu s automobilskom industrijom: zamislite da prodajete automobil, a nemate pojma kakve su performanse motora niti kako kočnica radi nakon što kupci izađu na autocestu. Upravo je to trenutačno stanje s umjetnom inteligencijom. Tehnološke tvrtke puštaju u rad brojne „black box” sustave čije unutarnje funkcioniranje ne razumiju u potpunosti. Neki sustavi pokazuju sposobnosti koje nikada nisu bile programirane niti su od njih očekivane. To je impresivno, ali to ujedno demonstrira da je sigurnost ugrožena; ne čini se mudrim provoditi testove sigurnosti na živim sustavima. Još gore: ako ne možemo predvidjeti ponašanje modela, kako možemo biti sigurni da model neće nauditi čovječanstvu? A upravo je načelo „ne naškoditi” (Do no harm) prvi i vodeći etički princip razvoja umjetne inteligencije.
Primjetno je i da se institucije prilagođavaju sporo i zaostaju. Tržišta rada, pravni sustavi, obrazovanje, socijalne službe: svi se unaprjeđuju ograničenom brzinom i ne mogu pratiti tempo razvoja umjetne inteligencije. To se i vidi: malobrojne su institucije koje su integrirale AI dalje od razine jednostavnih korisničkih usluga. A kada tehnologija postane brža i učinkovitija od upravljanja, brojni su procesi ugroženi. Dezinformacije koje generira AI, deepfake videozapisi i hiperpersonalizirana propaganda mogu potpuno zamagliti liniju između stvarnosti i fikcije. Izborni bi proces mogao postati nekontroliran, a automatizacija uredskih poslova mogla bi ostaviti snažniji i brži trag nego bilo koja prijašnja industrijska tranzicija. Kibernetički napadi i globalna nesigurnost drugi su kritični aspekti o kojima ne treba ni trošiti riječi. Dakle, umjereno usporavanje omogućilo bi institucijama da uhvate korak te reguliraju razvoj i uporabu AI-ja; drugo je pitanje imaju li one u svom sadašnjem obliku kapacitet da to učine. Nekad mi djeluje da bi moj dvadesetogodišnji sin bio učinkovitiji reformator uprave nego oni koji taj proces provode u praksi.
Nadalje, tu je i takozvani „tail risk”. Znanstvenici i stručnjaci ne nude jednoglasno „da, AI će istrijebiti čovječanstvo”. Istodobno, ne nude ni umirujuće „ne, čovječanstvo će ostati kakvo jest”. Niti ja, kao znanstvenik i profesionalni konzultant, mogu dati jasan sud o ovome. Međutim, kada vjerojatnost katastrofalnog scenarija postoji i dovoljno je velika da je ne možemo ignorirati, guranje rizika pod tepih nije racionalan odgovor. Dakle, eksperiment na razini civilizacije zahtijeva globalni dogovor – kojega za sada, s djelomičnom iznimkom UNESCO-ovih načela, uglavnom nema.
Ne treba smetnuti s uma da ovakva brzina razvoja dovodi do koncentracije moći. Vrtoglavo brza utrka stavlja nekoliko već etabliranih igrača s kontaktima, kapitalom i podacima u povlašten položaj: oni nisu samo tržišni lideri nego i lideri mišljenja i regulacije. Usporavanje pruža regulatorima, manjim tvrtkama, inovatorima i civilnom društvu priliku da oblikuju pravila i granične uvjete prije nego što ih napiše nekoliko najvećih kompanija.
Bez obzira na sve ove argumente, usporavanje razvoja umjetne inteligencije nije nužno dobra ideja. Ima svoje troškove i one koji su za to zainteresirani (upravo takvi će se vjerojatno prikazivati kao altruisti). Prije svega, postoji oportunitetni trošak: AI je daleko više od vidljivih chatbota, korisničkih usluga i generativnih AI alata. Koristi se za otkrivanje lijekova, klimatsko modeliranje, energetske sustave, obrazovanje i pristupačnost. Sveobuhvatno usporavanje moglo bi odgoditi ostvarenje nekih stvarnih koristi. Neki bi ljudi mogli umrijeti čekajući medicinski napredak. Neka bi gospodarstva mogla stagnirati. Dakle, moralna jednadžba nije samo o tome što bi AI mogao uzeti, nego i o tome što bi mogao dati ako se razvija ispravno i etički. Moja će ga djeca svakako koristiti i mogu imati mnogo više koristi od razvoja umjetne inteligencije nego ja.
Druga stvar: ne postoji globalno postavljeno „ograničenje brzine razvoja umjetne inteligencije” kojega će se pridržavati svi. Upravo suprotno: razvoj umjetne inteligencije bojno je polje međunarodnog natjecanja i kreiranja utjecaja. Ako SAD ili Europa odluče usporiti, tko jamči da će Kina ili drugi državno podržani programi učiniti isto? Usporavanje u jednoj regiji može postati strateški dar drugoj: otuda je Trumpovo odbacivanje ideje o usporavanju logično.
Pozivi na usporavanje mogu biti motivirani i namamljivanjem manjih igrača u regulatorne zamke. Kad direktor velike tehnološke kompanije traži uvođenje ograničenja brzine, vjerojatno je već napravio automobil, posjeduje vlastitu cestu i može platiti i cestarine i kazne za prebrzu vožnju. Najglasniji korporativni direktori koji traže stanku mogli bi biti upravo oni čije kompanije već imaju svoje modele, svoje odvjetnike, lobiste i proračune za usklađivanje s propisima. Složena regulacija pooštrila bi uvjete i podigla ljestvicu za ulazak novih igrača na tržište, što vjerojatno odgovara vukovima u janjećoj koži koji se vode profitom kao isključivim motivatorom svih procesa.
Još nešto: usporavanje nije jamstvo da će čovječanstvo biti sigurnije. Neki istraživači tvrde da bi bolji AI sustavi, osobito u pogledu objašnjivosti i nadzora, mogli proizaći samo iz daljnjeg razvoja, a ne iz zamrzavanja postojećeg stanja. Rizik je očit: usporavanje bi moglo odvesti naše razumijevanje i razvoj etike umjetne inteligencije u stagnaciju, dok se za to vrijeme temeljni hardver i duboko znanje, koji sada nisu transparentni i nisu vidljivi svima, i dalje šire.
Putevi novca i moći najčešće daju odgovor na pitanje tko zapravo ima koristi od nečega. Tako je i s idejom usporavanja razvoja umjetne inteligencije. Radnici u izloženim sektorima na koje će AI vjerojatno snažno utjecati, poput pisaca, programera, umjetnika, analitičara i stručnjaka za korisničku podršku, imali bi koristi od više vremena za prilagodbu, odustajanje od starih navika (odučavanje), ponovno učenje i prekvalifikaciju. Isto vrijedi i za organizacije civilnog društva, novinarstvo i povjerenje javnosti. Regulatori i političari imaju koristi jer im usporavanje kupuje vrijeme za zapošljavanje stručnjaka i pisanje pravila. To je očito. Međutim, ti najbrojniji trenutačno ne diktiraju pravila igre. Evo manje očitog dijela: etablirani AI laboratoriji i vodeće tehnološke tvrtke mogu imati izravne koristi od usporavanja. Ono bi moglo učvrstiti njihovu vodeću poziciju: kao što je već rečeno, imaju novac za usklađivanje, moć za oblikovanje pravila i modele koje mogu i dalje prodavati. Manji suparnici, open-source developeri i akademski laboratoriji vjerojatno će se mučiti da nađu svoj tržišni put. Zato, kada osobe poput Altmana ili Muska izražavaju zabrinutost, nemojte pretpostaviti da je riječ o čistom altruizmu. U ovoj igri narativ o sigurnosti može biti i moćno oružje za eliminaciju konkurenata.
I obični građani imali bi koristi od sporijeg, promišljenijeg uvođenja u određenim područjima. Ali također bismo usporavanjem riskirali gubitak nekih prednosti za njih. Stoga pravo pitanje nije „sporo ili brzo”, kako se prikazuje u globalnom narativu, nego „gdje, kako i za koga”, kako to formuliraju istraživači i entuzijasti AI etike.
Ukratko: rasprava „usporiti ili ubrzati?” čini se previše binarnom. Jedna moguća logična pozicija jest uvođenje diferencijalnih ograničenja brzine: brzo za ograničena, transparentna područja primjene s velikom društvenom koristi; sporo za najnaprednije autonomne sustave koji potencijalno mogu prouzročiti štetu velikih razmjera. Ali ovakav sustav podrazumijeva uvođenje neovisnih revizora, odgovornosti i etičkih pravila, javnih standarda evaluacije i međunarodne koordinacije. To je daleko više od medijski dopadljivih obećanja direktora velikih tvrtki, koji, iza zastora društveno poželjnog narativa, troše milijarde za ubrzavanje razvoja AI modela.
Dakle, što ja mislim – treba li razvoj umjetne inteligencije usporiti? Dijelom da, osobito black boxes i modele koje ne razumijemo u potpunosti i koji nisu u skladu s globalnim etičkim smjernicama za umjetnu inteligenciju. No sporiji ili manje sposoban AI nije rješenje za problem koji se javlja. Čovječanstvu trebaju brže institucije, jasna odgovornost i javnost koja korporativnu PR borbu prestaje brkati sa stvarnom brigom za budućnost čovječanstva.
Da zaključim opet kroz automobilsku industriju: upravo sada automobil juri, putnici raspravljaju, a neki od onih koji žele pritisnuti kočnicu istodobno proizvode i prodaju papučice gasa. Kako je veliki Dado Topić otpjevao u pjesmi iz nekad davno kultne serije „Bolji život”: nešto ipak tu ne štima. AI nije loto.