PREPOROD: Interesantnim se čini da se svijest o funkcionisanju i mogućnostima umjetne inteligencije (UI) proširila tek nakon skorašnjeg plasiranja velikih jezičkih modela poput ChatGPT-a, iako smo već dugo godina, u manjoj ili većoj mjeri, okruženi UI. Govori li nam to, možda, o tome koliko su zapravo jezik i komunikacija duboko imanentni našim bićima i ponašanju te smo, shodno tome, u konačnici ponajviše zadivljeni time da mašina može imitirati tako unikatan dar ljudskog jezika?

MOMČILOVIĆ: To je točno – fascinacija koju su velika jezička rješenja poput ChatGPT-a izazvala zapravo razotkriva koliko su jezik i komunikacija duboko ukorijenjeni u našoj spoznaji: čim stroj tečno barata sintaksom, instinktivno mu pripisujemo unutarnji život, jer je govor evolucijski unikatan „prozor u um“i temelj društvene kohezije. Ono što je godinama radila „pozadinska“umjetna inteligencija – preporučivala filmove, filtrirala e-poštu ili prepoznavala lica – bilo je infrastrukturno i nevidljivo, dok je chat-sučelje interaktivno, lično relevantno i trenutno, što pojačava dopaminsko iznenađenje i heuristiku antropomorfizma. U obrazovnom kontekstu ta pristupačnost demokratizira UI: isti tekstualni kanal razumiju osnovnoškolci i doktori znanosti, a model nam služi kao ogledalo vlastitih misaonih i retoričkih obrazaca, otvarajući vrata kritičkoj analizi argumentacije. No, ta „jezička magija“nosi i etičke rizike: iluzija razumijevanja može zavesti korisnika da modelu vjeruje kao neutralnom autoritetu, iako on samo statistički spaja uzorke iz golemih, često pristranih korpusa. Kao UI edukator i psiholog, stoga inzistiram na transparentnom prikazu kako se odgovori generiraju, na razvijanju kritičke digitalne pismenosti te na politikama koje će spriječiti da jezički UI produbi postojeće društvene i jezične nejednakosti, već da postane istinski inkluzivno sredstvo za učenje i suradnju.

Upravo zato što su umjetna inteligencija i velike jezičke mreže tehnološki „proizvod”, a njihov stvarni učinak pogađa ontološka, moralna i duhovna pitanja, tehnološki diskurs ne smije ostati inžinjerski monolog: humanističke, filozofske, religijske i teološke perspektive donose analitičke metode za smisao, vrijednosti i granice koje sama tehnologija ne može proizvesti.

Moralna odgovornost se ne može delegirati

PREPOROD: Diskusije o potencijalnom odnosu robota i umjetne nteligencije su već decenijske, mnogo potaknute i književnom i filmskom umjetnošću, a pri tome se ponajviše govorilo o prijetnji za čovjeka uslijed eventualne autonomije mašina. Šta je, zapravo, realnost, odnosno, zanemaruje li se fenomen ljudske odgovornosti, čiji bi izostanak u razvoju industrije robota i UI, zapravo, stvorio uslove za, da se tako izrazim, zlo čovjeka nad čovjekom?

MOMČILOVIĆ: Ima li robot potencijal da postane “zli autonomni entitet”? – Teorijski da, ali u praksi je danas (i još dugo) daleko veći rizik u tome što ljudi rade s tehnologijom nego u samoj tehnologiji. Filmovi nas uče da se moramo bojati mašina koje „same odluče“, dok se veoma često previđa da su algoritamske odluke zapravo skup ljudskih, dizajnerskih, poslovnih i političkih izbora. Ako kamerama za prepoznavanje lica dodijelimo ovlasti masovnog nadzora ili ako algoritmima za zapošljavanje prepustimo filtriranje kandidata, i dalje ljudi snose odgovornost za pristrane skupove podataka, netransparentne modele i nedemokratske ciljeve. Što se tiče opasnosti od UI, preporučujem svima članke od YN Harrarija, koji je lijepo opisao kako nam se percepcija opasnosti pomaknula od Terminatora, preko Matrixa, pa sve do sustava koji nas kontroliraju kroz fino kreiranje narativa. Posljednjim aspektom se bavim i u jednom svome istraživanju o UI u religiji.

Kao istraživač podsjećam da se moralna odgovornost ne može delegirati: ljudi imaju kapacitet za empatiju, normativno rasuđivanje i korekciju pogrešaka – stroj nema. Ako te ljudske funkcije izostanu u razvoju i primjeni UI-sistema, otvaramo prostor za “zlo čovjeka nad čovjekom”: diskriminatorne modele, automatizirano nasilje ili ekonomske i socijalne nejednakosti koje su algoritamski cementirane. Stoga, u središtu svake strategije za robotiku i UI moraju stajati tri etička stupa: (1) projektna odgovornost – jasne linije nadležnosti od dizajna do implementacije; (2) transparentnost i nadzor – tehnički i pravni mehanizmi koji omogućuju reviziju i žalbu; (3) uključivost – sudjelovanje različitih disciplina i zajednica u definiranju ciljeva i vrednota sustava. Samo ako zadržimo čovjeka – s njegovom odgovornošću, empatijom i kritičkim mišljenjem – “u petlji”, UI i robotika mogu biti oruđe za dobrobit, a ne instrument dehumanizacije. Što se tiče prve – projektne odgovornosti, iz tih razloga sam učestvovao o izradi AI Etičkog kodeksa za International Project Management Association.

UI ne zamjenjuje ljude, nego zadatke

PREPOROD: Dok se raspravlja o tome u kojim segmentima će modeli umjetne inteligencije zamjeniti čovjeka, činjenica je da se oni u značajnoj mjeri implementiraju u različitim segmentima ljudskog djelovanja i poslovanja. O kakvim trendovima je ponajviše riječ te imamo li referencu da naglasimo da će, ipak, čovjek biti prijeko potreban ma koliko se UI implementirala u poslovanju?

MOMČILOVIĆ: Odgovor na to pitanje je težak. Pokušavam dati širu sliku u svojem keynote predavanju koje sam držao na raznim konferencijama – AI and the Future of Work. Ono što možemo reći je da najbrže rastu “kognitivni kopiloti” – sustavi koji automatski pišu e-mail, sažimaju pravne spise, generiraju kod i podižu produktivnost u marketingu, financijama i softverskom inženjeringu. McKinsey procjenjuje da se danas već dvije trećine tvrtki nalazi u fazi aktivne implementacije gen-AI-a, poglavito u administraciji “bijelih ovratnika”, lancima opskrbe i korisničkoj podršci. Logistički roboti, dijagnostički algoritmi u zdravstvu, autonomno inspekcijsko droniranje i prediktivna održavanja u industriji, čine drugu, fizičko-digitalnu frontu automatizacije.

Etički gledano, nužni su “ljudi u petlji” kako bi pratili pristranosti, donosili normativne odluke i odgovarali za posljedice. Organizacije koje investiraju u prekvalifikaciju (prompt-engineering, UI nadzor, dizajn korisničkog iskustva), ne samo da ublažavaju prijetnju otpuštanja nego stvaraju otpornu, hibridnu radnu snagu.

Globalno, oko 300 milijuna radnih mjesta izloženo je djelomičnoj ili potpunoj automatizaciji – ali to ne znači 300 milijuna otkaza. Studija Goldman Sachsa pokazuje da se mnogi poslovi “rastavljaju” na zadatke: rutinski segmenti nestaju, a ljudi prelaze na one dijelove posla koji traže kreativnost, empatiju i donošenje vrijednosnih odluka. Svjetski ekonomski forum potvrđuje smjer: do 2030. očekuje se neto +78 milijuna novih radnih mjesta (UI specijalisti, stručnjaci za zelenu tranziciju, podatkovni kuratori), dok će 92 milijuna postojećih biti disruptirano. Najrizičniji su repetitivni uredski poslovi poput unosa podataka, osnovne knjigovodstvene zadaće, call-centri i jednostavna medijska produkcija; visokorizične manualne grane ostaju u rutinskoj proizvodnji i skladištima bez nadogradnje vještina.

Kritična poruka glasi: UI ne zamjenjuje ljude, nego zadatke. Kroz psihološku leću vidimo da tehnologija oslobađa vrijeme za složeno rješavanje problema, timsku dinamiku i emocionalnu inteligenciju – kompetencije koje trenutačni modeli ne posjeduju. Etički gledano, nužni su “ljudi u petlji” kako bi pratili pristranosti, donosili normativne odluke i odgovarali za posljedice. Organizacije koje investiraju u prekvalifikaciju (prompt-engineering, UI nadzor, dizajn korisničkog iskustva), ne samo da ublažavaju prijetnju otpuštanja nego stvaraju otpornu, hibridnu radnu snagu. Dakle, koliko god se UI ukorjenjivala u procese, čovjek ostaje nezamjenjiv čuvar smisla, vrijednosti i konačne odgovornosti. Iz tih razloga, posljednjih godina se intenzivno bavim upravo edukacijama kompanija i profesionalaca u raznim aspektima UI, a prije tri godine sam napravio tada možda i prvi predmet tog tipa – AI for Managers na Swiss School of Business And Management.

PREPOROD: Kakav etički okvir je potrebno primijeniti u aktuelnoj tranziciji i uključivanju modela umjetne inteligencije u različita poslovanja? Kako se suočiti sa surovošću tržišta rada i promjena koje često ne uobziruju složenost ljudskog bića i života, koji ga čine višim od resursa, bićem žive interakcije s potrebama iznad fizičke i tehničke prirode?

MOMČILOVIĆ: U tranziciji prema “UI-pogonjenom” radu, etički kompas mora slijediti trostruki princip koji već afirmiraju razne institucije i dokumenti, kao što su EU-ov AI Act, OECD i UNESCO: prvo, svaka organizacija mora razvrstati svoje sustave prema razinama rizika i, za visokorizične aplikacije poput zapošljavanja ili kreditnog bodovanja, provesti prethodnu procjenu utjecaja na temeljna prava; drugo, zadržati čovjeka “u petlji” kroz transparentne modele, revizibilne zapise i jasne linije osobne odgovornosti; i treće, osigurati socijalnu pravdu kroz obaveznu prekvalifikaciju, sudjelovanje radnika u dizajnu radnih tokova i metrike uspjeha koje vrednuju dobrobit, a ne samo output. Takav okvir sprječava da tržišna učinkovitost pretvori radnike u puki “resurs”: algoritamske procjene moraju imati crvenu tipku za ljudsku intervenciju, generativni alati zahtijevaju “AI-stewarde” za nadzor pristranosti, a autonomna robotika prolazi simulirane procjene sigurnosti i psihološkog učinka prije uvođenja. Etika je, stoga, sigurnosni ventil koji čuva ljudsko dostojanstvo i potvrđuje da čak i u visoko automatiziranom okruženju čovjek ostaje nezamjenjiv nositelj empatije, normativnog rasuđivanja i konačne odgovornosti. Problem je što su te stvari dobrim dijelom političko pitanje. Posljednjom promjenom američke administracije, izgleda da su se razni pristupi prema etičnosti UI promijenili i relaksirali. Također, mnogi se boje da će takav, neobuzdan razvoj, zapravo, samo povećati postojeće nejednakosti. O tome se govori i u jednom MIT-ov članaku od prije par godina koji upozorava na sve veće razlike zemalja prvog i trećeg svijeta.

Bez financijske, infrastrukturne i znanstvene razmjene s Globalnim jugom, utrka za profitom i moći produbit će digitalni jaz i ojačati monopol nekoliko Big Tech-giganta.

PREPOROD: Ako nismo ranije, posljednjih par godina svjedočimo da je predmet globalne trgovinske utrke postala i UI, naravno, među dobro poznatim svjetskim silama. Sudeći prema starim matricama bespoštedne trke za kapitalom i prestižom, pri čemu su najsiromašniji plaćali cijenu, a uzimajući u obzir nevjerovatnu brzinu promjena, šta očekivati u narednim godinama? Čini li se dovoljno ili šta se mora učiniti da se razvoj UI kontroliše?

MOMČILOVIĆ: U sljedećih pet-šest godina UI će se razvijati pod dvostrukom dinamikom: između gospodarstava “računalnog Sjevera”, koje kontrolira većinu naprednih čipova i istraživanja, i “računalnog Juga”, čije su zemlje – često istovremeno pružatelji rudnih sirovina i klik-radne snage – još uvijek “compute deserts” bez pristupa vrhunskim GPU-ovima. Iako su se velike sile upustile u utrku za tehnološki primat, počinje se oblikovati globalna mreža zaštitnih mehanizama: Bletchley deklaracija i polugodišnji AI Safety summiti obvezuju 25+ država na zajedničko upravljanje “frontier” modelima; G7 Hiroshima Process nudi dobrovoljni, ali prvi zajednički code of conduct za tvrtke koje treniraju generativne modele; UN-ova rezolucija o sigurnoj, odgovornoj UI (ožujak 2024) stvara globalni temelj za zaštitu ljudskih prava i transparentnost; a Vijeće Europe usvojilo je prvi pravno obvezujući UI-ugovor o ljudskim pravima i vladavini prava (svibanj 2024). Ipak, ti su instrumenti tek kostur: bez financijske, infrastrukturne i znanstvene razmjene s Globalnim jugom, utrka za profitom i moći produbit će digitalni jaz i ojačati monopol nekoliko Big Tech-giganta. Rješenja zahtijevaju obvezujuće “računalne kvote” ili fondove za dostupnost GPU-a, uključivanje civilnog društva iz siromašnijih zemalja u standardizacijske procese te korporativne modele dijeljenja dobiti od podataka i lokalnih tržišta. Uz to, psihološki i etički pristup nalaže da se u svaki sustav ugradi ljudski nadzor i mehanizmi za reparaciju štete, jer brzina inovacije ne smije potisnuti dostojanstvo rada, privatnost ni demokratsku kontrolu nad algoritmima. Drugim riječima, tek ako utrku pretvorimo u zajednički projekt distribuirane, inkluzivne regulacije, UI može postati globalno javno dobro, umjesto da ostane najnovije polje eksploatacije onih koji su ionako već platili najveću cijenu. Ne treba zaboraviti da je i velika odgovornost na nama, tj. na svim zemljama koje imaju priliku sudjelovati i biti aktivne na svjetskoj sceni. Naravno, male zemlje poput balkanskih ne mogu, možda, puno napraviti u samome razvoju novih modela, ali svakako mogu napraviti jako puno u implementacijama različitih alata. Već godinama upozoravam i s raznim kolegama pričam o tome kako Hrvatska još uvijek nema nacionalnu UI-strategiju kao osnovni dokument na kojem se mogu graditi druge stvari. Većina EU zemalja (a i mnoge afričke) je imaju već neko vrijeme.

Humanistika nudi ključne uvide

PREPOROD: O temama UI, ipak, ponajviše govore inžinjeri, tehnički kreatori, a glas humanistike je prigušen. Čini se da je to posljedica opće degradacije humanistike nauštrb nauka koje „proizvode novac“, ali i nedovoljne posvećenosti intelektualaca ovom pitanju. Zbog čega je, zapravo, nužno i ključno da se na filozofskom, etičkom ali i religijskom i teološkom nivou diskutuje o ovim temama te da sami kreatori modela UI zahtijevaju uključenost spomenutih nivoa?

MOMČILOVIĆ: Upravo zato što su umjetna inteligencija i velike jezičke mreže tehnološki „proizvod”, a njihov stvarni učinak pogađa ontološka, moralna i duhovna pitanja, tehnološki diskurs ne smije ostati inžinjerski monolog: humanističke, filozofske, religijske i teološke perspektive donose analitičke metode za smisao, vrijednosti i granice koje sama tehnologija ne može proizvesti. Empirijski pregledi UI-rasprava pokazuju da baš humanistika nudi ključne “društvene insajte i etičke okvire” bez kojih kreatori riskiraju društvene štete i gubitak javnog povjerenja, a interdisciplinarne studije naglašavaju da regulacija i pravedna primjena UI nastaju tek kada se tehnički eksperti udruže s etičarima, pravnicima i društvenim znanstvenicima. Filozofi razmatraju pojam autonomije i odgovornosti, religijski teolozi otvaraju horizonte dostojanstva i svrhe, a etičari strukturiraju norme transparentnosti i reparacije – sve to osigurava da “pametne” mašine ostanu u službi čovjeka, a ne obratno. Zato je nužno da sami inženjeri UI-modela aktivno zahtijevaju prisustvo tih glasova u razvojnim timovima, razmišljaju o epistemološkim i duhovnim dometima vlastitih kreacija te tako preduprijede tehnokratsku redukciju čovjeka na “podatak” i tržišno sredstvo.

Ipak, moram reći da, ako gledamo lokalno, mislim da postoji odličan balans između „humanista“ i inženjera. U lokalnom javnom prostoru, osim mene, postoji i cijeli niz drugih kolega koji se vrlo ozbiljno bave UI i vezanim edukacijama, a nisu tehničke struke. Od pravnika, sociologa, ekonomista, povjesničara, vidimo da postoji raznolikost profesija i ljudi. U upravi udruge CroAI, svake godine sjedi dobar dio članova koji nisu primarno tehničke struke.

PREPOROD: Kako biste ocijenili regionalni interes za pitanja razvoja UI (politička i šira društvena scena)? Razvija li se dovoljno svijest o prednostima i nedostacima UI, ne samo u široj javnosti već i među kreatorima politika? Također, uviđate li s kakvim motivima poslovni ljudi pristupaju korištenju modela UI, tj. mogu li nam ti motivi otkriti kurs koji će biti zauzet kada je riječ o razvoju poslovanja i samim radničkim pravima?

MOMČILOVIĆ: Na Zapadnom Balkanu — od Hrvatske i Slovenije, preko Srbije do WB6 ekonomija — vidi se “probuđeni” interes za UI, ali s neravnomjernom dubinom: Slovenija javno stavlja etiku u prvi plan (“UI je dobrodošao asistent, ali traži globalnu suradnju”, poručuje ministrica digitalne transformacije); Srbija još od Strategije 2020-2025 institucionalno gura istraživanje i primjenu UI, ali rezultati ovise o političkoj volji i financiranju (a imali su nedavno i UI-konferenciju na vrlo visokoj razini uz prisustvo članova vlade); a regija kao cjelina ulazi u OECD-ov program koji pomaže malim i srednjim poduzećima digitalizirati i “zazeleniti” se, što pokazuje da donositelji politika počinju vezivati UI uz šire razvojne ciljeve, a ne samo uz hype. Kao što sam rekao – Hrvatsku i njenu strategiju još uvijek čekamo.

Ipak, svijest o rizicima – automatizacija rada bez zaštitnih mreža, koncentracija računalne snage u nekoliko korporacija – još je plitka: poslovne ljude najčešće motivira troškovna efikasnost i izvozna konkurentnost, dok se radnička prava spominju tek kad EU fondovi to uvjetuju. To sugerira kurs “prvo profit, pa onda ljudi”, ako sindikati i regulator ne nametnu jasna pravila o transparentnosti algoritama, reskillingu i participaciji zaposlenih u UI-projektima. Upravo sada radim na par projekata implementacije UI-alata u razne firme i drago mi je vidjeti da postoji razumijevanje i potreba za novim mogućnostima, barem na komercijalnoj razini.

Drugim riječima, politički momentum postoji, samo je pitanje brzine reakcije i hoće li biti dovoljna, ali kvaliteta implementacije ovisit će o tome hoće li se ekonomski imperativi uravnotežiti s društvenim ugovorom o pravednom radu u digitalnom dobu. Za to se možemo samo nadati da netko veći i važniji od nas donese neke odluke i okvire za odlučivanje.