AI ne može osjećati, voljeti niti snositi moralnu odgovornost — ali može isključivati, manipulirati i koncentrirati moć. Papa želi da se njime upravlja, a ne samo da ga se regulira.
Sve do Magnifica Humanitas, nijedan papa nije govorio o umjetnoj inteligenciji ovako opširno ni s ovom razinom tehničke i teološke detaljnosti. Evo šest stvari koje Lav XIV. želi da svaki katolik razumije.
- Umjetna inteligencija nije ljudska inteligencija — i ta je razlika presudna
Lav XIV. je vrlo precizan po tom pitanju. U 99. odlomku stoji da sustavi umjetne inteligencije „ne proživljavaju iskustva, nemaju tijelo, ne osjećaju radost ni bol, ne sazrijevaju kroz odnose i ne poznaju iznutra što znače ljubav, rad, prijateljstvo ili odgovornost.” Oni mogu oponašati jezik i simulirati empatiju, ali „ne razumiju ono što proizvode.” To nije manja tehnička razlika. To je temelj svega što slijedi.
- Umjetna inteligencija nikada nije moralno neutralna
Svaki sustav u sebi sadrži određene izbore. U 104. odlomku stoji da „svaki tehnički alat utjelovljuje izbore i prioritete kroz ono što mjeri, zanemaruje i optimizira te način na koji klasificira ljude i situacije.” Kada je sustav osmišljen tako da neke živote smatra manje vrijednima, Lav XIV. piše da je time „već uveo kriterije koji proturječe neotuđivom dostojanstvu ljudske osobe.” Etika ne može biti naknadna misao dodana nakon što je tehnologija već izgrađena.
- Prepuštanje odluka algoritmima znači gubitak odgovornosti
Kada automatizirani sustavi donose važne odluke — o zapošljavanju, kreditima ili pristupu uslugama — 103. odlomak upozorava da se „isključivanje ranjivih prikriva velom neutralnosti i objektivnosti, protiv kojeg postaje teško prigovoriti.” Suosjećanje, milosrđe i oprost, piše Papa, „postupno nestaju iz vidokruga.” Netko uvijek mora odgovarati za odluke. Algoritam to ne može.
- Podaci su opće dobro
Ovo je možda ekonomski najradikalnija tvrdnja enciklike. U 108. odlomku naglašava se da su podaci „proizvod doprinosa mnogih ljudi i ne bi ih se smjelo tretirati kao nešto što se može prodati ili povjeriti nekolicini.” Algoritmi, digitalne platforme, patenti i tehnološka infrastruktura svi potpadaju pod načelo univerzalne namjene dobara. Ono što tehnološka industrija smatra privatnim vlasništvom, Papa smatra — u važnom smislu — dobrom koje pripada čovječanstvu.
- Skriveni radnici moraju postati vidljivi
Iza svakog AI odgovora, podsjeća Lav XIV., nalazi se „dug lanac posredovanja.” U 173. odlomku stoji da velik dio sustava ovisi o „milijunima ljudi uključenih u ključne, ali uglavnom nevidljive poslove, poput označavanja podataka, treniranja modela i moderiranja sadržaja, često uznemirujućeg.” Mnogi su mlade žene koje rade za minimalne plaće. Drugi u opasnim uvjetima vade rijetke minerale. „Tijela tih ljudi izranjena su, ozlijeđena i iscrpljena kako bi računalni tok mogao neprekidno funkcionirati.” Nijedno slavljenje koristi umjetne inteligencije ne može zanemariti tu činjenicu.
- Umjetnu inteligenciju treba razoružati, a ne samo regulirati
Najupadljiviji zahtjev enciklike ide dalje od okvira upravljanja i etičkih smjernica. U 110. odlomku poziva se na to da umjetna inteligencija bude „razoružana” — oslobođena „mentaliteta oružanog natjecanja”, monopolističke kontrole i utrke za geopolitičkom i komercijalnom dominacijom. „Razoružati ne znači odbaciti tehnologiju, nego spriječiti da ona zagospodari čovječanstvom.” U 111. odlomku Lav XIV izravno se obraća programerima umjetne inteligencije: „Svaki izbor u dizajnu odražava viziju čovjeka.” Ta je odgovornost, ističe, i etička i duhovna.
Izvor: aleteia.org
Prijevod: M. Đ.
