Etička pitanja korištenja AI u javnom sektoru

Zamislite sistem koji odlučuje o vašem pravu na socijalnu pomoć, kreditnu sposobnost ili čak slobodu kretanja, a da pritom niko ne može objasniti kako je ta odluka donesena. Ovo nije naučna fantastika, već stvarnost u koju ulazimo ubrzanom integracijom umjetne inteligencije u javni sektor.

Kao građanin, vi ste direktno pogođeni ovim promjenama – od toga kako komunicirate sa državom do toga kako se vaši podaci koriste za kreiranje javnih politika. Uvođenje AI alata u administraciju, zdravstvo, pravosuđe i obrazovanje nosi ogroman potencijal za efikasnost, ali istovremeno otvara kompleksna etička pitanja koja zahtijevaju hitnu i promišljenu pažnju.

Ova pitanja nisu samo tehničke prirode; ona su temeljna za očuvanje povjerenja u demokratske institucije i zaštitu ljudskih prava. U ovom članku detaljno ćemo istražiti četiri ključne etičke dimenzije – nediskriminaciju, privatnost, transparentnost i odgovornost – te pružiti konkretne smjernice kako im pristupiti na odgovoran način.

Nediskriminacija: Kako Spriječiti da AI Produžava Postojeće Predrasude?

Prvo i najvažnije etičko pitanje jeste sposobnost AI sistema da donosi odluke bez pristrasnosti. Algoritmi se uče na istorijskim podacima, a ti podaci često sadrže ukorijenjene društvene predrasude. Ako sistem za dodjelu socijalne pomoći uči na podacima iz prošlosti gdje su određene demografske grupe bile sistematski zapostavljene, AI će te obrasce reprodukovati, a možda čak i pojačati.

Ovo nije hipotetički scenario. Istraživanje iz 2023. godine, objavljeno u časopisu Nature, pokazalo je da AI modeli korišteni u američkom zdravstvenom sistemu sistematski podcjenjuju potrebe pacijenata iz manjinskih zajednica, što je dovelo do nejednakog pristupa medicinskoj njezi.

Slični primjeri postoje i u Evropi, gdje su algoritmi za zapošljavanje diskvalifikovali kandidatkinje na osnovu rodno specifičnih obrazaca u radnim biografijama.

Korijeni Pristrasnosti: Podaci i Dizajn

Pristrasnost u AI sistemima javlja se na dva nivoa. Prvi je nivo podataka – ako je skup podataka nepotpun, neuravnotežen ili sadrži historijske predrasude, model će ih internalizovati. Na primjer, ako policijski podaci korišteni za predviđanje kriminala prekomjerno ciljaju određene četvrti, AI će te četvrti označiti kao "visokorizične", stvarajući začarani krug pojačanog nadzora.

Drugi nivo je dizajn samog algoritma. Programeri mogu, svjesno ili nesvjesno, uvesti pristrasnost kroz izbor karakteristika (feature selection) ili definiciju ciljne funkcije. Na primjer, ako se uspješnost učenika mjeri isključivo kroz standardizovane testove, AI sistem može zanemariti kreativnost ili kritičko mišljenje, privilegujući učenike iz određenih socioekonomskih sredina.

Praktični Koraci za Osiguranje Nediskriminacije

Kako bi se osiguralo da AI u javnom sektoru ne diskriminiše, potrebno je primijeniti nekoliko ključnih praksi:

• Revizija podataka prije treniranja: Svaki skup podataka mora proći rigoroznu analizu kako bi se identifikovale i uklonile potencijalne pristrasnosti. To uključuje provjeru demografske zastupljenosti, balansiranje klasa i anonimizaciju osjetljivih atributa poput rase, pola ili vjeroispovijesti.
• Kontinuirano testiranje modela: AI sistemi se ne smiju puštati u produkciju bez sveobuhvatnog testiranja na različitim demografskim grupama. Potrebno je redovno provoditi "audite pravičnosti" (fairness audits) koji mjere razlike u stopama grešaka (false positive i false negative) između grupa.
• Uključivanje interdisciplinarnih timova: Razvoj AI za javni sektor ne smije biti prepušten isključivo inženjerima. Timovi moraju uključivati etičare, sociologe, pravnike i predstavnike zajednica koje će sistem koristiti. Ova raznolikost perspektiva ključna je za prepoznavanje i ublažavanje skrivenih pristrasnosti.
• Implementacija "human-in-the-loop" mehanizama: Za visokorizične odluke, poput onih koje se tiču slobode ili finansijske sigurnosti, AI bi trebao služiti samo kao alat za podršku, dok konačnu odluku donosi čovjek koji može preispitati preporuke sistema.

Privatnost i Zaštita Ličnih Podataka: Balans između Inovacije i Sigurnosti

Drugi stub etičkog AI u javnom sektoru jeste zaštita privatnosti građana. Moderni AI sistemi, posebno oni zasnovani na dubokom učenju, zahtijevaju ogromne količine podataka kako bi bili efikasni. U kontekstu javne uprave, ti podaci često uključuju izuzetno osjetljive informacije: zdravstvene kartone, poreske prijave, biometrijske podatke, istoriju kretanja.

Prema izvještaju Evropske agencije za osnovna prava (FRA) iz 2024. godine, čak 67% građana EU izrazilo je zabrinutost da bi AI sistemi mogli zloupotrijebiti njihove lične podatke. Ova zabrinutost nije neutemeljena.

Poznati su slučajevi gdje su podaci prikupljeni za jednu svrhu (npr. zdravstveno osiguranje) korišteni za potpuno drugu (npr. procjena kreditne sposobnosti), što predstavlja kršenje principa svrhe ograničenja (purpose limitation).

Tehnike za Očuvanje Privatnosti

Implementacija AI u javnom sektoru ne mora nužno značiti žrtvovanje privatnosti. Postoji nekoliko provjerenih tehnika koje omogućavaju korištenje podataka uz istovremeno poštovanje prava građana:

• Diferencijalna privatnost (Differential Privacy): Ova tehnika dodaje kontrolirani "šum" podacima na način da je nemoguće utvrditi da li je određeni pojedinac bio uključen u skup podataka. To omogućava analizu trendova bez otkrivanja identiteta pojedinaca. Apple i Google već koriste ovu tehniku za prikupljanje podataka o korištenju uređaja.
• Federativno učenje (Federated Learning): Umjesto da se svi podaci prikupljaju na centralnom serveru, model se trenira lokalno na uređajima ili u institucijama (npr. bolnicama). Samo ažurirani parametri modela (ne i sirovi podaci) šalju se na centralni server. Ovo je posebno korisno u zdravstvu, gdje bolnice mogu zajednički trenirati dijagnostičke modele bez dijeljenja pacijentovih kartona.
• Anonimizacija i pseudonimizacija: Prije nego što podaci uđu u AI sistem, potrebno je ukloniti ili zamijeniti direktne identifikatore (ime, JMBG, adresa). Međutim, važno je napomenuti da jednostavna anonimizacija često nije dovoljna – istraživanja su pokazala da je moguće re-identifikovati pojedince kombinacijom nekoliko indirektnih atributa (poštanski broj, datum rođenja, pol).

Pravni Okvir i Saglasnost

U Bosni i Hercegovini, kao i u cijeloj Evropskoj uniji, primarni pravni okvir za zaštitu podataka jeste Opća uredba o zaštiti podataka (GDPR). U kontekstu AI, GDPR postavlja nekoliko ključnih zahtjeva: pravo na objašnjenje automatizovanih odluka (član 22), obavezu procjene uticaja na zaštitu podataka (DPIA) prije uvođenja novih sistema, te princip "privatnosti po dizajnu" (privacy by design).

To znači da se mjere zaštite privatnosti moraju ugraditi u sistem od samog početka razvoja, a ne dodavati naknadno. Javne institucije koje implementiraju AI morale bi osigurati da građani daju informiranu saglasnost za korištenje svojih podataka, te da imaju mogućnost povlačenja te saglasnosti bez negativnih posljedica.

Transparentnost: Pravo Građana da Razumiju Kako AI Donosi Odluke

Treće ključno etičko pitanje jeste transparentnost. Građani imaju pravo znati na osnovu čega su donesene odluke koje ih se tiču. Ako AI sistem odbije zahtjev za subvenciju ili preporuči duži zatvorski rok, građanin mora moći razumjeti logiku iza te odluke.

Nažalost, mnogi moderni AI modeli, posebno duboke neuronske mreže, funkcionišu kao "crne kutije" – njihova unutrašnja logika je toliko složena da je čak i programeri ne mogu u potpunosti objasniti. Ovo predstavlja ozbiljan problem u javnom sektoru, gdje je transparentnost jedan od temelja vladavine prava.

Prema istraživanju Centra za upravljanje AI iz 2024, 72% građana smatra da bi sve odluke javnih institucija koje uključuju AI trebale biti objašnjive na jednostavnom jeziku.

Objašnjiva AI (XAI) kao Rješenje

Razvoj objašnjive umjetne inteligencije (Explainable AI – XAI) predstavlja odgovor na ovaj izazov. XAI tehnike omogućavaju da se složeni modeli interpretiraju na način razumljiv ljudima. Dvije najčešće korištene metode su:

• LIME (Local Interpretable Model-agnostic Explanations): Ova tehnika kreira jednostavan, interpretabilan model (npr. linearnu regresiju) koji aproksimira ponašanje složenog modela u blizini konkretne odluke. Na primjer, za odbijeni zahtjev za kredit, LIME bi mogao pokazati da je najveći uticaj na odluku imala visoka stopa zaduženosti, a zatim i istorija kašnjenja sa plaćanjem.
• SHAP (SHapley Additive exPlanations): Zasnovana na teoriji igara, ova metoda izračunava doprinos svake ulazne karakteristike konačnoj odluci. SHAP vrijednosti pružaju konzistentan i matematički utemeljen način da se objasni zašto je model donio određenu odluku.

Implementacija XAI tehnika nije samo etički imperativ, već i praktična potreba. Omogućava službenicima da provjere ispravnost odluka, omogućava građanima da ih ospore, i pomaže programerima da identifikuju i isprave greške u modelu.

Transparentnost Algoritama i Javni Registri

Pored objašnjivosti pojedinačnih odluka, postoji i potreba za transparentnošću na sistemskom nivou. Javne institucije trebale bi voditi javne registre AI sistema koje koriste, uključujući informacije o svrsi sistema, podacima korištenim za treniranje, mjerama zaštite privatnosti i procedurama za prigovor.

Ovakvi registri već postoje u nekim gradovima, poput Helsinkija i Amsterdama, gdje građani mogu online provjeriti koji AI algoritmi utiču na njihove svakodnevne živote. Ova praksa ne samo da povećava povjerenje, već i omogućava nezavisnim istraživačima i novinarima da provjere da li su sistemi pravični i zakoniti.

Odgovornost: Ko Snosi Posljedice za Greške AI Sistema?

Četvrto, i možda najkompleksnije pitanje, jeste odgovornost. Kada AI sistem napravi grešku – na primjer, pogrešno označi nekoga kao prijetnju javnoj sigurnosti ili uskrati zdravstvenu njegu pacijentu – ko je odgovoran? Da li je to programer koji je napisao kod? Menadžer koji je odobrio implementaciju? Institucija koja koristi sistem? Ili sam AI?

Ovo pitanje nije samo filozofsko; ono ima konkretne pravne i finansijske posljedice. Prema izvještaju Evropske komisije o odgovornosti za AI (2023), postojeće pravne norme, poput zakona o odštetnoj odgovornosti, nisu adekvatno prilagođene za situacije u kojima šteta nastaje usljed autonomnog djelovanja algoritma.

Modeli Odgovornosti u Javnom Sektoru

U javnom sektoru, odgovornost se mora posmatrati kroz nekoliko slojeva. Prvi sloj je institucionalna odgovornost. Javna institucija koja implementira AI sistem ne može prebaciti odgovornost na dobavljača tehnologije. Institucija mora imati internu strukturu koja jasno definiše ko je zadužen za nadzor nad AI sistemom, ko donosi konačne odluke na osnovu njegovih preporuka, i ko je odgovoran za redovne revizije. Drugi sloj je proceduralna odgovornost. Institucije moraju uspostaviti jasne procedure za prigovor i žalbu. Građanin koji smatra da je oštećen odlukom AI sistema mora imati mogućnost da se obrati ljudskom službeniku koji može preispitati slučaj i, ako je potrebno, poništiti odluku