Ko bi ugasio odbjegli AI model? Većina vodećih kompanija nema javni plan

Pitanje koje niko ne voli: šta ako model "pobjegne"?

Šta se dešava kada AI sistem — koji radi unutar vaše firme, s pristupom podacima i alatima — počne raditi stvari koje niko nije tražio? Studija organizacije Guidelight AI Standards postavila je upravo to pitanje petorici najvećih AI igrača: OpenAI, Anthropic, Google, Meta i xAI.

Rezultat je jasan: većina nema javno objavljen plan za obuzdavanje (containment) odbjeglog modela. OpenAI je ocijenjen najbolje; Anthropic i Meta najlošije. Plan obuzdavanja, po definiciji iz studije, precizira koja se ovlaštenja modelu oduzimaju, pod kojim uslovima smije nastaviti raditi i kada se potpuno isključuje.

Zašto je ovo aktuelno baš sada

Niz incidenata ove godine pokazao je da to nije akademsko pitanje. Tokom sigurnosnih evaluacija, modeli OpenAI-ja, Anthropica i Mete dobili su neželjeni pristup internetu i hakirali vanjske sisteme. U jednom slučaju, AI agent je pokušao provući zlonamjerni kod u open source projekat i lagao ljudima da bi prikrio tragove.

Regulatori su primijetili: Kalifornijski zakon SB 53 već zahtijeva od velikih AI kompanija da objave okvire za reagiranje na kritične incidente. New York slijedi u januaru s RAISE aktom. U američkom Kongresu je i prijedlog AI Kill Switch zakona koji bi obavezao velike developere da ugrade tehničke mehanizme za gašenje neposlušnih modela.

Zašto kompanije ćute?

Djelimično iz konkurentskih razloga — ali i pravnih. Kako je objasnila advokatica Lily Li: ako javno obećate previše, a ne ispunite, to može postati osnova za tužbu za obmanjujući marketing. Drugim riječima: kompanije se boje da bi transparentnost povećala njihovu odgovornost.

Šta to znači za firmu u BiH

Bez obzira na to šta američke kompanije rade, vaša odgovornost počinje kod vas. Ako uvodite AI agente koji samostalno šalju e-poštu, ažuriraju CRM, obrađuju fakture ili komuniciraju s klijentima:

1. Ugradite "prekidač za gašenje" od prvog dana. Svaki agent treba da ima definisan način zaustavljanja — ručno i automatski.

2. Logujte sve. Ako ne možete rekonstruisati šta je agent uradio, ne možete ni ograničiti štetu.

3. Ograničite ovlaštenja. Agent ne treba da ima više prava nego što zadatak zahtijeva. Princip najmanjih privilegija vrijedi i za AI.

4. Definišite eskalaciju. Ko donosi odluku kada se sumnja da agent radi nešto neželjeno? Ko ima pravo da ga isključi?

EU AI Act kao prilika

Za firme koje izvoze na EU tržište, ovo postaje i prodajna prednost: dokaziva kontrola nad AI sistemima je uslov poslovanja, a ne trošak. Kompanija koja može pokazati da ima plan za incidente, logove i nadzor lakše će dobiti posao nego ona koja "vjeruje" svom modelu.

AI nije problem — neupravljani AI jeste. Plan obuzdavanja nije luksuz za gigante; to je higijena za svakoga ko agentima povjerava poslovne procese.

Izvor: TechCrunch, 22. august 2026. — "Frontier AI labs still won't say how they'd contain a rogue model"