Od 2. kolovoza 2026. počinju se primjenjivati obveze transparentnosti iz članka 50. Uredbe (EU) 2024/1689 o utvrđivanju usklađenih pravila o umjetnoj inteligenciji, poznate kao Akt o umjetnoj inteligenciji ili AI Act. Članak 50. obuhvaća četiri skupine obveza: (i) informiranje osoba da komuniciraju s AI sustavom, (ii) strojno čitljivo označavanje sintetičkog sadržaja, (iii) vidljivo označavanje deepfake sadržaja i određenih AI‑generiranih tekstova te (iv) obavještavanje osoba izloženih sustavima za prepoznavanje emocija ili biometrijsku kategorizaciju.

Te obveze mogu biti relevantne za društva koja koriste gotove AI alate, npr. u korisničkoj podršci, marketingu, odnosima s javnošću, ili drugim poslovnim procesima. Stoga bi svaka organizacija trebala utvrditi kako koristi umjetnu inteligenciju te ima li u pojedinom slučaju ulogu dobavljača ili subjekta koji primjenjuje AI sustav.

I. TKO JE ODGOVORAN ZA ISPUNJAVANJE OBVEZA?

AI Act razlikuje dvije osnovne uloge:

(i) Dobavljač AI sustava jest subjekt koji razvija AI sustav ili ga stavlja na tržište odnosno u uporabu pod svojim imenom ili zaštitnim znakom.

(ii) Subjekt koji primjenjuje AI sustav, odnosno deployer, jest fizička ili pravna osoba koja koristi AI sustav u okviru svoje profesionalne djelatnosti.

Primjerice, društvo koje razvija chatbot i nudi ga drugim poslovnim korisnicima u pravilu je dobavljač AI sustava. Društvo koje taj chatbot postavi na svoju internetsku stranicu radi komunikacije s kupcima u pravilu je subjekt koji primjenjuje AI sustav.

Dobavljači i subjekti koji primjenjuju AI sustave nemaju iste obveze. Dobavljači su prvenstveno odgovorni za dizajn sustava i tehničko označavanje njegovih izlaznih rezultata, dok su subjekti koji sustav primjenjuju odgovorni za jasno obavještavanje osoba i vidljivo označavanje određenih vrsta sadržaja.

II. KLJUČNE OBVEZE TRANSPARENTNOSTI

Članak 50. AI Acta propisuje obveze transparentnosti koje ovise o vrsti AI sustava, njegovoj uporabi i sadržaju koji generira ili mijenja. Ključne obveze prikazane su u nastavku.

Korisnik mora znati kada komunicira s umjetnom inteligencijom

Dobavljači AI sustava koji su namijenjeni izravnoj komunikaciji s fizičkim osobama moraju osigurati da korisnici budu obaviješteni da komuniciraju s umjetnom inteligencijom.

Ova će obveza biti osobito važna za chatbotove, virtualne asistente, automatizirane glasovne sustave i druge sustave koji samostalno komuniciraju s korisnicima.

Obavijest mora biti pružena najkasnije pri prvoj interakciji na jasan i raspoznatljiv način te ne smije ostati skrivena samo u pravilima privatnosti ili općim uvjetima. U praksi se može koristiti jednostavna obavijest poput:

„Razgovarate s virtualnim asistentom koji koristi umjetnu inteligenciju."

Obavijest nije potrebna ako je, uzimajući u obzir okolnosti i kontekst uporabe, razmjerno dobro informiranoj, pronicljivoj i opreznoj osobi očito da komunicira s AI sustavom. Budući da procjena očitosti može ovisiti o konkretnom slučaju, preporučljivo je korisnike ipak jasno obavijestiti kad god postoji dvojba.

Posebna iznimka od ovog pravila postoji za određene sustave koji su zakonski odobreni za otkrivanje, sprečavanje, istragu ili kazneni progon kaznenih djela, uz odgovarajuće zaštitne mjere. Ova iznimka ne primjenjuje se ako su takvi sustavi dostupni javnosti radi prijave kaznenih djela.

Tehničko označavanje AI-generiranog sadržaja

Dobavljači AI sustava, uključujući AI sustave opće namjene, koji generiraju sintetički sadržaj poput audiosadržaja, slikovnog sadržaja, videosadržaja ili tekstovnog sadržaja, moraju osigurati da izlazni sadržaj bude označen u strojno čitljivom obliku i da ga je moguće tehnički prepoznati kao umjetno generiran ili manipuliran.

Strojno čitljiva oznaka nije isto što i vidljiva napomena „izrađeno uz pomoć AI-a". Riječ je o tehničkoj oznaci koju mogu prepoznati drugi sustavi za provjeru podrijetla sadržaja.

AI Act zahtijeva da tehnička rješenja za označavanje budu djelotvorna, interoperabilna, otporna i pouzdana u mjeri u kojoj je to tehnički izvedivo, uzimajući u obzir posebnosti i ograničenja različitih vrsta sadržaja, troškove provedbe i općepriznata najnovija dostignuća.

Budući da jedna metoda označavanja često nije dovoljna, u praksi se može primjenjivati višeslojni pristup koji uključuje, primjerice, digitalno potpisane metapodatke i nevidljivi digitalni vodeni žig.

Digitalno potpisani metapodaci mogu sadržavati informaciju o tome je li sadržaj generiran ili izmijenjen uporabom AI-a. Nevidljivi vodeni žig ugrađuje se u sam sadržaj tako da ostane teško uklonjiv čak i nakon izmjena ili daljnjeg dijeljenja.

Obveza strojno čitljivog označavanja ne primjenjuje se kada AI sustav obavlja isključivo pomoćnu funkciju za standardno uređivanje ili bitno ne mijenja ulazni sadržaj ni njegovo značenje. Iznimka postoji i za određene sustave koji su zakonski odobreni za otkrivanje, sprečavanje, istragu ili kazneni progon kaznenih djela.

Očuvanje i provjera tehničkih oznaka

Kako bi tehnička rješenja ostala djelotvorna, otporna i pouzdana, dobavljači bi trebali ulagati razumne napore radi očuvanja postojećih tehničkih oznaka na sadržaju koji se unosi u njihov sustav i zatim dalje obrađuje. U uvjetima korištenja ili drugoj dokumentaciji preporučljivo je zabraniti namjerno uklanjanje ili mijenjanje oznaka te nuđenje ili promicanje alata čija je svrha zaobilaženje oznaka.

Izlazni sadržaj mora biti tehnički prepoznatljiv kao umjetno generiran ili manipuliran, zbog čega bi dobavljači trebali osigurati odgovarajuće rješenje za provjeru njegova podrijetla.

Rezultat provjere mora biti prikazan jasno i razumljivo te bi, kada je to moguće, trebao objasniti na kojoj tehnici se temelji.

Važno je naglasiti da rezultat provjere govori o mogućem podrijetlu sadržaja, ali ne određuje njegovu istinitost. Činjenica da je sadržaj generiran umjetnom inteligencijom ne znači nužno da je netočan, kao što ni izostanak tehničke oznake ne dokazuje da je sadržaj autentičan.

Ako korisnik mora učitati sadržaj u alat za provjeru, dobavljač tog alata mora poštovati pravila o zaštiti osobnih podataka i povjerljivosti. Učitani sadržaj trebao bi se koristiti samo radi provjere i izbrisati nakon njezina dovršetka, osim ograničenih tehničkih podataka čije je čuvanje nužno radi sigurnosti ili sprečavanja zlouporabe.

Deepfake sadržaj mora biti jasno označen

Subjekt koji primjenjuje AI sustav radi stvaranja ili izmjene sadržaja koji predstavlja deepfake mora jasno navesti da je sadržaj umjetno generiran ili izmijenjen.

Deepfake je slikovni, zvučni ili videosadržaj koji je generiran ili izmijenjen uporabom umjetne inteligencije i koji nalikuje postojećim osobama, predmetima, mjestima, organizacijama ili događajima tako da bi mogao izgledati autentično ili istinito. Na primjer, to može biti video u kojem izgleda kao da stvarna osoba govori nešto što nije izgovorila ili zvučni zapis u kojem glas stvarne osobe izgovara nešto što osoba nije izgovorila (kloniranje glasa).

Oznaka mora biti jasna i uočljiva najkasnije kada je osoba prvi put izložena sadržaju te ne može samo postojati u tehničkim metapodacima.

Vidljiva oznaka koju postavlja subjekt koji primjenjuje sustav razlikuje se od strojno čitljive oznake za koju je odgovoran dobavljač AI sustava, pa se u određenim slučajevima obje obveze mogu primjenjivati istodobno.

Mogu se koristiti formulacije poput:

„Ovaj sadržaj generiran je uporabom umjetne inteligencije."

Ili

„Ovaj sadržaj djelomično je izmijenjen uporabom umjetne inteligencije."

Za označavanje se mogu koristiti ujednačene ikone ili druge jasne tekstualne i vizualne oznake. Kod slike ili videozapisa oznaka treba biti postavljena dovoljno blizu sadržaja, a kod videozapisa i zvučnih zapisa preporučuje se prikaz oznake na početku i, koliko je moguće, zadržavanje pri daljnjem dijeljenju sadržaja.

III. PRAVILA ZA POSEBNE SVRHE I UPORABU

Određene vrste sadržaja i načini uporabe AI sustava zahtijevaju posebno prilagođen pristup transparentnosti. To se osobito odnosi na umjetnička i kreativna djela, tekstove o pitanjima od javnog interesa te sustave za prepoznavanje emocija i biometrijsku kategorizaciju.

Umjetnička, kreativna i satirična djela

Kada je deepfake dio očito umjetničkog, kreativnog, satiričnog, fikcionalnog ili sličnog djela ili programa, obveza transparentnosti i dalje postoji, ali način označavanja može biti prilagođen kako se ne bi nepotrebno ometalo prikazivanje ili uživanje u djelu.

Primjerice, kod filma u kojem je AI korišten za pomlađivanje glumca nije nužno tijekom cijelog filma prikazivati veliku oznaku preko slike. Informacija se može navesti u opisu djela, uvodnoj ili odjavnoj špici ili na drugom prikladnom mjestu.

AI-generirani tekstovi o pitanjima od javnog interesa

Posebna obveza odnosi se na tekst koji je generiran ili izmijenjen uporabom AI sustava i objavljen radi informiranja javnosti o pitanjima od javnog interesa.

Pitanja od javnog interesa mogu obuhvaćati politiku, izbore, zdravstvo, javnu sigurnost, gospodarstvo, okoliš, obrazovanje, pravosuđe, djelovanje javnih tijela i druge teme važne za veći broj građana.

Takav tekst mora biti označen kao AI-generiran ili izmijenjen, osim ako su istodobno ispunjena dva uvjeta: sadržaj je prošao ljudsku provjeru ili uredničku kontrolu i fizička ili pravna osoba preuzela je uredničku odgovornost za njegovu objavu.

Ljudska provjera ne bi smjela biti samo formalna, već treba obuhvatiti provjeru činjenica, izvora i usklađenosti s primjenjivim propisima i internim pravilima. Uporaba AI alata samo kao pomoći pri pripremi prvog nacrta ne mora automatski dovesti do obveze označavanja ako je konačni sadržaj stvarno provjeren i postoji jasna urednička odgovornost za njegovu objavu.

Ako takva kontrola ne postoji, oznaka bi trebala biti postavljena iznad ili pri vrhu teksta, u blizini naslova ili na drugom, odmah vidljivom mjestu.

Prepoznavanje emocija i biometrijska kategorizacija

Subjekti koji primjenjuju sustave za prepoznavanje emocija ili biometrijsku kategorizaciju moraju o njihovoj uporabi obavijestiti fizičke osobe koje su tim sustavima izložene. Riječ je o sustavima koji na temelju biometrijskih podataka pokušavaju zaključiti emocionalno stanje osobe ili je razvrstati u određenu kategoriju. Takvi se sustavi mogu koristiti, primjerice, u korisničkoj podršci, vozilima, sigurnosnim sustavima, maloprodaji ili analitici posjetitelja.

Obveza obavještavanja ne znači da je svaka uporaba takvih sustava dopuštena: za određene primjene AI Act predviđa zabrane ili strože uvjete, a pri obradi osobnih podataka moraju se poštovati GDPR i druga pravila o privatnosti. Informacija o radu sustava mora biti pružena jasno i raspoznatljivo najkasnije pri prvom izlaganju osobe sustavu te mora ispunjavati primjenjive zahtjeve pristupačnosti.

IV. KVALITETA TEHNIČKIH RJEŠENJA

Članak 50. stavak 2. AI Acta propisuje četiri osnovna zahtjeva za tehnička rješenja: djelotvornost, interoperabilnost, otpornost i pouzdanost.

Djelotvornost znači da tehnička oznaka omogućuje prepoznavanje umjetno generiranog ili manipuliranog sadržaja. Pouzdanost podrazumijeva da rješenje s dovoljnom točnošću razlikuje označeni AI sadržaj od drugog sadržaja. Otpornost znači da oznaka, u mjeri u kojoj je to tehnički izvedivo, ostaje očuvana nakon uobičajenih ili namjernih izmjena sadržaja. Interoperabilnost podrazumijeva da oznake i njihova provjera mogu funkcionirati kroz različite sustave, platforme i tehnička okruženja.

Radi praktične provedbe zahtjeva interoperabilnosti preporučljivo je koristiti odgovarajuće tehničke norme i rješenja koja omogućuju povezivanje različitih sustava za označavanje i provjeru.

V. INTERNI POSTUPCI I DOKUMENTACIJA

Organizacije bi trebale uspostaviti interne postupke koji propisuju kada je potrebno označiti sadržaj, koja se oznaka koristi, gdje se postavlja, tko je odgovoran za njezinu provjeru te kako se ispravljaju neispravne ili nedostajuće oznake.

Zaposlenici i vanjski suradnici koji stvaraju ili objavljuju sadržaj trebaju biti upoznati s dotičnim internim postupcima. Dobavljači generativnih AI sustava trebali bi dokumentirati tehnička rješenja koja koriste, način njihova testiranja, utvrđene nedostatke i korektivne mjere. Rješenja treba testirati prije stavljanja sustava na tržište ili u uporabu te redovito tijekom njegova životnog ciklusa, u uvjetima koji odgovaraju stvarnoj uporabi.

Opseg dokumentacije, testiranja i edukacije može se prilagoditi ulozi organizacije, vrsti AI sustava te njezinoj veličini i raspoloživim resursima, uz uvjet da poduzete mjere omogućuju stvarno ispunjavanje primjenjivih obveza iz članka 50. AI Acta.

VI. ODNOS PREMA DRUGIM PROPISIMA

Obveze iz članka 50. AI Acta ne primjenjuju se odvojeno od drugih pravila i primjenjivih propisa.

Ako AI sustav obrađuje osobne podatke, primjenjuje se GDPR. To je posebno važno kod deepfakeova koji prikazuju stvarne osobe, kloniranja glasa, prepoznavanja emocija, biometrijske kategorizacije i alata u koje korisnici učitavaju sadržaj radi provjere AI oznaka.

Ovisno o vrsti sadržaja i sektoru mogu se primjenjivati i pravila o zaštiti potrošača, intelektualnom vlasništvu, digitalnim uslugama, medijima, političkom oglašavanju, zaštiti osobnosti, kaznenom pravu i pristupačnosti.

Jasna oznaka ne uklanja potrebu pribavljanja prava za korištenje zaštićenog sadržaja. Jednako tako, uredno označavanje deepfake sadržaja ne znači da njegova objava ne može predstavljati povredu prava osobnosti, obmanjujuće oglašavanje ili drugi oblik protupravnog postupanja.

VII. SANKCIJE

Povreda obveza transparentnosti iz članka 50. AI Acta može dovesti do upravnih novčanih kazni do 15.000.000 EUR ili, ako je počinitelj poduzeće, do 3 % njegova ukupnog svjetskog godišnjeg prometa u prethodnoj financijskoj godini, pri čemu se za velika poduzeća primjenjuje viši od ta dva iznosa, a za mala i srednja poduzeća (MSP-ove), uključujući novoosnovana poduzeća, uvijek se primjenjuje niži od navedenih iznosa.

Pri određivanju kazne uzimaju se u obzir priroda, težina i trajanje povrede, namjera ili nepažnja, poduzete mjere ublažavanja, suradnja s nadležnim tijelima, prethodne povrede i veličina poduzeća.

Uz novčane kazne, nadležna tijela mogu zahtijevati i druge korektivne mjere.

VIII. ŠTO BI ORGANIZACIJE TREBALE PODUZETI?

1. Kao prvi korak, potrebno je evidentirati sve AI sustave koji se razvijaju, nabavljaju ili koriste. Za svaki sustav valja utvrditi njegovu svrhu, vrste sadržaja koje generira ili mijenja, osobe koje su mu izložene i ulogu organizacije prema AI Actu.
2. Posebnu pozornost treba posvetiti uporabi chatbotova i virtualnih asistenata, generiranju AI sadržaja, objavi sadržaja koji bi mogao predstavljati deepfake, izradi tekstova o pitanjima od javnog interesa te primjeni sustava za prepoznavanje emocija ili biometrijsku kategorizaciju.
3. Organizacija treba provjeriti tehničke mogućnosti dobavljača AI alata i ugovorne odnose s njima. Pritom je važno utvrditi postoje li strojno čitljive oznake, zadržavaju li se nakon preuzimanja ili uređivanja sadržaja, postoji li alat za njihovu provjeru i što se događa s provjeravanim podacima.
4. Organizacije koje objavljuju AI-generirani sadržaj trebale bi uspostaviti interna pravila o vidljivom označavanju. Ta bi pravila trebala odrediti koje se formulacije ili ikone koriste, gdje se postavljaju, tko ih provjerava prije objave i kako se postupa ako oznaka nestane tijekom daljnjeg dijeljenja.
5. Za tekstove o pitanjima od javnog interesa potrebno je jasno odrediti osobu ili funkciju koja provjerava sadržaj i preuzima odgovornost za njegovu objavu te osigurati odgovarajuću dokumentaciju o provedenoj kontroli.
6. Zaposlenicima i drugim osobama u relevantnim ulogama treba osigurati odgovarajuću edukaciju o primjenjivim obvezama transparentnosti i internim pravilima organizacije.

ZAKLJUČNA PORUKA

Obveze transparentnosti iz članka 50. AI Acta predstavljaju jedan od prvih široko primjenjivih i praktično vidljivih zahtjeva AI Acta.

Od 2. kolovoza 2026. organizacije će morati moći dokazati da su ispunile obveze iz članka 50. AI Acta koje se primjenjuju na njihove AI sustave i načine njihove uporabe.

Zbog potrebe povezivanja pravnih, tehničkih i organizacijskih mjera, preporučljivo je procjenu započeti bez odgode. Organizacije koje pravodobno uspostave interne postupke za transparentnu uporabu AI sustava bit će u znatno boljem položaju za osiguravanje usklađenosti te smanjenje regulatornih i reputacijskih rizika.

‍