Što je EU zakon o umjetnoj inteligenciji?
EU zakon o umjetnoj inteligenciji (Uredba (EU) 2024/1689) je prvi sveobuhvatni zakon na svijetu koji regulira umjetnu inteligenciju. Ušao na snagu 1. kolovoza 2024., provodi se u fazama do 2027. godine. Cilj: osigurati da je AI u Europi siguran, transparentan i poštuje temeljna prava — bez gušenja inovacija.
Za tvrtke koje koriste Document AI, AI-IDP ili sustave za automatizirano donošenje odluka, ova regulativa nije daleka briga. Većina obveza stupa na snagu 2. kolovoza 2026. — manje od četiri mjeseca od danas.
Rokovi: Kada se primjenjuju pravila?
EU zakon o umjetnoj inteligenciji provodi se u četiri faze:
| Datum | Što se događa |
|---|---|
| Veljača 2025. | Zabrana neprihvatljivih sustava AI (socijalno bodovanje, manipulativni AI, biometrijska nadzora u stvarnom vremenu) |
| Kolovoz 2025. | Pravila za opću namjenu AI (GPAI) i AI modele s sistemskim rizikom |
| Kolovoz 2026. | Glavne obveze za sustave visokog rizika od AI, zahtjevi za transparentnost, procjene usklađenosti |
| Kolovoz 2027. | Obveze za visokorizični AI u reguliranim proizvodima (medicinski uređaji, vozila itd.) |
Kolovoz 2026. je kritičan rok za većinu poduzeća. Od tog trenutka, sustavi visokog rizika moraju proći postupke procjene usklađenosti, sustavi upravljanja rizikom moraju biti na snazi, a zahtjevi za dokumentaciju moraju biti ispunjeni.
Četiri kategorije rizika na prvi pogled
U srcu EU zakona o umjetnoj inteligenciji je pristup temeljen na riziku. Što je veći rizik sustava AI, to su zahtjevi stroži:
Neprihvatljiv rizik — Zabranjeno
Sustavi koji krše temeljna prava: socijalno bodovanje, manipulativni AI, masovna biometrijska nadzora. Ovi su zabranjeni od veljače 2025.
Visok rizik — Strogo regulirano
Sustavi AI u osjetljivim područjima: procjena kreditne sposobnosti, upravljanje regrutacijom, kritična infrastruktura, provođenje zakona. Zahtijevaju procjenu usklađenosti, upravljanje rizikom i ljudski nadzor.
Ograničen rizik — Obveze transparentnosti
Chatboti, duboke lažne slike, prepoznavanje emocija: korisnici moraju biti obaviješteni da komuniciraju s AI.
Minimalni rizik — Bez zahtjeva
Filteri za spam, AI u video igrama, sustavi preporuka. Nema regulatornih zahtjeva.
Što to znači za Document AI i AI-IDP?
Za tvrtke koje koriste Intelligent Document Processing (AI-IDP), ključno pitanje je: U koju kategoriju rizika spada Document AI?
Dobra vijest: većina aplikacija Document AI spada u ograničene ili minimalne rizike:
- OCR i prepoznavanje teksta: Minimalni rizik — bez regulatornih obveza
- Klasifikacija dokumenata : Minimalni rizik — automatsko sortiranje faktura, ugovora itd.
- Izdvajanje podataka iz obrazaca: Minimalni rizik — strukturirani podaci iz nestrukturiranih dokumenata
- AI pokrenuti chatboti za korisničku podršku: Ograničen rizik — obveza transparentnosti (korisnici moraju znati da razgovaraju s AI)
Potrebno je biti oprezan kada se Document AI koristi za automatizirane odluke koje značajno utječu na pojedince — kao što su automatizirane procjene kreditne sposobnosti na temelju dokumenata ili AI vođeno predodređivanje kandidata.
5 stvari koje poduzeća moraju učiniti sada
Bilo koja kategorija rizika, preporučujemo svako poduzeće koje koristi sustave AI da poduzme ove pet koraka:
1. Kreirajte inventar AI
Dobite potpuni pregled svih sustava AI u vašoj organizaciji. Koje softvere koriste AI? Koje odluke su automatizirane? Gdje se obrađuju osobni podaci?
2. Provedite procjenu rizika
Klasificirajte svaki sustav AI u jednu od četiri kategorije rizika. Koristite kriterije iz Priloga III. EU zakona o umjetnoj inteligenciji. Ako imate sumnju: potražite stručni savjet.
3. Izgradite dokumentaciju
Sustavi visokog rizika zahtijevaju opsežnu tehničku dokumentaciju: podaci za obuku, metrike performansi, mjere upravljanja rizikom, protokole testiranja. Počnite sada — retroaktivna dokumentacija je značajno skuplja.
4. Osigurajte Human-in-the-Loop
Automatizirane odluke koje značajno utječu na pojedince zahtijevaju ljudski nadzor. Implementirajte jasne putove eskalacije i mehanizme pregleda.
5. Procijenite svoje dobavljače
Ako koristite sustave AI trećih strana, provjerite njihovu usklađenost s EU zakonom o umjetnoj inteligenciji. Zahtijevajte izjave o usklađenosti. Preferirajte dobavljače s EU hostingom i dokazljivom usklađenošću.
Kako PaperOffice AI već zadovoljava zahtjeve
PaperOffice AI je izgrađen od nule s europskim vrijednostima i najvišim standardima sigurnosti. Naša Document AI platforma već zadovoljava zahtjeve EU zakona o umjetnoj inteligenciji:
- 100% EU Hosting: Svi podaci se obrađuju isključivo u njemačkim i europskim centrima podataka — bez prijenosa u treće zemlje
- GDPR Usporediv: Potpuna usklađenost s Općom uredbom o zaštiti podataka, Privacy by Design
- SOC 2 i ISO 27001: Certificirana sigurnost informacija s redovitim auditorima
- Human-in-the-Loop: Integrirani ljudski pregled za kritične odluke — bez crne kutije automatizacije
- Transparentni AI: Praćive odluke, potpuni tragovi audita, objasnjivi rezultati
- Tehnička dokumentacija: Opsežna API dokumentacija, metrike performansi i protokoli testiranja za svih 357+ AI alata
S više od 24 godine iskustva u obradi dokumenata i fokusom na sigurnost poduzeća, uvjereni smo: regulativa i inovacija nisu suprotnosti. EU zakon o umjetnoj inteligenciji stvara povjerenje — a povjerenje je temelj za široko prihvaćanje AI u europskim poduzećima.
EU zakon o umjetnoj inteligenciji nije prepreka, već prilika: poduzeća koja investiraju u usklađenost sada dobivaju održivu konkurentnu prednost nad pružateljima koji ignoriraju regulativu.
