Kaj je zakon EU o umetni inteligenci?
Zakon EU o umetni inteligenci (Uredba (EU) 2024/1689) je prvi celovit zakon na svetu, ki ureja umetno inteligenco. Začel je veljati 1. avgusta 2024 in se izvaja v fazah do leta 2027. Cilj: zagotoviti, da je umetna inteligenca v Evropi varna, pregledna in spoštuje temeljne pravice — ne da bi zavirala inovacije.
Za podjetja, ki uporabljajo Document AI, AI-IDP ali sisteme za avtomatizirano odločanje, ta uredba ni oddaljena skrb. Večina obveznosti začne veljati 2. avgusta 2026 — manj kot štiri mesece od danes.
Časovnica: Kdaj se pravila začnejo uporabljati?
Zakon EU o umetni inteligenci se uveljavlja v štirih fazah:
| Datum | Kaj se zgodi |
|---|---|
| Februar 2025 | Prepovedi nesprejemljivih sistemov umetne inteligence (družbeno ocenjevanje, manipulativna umetna inteligenca, biometrično nadziranje v realnem času) |
| Avgust 2025 | Pravila za splošno umetno inteligenco (GPAI) in modele umetne inteligence s sistemskim tveganjem |
| Avgust 2026 | Glavne obveznosti za sisteme umetne inteligence z visokim tveganjem, zahteve glede preglednosti, ocene skladnosti |
| Avgust 2027 | Obveznosti za umetno inteligenco z visokim tveganjem v reguliranih izdelkih (medicinske naprave, vozila itd.) |
Avgust 2026 je kritični rok za večino podjetij. Od tega trenutka morajo sistemi umetne inteligence z visokim tveganjem opraviti postopke ocene skladnosti, vzpostavljeni morajo biti sistemi upravljanja tveganj in izpolnjene morajo biti obsežne zahteve glede dokumentacije.
Štiri kategorije tveganja na kratko
V središču zakona EU o umetni inteligenci je pristop, ki temelji na tveganju. Višje kot je tveganje sistema umetne inteligence, strožje so zahteve:
Nesprejemljivo tveganje — Prepovedano
Sistemi, ki kršijo temeljne pravice: družbeno ocenjevanje, manipulativna umetna inteligenca, množično biometrično nadziranje. Ti so prepovedani od februarja 2025.
Visoko tveganje — Strogo regulirano
Sistemi umetne inteligence na občutljivih področjih: ocena kreditne sposobnosti, upravljanje zaposlovanja, kritična infrastruktura, kazenski pregon. Zahtevajo oceno skladnosti, upravljanje tveganj in človeški nadzor.
Omejeno tveganje — Obveznosti preglednosti
Klepetalni roboti, globoki ponaredki, prepoznavanje čustev: uporabniki morajo biti obveščeni, da komunicirajo z umetno inteligenco.
Minimalno tveganje — Brez zahtev
Filtri za neželeno pošto, umetna inteligenca v videoigrah, sistemi za priporočila. Brez regulativnih zahtev.
Kaj to pomeni za Document AI in AI-IDP?
Za podjetja, ki uporabljajo inteligentno obdelavo dokumentov (AI-IDP), je ključno vprašanje: V katero kategorijo tveganja spada Document AI?
Dobra novica: večina aplikacij Document AI spada v kategoriji omejenega ali minimalnega tveganja:
- OCR in prepoznavanje besedila: Minimalno tveganje — brez regulativnih obveznosti
- Klasifikacija dokumentov: Minimalno tveganje — samodejno razvrščanje računov, pogodb itd.
- Izvleček podatkov iz obrazcev: Minimalno tveganje — strukturirani podatki iz nestrukturiranih dokumentov
- Klepetalni roboti na osnovi umetne inteligence za storitve za stranke: Omejeno tveganje — obveznost preglednosti (uporabniki morajo vedeti, da govorijo z umetno inteligenco)
Pozornost je potrebna, ko se Document AI uporablja za avtomatizirane odločitve, ki bistveno vplivajo na posameznike — kot so avtomatizirane ocene kreditne sposobnosti na podlagi dokumentov ali predhodno presejanje kandidatov z umetno inteligenco.
5 stvari, ki jih morajo podjetja storiti zdaj
Ne glede na kategorijo tveganja priporočamo, da vsako podjetje, ki uporablja sisteme umetne inteligence, izvede teh pet korakov:
1. Ustvarite popis umetne inteligence
Pridobite popoln pregled vseh sistemov umetne inteligence v vaši organizaciji. Katera programska oprema uporablja umetno inteligenco? Katere odločitve so avtomatizirane? Kje se obdelujejo osebni podatki?
2. Izvedite oceno tveganja
Razvrstite vsak sistem umetne inteligence v eno od štirih kategorij tveganja. Uporabite merila iz Priloge III zakona EU o umetni inteligenci. V dvomih: poiščite strokovni nasvet.
3. Pripravite dokumentacijo
Sistemi z visokim tveganjem zahtevajo obsežno tehnično dokumentacijo: podatki o usposabljanju, metrike zmogljivosti, ukrepi za upravljanje tveganj, protokoli testiranja. Začnite zdaj — naknadna dokumentacija je bistveno dražja.
4. Zagotovite Human-in-the-Loop
Avtomatizirane odločitve, ki bistveno vplivajo na posameznike, zahtevajo človeški nadzor. Vzpostavite jasne poti eskalacije in mehanizme pregleda.
5. Ocenite svoje ponudnike
Če uporabljate sisteme umetne inteligence tretjih oseb, preverite njihovo skladnost z zakonom EU o umetni inteligenci. Zahtevajte izjave o skladnosti. Dajte prednost ponudnikom z gostovanjem v EU in dokazljivo skladnostjo.
Kako je PaperOffice AI že skladen
PaperOffice AI je bil zasnovan od začetka z evropskimi vrednotami in najvišjimi varnostnimi standardi. Naša platforma Document AI že izpolnjuje zahteve zakona EU o umetni inteligenci:
- 100 % gostovanje v EU: Vsi podatki se obdelujejo izključno v nemških in evropskih podatkovnih centrih — brez prenosov v tretje države
- Skladnost z GDPR: Popolna skladnost s Splošno uredbo o varstvu podatkov, zasebnost po načrtu
- SOC 2 in ISO 27001: Certificirana varnost informacij z rednimi revizijami
- Human-in-the-Loop: Integriran človeški pregled za kritične odločitve — brez avtomatizacije črne škatle
- Pregledna umetna inteligenca: Sledljive odločitve, popolne revizijske sledi, razložljivi rezultati
- Tehnična dokumentacija: Celovita dokumentacija API, metrike zmogljivosti in protokoli testiranja za vseh 357+ orodij umetne inteligence
Z več kot 24 leti izkušenj na področju obdelave dokumentov in poudarkom na varnosti podjetij smo prepričani: regulacija in inovacije niso protislovja. Zakon EU o umetni inteligenci ustvarja zaupanje — in zaupanje je temelj za široko sprejetje umetne inteligence v evropskih podjetjih.
Zakon EU o umetni inteligenci ni ovira, ampak priložnost: podjetja, ki zdaj investirajo v skladnost, pridobijo trajnostno konkurenčno prednost pred ponudniki, ki ignorirajo regulacijo.
