EU AI Act: Vodič za hrvatske tvrtke

Što je EU AI Act?

EU AI Act (Regulation (EU) 2024/1689) je prva sveobuhvatna regulativa o umjetnoj inteligenciji na svijetu. Usvojena u lipnju 2024., na snazi od 1. kolovoza 2024. Pokriva cijeli životni ciklus AI sustava: od razvoja do korištenja u praksi.

Koristite ChatGPT, Copilot ili bilo koji AI alat u poslovanju? Ova regulativa se odnosi i na vas.

Ne odnosi se samo na tech tvrtke. Ako vaša tvrtka koristi AI alat za zapošljavanje, kreditno bodovanje ili generiranje sadržaja, ova regulativa se tiče i vas. Za razliku od GDPR-a koji regulira podatke, AI Act regulira sustave koji te podatke koriste za donošenje odluka.

Vremenski plan

Implementacija u 4 faze. Rokovi su fiksni i ne čekaju vas.

Velj. 2025 na snazi

Zabrane neprihvatljivog rizika

+

Zabranjeno: socijalno bodovanje, biometrijska identifikacija u stvarnom vremenu na javnim mjestima, prepoznavanje emocija na radnom mjestu i u školama, prediktivno policijsko profiliranje (čl. 5, zabranjene prakse). Obveza AI pismenosti za zaposlenike (čl. 4). Ovo je već na snazi.

Kol. 2025 na snazi

Pravila za modele opće namjene (GPAI)

+

Ako koristite ili razvijate modele poput GPT-a, Claudea ili Geminija, od ovog datuma vrijede posebne obveze transparentnosti i dokumentacije (čl. 51, GPAI obveze). Ova faza je već stupila na snagu.

Kol. 2026

Visokorizični AI sustavi (Prilog III)

+

AI u zapošljavanju, kreditnom bodovanju, obrazovanju, kritičnoj infrastrukturi, pravosuđu. Ovo je rok za koji se većina hrvatskih tvrtki mora pripremiti. Stroge obveze: procjena sukladnosti, dokumentacija, ljudski nadzor.

Kol. 2027

Visokorizični AI u proizvodima (Prilog I)

+

Medicinski uređaji, strojevi, igračke i slični proizvodi koji koriste AI komponente. Specifična sigurnost proizvoda.

Kategorije rizika

AI Act klasificira sve AI sustave u 4 razine. Klikni na svaku za detalje.

Potpuno zabranjene primjene AI-ja:

Sustavi za socijalno bodovanje (poput kineskog modela)
Biometrijska identifikacija u stvarnom vremenu na javnim prostorima
Prepoznavanje emocija na radnom mjestu i u školama
Prediktivno policijsko djelovanje temeljeno na profiliranju

Nema iznimki za privatni sektor kod većine ovih zabrana.

Kategorija koja će pogoditi najviše hrvatskih tvrtki. AI sustavi u:

Zapošljavanju i selekciji kandidata
Kreditnom bodovanju i financijskim procjenama
Obrazovanju (automatsko ocjenjivanje)
Kritičnoj infrastrukturi (energetika, promet, vodovod)
Kaznenom progonu i upravljanju granicama
Pravosuđu

Obveze: procjena sukladnosti, tehnička dokumentacija, ljudski nadzor, praćenje nakon uporabe, prijava incidenata.

Chatbotovi, deepfake generatori, sustavi za prepoznavanje emocija (izvan zabranjenih konteksta).

Korisnik mora znati da komunicira s AI-jem, ne s čovjekom
Deepfake sadržaj mora biti označen kao AI-generiran
Nema procjene sukladnosti, ali transparentnost nije opcija

Spam filteri, AI u videoigrama, sustavi za preporuku sadržaja. Nema obvezujućih zahtjeva. Europska komisija potiče dobrovoljne kodekse ponašanja. Ako vaš AI sustav radi samo ovo, možete odahnuti, ali provjerite klasifikaciju.

Tko u Hrvatskoj mora postupati?

Kratki odgovor: vjerojatno i vi, ako koristite bilo kakav AI alat koji utječe na odluke o ljudima.

AI Act se primjenjuje na svaku tvrtku koja razvija ili koristi AI sustave unutar EU-a, koristi visokorizične AI sustave u poslovanju, ili je izvan EU-a ali njezin AI sustav proizvodi učinke unutar EU-a.

Banka s AI kreditnim bodovanjem +

Visokorizični AI sustav. Procjena sukladnosti, dokumentacija, ljudski nadzor, mogućnost objašnjenja odluke klijentu. Rok: kolovoz 2026.

Tvrtka s AI alatom za screening životopisa +

Visokorizični AI u domeni zapošljavanja. Nije bitno je li alat kupljen od dobavljača ili razvijen interno. Korisnik (deployer) ima svoje obveze neovisno o dobavljaču.

Marketinška agencija koja generira AI sadržaj +

Obveze transparentnosti. AI-generirani sadržaj mora biti prepoznatljiv kao takav. Ako se koriste deepfake tehnologije, označavanje je obvezno.

Freelancer koji koristi ChatGPT za ponude +

Minimalni rizik, bez formalnih obveza. Ali ako isti freelancer koristi AI za automatsko ocjenjivanje kandidata za klijenta, to je visoki rizik. Kontekst korištenja određuje kategoriju.

Kazne

€35M ili 7%

Zabranjene AI prakse

€15M ili 3%

Visokorizični sustavi

€7,5M ili 1,5%

Netočne informacije

Postotak se odnosi na globalni godišnji promet, ovisno o tome što je veće. Za MSP-ove (mikro, mala i srednja poduzeća) predviđeni su razmjerni iznosi, ali i dalje ozbiljni.

Usklađivanje s EU AI Actom počinje od razumijevanja AI alata koje koristite. Radionica to pokriva za €750. Neusklađenost može koštati do €35.000.000.

Zakažite konzultaciju

Što trebate napraviti?

6 koraka. Počnite što prije.

01

Inventar AI sustava

+

Gdje sve koristimo AI? Uključite sve: alate za zapošljavanje, chatbotove na webu, AI značajke unutar CRM-a, ERP-a, alata za analitiku. Mnoge tvrtke ne znaju da njihov postojeći softver već koristi AI komponente.

→

02

Klasifikacija rizika

+

Za svaki AI sustav odredite razinu rizika. Ovo je najvažniji korak jer određuje sve daljnje obveze. Pogrešna klasifikacija nosi vlastite rizike. Ako niste sigurni, konzultirajte stručnjaka.

→

03

Procjena sukladnosti

+

Tehnička dokumentacija o radu sustava, sustav upravljanja kvalitetom, procjena rizika i mjere ublažavanja, osiguranje ljudskog nadzora (čovjek mora moći intervenirati), mehanizam za praćenje nakon stavljanja u uporabu.

↓

04

Provjera GPAI dobavljača

+

Koristite GPT, Claude, Gemini? Vaš dobavljač ima vlastite obveze prema AI Actu. Ali vi kao korisnik morate provjeriti da ih ispunjava i da imate odgovarajuću dokumentaciju. Ne možete se sakriti iza dobavljačeve odgovornosti.

→

05

AI pismenost zaposlenika

+

Članak 4. zahtijeva dovoljnu razinu AI pismenosti za sve zaposlenike koji rade s AI sustavima. Na snazi od veljače 2025. Odnosi se na sve tvrtke, neovisno o kategoriji rizika. Ne moraju svi postati inženjeri, ali moraju razumjeti mogućnosti, ograničenja i rizike alata koje koriste.

→

06

Odgovorna osoba

+

Netko u organizaciji mora biti zadužen za uskladenost s AI Actom. U manjim tvrtkama to može biti osoba zadužena za GDPR. U većim organizacijama razmislite o posebnoj ulozi ili timu.

Kako Institut za UI može pomoći

Programi AI pismenosti usklađeni s člankom 4. Polaznici nakon edukacije znaju prepoznati kada se AI alat koristi ispravno, kada donosi rizike i kako primijeniti zdrav razum. Time vaša tvrtka ispunjava obvezu koja je na snazi od veljače 2025.

Radionice za inventar i klasifikaciju AI sustava. Prolazimo s vašim timom kroz sve poslovne procese, identificiramo AI (uključujući mjesta za koja niste znali), i klasificiramo prema kategorijama rizika. Na kraju: jasan pregled i plan koraka.

Praktična hands-on obuka. Umjesto prezentacija o AI-ju, polaznici rade s alatima. To je upravo ono što regulativa traži: razumijevanje tehnologije kroz korištenje.

Napomena: Ovaj tekst ima informativni i edukativni karakter. Ne predstavlja pravni savjet. Za konkretne pravne situacije savjetujemo konzultaciju s odvjetnikom specijaliziranim za pravo EU-a.