AI sigurnost
Uvedite AI koji možete braniti pred odborom i regulatorom
Usklađenost s EU AI Act-om i GDPR-om. Red teaming LLM aplikacija. Interne politike upotrebe. Dokumentacija spremna za reviziju.
Što pokrivamo
EU AI Act mapping
Klasificiramo vaše AI sustave po risk tierima (minimal, limited, high, unacceptable) i pripremamo dokumentaciju prema zahtjevima za svaki tier.
Red teaming LLM aplikacija
Testiramo prompt injection, jailbreaking, data exfiltration i bias scenarije. Dobivate izvještaj s pronađenim rizicima i preporukama za mitigaciju.
Politika upotrebe AI-a
Pišemo internu politiku koja pokriva što zaposlenici smiju raditi s AI-em, koje podatke smiju dijeliti i kako prijaviti incident.
GDPR alignment
Pregled DPIA-e, ugovori o obradi podataka, lokacija podataka, prava ispitanika - sve u kontekstu LLM sustava.
Revizijska dokumentacija
Pripremamo dokumentaciju koju interni ili eksterni revizori traže: logovi, audit trail, data lineage, model cards, risk register.
Izobrazba vodstva
Kratka sesija za upravu i pravni tim: što je AI Act, zašto je važno, koje odluke morate donijeti i tko ih mora potpisati.
Kako izgleda angažman
- 01
Kickoff i inventar
Popisujemo sve AI sustave koje koristite ili planirate - komercijalne i interne. Identificiramo vlasnike, podatke i korisničke grupe.
- 02
Risk assessment
Za svaki sustav određujemo rizik po EU AI Act-u, GDPR-u i internim pravilima. Rezultat: risk register s prioritetima.
- 03
Red team sesija
Targetiramo vaše najrizičnije LLM aplikacije - probijamo ih i dokumentiramo što radi, a što ne.
- 04
Dokumentacija i izvještaj
Dobivate politiku upotrebe, revizijsku dokumentaciju, red team izvještaj i sažetak za odbor.
Česta pitanja
- Ako vaša tvrtka posluje u EU-u ili nudi AI sustav korisnicima u EU-u - da. Obveze ovise o risk tier-u sustava i ulozi (provider, deployer, importer).
- Obveze se primjenjuju u fazama. Zabrana unacceptable-risk sustava vrijedi od veljače 2025., obveze za GPAI modele od kolovoza 2025., a ostale obveze postupno do 2027. Precizno rasporedimo vaše zahtjeve u kickoff sesiji.
- Kontrolirano napadanje vlastitih AI sustava prije nego što to učine netko drugi. Testiramo prompt injection, jailbreaking, data leak i nesigurne inpute. Fokus je na realnim scenarijima - ne teoretskim CVE-ovima.
- Jer ga koriste vaši zaposlenici - s privatnim ChatGPT računima, u browserima, bez kontrole. Prva stvar koju radimo je 'shadow AI' audit - što se stvarno događa u vašoj organizaciji.