Európska únia zavádza revolučný zákon o umelej inteligencii – AI Act, ktorý sa stáva prvým komplexným právnym rámcom pre reguláciu AI na svete. Tento právny predpis nadobudne účinnosť postupne, no niektoré kľúčové povinnosti prídu už začiatkom roka 2025. Čo to znamená pre firmy, vývojárov či používateľov AI systémov?

Prinášame ti prehľad toho najdôležitejšieho z odborného webinára, ktorý rozoberal AI Act a širší koncept tzv. AI compliance – teda súladu s právnymi pravidlami v oblasti AI.

Prečo je AI Act taký dôležitý?

AI Act je súčasťou digitálnej stratégie EÚ „Európa pripravená na digitálny vek“ a nadväzuje na iné významné regulácie ako GDPR, DSA či DMA. Na rozdiel od smerníc je AI Act nariadenie, ktoré bude platné rovnako vo všetkých členských štátoch EÚ.

Zavádza štyri úrovne rizika AI systémov a stanovuje povinnosti pre všetky subjekty v tzv. reťazci AI aktérov – od vývojárov cez dovozcov až po firmy, ktoré AI využívajú vo svojej činnosti.

Rizikové úrovne AI podľa AI Act

🔴 1. Neprijateľné riziko – úplný zákaz

AI systémy, ktoré predstavujú vážne ohrozenie základných práv, sú zakázané. Príklady:

• -Sociálne skóre (napr. hodnotenie osôb podľa správania či pôvodu)

• -Biometrická identifikácia v reálnom čase (napr. rozpoznávanie tvárí)

🟠 2. Vysoké riziko – prísne podmienky

AI systémy v oblastiach ako zdravotníctvo, školstvo, zamestnanosť, bankovníctvo, polícia či súdnictvo, musia prejsť prísnym hodnotením rizík a byť monitorované počas celej životnosti. Povinnosti zahŕňajú:

• -Kvalitu údajov

• -Ľudský dohľad

• -AI školenia pre zamestnancov

• -Vedenie záznamov a dokumentácie

🟡 3. Obmedzené riziko – transparentnosť

Tieto systémy musia zreteľne informovať, že ide o interakciu s AI (napr. chatboty). Povinnosťou je aj označenie AI-generovaného obsahu či deepfake videí.

🟢 4. Minimálne riziko – žiadna regulácia (s výnimkou AI gramotnosti)

Väčšina bežných AI nástrojov spadá sem. Jedinou výnimkou je, že zamestnanci, ktorí s AI pracujú, musia byť vyškolení – tzv. AI gramotnosť.

Kto ste vo vzťahu k AI Act?

AI Act definuje rôzne role v ekosystéme AI:

• -Poskytovateľ (developer, výrobca)

• -Dovozca (dodáva AI z mimo EÚ)

• -Distribútor (ďalej predáva)

• -Zavádzajúci subjekt (napr. e-shop, ktorý AI používa)

• -Používateľ (v širšom zmysle – osoba/organizácia, ktorá AI využíva)

Každá rola má odlišné povinnosti. Prvým krokom je teda identifikovať, kam patríte.

AI gramotnosť: nový štandard od februára 2025

Od 2. februára 2025 budú mať všetky firmy používajúce AI systémy zákonnú povinnosť zabezpečiť, že ich zamestnanci budú rozumieť:

• -rizikám AI,

• -právnym aspektom jej používania,

• -kontraktom s AI poskytovateľmi,

• -zodpovednosti človeka za AI rozhodnutia.

Nestačia všeobecné kurzy o tom, čo je AI. Potrebné je praktické a právne zamerané školenie.

📅 Dôležité dátumy

• -2. február 2025 – povinnosť zabezpečiť AI gramotnosť zamestnancov

• -August 2026 – vstup väčšiny pravidiel AI Actu do platnosti

Záver

AI Act predstavuje zásadný míľnik v regulácii umelej inteligencie. Právne istoty, transparentnosť a ochrana používateľov AI budú čoraz dôležitejšie. Pre firmy to znamená nie hrozbu, ale príležitosť nastaviť zodpovedné a udržateľné AI procesy.

Sleduj slovensko.ai pre ďalšie novinky z oblasti AI.