Zákon reaguje na rastúce zneužívanie generatívnej AI v extrémistických a teroristických aktivitách. Americký Kongres jednohlasne schválil legislatívu, ktorá ukladá spravodajským zložkám povinnosť každoročne monitorovať a zverejňovať správy o tom, ako teroristické skupiny využívajú AI. Cieľom je zvýšiť prehľad o bezpečnostných hrozbách a pripraviť lepšie protiopatrenia.

Nové opatrenia majú zároveň pomôcť pri identifikácii vzorcov radikalizácie, ktoré by sa mohli šíriť cez AI nástroje napríklad deepfake videá alebo generovanie propagandy.

Čo konkrétne obsahuje nový AI zákon USA?

Hlavné body legislatívy:

• Ministerstvo vnútra a tajné služby musia vydať ročnú správu o AI hrozbách.

• Zákon sa týka najmä generatívnej AI (napr. chatboty, deepfakes, generovanie textu a videa).

• Správy majú byť verejné a zrozumiteľné, nie len pre interné použitie.

• Cieľom je predísť radikalizácii a útokom, ktoré môžu byť podporované AI nástrojmi.

Zákon má podporu naprieč politickým spektrom, čo podčiarkuje všeobecný konsenzus o naliehavosti problému.

Ako teroristické skupiny využívajú generatívnu AI?

Využitie AI teroristami sa podľa odborníkov týka najmä týchto oblastí:

1. Šírenie propagandy – generovanie falošných naratívov cez videá a texty.

2. Nábor a radikalizácia – chatboty alebo AI systémy imitujúce reálne osoby na sociálnych sieťach.

3. Dezinformácie a manipulácia – deepfake videá s cieľom vyvolať paniku alebo zničiť reputáciu.

4. Kódovanie a útoky – využitie AI na automatizáciu kybernetických útokov.

Podľa americkej FBI sa zaznamenali prvé prípady, kde AI vytvárala realistické falošné vyhlásenia politikov alebo simulovala bezpečnostné hrozby. Hoci mnohé prípady zatiaľ zostávajú v utajení, trend je znepokojujúci.

Aký dopad bude mať zákon na AI priemysel a reguláciu?

Nový zákon je ďalším krokom k sprísňovaniu regulácie AI nástrojov.
Aj keď zákon cieli najmä na národnú bezpečnosť, môže ovplyvniť vývojárov a prevádzkovateľov AI platforiem, ktorí budú musieť sledovať využitie svojich nástrojov.

Zároveň je pravdepodobné, že podobné zákony sa rozšíria aj do iných krajín. V Európe už prebiehajú debaty o povinných kontrolách výstupov AI modelov. USA týmto zákonom vytvárajú precedens, ktorý môže formovať globálne štandardy v oblasti AI bezpečnosti.

Bude AI bezpečnejšia vďaka tejto legislatíve?

Zákon zvyšuje tlak na prevenciu, no neodstraňuje riziká úplne.
Legislatíva síce zlepší prehľad o možnom zneužití technológií, no veľká časť zodpovednosti stále ostáva na firmách, ktoré AI vyvíjajú a prevádzkujú.

Podľa expertov by USA mali pokračovať v rozvoji:

• Transparentnosti AI systémov

• Spolupráce medzi bezpečnostnými zložkami a technológiami

• Verejnej osvety o rizikách generatívnej AI