Čínska vláda oznámila nové nariadenie, ktoré výrazne mení spôsob, akým sa bude s obsahom vytvoreným umelou inteligenciou narábať na internete. Od 1. septembra budú musieť všetky texty, obrázky, videá či zvuky generované pomocou AI obsahovať jasné a viditeľné označenie, že ide o umelú inteligenciu. Navyše, každé takéto dielo bude musieť obsahovať aj „skryté“ označenie v metadátach súboru.

Prečo k tomu dochádza?

Tento krok je odpoveďou na rastúce obavy zo zneužitia umelej inteligencie pri šírení dezinformácií, manipulácie verejnej mienky a narušení dôveryhodnosti digitálneho priestoru. V posledných mesiacoch sa objavilo viacero prípadov, kedy bol AI obsah zneužitý – napríklad na vytváranie falošných výrokov známych osobností, sfalšované správy či podvodné videá, ktoré pôsobili ako reálne vystúpenia politikov či celebrít.

Transparentnosť ako nová norma

Označovanie AI obsahu má zabezpečiť väčšiu transparentnosť v online prostredí a umožniť ľuďom rozoznať, čo je vytvorené človekom a čo nie. Vďaka viditeľným aj technickým značkám bude jednoduchšie odhaliť pôvod obsahu a predísť jeho zneužitiu na šírenie nepravdivých alebo manipulatívnych informácií.

Čína udáva tempo regulácie

Toto rozhodnutie je súčasťou širšej stratégie Číny, ktorá sa snaží vytvoriť právny rámec pre reguláciu rýchlo sa rozvíjajúcich AI technológií. Čínske úrady už niekoľko mesiacov signalizovali potrebu zaviesť prísnejšie pravidlá v oblasti umelej inteligencie – a teraz prichádza konkrétny krok.

Zaujímavosťou je, že nariadenie sa nebude týkať len komerčného a mediálneho obsahu, ale aj príspevkov bežných používateľov na sociálnych sieťach, pokiaľ budú využívať AI nástroje na jeho tvorbu.

Čo to znamená pre zvyšok sveta?

Aj keď ide o rozhodnutie jednej krajiny, ide o významný signál. Téma regulácie AI sa stáva čoraz aktuálnejšou aj v Európskej únii, USA či ďalších štátoch. V marci 2024 Európsky parlament schválil AI Act, prvý komplexný zákon na svete, ktorý reguluje používanie umelej inteligencie v členských štátoch EÚ. Cieľom je zabezpečiť, aby boli AI systémy bezpečné, transparentné a rešpektovali základné práva. Viac o AI Act sa dozviete tu.