Slovensko dnes čelí prudkému nástupu generatívnej umelej inteligencie, ktorá umožňuje vytvárať texty, fotografie, videá či audio nahrávky s takou presvedčivosťou, že bežný človek len ťažko rozozná, či je obsah pravý. Tento fenomén sa dotýka nielen mediálneho priestoru, ale aj politiky, školstva či každodenných medziľudských vzťahov. Aktuálne prieskumy naznačujú, že Slováci sa v tomto novom prostredí orientujú len s ťažkosťami.

Znepokojivé štatistiky a prieskumy

Podľa nedávnych dát IVO a ESET až 31 % Slovákov uverilo obsahu, ktorý bol generovaný umelou inteligenciou, a až následne zistili, že bol falošný. Len 21 % respondentov dokázalo správne určiť, ktorá z predložených fotografií bola AI-generovaná. Zvyšok bol buď neistý, alebo označil za falošnú úplne reálnu fotografiu. Navyše, 57 % Slovákov sa priznalo, že sa stretlo s podozrivým obsahom, o ktorom mali dojem, že ho mohla vytvoriť umelá inteligencia, a 77 % z nich tvrdí, že sa s takýmto obsahom najčastejšie stretávajú na sociálnych sieťach. Až 24 % priznáva, že nevie rozlíšiť AI obsah od ľudského. Najohrozenejšou skupinou sú seniori a osoby s nižším vzdelaním, kde problém s rozlíšením dosahuje vyše 40 %.

Kde sa falošný obsah najviac šíri?

Sociálne siete sú podľa odborníkov najväčším rezervoárom falošného obsahu generovaného AI. Deepfake videá s manipulovanými hlasmi politikov, falošné recenzie produktov, klamlivé správy šírené botmi alebo chatbotmi – to všetko dnes zaplavuje Facebook, Instagram či TikTok. Šírenie týchto obsahov je navyše masívne podporované algoritmami, ktoré zvýhodňujú šokujúci či polarizujúci materiál, čo ešte viac komplikuje schopnosť používateľov posudzovať pravdivosť.

Prečo je rozlíšenie AI obsahu také ťažké?

Technológia generatívnej umelej inteligencie sa zlepšuje míľovými krokmi a jej výstupy sú čoraz presvedčivejšie. Zároveň ľudia nedisponujú dostatočnými overovacími nástrojmi ani vedomosťami, ako identifikovať deepfake videá alebo texty generované pokročilými jazykovými modelmi. Digitálna gramotnosť zostáva na Slovensku v mnohých vekových a vzdelanostných skupinách na nízkej úrovni, čo je hlavný dôvod, prečo sa falošný obsah tak rýchlo šíri a prijíma.

Dopady na spoločnosť a demokraciu

Falošný obsah môže mať vážne dôsledky na demokratické procesy. Podľa prieskumov sa s politicky manipulovaným AI obsahom stretlo už 33 % Slovákov, najčastejšie pred voľbami alebo počas citlivých spoločenských udalostí. Ak sa ľudia nevedia spoľahnúť na to, čo vidia a počujú, podkopáva to ich dôveru vo verejné inštitúcie aj médiá. Tento trend vedie k rastúcej polarizácii, frustrácii a v konečnom dôsledku k oslabeniu samotnej demokracie.

Ako sa brániť a čo pomôže?

Experti odporúčajú kombináciu opatrení:

• masívnu podporu digitálneho vzdelávania a kritického myslenia,
• investície do technológií na detekciu deepfake obsahu,
• reguláciu platforiem, ktoré umožňujú rýchle šírenie AI-generovaného klamlivého materiálu,
• väčšiu transparentnosť zo strany tvorcov umelej inteligencie a jej poskytovateľov.

Dôležité je, aby sa zodpovednosť nedala len na jednotlivcov, ale aby boli zapojené aj štátne inštitúcie, školy a samotné technologické firmy.