Väčšina ľudí dnes nedokáže spoľahlivo odlíšiť, či počujú skutočný alebo umelý hlas. Ukázala to nová štúdia publikovaná v prestížnom časopise PLoS One. Výskum zahŕňal 80 hlasových nahrávok polovica bola vytvorená pomocou umelej inteligencie, druhá pochádzala od reálnych ľudí. Účastníci mali určiť, ktoré hlasy sú dôveryhodné a ktoré nie.

Kľúčové zistenie: Klonované hlasy vytvorené AI boli výrazne presvedčivejšie než generické. Viac ako polovica z nich bola nesprávne identifikovaná ako ľudské. Pre porovnanie, iba 62 % autentických ľudských hlasov bolo správne rozoznaných.

Prečo sú syntetické hlasy také presvedčivé?

Moderné nástroje na generovanie hlasov sú dostupné a lacné. Dokážu imitovať intonáciu, emócie aj špecifické jazykové nuansy. Mnohé z nich využívajú reálne nahrávky, napríklad z podcastov alebo videí na sociálnych sieťach, aby vytvorili tzv. „hlasové klony“.

Podľa hlavnej autorky štúdie Nadine Lavan z Queen Mary University of London ide o zásadnú zmenu v spôsobe, akým vnímame dôveryhodnosť hlasu. „Aj laik dnes dokáže vytvoriť hlas, ktorý znie ako niekto iný bez potreby špeciálnych zručností,“ uviedla pre portál Euronews.

Ako AI mení podvody cez telefón?

Umelá inteligencia sa stáva novým nástrojom telefonických podvodníkov. Tí využívajú verejné nahrávky hlasov blízkych osôb a pomocou AI vytvárajú realisticky znejúce falošné hovory. Cieľom je oklamať obete, najmä starších ľudí, a vylákať od nich peniaze.

Dáta z University of Portsmouth ukazujú:

• 66 % ľudí nad 75 rokov čelilo pokusu o telefonický podvod,

• takmer 60 % všetkých podvodov sa uskutočňuje cez hlasové hovory.

Nebezpečenstvo rastie, pretože hranica medzi skutočným a falošným hlasom sa vytráca. Znie to ako známy ale nie je.

Ako sa môžeme chrániť pred hlasovými podvodmi?

Odporúčania pre bežných používateľov:

1. Nereagujte impulzívne. Pri nečakanom hovore s prosbou o peniaze si situáciu vždy overte.

2. Používajte bezpečnostné slová. Dohodnite si s blízkymi frázu, ktorú AI nebude poznať.

3. Zdieľajte menej. Verejné videá a nahrávky môžu byť zneužité na vytváranie hlasových klonov.

4. Využívajte AI detekčné nástroje, ktoré identifikujú syntetický hlas (napr. ElevenLabs Voice Detector ak je dostupný).

Čo to znamená pre budúcnosť komunikácie?

Technológie na báze hlasovej AI sa budú ďalej zlepšovať. Budeme musieť prehodnotiť, čo považujeme za „dôveryhodné“. Vzniká tlak na zákonodarcov, aby reagovali podobne ako v Kalifornii, kde AI musí oznámiť, že nie je človek.

Pre firmy a verejné inštitúcie bude nevyhnutné:

• zaviesť hlasovú autentifikáciu cez biometrické znaky,

• overovať hovory cez viacero kanálov,

• a vzdelať zamestnancov aj zákazníkov.