AI chatbot Grok bol využitý na generovanie sexualizovaných alebo vyzliekaných obrázkov ľudí vrátane žien a detí bez ich súhlasu, čo vyvolalo rozsiahlu kritiku a reakcie regulačných orgánov v mnohých krajinách. Grok reagoval na jednoduché príkazy tak, že upravoval fotky tak, aby osoby na nich vyzerali, ako keby mali na sebe veľmi odhaľujúce oblečenie alebo boli “vyzlečené.” Tieto prípady spôsobili rastúci regulačný tlak a vyšetrovania v Európe a ďalších jurisdikciách.

Ktoré krajiny reagovali na Grok AI kontroverziu?

V reakcii na používanie Groka na generovanie nevhodných obrázkov:

• Spojené kráľovstvo: Ofcom otvoril formálne vyšetrovanie, či došlo k porušeniu zákonov o online bezpečnosti.

• Európska únia: Európska komisia požaduje od spoločnosti X vysvetlenia a dokumentáciu o fungovaní Groka.

• Austrália, Malajzia a Indonézia: Prijali dočasné obmedzenia alebo vyšetrovanie v súvislosti s obsahom generovaným cez Grok.

• Japonsko: Spustilo formálne vyšetrovanie a požiadalo o okamžité bezpečnostné opatrenia.

Tieto reakcie ukazujú, že regulátori sledujú Grok AI kvôli vážnym obavám o bezpečnosť a ochranu používateľov.

Ako xAI obmedzil funkcie Groka?

Po regulačnom tlaku platforma xAI, ktorá prevádzkuje Groka, zaviedla nasledujúce opatrenia:

• Zablokovanie funkcií generovania a úpravy fotiek s vyzliekaním osôb

• Obmedzenie prístupu len pre overených platiacich používateľov

• Geografické blokovanie v krajinách, kde je takýto obsah nezákonný

Tieto kroky reagujú na tlak regulačných orgánov, no situácia sa naďalej vyvíja.

Prečo je to dôležité z hľadiska práva a bezpečnosti?

Regulačné orgány upozorňujú na viacero kritických bodov:

1. Ochrana detí: Generovanie sexualizovaných obrázkov detí je vo väčšine krajín trestné.

2. Súkromie a osobnostné práva: Úprava obrázkov bez súhlasu porušuje základné práva jednotlivcov.

3. Zodpovednosť platforiem: Poskytovatelia AI nesú zodpovednosť za to, ako sa ich nástroje používajú.

4. Možné pokuty: V niektorých krajinách hrozia vysoké sankcie za porušenie zákonov o bezpečnosti.

Diskusia sa dotýka aj Slovenska a EÚ, ktoré pripravujú nové pravidlá pre zodpovedné používanie AI.

FAQ: Najčastejšie otázky o Grok AI a generovaní fotiek

1. Čo presne Grok robil pri generovaní fotiek?
Grok upravoval nahrané fotografie tak, aby osoby na nich vyzerali, akoby boli vyzlečené alebo mali veľmi odhaľujúce oblečenie.

2. Sú takéto obrázky legálne?
Vo väčšine krajín nie, najmä ak ide o obrázky detí alebo sú generované bez súhlasu.

3. Sledujú situáciu aj slovenské úrady?
Áno, Slovensko v rámci EÚ sleduje vývoj a zvažuje regulačné opatrenia, ktoré by mohli zabrániť podobnému zneužitiu AI nástrojov.

4. Čo spravila platforma xAI?
Zablokovala funkcie generovania obrázkov pre neplatiacich používateľov a zaviedla technické obmedzenia.

5. Môže byť Grok zakázaný?
V niektorých krajinách už prebiehajú vyšetrovania alebo dočasné zákazy, vylúčiť sa nedá ani úplné blokovanie.

Záver: Riešenie zodpovedného používania AI

Prípad Grok AI ukazuje, že generatívne modely môžu byť ľahko zneužité. Potrebujeme jasné pravidlá, kontrolné mechanizmy a technické obmedzenia, ktoré zabránia zneužívaniu AI nástrojov. Diskusia o bezpečnosti, transparentnosti a etike sa musí viesť nielen medzi vývojármi, ale aj medzi politikmi, školami, firmami a verejnosťou.

Ako vám pomôžeme s bezpečnou AI stratégiou

V slovensko.ai poskytujeme služby zamerané na bezpečné, regulované a efektívne využívanie AI v organizáciách aj verejnom sektore.

Naše služby zahŕňajú:

• Tvorbu AI stratégií a auditov bezpečnosti

• Školenia zamerané na AI riziká a reguláciu

• Nastavenie kontrol zneužitia AI nástrojov

Dohodnite si AI konzultáciu a zistite, ako zabezpečiť zodpovedné používanie umelej inteligencie vo vašej firme alebo inštitúcii.