Viac než 200 lídrov z vlád, výskumu a technologického sektora podpísalo iniciatívu „Global Call for AI Red Lines“. Cieľom je do konca roka 2026 vytvoriť medzinárodnú dohodu, ktorá jasne vymedzí, čo umelá inteligencia nesmie robiť. Tieto tzv. červené línie by mali ochrániť ľudstvo pred najextrémnejšími rizikami AI, ako sú autonómne rozhodovanie o živote a smrti, sebavznik, či úplná simulácia ľudskej identity. Iniciatíva vznikla v reakcii na rýchlo sa vyvíjajúce schopnosti systémov ako GPT, Claude, Grok či Gemini.

Čo presne znamenajú „červené línie“ pre AI?

Červené línie predstavujú minimálny spoločenský a technologický konsenzus o tom, čo by AI nemala prekročiť – bez ohľadu na vývoj alebo ekonomický záujem.

Medzi navrhované zákazy patria:

• Sebavznik: zákaz vývoja systémov, ktoré sa dokážu samy reprodukovať alebo meniť bez ľudského zásahu.

• Klonovanie ľudskej identity: zákaz vytvárať AI, ktoré sa vydávajú za skutočné osoby (živé alebo mŕtve).

• Rozhodovanie o živote a smrti: zákaz použitia AI v autonómnych zbraňových systémoch bez ľudského dohľadu.

• Masové sledovanie a manipulácia: zákaz používania AI na totalitné kontrolné systémy.

Prečo je takáto dohoda potrebná už dnes?

Technológia napreduje rýchlejšie než zákonodarcovia.
Systémy AI sa čoraz častejšie používajú v oblastiach ako sú bezpečnosť, zdravotníctvo či súdnictvo, kde môžu mať priame dopady na ľudské životy. Bez jasných globálnych pravidiel hrozí:

• Preteky v zbrojení s AI medzi mocnosťami.

• Eskalácia rizík v oblasti deepfake, digitálnej identity a kyberútokov.

• Zneužitie technológie autoritárskymi režimami na potláčanie práv a slobody.

Kto stojí za výzvou a aký je ďalší postup?

Iniciatívu odštartovala koalícia odborníkov z organizácií ako Future of Life Institute, Center for Humane Technology a ďalšie výskumné centrá z USA, EÚ a Ázie. Podpisy pridali aj niektorí technologickí lídri, ale najmä nezávislí vedci, akademici a medzinárodní diplomati.

Plán do roku 2026 zahŕňa:

1. Vytvorenie medzinárodného rámca pre konzultácie (na spôsob klimatickej dohody).

2. Prípravu návrhu právne záväzného dokumentu.

3. Tlak na OSN, G7, G20 a ďalšie zoskupenia, aby sa k dohode pripojili.

Ako sa k tejto téme stavajú veľké AI firmy?

Reakcie technologických gigantov sú zmiešané.
Niektoré spoločnosti, ako napríklad OpenAI a Anthropic, verejne deklarujú podporu zodpovednej AI. Iné, najmä komerčne orientované firmy, sú vo vyjadreniach opatrnejšie. Existuje riziko, že bez právnej záväznosti sa záväzky stanú len PR nástrojom.

Zároveň však rastie záujem o tzv. AI alignment – teda vývoj takých systémov, ktoré budú v súlade s ľudskými hodnotami. Spoločnosti zvažujú aj nezávislé AI audity, transparentnosť modelov a zavedenie AI etikových komisií.

Môže byť dohoda globálne akceptovaná?

Globálne štandardy sú politicky aj kultúrne náročné.
Zatiaľ čo EÚ podporuje prísne regulácie, niektoré krajiny ako Čína či USA majú iný prístup – buď kontrolu cez štát, alebo dôraz na inovácie bez brzdenia.

Potenciálne výzvy:

• Rôzne hodnotové rámce (napr. sloboda vs. kontrola).

• Rozdielna úroveň technologického rozvoja.

• Geopolitická rivalita medzi mocnosťami.

Dohoda je teda ambiciózna, ale možná, ak bude včas a dôsledne pripravená.

Záver: Prvé kroky k etickej AI sú na stole

„Red lines“ pre AI môžu byť jedným z najdôležitejších krokov v histórii digitálnej civilizácie. V čase, keď technológia začína formovať realitu rýchlejšie než spoločnosť stíha reagovať, sú jasné hranice nevyhnutné. Ak sa podarí vytvoriť medzinárodnú dohodu, môže to byť kľúč k bezpečnejšej a spravodlivejšej budúcnosti s AI.