Obavy z nekontrolovaného vývoja umelej inteligencie viedli viac ako 100 britských poslancov k výzve na prísnejšiu reguláciu. Tvrdia, že najvýkonnejšie systémy, tzv. frontier AI, predstavujú potenciálne existenčné riziko pre spoločnosť. V liste adresovanom vláde vyzývajú na prijatie zákonných opatrení, ktoré by stanovili bezpečnostné štandardy a povinné testovanie pred nasadením technológií.

Podporu iniciatíve vyjadrili zákonodarcovia naprieč politickým spektrom. Táto aktivita nadväzuje na diskusiu, ktorú začal summit o bezpečnosti AI v Bletchley Parku v novembri 2023.

Aké riziká predstavujú frontier AI systémy?

Hrozí strata kontroly nad výkonnou AI?

Frontier AI označuje najpokročilejšie modely schopné samostatného učenia, generovania kódu, tvorby obsahu či autonómneho rozhodovania. Podľa expertov by mohli:

• ohroziť kybernetickú bezpečnosť (napr. automatizovanými útokmi),

• byť zneužité na šírenie dezinformácií,

• viesť k ekonomickým nerovnostiam alebo zániku pracovných miest,

• v extrémnych prípadoch spôsobiť stratu kontroly nad systémami.

Zástancovia regulácie upozorňujú, že firmy často uvádzajú nové modely na trh bez dostatočného testovania či nezávislého overenia ich bezpečnosti.

Čo poslanci konkrétne navrhujú?

3 hlavné požiadavky zákonodarcov

Podľa dostupných informácií poslanci žiadajú:

1. Zákonný rámec na kontrolu vývoja frontier AI.

2. Zavedenie povinného bezpečnostného testovania pred uvedením na trh.

3. Založenie nezávislého dohľadu nad vývojom a nasadením AI systémov.

Ich cieľom je, aby vývoj AI prebiehal transparentne, eticky a v súlade s verejným záujmom. Obávajú sa, že pri súčasnom tempe inovácií môžu technologické firmy predbehnúť legislatívu.

Ako reaguje vláda Spojeného kráľovstva?

Vláda zatiaľ uprednostňuje samoreguláciu

Britská vláda sa doteraz prikláňala k tzv. „ľahkému dotyku“ v regulácii AI. Verí, že inovácie by nemali byť brzdené byrokraciou. Podporuje preto dobrovoľné záväzky a spoluprácu s firmami ako OpenAI, Google DeepMind či Anthropic.

Na summite v roku 2023 však Spojené kráľovstvo priznalo, že je potrebné začať hovoriť o globálnych pravidlách pre najvýkonnejšiu AI. Návrh zákonnej regulácie zatiaľ nepredstavili, ale tlak zo strany verejnosti a parlamentu rastie.

Aký môže byť dopad tejto výzvy?

Môže to byť začiatok globálneho posunu k AI regulácii?

Podobné výzvy zaznievajú aj v USA, EÚ a Kanade. Európska únia pripravuje AI Act, ktorý by mohol byť schválený už začiatkom roka 2026. Americký prezident Joe Biden podpísal výkonné nariadenie o AI bezpečnosti už v roku 2023.

Iniciatíva britských poslancov tak môže:

• ovplyvniť globálnu diskusiu o regulácii,

• posilniť tlak na technologické firmy, aby zvýšili transparentnosť,

• podnietiť vytvorenie medzinárodných štandardov.

Odborníci sa zhodujú, že ak má byť AI prínosná pre spoločnosť, jej vývoj musí byť zodpovedne riadený a kontrolovaný.