OpenAI obmedzilo ChatGPT, aby neodpovedal na právne a medicínske otázky. Cieľom je chrániť používateľov pred chybnými či neoverenými informáciami. Nové pravidlá sa vzťahujú aj na slovenských používateľov.

Prečo OpenAI zakázalo právne a medicínske rady?

Dôvodom je ochrana pred nesprávnymi alebo nebezpečnými informáciami

Spoločnosť OpenAI zaviedla nové obmedzenia pre ChatGPT, ktoré mu zakazujú poskytovať medicínske a právne poradenstvo. Cieľom je znížiť riziko, že používatelia dostanú nesprávne alebo neoverené informácie, ktoré by mohli poškodiť ich zdravie alebo viesť k právnym chybám. Zmena sa týka najmä platených verzií ChatGPT (Plus, Enterprise), ale má dopad aj na voľne dostupný model. Firma tým reaguje na rastúcu kritiku zo strany odborníkov a regulačných orgánov.

Aký typ informácií ChatGPT už neodpovedá?

Ide najmä o diagnózy, predpisy, právne rady a analýzy

Podľa nových pravidiel ChatGPT:

• neposkytuje diagnózy ani lekárske odporúčania

• nevypracuje zmluvy ani právne stanoviská

• neinterpretuje právne dokumenty

• neponúka názory na konkrétne prípady

Aj keď môže poskytnúť všeobecnú informáciu (napríklad čo je zápal slepého čreva), vyhne sa formuláciám ako “mal by si ísť na operáciu” alebo “táto zmluva je pre vás výhodná”.

Aké sú dôsledky pre používateľov?

ChatGPT sa stáva bezpečnejším, ale zároveň menej užitočným v niektorých oblastiach

Toto rozhodnutie môže:

• znížiť riziko zneužitia AI pri kritických rozhodnutiach

• ochrániť používateľov pred falošnou istotou

• znížiť právnu zodpovednosť OpenAI

Na druhej strane však môže znížiť úžitkovú hodnotu ChatGPT pre profesionálov, študentov práva, lekárov alebo pacientov, ktorí AI využívali ako doplnkový zdroj.

Týka sa to aj Slovenska?

Áno, obmedzenia sú celosvetové vrátane Slovenskej republiky

Zmeny sa týkajú všetkých regiónov, jazykov aj používateľov teda aj tých zo Slovenska. Aj keď používateľ položí otázku v slovenčine, model sa vyhne odpovedi, ak by išlo o obsah s medicínskym alebo právnym rizikom. Slovenskí lekári, právnici alebo startupy pracujúce s AI tak budú musieť prispôsobiť svoje očakávania a overovať, aké výstupy sú ešte prípustné.

Ako OpenAI plánuje riešiť odborné odpovede v budúcnosti?

OpenAI môže neskôr integrovať overené odborné zdroje a partnerov

OpenAI naznačilo, že do budúcnosti zvažuje spoluprácu s odbornými platformami, aby mohli byť niektoré typy informácií poskytované v bezpečnejšej a overenej forme. Napríklad:

• právne odpovede by mohli pochádzať od certifikovaných právnikov

• medicínske odpovede by boli viazané na dáta z overených klinických databáz (napríklad Mayo Clinic)

Momentálne sa však firma prikláňa k prístupu “radšej neodpovedať, ako riskovať”.

Záver: Rozhodnutie, ktoré mení spôsob práce s AI

Obmedzenia zvyšujú dôveru, ale aj hranice využitia

Zákaz poskytovania právnych a medicínskych rád je logický krok zo strany OpenAI, ktorý reflektuje realitu ChatGPT nie je odborník, a hoci pôsobí presvedčivo, môže sa mýliť. Rozhodnutie zvyšuje bezpečnosť, no znižuje flexibilitu použitia v profesionálnych oblastiach.