Umělá inteligence a ochrana práv
Používání umělé inteligence (AI) ve veřejné správě i soukromém sektoru se stává běžnou součástí každodenní praxe. S tím však přichází řada právních otázek, které nelze přehlížet. Na jedné straně stojí problematika autorského práva, na druhé straně je téma ochrany osobních údajů.
U autorského práva je v popředí otázka, kdo je autorem výstupu generovaného AI a zda je takový výstup vůbec chráněn. Na straně druhé se otevírá citlivé téma ochrany osobních údajů, zejména v kontextu globálních technologických řešení a přeshraničního toku dat. Tyto dvě oblasti se přitom často prolínají a vytvářejí komplexní právní prostředí, které zatím není plně ustálené.
Autorské právo a výstupy umělé inteligence
Z pohledu českého i evropského autorského práva je klíčovým východiskem skutečnost, že autorem může být pouze fyzická osoba. Autorské dílo musí být výsledkem tvůrčí činnosti člověka a musí nést jeho jedinečný osobní vklad. Umělá inteligence, byť schopná generovat texty, obrázky či jiné výstupy, tuto podmínku sama o sobě nesplňuje.
To vede k zásadní otázce: Kdo je autorem výstupu vytvořeného pomocí AI? Odpověď není jednoznačná a závisí na konkrétním způsobu použití. Pokud uživatel využívá AI pouze jako nástroj a aktivně vstupuje do procesu tvorby, například formuluje zadání, upravuje výstup a vtiskuje mu vlastní tvůrčí charakter, lze uvažovat o tom, že výsledné dílo bude chráněno jako autorské dílo tohoto uživatele. Naopak v případech, kdy je výstup generován automaticky bez významného lidského zásahu, bude ochrana autorského práva problematická, protože chybí lidský tvůrce.
Vedle toho je nutné reflektovat i otázku vstupních dat, na nichž jsou modely umělé inteligence trénovány. Pokud jsou tato data chráněna autorským právem, může jejich využití bez souhlasu nositele práv představovat zásah do autorských práv. Evropská legislativa sice umožňuje určité výjimky pro tzv. text and data mining (automatické prohledávání velkého množství dat a textů), avšak tyto výjimky nejsou bezbřehé a jejich aplikace v praxi je stále předmětem výkladu.
Ochrana osobních údajů a rizika spojená s AI
Neméně významnou oblastí je ochrana osobních údajů. Umělá inteligence často pracuje s velkými objemy dat, která mohou obsahovat osobní údaje, a to jak ve fázi trénování, tak při samotném používání. V prostředí veřejné správy to může zahrnovat například údaje o obyvatelích, zaměstnancích či účastnících správních řízení.
Základním právním rámcem zůstává obecné nařízení o ochraně osobních údajů (GDPR), které klade důraz na zákonnost zpracování, minimalizaci údajů a transparentnost. Používání AI však přináší specifická rizika, zejména pokud jde o automatizované rozhodování, profilování a obtížnou vysvětlitelnost některých algoritmů. Subjekty údajů mají přitom právo vědět, jak jsou jejich data zpracovávána a jaké dopady to na ně má.
Zvláštní pozornost si zaslouží otázka přeshraničního toku osobních údajů. Mnoho AI nástrojů je provozováno poskytovateli se sídlem mimo Evropskou unii, typicky ve Spojených státech. Předávání osobních údajů do třetích zemí je přitom možné pouze za splnění přísných podmínek, například na základě rozhodnutí o odpovídající ochraně nebo standardních smluvních doložek. V opačném případě hrozí porušení GDPR a s tím spojené sankce.
Dalším rizikem je ztráta kontroly nad daty. Uživatelé AI často zadávají do systémů informace, aniž by si plně uvědomovali, jak s nimi bude dále nakládáno. V prostředí veřejné správy je proto nezbytné nastavit jasná pravidla pro používání těchto nástrojů, včetně omezení zadávání citlivých či osobních údajů.
Současný právní rámec a připravovaná regulace
Regulace umělé inteligence se v Evropské unii dynamicky vyvíjí. Vedle již existujících předpisů, jako je GDPR nebo autorskoprávní směrnice, se připravuje komplexní právní úprava v podobě nařízení o umělé inteligenci (AI Act). Tento předpis představuje první pokus o systematickou regulaci AI na úrovni EU.
Základním principem AI Actu je rizikový přístup. Systémy umělé inteligence jsou rozděleny do kategorií podle míry rizika, které představují. Nejvyšší požadavky jsou kladeny na tzv. vysoce rizikové systémy, například v oblasti zdravotnictví, dopravy nebo veřejné správy. Tyto systémy budou muset splňovat přísné požadavky na kvalitu dat, dokumentaci, transparentnost a lidský dohled.
Nařízení rovněž zavádí povinnosti pro poskytovatele i uživatele AI systémů. Důraz je kladen na transparentnost, tedy například povinnost informovat uživatele, že komunikují se systémem umělé inteligence, a na odpovědnost za škody způsobené AI.
Z pohledu veřejné správy bude zásadní zejména to, že využívání AI při rozhodování o právech a povinnostech občanů bude podléhat přísnému režimu. Bude nutné zajistit, aby rozhodovací procesy byly přezkoumatelné a aby nedocházelo k diskriminaci či jiným negativním dopadům.
Závěrečné zamyšlení
Umělá inteligence představuje mocný nástroj, který může výrazně zvýšit efektivitu a kvalitu rozhodování. Současně však otevírá nové právní otázky, na něž tradiční právní rámce ne vždy dávají jednoznačné odpovědi. Autorské právo naráží na absenci lidského tvůrce, zatímco ochrana osobních údajů čelí výzvám spojeným s globalizací a technologickou komplexitou.
Pro města a obce, stejně jako pro další veřejné instituce, z toho plyne nutnost obezřetného a informovaného přístupu. Nestačí pouze technologii zavést, ale je třeba ji zasadit do jasného právního a etického rámce. Klíčová bude schopnost kombinovat inovace s odpovědností, a právě v tomto napětí se bude v následujících letech formovat praktická podoba využívání umělé inteligence v právním státě.