Evropská unie se v posledních letech intenzivně zaměřuje na regulaci technologií, které mají potenciál významně ovlivnit společnost. Jedním z klíčových kroků v této oblasti je návrh AI Actu, který deklaruje cíl vytvořit právní rámec pro používání umělé inteligence (AI) v EU. Tento akt má zásadní dopady na ochranu osobních údajů, zejména v kontextu transparentnosti, rizikového hodnocení a lidského dohledu.
AI Act klade důraz na transparentnost AI systémů, což znamená, že organizace, které tyto systémy vyvíjejí nebo používají, musí být schopny vysvětlit, jak jejich technologie fungují a jaké údaje zpracovávají. To je důležité pro ochranu osobních údajů, protože uživatelé by měli mít jasnou představu o tom, jak jsou jejich data používána a jaká rizika s tím mohou být spojena. Transparentnost také zahrnuje povinnost informovat uživatele o tom, že komunikují s AI systémem, což může zvýšit důvěru a ovlivnit ochotu uživatelů, předávat osobní údaje.
Rizikové hodnocení je dalším důležitým aspektem AI Actu. Organizace budou muset provádět hodnocení rizik spojených s používáním AI systémů, zejména pokud jde o zpracování osobních údajů. To zahrnuje identifikaci potenciálních hrozeb pro soukromí a bezpečnost dat a zavedení opatření k minimalizaci těchto rizik. AI Act také vyžaduje, aby organizace pravidelně přezkoumávaly a aktualizovaly svá riziková hodnocení, což má zajistit, aby zůstávaly v souladu s nejnovějšími technologickými a právními standardy.
Lidský dohled je dalším prvkem AI Actu. Regulace vyžaduje, aby AI systémy byly navrženy tak, aby umožňovaly lidský zásah v případě potřeby. To znamená, že lidé musí mít možnost zasáhnout a přerušit činnost AI systému, pokud by jeho fungování mohlo ohrozit ochranu osobních údajů nebo jinak poškodit uživatele. Tento požadavek slibuje, že AI systémy zůstanou pod kontrolou, a že jejich činnost bude v souladu s etickými a právními normami.
AI Act má ambice výrazně ovlivnit způsob, jakým jsou osobní údaje zpracovávány v AI systémech. Zavedení těchto regulací deklaruje zavedení větší ochrany soukromí a bezpečnosti dat, ale povede také k vyšším nákladům a administrativní zátěži pro organizace. S ohledem na rostoucí význam AI v moderní společnosti, je vhodné, aby byly stanoveny jasné standardy pro její používání, nicméně direktivní nařízení a byrokratický aparát může celou věc komplikovat, i když původní záměr může být dobrý. Zlé úmysly jsou často o krok napřed a legislativní mašinerie, z principu jejího fungování, nedokáže na nové hrozby reagovat tak pružně, jako například soukromé antivirové firmy, které dokáží na nové způsoby útoků reagovat v řádech hodin. V dobré víře tak mohou být regulacemi zavedeny mechanismy, které se časem ukáží býti kontraproduktivními, a doba jejich odstranění může mít fatální důsledky. Direktivní nařízení postupů může vést celé odvětví do slepé uličky, pokud nedá prostor hledání vhodnějších cest vývoje. Porto je třeba, aby regulace byly co nejmenší a volný trh mohl řešit problémy co nejpružněji. Konec konců, hlasování „peněženkami“ uživatelů je nejdemokratičtější formou hlasování o tom, co lidé chtějí a co ne.
Zdroj: eGOVERNMENT.NEWS
Zdroj: B2B NETWORK NEWS
