S nástupom AI, Európska únia prijala Nariadenie Európskeho Parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie. Tento AI Akt zásadné zmeny pre všetky spoločnosti a zamestnávateľov, ktorí využívajú alebo nasadzujú systémy umelej inteligencie. AI Akt síce nadobudne platnosť až od 2. augusta 2026, avšak Kapitoly I a II sú účinné už od 2. februára 2025. Nové pravidlá majú za cieľ zabezpečiť etické, transparentné a bezpečné využívanie technológií, ktoré ovplyvňujú nielen podnikové prostredie, ale aj každodenné rozhodovanie zamestnancov.
Jednou z hlavných noviniek, ktorú tento akt prináša, je povinnosť zabezpečiť gramotnosť v oblasti umelej inteligencie medzi zamestnancami. Podľa článku 4 Kapitoly I sú poskytovatelia systémov AI a subjekty, ktoré tieto systémy nasadzujú, povinní prijať opatrenia na dosiahnutie čo najvyššej úrovne znalostí a praktických skúseností svojich zamestnancov. Hoci sa z tohto ustanovenia priamo nevyvodzuje povinnosť organizovať školenia, je zrejmé, že zamestnávatelia vo všeobecnosti budú musieť zabezpečiť adekvátne vzdelávanie, aby mohli efektívne a bezpečne využívať moderné technológie umelej inteligencie.
AI Akt zároveň stanovuje prísne pravidlá pre zakázané praktiky využívajúce AI. Článok 5 výslovne zakazuje uvádzanie na trh alebo používanie systémov, ktoré využívajú podprahové techniky, manipulatívne metódy alebo techniky zamerané na zraniteľné skupiny osôb s cieľom ovplyvniť ich rozhodovanie. Medzi zakázané praktiky patria napríklad systémy na hodnotenie fyzických osôb na základe ich osobných či osobnostných charakteristík, využívanie biometrických kategorizácií a používanie diaľkovej biometrickej identifikácie v reálnom čase vo verejne prístupných priestoroch bez splnenia prísnych podmienok.
Významným aspektom tohto nariadenia je jeho spojitosť s pravidlami ochrany osobných údajov podľa GDPR. Zamestnávatelia by mali venovať osobitnú pozornosť otázke bezpečnosti a dôvernosti údajov pri používaní AI nástrojov. Nie všetky aplikácie pracujúce na princípe „open source“ systémov garantujú rovnakú úroveň ochrany dát. V niektorých prípadoch môže dôjsť k tomu, že texty alebo údaje, ktoré do týchto systémov zadáte na účely revízie či kontroly, môžu byť prístupné aj iným osobám. Preto je nevyhnutné, aby spoločnosti dôkladne preštudovali podmienky používania a politiky ochrany osobných údajov konkrétnych AI nástrojov, aby predišli neúmyselnému zdieľaniu dôverných informácií. Týmto môže dôjsť k úniku obchodných alebo aj osobných údajov, čo môže viesť nielen k finančným stratám, ale aj k poškodeniu reputácie alebo prípadným vysokým sankciám za porušenie GDPR.
Na záver je potrebné zdôrazniť, že nový Akt o umelej inteligencii predstavuje komplexnú zmenu v právnom prostredí, ktorú by zamestnávatelia nemali brať na ľahkú váhu. Implementácia týchto nových pravidiel si vyžaduje dôkladnú prípravu, revíziu interných procesov a zabezpečenie adekvátnych školení pre zamestnancov. Pre istotu odporúčame konzultovať všetky aspekty s odborníkmi, aby ste zabezpečili plný súlad s novými požiadavkami a pravidlami ochrany osobných údajov podľa GDPR a predišli tak možným rizikám a sankciám.
Kinstellar, s. r. o.
Kinstellar je popredná európska advokátska kancelária s viac ako 480 odborníkmi v Nemecku, Európe a USA. Našou hlavnou činnosťou je poskytovanie vynikajúceho, integrovaného právneho a daňového poradenstva, ktoré je odborne podložené, inovatívne a orientované na výsledok. Spolu so spoločnosťami v skupine Kinstellar vyvíjame taktiež udržateľné riešenia pre financovanie a management. Nami poskytované poradenstvo využívajú skupiny a stredné podniky, ako aj finančné inštitúcie a investori.
V dialógu s našimi mandantmi nachádzame odpovede na všetky právne aspekty ekonomického života. Náš odborný profil tak zahŕňa právo obchodných spoločností vrátane fúzii a akvizícií, súťažné, kartelové ako aj bankové právo vrátane práva kapitálového trhu a podnikového financovania. Špecializujeme sa na právo duševného vlastníctva, právo informačných technológii a telekomunikácií, právne otázky spojené s distribúciou tovaru, právne vzťahy k nehnuteľnostiam, pracovné právo, konkurzné právo, právo životného prostredia. Klientov zastupujeme pred riadnymi aj rozhodcovskými súdmi. Okrem toho ponúkame rozsiahle poradenstvo pri štruktúrovaní a financovaní investičných zámerov.