AI Act v praxi českých firem

Jak se AI Act dotýká českých firem? Zjistěte, kdy označovat obsah vytvořený AI, jak informovat zákazníky a co prověřit ve firemních procesech.

Všimli jste si v poslední době upozornění „vytvořeno s pomocí AI“ u některých reklamních spotů či jiných materiálů? Zajímá vás, zda se příslušné nařízení vztahuje i na vaši firmu? Pak jste tady správně, protože tomu se budeme v následujícím textu věnovat.

Nová pravidla stanovená článkem 50 evropského nařízení o umělé inteligenci (EU AI Act, nařízení EU 2024/1689) se začala uplatňovat letos 2. srpna. Pro firmy nová regulace nepředstavuje plošný zákaz využívání generativních nástrojů AI, ale zavádí jasně definovanou povinnost transparentnosti. Cílem je chránit veřejnost před skrytou interakcí s umělou inteligencí a před neoznačeným zavádějícím obsahem. I majitelé a jednatelé českých firem tak stojí před úkolem zrevidovat stávající firemní procesy, marketingové postupy i komunikaci se zákazníky, aby předešli postihům a poškození dobré pověsti.

Povinnost transparentnosti podle článku 50 AI Actu

Cílem nařízení AI Act je zajistit, aby fyzické osoby v celé Evropské unii vždy spolehlivě poznaly, zda komunikují s člověkem, nebo se systémem umělé inteligence. Provozuje-li společnost na svém firemním webu, e-shopu nebo zákaznické lince automatizovaného asistenta, má od srpna 2026 povinnost uživatele výslovně informovat o tom, že komunikuje s umělou inteligencí. Tato informace musí být adresátovi sdělena nejpozději při první interakci. Právní výklady uvádějí, že nepostačuje obecné označení typu „virtuální asistent“, ze kterého nevyhnutně nevyplývá použití umělé inteligence. Nestačí ani uvedení této skutečnosti ve všeobecných obchodních podmínkách. Správným řešením je úvodní sdělení přímo v okně chatu nebo úvodní hláška hlasového asistenta na telefonní lince.

Vedle informování o komunikaci s AI se některé povinnosti týkají také obsahu vytvořeného j její pomocí. Zákazníci by měli u obsahu poznat, zda je jim předkládán obsah autentický, nebo synteticky vytvořený. Nařízení rozlišuje mezi běžnými úpravami obsahu a generováním obsahu. Pokud firma v marketingu využívá fotorealistické AI avatary, virtuální influencery nebo syntetické hlasové nahrávky tvářící se jako reálné osoby (tzv. deepfake), musí tyto výstupy zřetelně označit jako uměle vytvořené. AI Act však nestanovuje obecnou povinnost viditelně označovat každý text, obrázek nebo grafiku vytvořenou s pomocí AI. Když jste AI použili k běžné úpravě obsahu a výsledek nejde zaměnit s realitou, nemusíte jej viditelně označit.

Je vaše firma poskytovatel nebo zavádějící subjekt?

Pro správné určení rozsahu zákonných povinností musí statutární orgány s.r.o. přesně definovat, v jaké právní roli jejich společnost v konkrétním případě vystupuje. AI Act rozlišuje mezi poskytovatelem a zavádějícím subjektem.  

Poskytovatelem je subjekt, který AI systém vyvíjí a následně jej uvádí na trh. Poskytovatelé nesou primární odpovědnost za technické zabezpečení systémů. Zavádějícím subjektem je firma, která využívá AI systém vyvinutý třetí stranou pro svou vlastní komerční činnost. Zavádějící subjekt neodpovídá za programový kód nástroje, ale plně odpovídá za to, že uživatelé jsou řádně informováni a výstupy jsou označené v souladu se zákonem. Lze předpokládat, že většina menších a středních s.r.o. bude spadat právě do této kategorie. V dalším textu proto projdeme povinnosti právě zavádějících subjektů.

Přehled povinností pro firmy

Jak je z předchozího textu patrné, pravidla transparentnosti dopadají na firmy v závislosti na konkrétním způsobu využití AI technologií. U komunikace s chatboty a voiceboty na zákaznických linkách či webových stránkách platí povinnost zřetelně upozornit uživatele již při první interakci, že mluví s umělou inteligencí. Pokud využíváte software dodávaný třetí stranou (tedy poskytovatelem), máte výhodu – splnění této povinnosti je na poskytovateli. I tak byste ale měli ověřit, že je u vás konkrétní funkcionalita nastavena správně a případně poskytovatele upozornit, když tomu tak není. V případě tvorby obsahu pomocí AI si dejte pozor, zda by někdo nemohl vytvořený obsah – video, hlasový či obrazový záznam – omylem považovat za skutečnost, ačkoli to nemuselo být vaším záměrem. Pokud ano, obsah označte.

Z pohledu statutárního orgánu společnosti s ručením omezeným představuje příchod regulace AI Act potenciální zásah do povinnosti jednat s péčí řádného hospodáře. Jednatel se nemůže zbavit odpovědnosti pouhým poukázáním na to, že chybu způsobila umělá inteligence nebo dodaný softwarový nástroj. Pokud chatbot využívající AI na webu zákazníkovi chybně přislíbí nesprávnou cenu zboží nebo prodejní podmínky, nese veškeré právní a finanční následky vůči spotřebiteli firma. Vedení společnosti by proto mělo zajistit, aby ve firmě fungovaly vnitřní kontrolní mechanismy, které zamezí tomu, aby se nezkontrolované AI výstupy publikovaly či odesílaly ven z firmy.

Vkládání citlivých firemních dat (účetních uzávěrek, klientských databází, osobních údajů zaměstnanců atd.) do veřejně přístupných cloudových AI nástrojů je rizikové. Bezplatné verze mnoha generativních nástrojů využívají zadaná data k trénování svých modelů, čímž dochází ke ztrátě kontroly nad obchodním tajemstvím a k možnému porušení GDPR. Jednatel s.r.o. musí stanovit jasná pravidla pro to, jaké informace smí pracovníci do AI nástrojů vkládat a za jakých podmínek. I u placených nástrojů je vhodné věnovat pozornost smluvním podmínkám a ověřit si nastavení nástroje, než do něj nahrajete svá cenná data.

Doporučený postup pro s.r.o. k dosažení souladu s legislativou

Začněte provedením interního auditu AI nástrojů. V rámci této fáze je potřeba zmapovat veškeré AI aplikace používané napříč odděleními, protože během života firmy probíhá aktivní digitalizace procesů včetně využití AI a nemusíte o všech nástrojích vědět. AI ve svých procesech často využívá například marketing, zákaznická podpora, HR nebo IT.

Dalším krokem je zavedení transparentnosti. V praxi to znamená upravit chatovací okno tak, aby zákazníka upozornilo, že komunikuje s AI, a označovat syntetické grafiky a videa zveřejněná firmou. Nezapomeňte prověřit dodavatelské smlouvy ohledně využívání AI a vyjasnit záruky za vygenerovaný obsah.

Na závěr doporučujeme vydat vnitřní předpis vymezující povolené AI nástroje. Měli byste v něm mít také jasně stanoveno, která data je ve vaší firmě zakázáno používat jako vstupy pro AI.