Na začátku srpna vstupují v platnost další povinnosti vyplývající z evropského nařízení AI Act. Definitivní podobu pravidel potvrdilo zveřejnění tzv. digitálního omnibusu v Úředním věstníku Evropské unie. Nová pravidla se zaměřují především na transparentnost využívání umělé inteligence a vztahují se na široké spektrum organizací využívajících AI při každodenním provozu.
Chatboti i AI asistenti se budou muset přiznat
Jednou z hlavních novinek je povinnost jasně informovat uživatele o tom, že komunikují s chatbotem, virtuálním nebo hlasovým asistentem využívajícím umělou inteligenci. Stejná pravidla se nově vztahují také na AI agenty, kteří za uživatele samostatně provádějí úkoly, například rezervace, objednávky nebo vyřizování korespondence. Podle pokynů Evropské komise musí současně sdělit, že jde o AI, i za koho jednají.
Nové povinnosti se týkají také obsahu vytvořeného nebo upraveného umělou inteligencí. Deepfakes připomínající skutečné osoby nebo události musí být jasně označeny a současně opatřeny strojově čitelným označením. Evropská komise mezi ně zahrnuje například reklamní vizuály, produktové fotografie vytvořené AI, syntetické avatary manažerů nebo virtuální influencery. Pokud jsou bez lidské kontroly publikovány AI generované texty o tématech veřejného zájmu, musí být rovněž označeny jako výstupy umělé inteligence.
Povinnosti dopadají i na běžné firmy
Podle společnosti Rödl se nová pravidla netýkají pouze vývojářů velkých jazykových modelů, ale také běžných společností a institucí využívajících AI při své činnosti. Samotná obecná zmínka v obchodních podmínkách o využívání umělé inteligence již nebude dostačující. Informace musí být poskytována srozumitelně a přímo v místě, kde ke komunikaci s AI skutečně dochází.
Současně AI Act není jedinou regulací, kterou musí organizace zohlednit. Používání umělé inteligence se může překrývat s požadavky GDPR nebo autorského práva, přičemž sankce za porušení těchto předpisů mohou dosahovat 15 milionů eur, tedy asi 360 milionů korun.
Firmy by měly prověřit své AI nástroje
Rödl doporučuje organizacím zkontrolovat, jaké AI nástroje využívají, jak nakládají s osobními údaji, zda dokážou správně označovat AI generovaný obsah a zda mají připravené interní směrnice i odpovídající smluvní a GDPR dokumentaci. Připomíná také, že již od roku 2025 platí povinnost zajistit odpovídající AI gramotnost zaměstnanců pracujících s umělou inteligencí.
Vedle regulatorních požadavků by podle společnosti neměly podniky podceňovat ani provozní rizika spojená se závislostí na jednom dodavateli AI technologií. Součástí AI governance by proto mělo být také posouzení dostupnosti služeb, umístění dat či smluvních garancí poskytovatelů.
Zdroj: Evropská komise, Rödl
