Přesto podle Heureky zůstává velká část e-shopů na nové požadavky nepřipravena. Největší problém podle společnosti nespočívá v samotné implementaci pravidel, ale v nízkém povědomí o tom, koho se regulace vlastně týká. Mnoho obchodníků stále předpokládá, že AI Act míří především na technologické firmy nebo vývojáře modelů umělé inteligence. Ve skutečnosti se však povinnosti mohou vztahovat na prakticky každý e-shop využívající AI chatboty, generované produktové texty nebo jiné automatizované nástroje pracující s obsahem.
EU AI Act provází mnoho omylů
Heureka, která spolupracuje s přibližně 50 tisíci e-shopy v České republice, upozorňuje, že mezi obchodníky se opakují stejné omyly. Jedním z nejčastějších je přesvědčení, že jakékoliv využití AI při práci s osobními údaji automaticky vyžaduje souhlas zákazníků podle GDPR. Podle odborníků to ale není pravda – GDPR řeší zpracování osobních údajů, nikoliv samotné používání AI technologií. V řadě případů lze využít jiné právní tituly, například oprávněný zájem nebo plnění smlouvy.
Dalším rozšířeným mýtem je představa, že obsah vytvořený umělou inteligencí lze používat bez dalších povinností. AI Act ale například zavádí požadavky na označování deepfake obsahu nebo transparentnost při využívání AI systémů v komunikaci se zákazníky. Provozovatelé chatbotů budou muset zajistit, aby uživatelé věděli, že komunikují s umělou inteligencí, a poskytovatelé některých AI řešení budou muset označovat své výstupy technickými prostředky, například vodoznaky.
Nařízení rozděluje systémy umělé inteligence do čtyř kategorií – zakázané, vysoce rizikové, s omezeným rizikem a s minimálním rizikem. Právě druhá nejnižší kategorie bude pro e-commerce sektor nejdůležitější. Vysoce rizikové systémy, například některé AI nástroje používané v HR nebo náboru zaměstnanců, budou podléhat přísnějším pravidlům a odlišnému harmonogramu zavádění.
Ve spolupráci s právně-technologickou společností eLegal proto Heureka doporučuje obchodníkům začít jednoduchým auditem používaných nástrojů. Firmy by si měly zmapovat, jaké AI systémy využívají, zda vystupují v roli poskytovatele nebo provozovatele, jestli některý z nástrojů nespadá do kategorie vysokého rizika a zda správně označují chatboty či případný syntetický obsah.
Pro IT distributory, dodavatele e-commerce řešení a systémové integrátory představuje AI Act zároveň novou obchodní příležitost. Řada menších a středních e-shopů totiž bude v následujících měsících hledat pomoc s analýzou používaných nástrojů, úpravou procesů a zajištěním souladu s evropskou regulací. Právě oblast AI compliance se tak může stát jedním z nových segmentů poradenských a implementačních služeb v rámci českého IT kanálu.
Zdroj: Heureka
