AI Act a bezpečnost
Každá pátá firma už měla únik dat kvůli AI, o které vedení nevědělo
Bezpečnost AI ve firmě ve třech vrstvách: data, proces a legislativa
Michal Krčmář · · 6 min čtení
V regulovaném sázkovém průmyslu jsem se naučil jednu věc: každá kampaň prochází právním schválením. Každý banner, každá věta, každý bonus. Kdo si myslí, že je to byrokracie, ten ještě nezažil dopis od regulátora.
Když pak do marketingu přišla AI, firmy se rozdělily na dva tábory. První ji zakázaly. Druhé ji nechaly volně. Obě cesty často končí stejně: lidi ji používají potajmu, na soukromých účtech, s firemními daty.
Na konci ti řeknu, proč zákaz bývá nebezpečnější než AI samotná. Nejdřív čísla, která tě možná probudí.
Co je shadow AI a proč je drahá?
Shadow AI je umělá inteligence, kterou zaměstnanci používají bez vědomí IT a bezpečnosti. Soukromý ChatGPT, rozšíření v prohlížeči, generátor prezentací, který si někdo stáhl, protože spěchal.
IBM v reportu Cost of a Data Breach 2025 zjistilo, že každá pátá zkoumaná firma měla únik dat kvůli shadow AI. Pravidla pro řízení AI nebo odhalování shadow AI přitom mělo jen 37 % firem. U firem s vysokou mírou shadow AI byl únik v průměru o 670 000 dolarů dražší než u firem, kde jí bylo málo nebo žádná. A při incidentech se shadow AI častěji unikly osobní údaje zákazníků a duševní vlastnictví.
Ještě jedno číslo stojí za zapamatování: 97 % firem, které měly bezpečnostní incident s AI, nemělo pořádně nastavené přístupy k AI systémům.
Marketing je přitom pro shadow AI ideální prostředí. Pracuje se zákaznickými daty, s nevydanými kampaněmi, s cenami a s tlakem na rychlost. „Jen to rychle hodím do ChatGPT“ je věta, kterou slyšel každý šéf marketingu.
Vrstva 1: Data a přístupy
Tady se rozhoduje, co může uniknout.
- Co se do AI nesmí. Osobní údaje zákazníků, nevydané výsledky, smlouvy, hesla, interní ceny. Sepiš to na jednu stránku, ne do padesátistránkové směrnice.
- Firemní verze nástrojů. Firemní a enterprise licence typicky nepoužívají tvá data k trénování modelů a dají se spravovat centrálně. Soukromý účet kolegy tohle nezaručí.
- API klíče patří na server. Když AI napojuješ na vlastní procesy přes API, klíč musí být uložený bezpečně na serveru nebo v trezoru tajných hodnot. Nikdy v prohlížeči, v tabulce nebo v promptu.
- Přístupy podle rolí. Ne každý potřebuje AI napojenou na CRM.
A teď ta část, kterou bezpečáci neradi slyší: AI bez dat nepřinese skoro nic. Cílem není data zamknout, ale sdílet je bezpečně. Přes správné nástroje, se správnými právy a s přehledem, kdo co kam poslal.
Vrstva 2: Proces
Technika nestačí, když proces netěsní.
- Seznam schválených nástrojů, který se pravidelně aktualizuje. Když lidem nedáš dobrý schválený nástroj, najdou si vlastní.
- Člověk schvaluje výstup dřív, než jde ven. Text, vizuál, odpověď zákazníkovi. AI je stážista, ne redaktor.
- Záznamy. Kdo, co a kdy. Pomůže při incidentu i při kontrole.
- IT a bezpečnost od prvního dne. Ne až po incidentu. Marketing jim nepřinese „chceme AI“, ale přesné zadání: tyhle procesy, tyhle nástroje, tahle data.
Vrstva 3: Legislativa
- GDPR. Osobní údaje v AI nástrojích potřebují právní základ, smlouvu se zpracovatelem a jasné místo, kde se data zpracovávají.
- AI Act. Povinnost podporovat AI gramotnost lidí, kteří AI používají (článek 4), a od 2. 8. 2026 transparentnost u deepfaků a chatbotů (článek 50). Podrobně v článku AI Act a marketing.
- Interní pravidla a regulace oboru. Banky, pojišťovny a zdravotnictví mají vlastní požadavky. Ty mají přednost před nadšením.
Proč je zákaz nebezpečnější než AI
Slíbil jsem ti to. Firma, která AI zakáže, nemá AI pod kontrolou. Má ji v telefonech zaměstnanců, kde ji nikdo nevidí. Čísla z IBM ukazují, že úniky prodražuje hlavně AI, o které firma neví.
V regulovaném prostředí jsem se naučil, že pravidla nejsou brzda. Jsou to svodidla. Díky nim můžeš jet rychle a nevyletíš z cesty.
Chceš pravidla, se kterými bude tvůj tým AI používat rychle a bezpečně? Domluv si call nebo si udělej AI self-check.
Časté otázky
Zdroje
- IBM: Cost of a Data Breach Report 2025, tisková zpráva (30. 7. 2025)
- IBM: What data leaders need to know from the Cost of a Data Breach Report 2025
- Vlastní zkušenost autora (marketing v regulovaném sázkovém průmyslu: Fortuna, fBET, 24LIVE.com)

Michal Krčmář
Michal Krčmář je marketér s 20 lety praxe na straně klienta, certifikovaný Lovable Expert a zakladatel MarTechs. Bezpečnost AI v marketingu řeší ve třech vrstvách od prvního dne pilotu.
Chceš vědět, kde je tvůj tým s AI?
