AI ve firemních procesech: Skvělý sluha, nebezpečná drbna
TL;DR: Vždy chraňte citlivá data jejich anonymizací při zadávání promptů nebo využitím enterprise/lokálního řešení. Také si prověřujte fakta - každý výstup musí projít lidskou kontrolou a nezapomínejte na rizika spojená s autorskými právy. Co neprošlo výraznou tvůrčí úpravou, může narazit. V neposlední řadě vyhodnoťte všechna rizika a možné dopady, pokud používáte autonomní agenty.
Spousta výhod, ještě více úskalí
Umělá inteligence nám i našim klientům šetří hodiny práce týdně. Píše e-maily, analyzuje tabulky, generuje podklady pro kreativu. Ale ruku na srdce – víte přesně, kam putují data, která do ChatGPT, Claude, Gemini nebo kamkoliv jinam vkládáte?
V rámci naší praxe vidíme, že největším rizikem AI není technologie samotná, ale způsob, jakým ji (ne)zabezpečíme v rámci firemních procesů. Pokud do neplacené verze AI „nasypete“ finanční výsledky firmy nebo neveřejnou strategii klienta, právě jste je v podstatě vyvěsili na veřejnou nástěnku budoucích znalostí daného modelu.
Mějte data pod zámkem
AI si vaše vstupy může zapamatovat, aby se z nich učila. Řešením je citlivá data před vložením anonymizovat. Pokud to s AI myslíte vážně, pořiďte si placené verze. Většina z nich garantuje, že vaše data nepoužijí k tréninku. I tak ale platí: čtěte podmínky a do neznámých AI nástrojů nenahrávejte svou databázi kontaktů jen tak pro radost. Pokud vám enterprise řešení přijdou nákladná nebo jim nevěříte, řešením může být provozování lokálního modelu.
Halucinace jsou stále realitou
AI je mistr v tom, že vypadá sebevědomě, i když si vymýšlí. Každý fakt, právní výklad nebo složitý výpočet musí potvrdit člověk. Nespoléhejte na AI slepě tam, kde je to pro váš byznys stěžejní. Chyba v desetinné čárce v reklamním rozpočtu může bolet víc než gramatická chyba v postu.
Otázka autorství a hranic inspirace
Komerční využití AI výstupů nese riziko porušení práv třetích osob. To platí zejména při generování vizuálů nebo textů, které příliš napodobují styl konkrétních tvůrců. Hranice mezi inspirací a „vykrádáním“ je u AI velmi tenká. Známý je třeba případ studia Ghibli. Aby byl váš obsah z právního hlediska v pořádku, je nutná vždy významná tvůrčí úprava člověkem.
Nová výzva: Autonomní AI agenti
Zatímco dosud jsme s AI komunikovali formou chatu, nyní nastupuje éra autonomních AI agentů. To jsou systémy, kterým dáte cíl (např. „najdi a kup nejlevnější letenky“ nebo „spravuj mé PPC kampaně“) a oni sami provádějí kroky v jiných aplikacích na základě daných pravidel, feedback loopu a dalších mechanismů.
I zde se objevují nová rizika:
Finance: Agent s přístupem k vaší kartě může vlivem chyby, špatného zadání či absencí striktních hranic utratit víc, než jste plánovali (např. za poplatky za tokeny).
Praktická bezpečnost: Pokud agentovi udělíte přístup do e-mailu nebo CRM, otevíráte bránu, kterou může v případě napadení (tzv. prompt injection) uniknout obrovské množství dat. V horším případě hrozí i jejich úplná ztráta či smazání.
Ztráta úsudku: Nadměrná delegace na agenty může otupit vaše kritické myšlení. AI by měla odstraňovat rutinu, abyste vy měli čas na strategii, kterou stroj nenahradí. Může zaskočit za juniorního pracovníka u rutinního úkolu, firmu za vás ale řídit nemůže.
Co si z toho odnést?
Bezpečnost v éře AI není o tom nástroje zakazovat – to by vás v konkurenčním boji odsunulo na druhou kolej. Je to o nastavení zodpovědných pravidel pro vás, tým i samotnou AI.
U nás v Arrow Marketing věříme, že AI má být skvělý asistent, nikoliv nekontrolovaný ředitel. Ozvěte se nám a rádi vám pomůžeme nastavit férová a bezpečná pravidla hry.
PS: Tento text vytvořila AI, ale zadal, iteroval, upravil a schválil jej člověk.
