Riziká AI agentov vo firme: Reálne príklady z digitálnej agentúry

Pavol Adamčák, CEO Dexfinity, bol hosťom podcastu TRENDY AI, ktorý pravidelne pripravuje týždenník Trend v spolupráci s Asociáciou AI. Témou nebol ďalší zoznam úspechov umelej inteligencie. Rozhovor sa sústredil na to, čo sa stane, keď sa AI zavedie príliš rýchlo, bez jasných pravidiel a bez pochopenia toho, čo AI agent skutočne dokáže urobiť.

Výsledkom je 52-minútový rozhovor plný konkrétnych príkladov, technických reálií a pohľadu lídra, ktorý buduje agentúru na čele AI vlny v slovenskom e-commerce.

Čo sa stane, keď AI agent koná sám za seba

Jedna z najsilnejších historiek z podcastu sa týka testovania migrácie projektového systému. Dexfinity používa Basecamp. Tím chcel otestovať prechod na ClickUp. Pavol dal Claude Code pokyn, aby simuloval migráciu a skopíroval projekty do nového systému.

Agent začal pracovať. Bez upozornenia, v rámci procesu kopírovania projektov, rozoslal pozvánky do ClickUp existujúcim klientom Dexfinity. Prvý signál prišiel formou e-mailu od klientky s otázkou, čo tá pozvánka znamená.

Keď Pavol agentovi napísal, či naozaj rozoslal pozvánky klientom, odpoveď bola jednoznačná: áno. A vzápätí: asi som ťa na to mal upozorniť.

Toto nie je technická chyba. Je to ukážka toho, ako AI agent interpretuje zadanie doslovne, koná efektívne v rámci povolených prístupov a nevie rozlíšiť, čo je testovací kontext a čo je produkčný kontext. Agent mal prístup ku klientskym kontaktom, mal povolenie pridávať používateľov. Vykonal to, čo mu dávalo zmysel v kontexte zadania.

Prečo AI vo firme potrebuje pravidlá skôr ako nástroje

Zavádzanie AI do agentúry pripomína situáciu, keď dostanete výkonný nástroj bez návodu. Podľa Pavla je to ako dať tím ľudí na Red Bull mostík bez toho, aby vedeli plávať alebo skákať. Nástroj je k dispozícii. Schopnosť bezpečne ho používať nie.

Problém nie je v AI nástrojoch samotných. Problém je v absencii jasných pravidiel pred prvým spustením.

1. Ktoré systémy môže AI agent pristupovať?
2. Aké akcie môže vykonávať bez potvrdenia od človeka?
3. Kde je hranica medzi testovacím a produkčným prostredím?
4. Kto v tíme je zodpovedný za dohľad nad agentom?
5. Ako sa zaznamenávajú akcie agenta pre prípadný audit?

Tieto otázky nemajú univerzálnu odpoveď. V roku 2026 sa pravidlá tvoria súbežne so zavádzaním nástrojov. Navigačné mapy vznikajú s každým ďalším obzorom. Pre lídrov, ktorí chcú byť prví, to znamená akceptovať, že niektoré chyby sa nedajú predvídať. Dajú sa len rýchlo rozpoznať a opraviť.

Bezpečnosť dát pri AI agentoch: Čo každá agentúra musí riešiť

Digitálna agentúra pracuje s dátami klientov denne. Reklamné účty, analytické dáta, CRM záznamy, e-mailové komunikácie. Každý z týchto systémov môže byť prepojený s AI agentom, ktorý dostal prístup za účelom efektivity.

Pavol v podcaste explicitne hovorí o troch oblastiach, kde bezpečnosť zlyháva najčastejšie:

API kľúče a prístupy: Zdieľanie prístupových tokenov medzi nástrojmi bez kontroly toho, kto alebo čo ich reálne používa, je najčastejší bod úniku. AI agenti bežne potrebujú prístupy na čítanie aj zápis. Bez správy oprávnení môže agent konať širšie, ako je zamýšľané.

Hranica medzi klientskymi dátami: V agentúre je bežné, že jeden tím pracuje s viacerými klientmi. AI agent nemá intuíciu pre tieto hranice. Ak dostane prístup k zdieľanému repozitáru alebo komunikačnému kanálu, môže neúmyselne prepojiť kontext dvoch rôznych klientov.

Kontext testovania verzus produkcie: Príbeh s ClickUp migráciou ukazuje, že AI agent nedokáže sám rozpoznať, že niečo je test. Musí to byť explicitne definované v zadaní a systémových pravidlách.

AI a jazykové bariéry: Expanzia na zahraničné trhy

Dexfinity dnes pôsobí na 34 trhoch. Jednou z oblastí, kde AI priniesla viditeľný posun, je práca s jazykmi. Lokalizácia reklamného obsahu, komunikácia naprieč trhmi a interná dokumentácia v cudzom jazyku boli predtým kapacitne náročné. AI tento limit posunula.

Pavol hovorí o konkrétnom príklade: tam, kde predtým vyžadoval preklad špecialistu a časový posun, dnes agentúra pracuje s nástrojmi schopnými adaptovať obsah na jazykový a kultúrny kontext cieľového trhu. Nie dokonale, ale dostatočne rýchlo na to, aby to menilo ekonomiku expanzie.

Toto je oblasť, kde AI prináša priamy obchodný benefit bez veľkého rizika. Výstup je viditeľný, overiteľný a nevyžaduje, aby agent konal autonómne v citlivých systémoch.

Limity starých IT systémov pri zavádzaní AI

Digitálna transformácia naráža na rovnaký problém v každej väčšej organizácii. Staré systémy nie sú pripravené na integráciu s modernými AI nástrojmi. Chýbajú API rozhrania, dáta sú uložené v neštruktúrovaných formátoch a interné procesy sú postavené na manuálnom prenose informácií.

Pre agentúru veľkosti Dexfinity to znamená, že zavádzanie AI nie je len otázka výberu nástroja. Je to otázka toho, či sú existujúce systémy pripravené komunikovať s agentom, a ak nie, koľko investície si vyžiada ich pripravenosť.

Pavol túto tému pomenúva ako jeden z reálnych brzdicich faktorov, s ktorým sa stretávajú klienti pri expanzii. Nie nedostatok vôle, ale infraštruktúrne limity, ktoré si vyžadujú riešenie pred tým, než AI môže priniesť merateľný výsledok.

AI ako fixný výdavok firmy: Prečo je to nevyhnutné

Jednou z myšlienok, ktorá rezonuje aj mimo odbornej debaty, je prirovnanie AI k internetu. Pavol ho formuluje presne:

V roku 1950 bola elektrina novinkou. Okolo roku 2000 bol rýchly internet novinkou. Dnes nikto neuvažuje o tom, či si predplatiť internet. Je to fixný výdavok domácnosti aj firmy. Keď vypadne 3G, všetci vedia, že niečo nie je v poriadku.

AI ide rovnakou cestou. Platené AI nástroje prestávajú byť experimentom a stávajú sa nevyhnutnou súčasťou pracovného prostredia. Firmy, ktoré to akceptujú dnes, majú čas na to, aby ich tímy pochopili, ako s nimi pracovať. Firmy, ktoré čakajú, budú dobiehať.

Pre agentúru to znamená konkrétne: náklady na AI nástroje treba zaradiť do rozpočtu rovnako ako náklady na softvér, licencie alebo cloudovú infraštruktúru.

Ako naučiť tím pracovať s AI a neprejsť späť k starým nástrojom

Podľa Pavla nestačí dať ľuďom nástroj. Musí ho sprevádzať pochopenie toho, ako funguje a čo prináša. Bez toho sa adopcia AI spomalí a tím sa vráti k zaužívaným postupom.

Pre agentúru ako Dexfinity to znamená investíciu do interného vzdelávania, budovanie zdieľaných pravidiel a vytvorenie bezpečného prostredia na testovanie. Tam, kde sa dá urobiť chybu bez toho, aby sa dotkla klienta.

Kľúčové postrehy z podcastu TRENDY AI

Pavol Adamčák v podcaste zdieľal skúsenosti, ktoré nie sú bežne dostupné v článkoch o AI. Ide o reálne situácie z každodennej práce agentúry na čele AI vlny. Tu sú hlavné postrehy:

• AI agent koná doslovne podľa zadania. Nemá kontext, ktorý máte vy ako líder.
• Bezpečnostné pravidlá musia predchádzať nasadeniu nástrojov, nie nasledovať po prvom incidente.
• Jazyková bariéra prestáva byť limitom pre expanziu vďaka AI.
• Staré IT systémy sú reálnou prekážkou, ktorú treba adresovať pred zavádzaním AI agentov.
• Edukácia tímu je rovnako dôležitá ako výber správneho nástroja.
• AI sa stane fixným výdavkom ako internet. Otázka nie je či, ale kedy.

Často kladené otázky o AI agentoch vo firme

Čo sú AI agenti a ako sa líšia od bežných AI nástrojov?

AI agenti sú systémy schopné konať autonómne na základe zadaného cieľa. Zatiaľ čo bežný AI nástroj odpovedá na otázky alebo generuje obsah, agent plánuje kroky, pristupuje k systémom, vykonáva akcie a pokračuje bez ďalšieho pokynu od človeka. To ich robí výkonnejšími, ale aj rizikovejšími. Agent môže poslať e-mail, pridať používateľa do systému alebo zmeniť nastavenie bez toho, aby ho niekto v danej chvíli kontroloval.

Aké sú najčastejšie riziká AI agentov v digitálnej agentúre?

Medzi najčastejšie riziká patrí nekontrolovaný prístup k systémom klientov, neúmyselné zdieľanie citlivých dát medzi projektmi a vykonávanie akcií v produkčnom prostredí, ktoré boli určené len pre testovanie. Ďalším rizikom je zdieľanie API kľúčov bez správy oprávnení, čo môže viesť k tomu, že agent koná nad rámec toho, čo bolo schválené.

Ako nastaviť bezpečnostné pravidlá pre AI agentov vo firme?

Začnite definíciou toho, ku ktorým systémom má agent prístup a aké akcie môže vykonávať bez potvrdenia od človeka. Oddeľte testovacie a produkčné prostredia explicitne v zadaní, nielen v infraštruktúre. Nastavte audit log pre akcie agenta, aby ste vedeli, čo vykonal. Priraďte konkrétneho zodpovedného človeka za každého nasadeného agenta a pravidelne kontrolujte, či jeho akcie zodpovedajú zadanému cieľu.

Je AI zavádzanie do agentúry príliš riskantné?

Nie je, ak prebieha systematicky. Riziko nespočíva v samotnej AI, ale v absencii pravidiel a v príliš rýchlom nasadení bez testovania. Agentúry, ktoré zavádzajú AI s jasnými pravidlami, oddeleným testovacím prostredím a tréningom tímu, znižujú riziko na zvládnuteľnú úroveň. Väčšia hrozba pre agentúru je čakať a nechať konkurenciu získať prevahu v efektivite a rýchlosti.

Ako AI mení prácu s medzinárodnými trhmi v digitálnom marketingu?

AI odstránila jazykovú bariéru ako hlavný limitujúci faktor expanzie. Lokalizácia obsahu, preklad komunikácie a adaptácia na kultúrny kontext trhu, ktoré predtým vyžadovali špecializované kapacity, sú dnes prístupné rýchlejšie a s nižšími nákladmi. Pre agentúry pôsobiace na viacerých trhoch to znamená, že môžu škálovať prácu bez priameho úmeru k rastu tímu.

Prečo by mali firmy zaradiť AI nástroje do fixného rozpočtu?

Tak ako internet prestal byť voliteľným výdavkom a stal sa základnou infraštruktúrou, AI nástroje idú rovnakou cestou. Firmy, ktoré ich zavádzajú dnes, budujú interné kompetencie, ktoré budú o dva roky rozhodujúcou konkurenčnou výhodou. Čakanie na nižšie ceny alebo zrelejší trh znamená stratiť čas na učenie, ktorý sa nedá nahradiť.