AI agenti postaju novi poslovni rizik jer se šire brže nego što ih organizacije mogu nadzirati i kontrolirati. Pokazalo je to najnovije izvješće Microsoft pod nazivom Cyber Pulse, koje daje detaljan uvid u kibernetičke prijetnje povezane s ubrzanom implementacijom umjetne inteligencije u poslovanju.
Izvješće upozorava da nedostatak vidljivosti nad AI agentima postaje strateški izazov za uprave kompanija, osobito u visoko reguliranim industrijama.
AI agenti izlaze iz IT odjela
U Microsoftovu ekosustavu korisnici razvijaju i implementiraju AI agente na ključnim platformama, a izrada agenata više nije rezervirana isključivo za ICT odjele. Zahvaljujući low-code i no-code alatima, zaposlenici iz različitih poslovnih funkcija samostalno kreiraju i koriste AI rješenja u svakodnevnom radu.
Prema podacima iz izvješća, više od 80 posto kompanija s liste Fortune 500 koristi aktivne AI agente. Upravo ta brzina širenja dodatno povećava AI agenti poslovni rizik, jer sigurnosne kontrole često zaostaju za inovacijama.
Gdje je uporaba AI agenata najveća?
Globalno gledano, Europa, Bliski istok i Afrika čine 42 posto aktivnih AI agenata, dok SAD sudjeluje s 29 posto, a Azija s 19 posto.
Rast je najizraženiji u:
- razvoju softvera i tehnologiji (16%)
- proizvodnji (13%)
- financijskim uslugama (11%)
- maloprodaji (9%)
U tim sektorima AI agenti se koriste za:
- analizu financijskih podataka
- automatizaciju repetitivnih procesa
- trijažu sigurnosnih upozorenja
- generiranje poslovnih prijedloga
- otkrivanje tržišnih i operativnih uvida
“Shadow AI” kao nova prijetnja
Izvješće upozorava na rast takozvanog “shadow AI-a” — situacije u kojoj zaposlenici koriste neodobrene ili nekontrolirane AI agente.
Ako AI agenti imaju prevelike ovlasti ili obrađuju pogrešne ulazne podatke, mogu postati sigurnosna prijetnja ili nenamjerni “dvostruki agenti”.
Prema podacima iz Cyber Pulse izvješća, čak 29 posto zaposlenika koristi neodobrene AI alate u obavljanju radnih zadataka.
Dodatni izazov potvrđuje i Microsoftov Data Security Index, prema kojem samo 47 posto organizacija uvodi specifične sigurnosne kontrole za generativnu umjetnu inteligenciju.
Zero Trust kao odgovor na AI agenti poslovni rizik
Tomislav Vračić, regionalni direktor za tehnologiju u Microsoftu, ističe da AI agenti postaju “digitalni kolege” u poslovnim operacijama, ali bez jasnih pravila i odgovornosti mogu predstavljati ozbiljan sigurnosni rizik.
Rješenje vidi u primjeni Zero Trust modela, punoj vidljivosti i centraliziranom upravljanju AI agentima — jednako kao i kod ljudskih zaposlenika i IT sustava.
Za uprave kompanija to znači da se upravljanje AI agentima mora tretirati kao dio šire strategije korporativnog upravljanja rizicima, a ne isključivo kao tehnološko pitanje.
Što ovo znači za menadžment?
AI agenti više nisu eksperimentalna tehnologija. Oni postaju dio operativne infrastrukture kompanija. No bez jasnih kontrola, upravljanja pristupima i kontinuiranog nadzora, AI agenti poslovni rizik mogu pretvoriti u regulatorni, financijski i reputacijski problem.
Organizacije koje uspiju uskladiti inovacije i sigurnost imat će konkurentsku prednost na sve reguliranijem europskom i globalnom tržištu.
