Globalni financijski regulatori sve ozbiljnije promatraju umjetnu inteligenciju ne samo kao tehnološku priliku, nego i kao potencijalni izvor sistemskog rizika. AI sigurnost financijskog sustava
Upravo zato je odluka kompanije Anthropic da izvijesti Financial Stability Board (FSB) o ranjivostima koje je otkrio AI model Claude Mythos Preview izazvala snažnu pozornost u financijskim i tehnološkim krugovima.
FSB okuplja središnje banke, ministarstva financija i regulatore zemalja G20, a njegov predsjednik je guverner Engleske središnje banke Andrew Bailey.
To pokazuje koliko je tema postala ozbiljna. AI sigurnost financijskog sustava više nije pitanje rezervirano za IT odjele i cyber stručnjake. Ona postaje pitanje tržišne stabilnosti, povjerenja investitora i otpornosti globalne ekonomije.
Mythos nije običan AI alat
Claude Mythos Preview nije razvijen kao standardni chatbot za svakodnevne zadatke.
Anthropic ga opisuje kao napredni model fokusiran na računalnu sigurnost, sposoban pronaći i potencijalno iskoristiti ranjivosti u softveru.
Prema projektu Glasswing, upravo je Mythos pokazao da su AI modeli došli do razine na kojoj mogu nadmašiti gotovo sve osim najboljih ljudskih stručnjaka za cyber sigurnost.
Najveću zabrinutost izazvala je informacija da je model identificirao tisuće ozbiljnih ranjivosti u operativnim sustavima, preglednicima i široko korištenom softveru.
To je posebno osjetljivo jer isti tehnološki temelji pokreću:
- banke
- burze
- platne sustave
- osiguravatelje
- cloud infrastrukturu
- digitalne financijske servise
Zbog toga AI sigurnost financijskog sustava sada ulazi u fokus regulatora na najvišoj razini.
FSB ne promatra ovo kao običan cyber problem
Ključno pitanje više nije može li AI pronaći ranjivosti. Ključno pitanje je što se događa ako se takve sposobnosti počnu koristiti u velikom opsegu.
Ako velik broj financijskih institucija koristi iste cloud platforme, sigurnosne alate ili operativne sustave, jedna ozbiljna ranjivost može prerasti u problem za cijeli financijski sustav.
Upravo zato Financial Stability Board ovu temu ne tretira kao izolirani tehnološki incident.
Regulatori sve više upozoravaju da AI sigurnost financijskog sustava može imati makrofinancijske posljedice.
Drugim riječima, problem više nije samo hakiranje pojedine banke. Problem je mogućnost simultanog udara na infrastrukturu na kojoj počiva velik dio globalnog financijskog tržišta.
Bankarski sektor posebno je ranjiv
Financijske institucije ulažu milijarde u digitalizaciju i cyber sigurnost, ali njihova infrastruktura često ostaje izrazito kompleksna.
Mnogi bankarski sustavi nastajali su desetljećima, spajani su kroz akvizicije i nadograđivani kroz više tehnoloških generacija.
To stvara tri velika problema.
Prvo, legacy sustavi često nisu dovoljno fleksibilni za brze sigurnosne nadogradnje.
Drugo, velik broj institucija koristi iste dobavljače softvera i cloud usluga, što povećava rizik simultanog incidenta.
Treće, financijski sustav temelji se na povjerenju. Veliki cyber napad može izazvati paniku, poremetiti platni promet i narušiti stabilnost tržišta.
Zbog toga MMF i drugi međunarodni akteri upozoravaju da bi upravo AI sigurnost financijskog sustava mogla postati jedan od ključnih regulatornih izazova sljedećih godina.
Mythos otvara pitanje tehnološke nejednakosti
Dodatnu zabrinutost izaziva činjenica da Mythos nije široko dostupan.
Prema izvještajima, pristup modelu ima ograničen broj organizacija među kojima se spominju Amazon, Microsoft i JPMorgan Chase.
To stvara novu vrstu tržišne neravnoteže.
Institucije koje imaju pristup naprednim AI sigurnosnim alatima mogu brže otkrivati i zatvarati ranjivosti, dok ostatak tržišta ostaje izloženiji.
Za regulatore to postaje i geopolitičko pitanje. Ako najnapredniji AI sigurnosni alati ostanu koncentrirani u malom broju američkih tehnoloških i financijskih kompanija, tada AI sigurnost financijskog sustava postaje pitanje tehnološke dominacije i tržišne moći.
Cyber sigurnost više nije samo IT trošak
Najvažnija promjena događa se u načinu na koji tržište promatra cyber sigurnost.
Godinama je ona bila tretirana kao operativni trošak i tehnička funkcija unutar kompanija. Danas postaje pitanje:
- stabilnosti bilance
- regulatornog rizika
- tržišnog povjerenja
- reputacije
- otpornosti poslovnog modela
To znači da će banke, osiguravatelji i burze morati ubrzati ulaganja u:
- AI sigurnosne alate
- automatizirano testiranje ranjivosti
- cyber stres-testove
- sigurnosni nadzor cloud infrastrukture
- krizne planove za AI scenarije
Upravo zato analitičari smatraju da će AI sigurnost financijskog sustava postati jedno od najbrže rastućih područja ulaganja unutar financijske industrije.
AI ubrzava i obranu i napad
Najveći problem je što ista tehnologija može služiti i obrani i napadu.
AI modeli mogu pomoći sigurnosnim timovima da brže pronađu slabosti i zaštite sustave. Ali isti princip mogu koristiti i napadači za razvoj sofisticiranijih cyber operacija.
Googleovo istraživanje upozorava da se umjetna inteligencija već koristi za razvoj malwarea i automatizaciju cyber napada.
To znači da se financijski sektor nalazi u utrci u kojoj se i obrana i napad razvijaju istodobno — ali ne jednakom brzinom.
Financijske institucije moraju poštovati regulatorne procedure, sigurnosne protokole i pravne procese. Napadači nemaju takva ograničenja.
Regulacija ulazi u novu fazu
FSB već priprema preporuke o dobrim praksama za korištenje umjetne inteligencije u financijskom sektoru.
Brifing kompanije Anthropic mogao bi snažno utjecati na buduća pravila vezana uz:
- AI cyber stres-testove banaka
- sigurnosne standarde za cloud infrastrukturu
- pristup naprednim AI sigurnosnim modelima
- međunarodnu koordinaciju regulatora
To pokazuje da se rasprava o umjetnoj inteligenciji više ne vodi samo oko produktivnosti i automatizacije.
Sve više se vodi oko pitanja koliko je globalni financijski sustav spreman za eru u kojoj umjetna inteligencija može masovno otkrivati softverske slabosti brže nego ikada prije.
