AI neće čekati da tvrtke dovedu svoje politike u red

U prvom dijelu, Eva Gostisa i Nejc Setnikar iz odvjetničkog društva Jadek & Pensa predstavili su pravni okvir AI Act, autorskog prava i zaštite osobnih podataka, dok sam u drugom dijelu govorio o tome što umjetna inteligencija već znači za internetsku i informacijsku sigurnost tvrtki. 

Razgovarali smo o AI Act, autorskom pravu, zaštiti podataka i o tome kako umjetna inteligencija već mijenja način rada tvrtki i digitalnu sigurnost. 

Bez futurizma. Bez panike. I bez obećanja da će AI čudesno riješiti sve poslovne probleme. 

Kako tvrtke danas upravljaju korištenjem AI 

Danas svi govorimo o AI, ali ovaj je događaj namjerno bio znatno prizemniji. Bez obećanja o čudesnoj produktivnosti i bez futurističkih scenarija u kojima umjetna inteligencija rješava svaki poslovni problem. I također bez panike da će sutra preuzeti tvrtke. 

Istina je, kao i obično, manje filmska, ali znatno neugodnija. 

AI je već ovdje. Tvrtke je već koriste, često mnogo više nego što misle. Netko je koristi za pisanje prijedloga. Netko za sažimanje sastanaka. Netko u nju zalijepi interni dokument kako bi brže pripremio odgovor. Netko u marketingu generira sliku. Netko u razvoju generira kod. Netko u prodaji priprema personalizirani e-mail. 

I tada se postavlja vrlo osnovno pitanje: zna li tvrtka uopće gdje se sve to događa? 

Vrlo često je odgovor: ne u potpunosti. 

To je bila i jedna od ključnih točaka prvog dijela događaja. AI Act ne zamjenjuje GDPR. Pravila se ne zamjenjuju; nadograđuju se jedno na drugo. Ako je nešto usklađeno s AI Act, to ne znači da je usklađeno i s GDPR. I ako tvrtka koristi AI alat, to ne znači da razumije koji podaci ulaze u njega, tko je za njih odgovoran i što se s njima događa nakon toga. 

Generativna AI otvara nova pitanja 

S generativnom umjetnom inteligencijom stvari se brzo kompliciraju. Model ne funkcionira poput proračunske tablice u Excel, gdje ispravljate ili brišete redak. Informacije se mogu pojaviti kao dio generiranog sadržaja, kao aproksimacija, kao inferencija ili kao obrazac. 

Na događaju je spomenut i slučaj GEMA protiv OpenAI u Njemačkoj, u kojem je münchenski sud presudio da je OpenAI, kroz učenje i rad ChatGPT-a, povrijedio autorska prava na zaštićene stihove pjesama. Sud je kao značajno tretirao i memoriranje, tj. mogućnost da se zaštićeni tekstovi reproduciraju iz modela u generiranom sadržaju. 

Ovo je dobar primjer jer vrlo jasno pokazuje razliku između toga kako bismo željeli da tehnologija radi i kako zapravo radi. 

Tvrtke žele jasnoću. Tko što posjeduje? Tko je odgovoran? Gdje su podaci? Što smijemo koristiti? Što smijemo brisati? 

AI često odgovara: ovisi. 

A 'ovisi' nije baš omiljena fraza pravnika, menadžmenta ili sigurnosnih timova. 

Što se događa kada netko izvan tvrtke počne koristiti AI 

Dok se u prvom dijelu događaja uglavnom govorilo o tome kako tvrtke interno upravljaju korištenjem AI, u drugom sam dijelu želio pokazati drugu stranu: što se događa kada netko izvan tvrtke počne koristiti AI. Netko tko nema interesa biti usklađen. Netko koga politika ne zanima. Netko tko traži najjeftiniji put do Vaših podataka, novca ili pristupa. 

Tu se priča vrlo brzo mijenja. 

Po mom mišljenju, umjetna inteligencija ne donosi toliko potpuno novih vrsta napada. Ona prije čini postojeće napade bržima, jeftinijima i učinkovitijima. To je prilično važna razlika. 

Phishing postoji već dugo. Tako i socijalni inženjering. Tako i zlouporaba javno dostupnih informacija. Lažni 'CEO' pozivi, lažni računi, lažne domene, loše zaštićen e-mail i ukradene lozinke — ništa od toga nije novo. 

Novo je to da danas netko sve to može odraditi bolje, brže i na jeziku koji više nema očitih pogrešaka. 

AI phishing na besprijekornom slovenskom 

Dugo nas je kod phishinga ponajviše spašavao loš slovenski. Neobične rečenice. Krivi padeži. Onaj osjećaj da osoba s druge strane zapravo ne vlada slovenskim jezikom. 

To je razdoblje završilo. 

AI phishing na besprijekornom slovenskom više nije napredna tehnika. To je osnovna funkcija. 

A kad gramatičke pogreške nestanu, nestaje i jedan od najzgodnijih znakova upozorenja na koji su se ljudi naučili oslanjati. Napadaču više ne treba savršeno vladanje jezikom. Ne treba mu copywriter. Ne treba mu ni puno vremena. Treba mu nešto javnih informacija, malo konteksta i alat koji to može pretvoriti u uvjerljivu poruku. 

Javni digitalni otisak tvrtki veći je nego što mislimo 

Takvih javnih informacija ima više nego što su tvrtke spremne priznati. 

U prezentaciji sam pokazao kako napadač može brzo složiti sliku organizacije na temelju LinkedIn profila i objava tvrtke, oglasa za posao, fotografija s događaja i vijesti. Tko radi u financijama. Tko je u HR-u. Tko je nov. Tko je upravo promaknut. Tko je dobavljač. Koji softver koristite. Tko bi mogao odobriti plaćanje. Tko je vjerojatno najbolja meta. 

To više nije ručni detektivski rad. AI iz tih podataka u nekoliko minuta složi profil ranjivosti. 

Ako u oglasu za posao navedete da tražite SAP administratora, rekli ste nešto o svojoj infrastrukturi. Ako objavite da ste potpisali ugovor s novim partnerom, dali ste nekome izvrstan kontekst za lažnu poruku. Ako se na LinkedIn objavi promjena vodstva, to može biti idealan trenutak za napad, jer se ljudi još navikavaju na novu hijerarhiju. 

Najveći problem često nisu napredni napadi 

Još je zabrinjavajuće to što mnoga poduzeća najveće rizike nemaju zbog naprednih napada, nego zbog osnovnih sigurnosnih praksi. 

Ne govorimo o kvantnoj kriptografiji. Govorimo o 2FA. O upraviteljima lozinki. O tome da se lozinke ne šalju putem e-maila ili osobnih kanala. O sigurnosnim kopijama prema pravilu 3-2-1. O ispravno konfiguriranom DMARC. O tome da domena ne ostane potpuno otvorena. I o tome da tvrtka uopće zna tko je vlasnik domene i tko ima pristup ključnim sustavima. 

I ovo je IT 

Na jednom od mojih slajdova stajala je rečenica: 'I ovo je IT.' 

Jer u praksi IT nije samo infrastruktura ili korisnička podrška. IT je često sve. Web stranica. E-mail. Pristup. Domene. Računala. Telefoni. Banka. CRM. ERP. Sigurnosne kopije. Lozinke. Zaposlenici. Dobavljači. 

U mnogim malim i srednjim tvrtkama sve to često ovisi o jednoj osobi. Bez jasnih procesa. Bez dovoljno vremena. Često i bez odgovarajućeg mandata da se stvari na vrijeme dovedu u red, prije nego što se dogodi incident. 

Dok sve radi, to je nevidljivo. 

Kad nešto padne, postane vrlo vidljivo. 

Danas je tvrtkama potrebno manje uzbuđenja, a više reda 

I upravo se tu AI i sigurnost susreću s istim problemom kao AI i regulativa: tvrtkama ne treba više uzbuđenja. Treba im više reda. 

Ne u smislu birokracije, već u smislu osnovne higijene. 

Trebaju znati koje AI alate koriste. Koji podaci u njih ulaze. Tko smije što koristiti. Gdje su rizici. Kako se provjeravaju dobavljači. Kako se odobravaju plaćanja. Kako zaposlenici prepoznaju napad koji više nije polomljen i očit, nego dobro napisan, personaliziran i vrlo dobro tempiran. 

AI neće čekati da tvrtke dovedu svoje politike u red. Neće ni napadači. 

Danas je AI prije svega pitanje odgovornosti 

Zato mi se čini da je najvažniji zaključak prilično jednostavan: umjetna inteligencija više nije samo tema inovacija. To je tema odgovornosti. 

Pravna. Organizacijska. Sigurnosna. 

Ako je tvrtke već koriste — što gotovo sigurno čine — sada je pravi trenutak za manje uzbuđenja i više sagledavanja stanja. 

Jer najveći rizik nije da tvrtke neće koristiti AI. Najveći je rizik da će je koristiti brže nego što je razumiju, dok će je napadači razumjeti dovoljno dobro da je okrenu protiv njih. 

Tehnologija se neće usporiti. Jedino je pitanje koliko će brzo tvrtke naučiti živjeti s njom.