Generativna veštačka inteligencija (AI) omogućava brzo kreiranje, sažimanje i čuvanje velikih količina podataka, štedeći vreme i novac kompanijama. Ali, uz brojne prednosti dolazi i ozbiljan rizik, naročito kada se AI alati koriste bez nadzora.
Kako piše Daily Mail, popularni alati poput ChatGPT-a i Copilota mogu, bez znanja korisnika, da „progutaju“ poverljive informacije – od plata do zdravstvenih kartona. Problem je u tome što AI modeli snimaju istoriju razgovora i koriste je za dalje učenje. Jednom kada podaci uđu u sistem, njihovo brisanje je gotovo nemoguće.
„To je kao da ubacite brašno u hleb – više ga ne možete izvaditi“, kaže Ronan Marfi, AI savetnik vlade Irske.
„AI iz senke“: opasnost koja se ne vidi
Ovaj tihi rizik nazvan je „AI iz senke“, jer podaci koje zaposleni unesu mogu ponovo isplivati – čak i ako ih traži neko sa lošim namerama. Stručnjaci upozoravaju da su ovakvi propusti podjednako opasni kao i hakerski napadi.
Jedan od primera je lanac Marks & Spencer, koji je nedavno pretrpeo štetu od 300 miliona funti nakon što su prevaranti došli do lozinki zaposlenih.
Slaba kontrola – veliki rizik
Zabrinjavaju i podaci iz istraživanja: skoro svaki sedmi bezbednosni incident povezan je s AI, dok četvrtina firmi širom sveta dozvoljava zaposlenima neograničen pristup javnim AI alatima. To znači da interni dokumenti, beleške sa sastanaka i finansijski izveštaji mogu nenamerno završiti u pogrešnim rukama.
„AI je kao novi internet – svi ga koriste, a malo ko zna šta mu zapravo daje“, kaže Martin Li iz kompanije Cisco.
Poznate greške: slučaj Samsung
Jedan od najpoznatijih propusta desio se 2023. u kompaniji Samsung, kada je zaposleni slučajno uneo poverljivi kod u chatbot. Od tada je AI korišćenje u toj firmi zabranjeno. Slične mere sprovode i banke, kako bi izbegle regulativne probleme zbog potencijalnog curenja finansijskih informacija.
Izazov: balans između prednosti i zaštite
Ipak, firme ne žele da propuste priliku – AI može doneti ogromnu prednost nad konkurencijom.
„Vidimo da mnogi srljaju u implementaciju, ali bez jasnog plana“, upozorava Ruben Misen, suosnivač firme Legalfly. „Prava opasnost leži u nedostatku internih pravila – klijentski podaci su tada ranjivi.“
Pametna upotreba, a ne zabrana
Rešenje, kažu stručnjaci, nije u zabrani AI-ja, već u pametnoj i odgovornoj upotrebi.
„Zaštita podataka nije glamurozna – naprotiv, dosadna je i spora“, kaže Marfi. „Ali bez nje, posao hakerima postaje mnogo lakši.“
