Генеративна вештачка интелигенција (AI) омогућава брзо креирање, сажимање и чување великих количина података, штедећи време и новац компанијама. Али, уз бројне предности долази и озбиљан ризик, нарочито када се AI алати користе без надзора.
Како пише Daily Mail, популарни алати попут ChatGPT-а и Copilota могу, без знања корисника, да „прогутају“ поверљиве информације – од плата до здравствених картона. Проблем је у томе што AI модели снимају историју разговора и користе је за даље учење. Једном када подаци уђу у систем, њихово брисање је готово немогуће.
„То је као да убаците брашно у хлеб – више га не можете извадити“, каже Ронан Марфи, AI саветник владе Ирске.
„AI из сенке“: опасност која се не види
Овај тихи ризик назван је „AI из сенке“, јер подаци које запослени унесу могу поново испливати – чак и ако их тражи неко са лошим намерама. Стручњаци упозоравају да су овакви пропусти подједнако опасни као и хакерски напади.
Један од примера је ланац Marks & Spencer, који је недавно претрпео штету од 300 милиона фунти након што су преваранти дошли до лозинки запослених.
Слаба контрола – велики ризик
Забрињавају и подаци из истраживања: скоро сваки седми безбедносни инцидент повезан је с AI, док четвртина фирми широм света дозвољава запосленима неограничен приступ јавним AI алатима. То значи да интерни документи, белешке са састанака и финансијски извештаји могу ненамерно завршити у погрешним рукама.
„AI је као нови интернет – сви га користе, а мало ко зна шта му заправо даје“, каже Мартин Ли из компаније Cisco.
Познате грешке: случај Самсунг
Један од најпознатијих пропуста десио се 2023. у компанији Samsung, када је запослени случајно унео поверљиви код у chatbot. Од тада је AI коришћење у тој фирми забрањено. Сличне мере спроводе и банке, како би избегле регулативне проблеме због потенцијалног цурења финансијских информација.
Изазов: баланс између предности и заштите
Ипак, фирме не желе да пропусте прилику – AI може донети огромну предност над конкуренцијом.
„Видимо да многи срљају у имплементацију, али без јасног плана“, упозорава Рубен Мисен, суоснивач фирме Legalfly. „Права опасност лежи у недостатку интерних правила – клијентски подаци су тада рањиви.“
Паметна употреба, а не забрана
Решење, кажу стручњаци, није у забрани AI-ја, већ у паметној и одговорној употреби.
„Заштита података није гламурозна – напротив, досадна је и спора“, каже Марфи. „Али без ње, посао хакерима постаје много лакши.“
