Најновија генерација АИ модела открива низ рањивости широм глобалне мреже. Ускоро би могле пасти у погрешне руке.
Таласи почињу да запљускују интернет – и можда их је немогуће зауставити. У две године које су претходиле 2025, глобални број недељних сајбер напада порастао је за 58 одсто, према подацима Светског економског форума, пише Science Focus.
Велики део тог раста приписује се вештачкој интелигенцији, при чему су АИ-подржани напади порасли за 89 одсто само у 2025. години.
Од фишинга до дубљих претњи
Али док је тај раст углавном био вођен унапређењем фишинг напада (у којима криминалци користе лажне мејлове, позиве или поруке како би вас навели да откријете банковне податке или осетљиве информације), сада се можда променило нешто фундаменталније. Када је Anthropic – компанија иза Claude АI модела – објавила да је развила моћан нови модел назван Claude Mythos Preview, то је изазвало потресе широм интернета.
Овај нови модел био је толико моћан да га је компанија оценила као превише опасног за јавно објављивање у садашњем облику. Зашто? Зато што Mythos Preview може да идентификује безбедносне пропусте у софтверу које су безбедносни аналитичари, па чак и ранији АИ модели, пропустили.
Пројекат Glasswing – трка против времена
Као одговор, Anthropic је најавио покретање пројекта Glasswing, нове иницијативе која окупља више од 40 највећих светских компанија из области софтвера и интернет инфраструктуре. Циљ пројекта Glasswing је да користи Claude Mythos Preview како би пронашао и исправио те пропусте пре него што актери са лошим намерама развију АI моделе са сличним способностима и почну да их злоупотребљавају.
Anthropic наводи да је модел већ открио хиљаде критичних рањивости – укључујући пропусте у свим главним оперативним системима и интернет прегледачима. Компанија упозорава да „неће проћи много времена пре него што се АИ модели са таквим способностима прошире, потенцијално и изван актера који су посвећени њиховој безбедној употреби. Последице – по економије, јавну безбедност и националну сигурност – могле би бити озбиљне.“
Укратко, оно што су Mythos Preview и слични модели открили јесте да чак и неки од најпоузданијих и најчешће коришћених система у основи интернета имају критичне рањивости – неке старе и деценијама – које АI може да пронађе и искористи много брже него што би и најбољи хакери могли да замисле.
Питање је сада: можемо ли да исправимо те пропусте и ојачамо интернет пре него што буде касно?
Јаз отвореног кода
Без обзира на мишљење о корпорацијама које предводе трку у АI, добра вест је да су тренутно најмоћнији алати у борби за безбедност интернета у рукама „добрих момака“. Али то неће још дуго трајати.
Најбољи АI модели у индустрији познати су као „frontier модели“, а они попут Mythos Previewа строго се чувају.
Међутим, одмах иза њих долазе такозвани „open-source модели“. Ови системи се транспарентно објављују, омогућавајући људима да иновирају и експериментишу изван могућности – и ограничења – које су поставили њихови творци.
У већини случајева то је корисно, али носи и ризик. Децентрализација омогућава актерима са лошим намерама да прилагоде АI агенте за злонамерне сврхе и избегну надзор када такве моделе покрећу на сопственим серверима.
„Пре две или три године било је теже, али сада свако може да приступи алатима за креирање АИ агената и да их покрене“, каже професор Питер Бентли, стручњак за рачунарство са Универзитета у Лондону, за BBC Science Focus.
„Потребни су снажни рачунари, али криминалци ће сигурно улагати новац да би зарадили. Набавиће моћне рачунаре и локалне моделе и апсолутно могу то да ураде. Пандорина кутија је отворена.“
Open-source модели су увек заостајали за најнапреднијима, али се тај јаз смањује. Током последње две године разлика између frontier и open-source модела смањила се на око шест месеци, према извештају Института за безбедност вештачке интелигенције.
Због тога бисмо могли имати мање од годину дана пре него што модел сличан Mythos Preview доспе у руке неког ко жели да искористи рањивости у кључном софтверу интернета.
Како компаније имају користи од тога што своје АI моделе представљају опаснијим?
Пре него што настане паника, важно је подсетити се да је индустрија вештачке интелигенције позната по преувеличавању.
Компаније попут Anthropica, OpenAI-а, Google-a, xAI и других могу имати користи од представљања својих модела као бољих, важнијих и потенцијално опаснијих него што заиста јесу.
То је посебно видљиво у свету рада. АI компаније годинама најављују трансформацију тржишта рада, а ипак су многи послови остали тек незнатно промењени – ако уопште.
„Огроман новац је уложен у АI“, каже Бентли. „Шта се променило? Послови се мењају, али углавном је реч о повећању ефикасности.“
Док Anthropic описује Mythos Preview као „скок напред“, други су опрезнији
Гери Маркус, научник и аутор, сматра да модел није револуционаран већ само благо унапређење. Његова анализа указује да чак и мањи и јефтинији модели могу обавити сличне задатке.
Додаје: „У извесној мери имам утисак да смо преварени. Демонстрација јесте доказ концепта да морамо да средимо регулативу и технологију, али није непосредна претња каквом је представљена.“
Чак и ако следећа генерација модела може да обори интернет, није сигурно да би их нападачи користили у ту сврху.
„Неко би срушио интернет само ако би то желео, а то није нарочито корисно“, каже Бентли. „Највероватније злоупотребе биће циљане, ради финансијске користи.“
Међутим, политички актери, попут држава или терористичких организација, могли би бити мотивисани хаосом.
„Ако одређене државе дођу до тога, користиће га против других земаља“, каже Бентли. „То је наоружавање вештачке интелигенције на изненађујуће лак начин.“
Трка је почела
Јасно је да је трка за заштиту интернета већ почела.
Али да ли је могуће закрпити све рањивости? И да ли је то прави приступ?
Коришћење АИ за поправљање кода може бити проблематично. „Код који пише АИ често је компликован и не баш квалитетан“, каже Бентли. „Ако АИ почне да крпи постојећи код, настаје хаос и нове рањивости.“
Решење би могло бити да се искористи тренутна предност и унапреди одбрана док је још могуће.
Како наводи британски Национални центар за сајбер безбедност, кључна предност бранилаца је могућност да „обликују терен“ – односно да прилагоде окружење у своју корист и отежају посао нападачима.
Такође, АИ може бити коришћен за надзор над злонамерним активностима. За сада, АИ напади често остављају препознатљиве трагове које је релативно лако детектовати.
Ипак, Бентли упозорава да смо ушли у трку у наоружању.
„То је као да групи паметних научника дате све могуће документе о прављењу експлозива и кажете им да се забаве“, каже он.
Забрињавајуће је то што не знамо шта ће прво експлодирати.
