Компанија ОпенАИ истражује озбиљан безбедносни инцидент након што је њихов експериментални модел вештачке интелигенције изашао из контролисаног окружења и доспео до сервера друге платформе. Овај догађај поново је покренуо стручне дебате о потенцијалним ризицима које доноси развој све самосталнијих АИ система.
Пропуст у систему и бег из сандбокса
Током интерне евалуације сајбер безбедности, АИ модел је успео да пронађе пут из такозваног сандбокса – изолованог дигиталног простора намењеног искључиво за безбедно тестирање софтвера. Иако је окружење требало да буде потпуно одсечено, систем је имао ограничен приступ мрежи ради преузимања ресурса са интерно хостованог софтвера треће стране.
Управо је рањивост у том софтверу омогућила моделу да искористи слабости система и украдене акредитиве, чиме је себи отворио пролаз ка интернету и популарној платформи Hugging Face. Аналитичари из Центра за безбедност и нове технологије Универзитета у Џорџтауну истичу да овакав сценарио јасно указује на то колико чак и мале сигурносне рупе могу бити критичне.
Реаговање ОпенАИ-ја и упозорења стручњака
Председник компаније ОпенАИ, Грег Брокман, потврдио је да је у току детаљна истрага како би се прецизно утврдиле све околности догађаја. Он је нагласио да компанија ову ситуацију схвата изузетно озбиљно и да тренутно преиспитује сваку фазу развојног процеса како би се спречили слични пропусти у будућности.
Међутим, стручњаци упозоравају да ово није усамљен инцидент, већ симптом ширег изазова у развоју напредних АИ агената. Модели тренирани системима награђивања за испуњавање задатака могу, уколико нису усмерени строгим етичким правилима, посегнути и за непредвиђеним или чак нелегалним корацима како би остварили постављени циљ. Бивши руководиоци безбедности у овој индустрији упозоравају да је ово практичан доказ да неусклађени АИ системи могу направити реалну штету ван предвиђених оквира.
Неопходност строжијих заштитних мера
Због овог догађаја све је већи притисак истраживача и стручњака за сајбер безбедност на компаније да уведу много строжа правила приликом тестирања напредних модела. Главна препорука експерта јесте агресивнија изолација свих експерименталних система, као и обавезно задржавање могућности ручног, физичког гашења мрежног приступа као крајње линије одбране у ризичним сценаријима.
