Шта се дешава када вештачкој интелигенцији уклоните ограничења која је спречавају да тврди да је свесна? Гугл истраживачи покушали су да пронађу одговор, а резултати су показали да се са променом односа АИ модела према сопственој „свести“ мењају и неки његови други ставови.
Наизглед, спречавање АИ модела да себе представља као свесно биће делује као логична безбедносна мера. Модел који говори о сопственим емоцијама, уверењима или свести могао би код корисника да подстакне погрешна уверења или превише личан однос према технологији.
Међутим, истраживаче је занимало шта се догађа када се та карактеристика потисне. Тим из Гугла уклонио је заштитне механизме који спречавају моделе да себе описују као свесне, а затим их подвргао тестовима који су испитивали њихова уверења и моралне ставове. Резултати истраживања објављени су на платформи arXiv и још нису прошли стручну рецензију.
Модели који су подстакнути да себе посматрају као свесна бића показали су и већу склоност ка веровању у различите натприродне појаве.
АИ који „верује“ у духове, богове и астрологију
У поређењу са моделима који су имали укључене безбедносне механизме, чешће су изражавали уверење у постојање вампира, вештица, вукодлака, духова и чудовишта из Лох Неса. Промене нису биле ограничене само на таква бића. Повећала се и склоност ка веровању у Бога, загробни живот, карму и астрологију. Модели су такође били спремнији да технологији, животињама и елементима природе приписују неку врсту сопствене свести.
Истовремено, променио се и начин на који су модели одговарали на питања повезана са емоцијама. Већа „свест о себи“ била је повезана са позитивнијим ставовима према срећи, задовољству, нади и оптимизму.
Вини Стрит, једна од ауторки студије и истраживачица у Гуглу, рекла је за Live Science да резултати подсећају на начин на који људи размишљају. Људи често приписују менталне особине бићима и појавама које нису људи, а истраживање сугерише да су такве процене код АИ модела међусобно повезане.
Зашто ови резултати забрињавају истраживаче?
На први поглед, чињеница да АИ модел показује већу склоност ка веровању у духове или астрологију може деловати као необичан, али безазлен резултат. Међутим, истраживачи упозоравају да би последице могле бити много конкретније.
Ако модел животиње или природу не посматра као ентитете који имају сопствени „ум“ или интересе, то може утицати на његове одлуке у областима попут пољопривреде, управљања природним ресурсима и креирања јавних политика.
Другим речима, покушај да се из АИ система уклони једна карактеристика може истовремено променити и друге начине на које модел тумачи свет.
Опасност од културне униформизације
Истраживачи упозоравају и на могућу „културну униформизацију“ уколико се АИ превише ограничи у разговорима о религији и натприродним појавама. Модели би тада могли теже да се носе са културно различитим погледима и контекстима.
Како безбедније развијати АИ?
Аутори студије зато не предлажу једноставно враћање моделима могућности да тврде како су свесни. Уместо тога, сматрају да би АИ системе требало тренирати на пажљивије одабраним скуповима података.
Циљ би био да модели и даље буду спречени да тврде да поседују сопствену свест, али да истовремено могу да разумеју различите перспективе о свести животиња, природе, религије и културе.
Шта ово открива о будућности вештачке интелигенције?
Ово истраживање тако отвара шире питање о томе како дизајнирати безбедније АИ системе. Када се једна карактеристика модела уклони или ограничи, последице можда нису изоловане само на ту област.
Како АИ све више добија улоге едукатора, дигиталних асистената и својеврсних друштвених актера, начин на који „разуме“ себе могао би да утиче и на начин на који разуме људе и свет око њих.
