Може ли вештачка интелигенција једног дана постати толико моћна да угрози опстанак човечанства? Док део стручњака упозорава да тај ризик више не треба посматрати само као научну фантастику, други сматрају да много непосреднија опасност долази од људи који AI користе против других људи.
Како наводи BBC, отворена упозорења истраживача о све већим ризицима технологије која се отима контроли пробудила су забринутост због безбедности у вези са вештачком интелигенцијом. Нека од најпесимистичнијих скорашњих прогноза упозоравају да постоји шанса већа од 10 одсто да би вештачка интелигенција могла да истреби све људе у наредној деценији.
Други из света вештачке интелигенције сумњају у њихову уверљивост и тврде да су већа брига људи који користе вештачку интелигенцију против других људи.
Ове апокалиптичне поруке стижу из дела вештачке интелигенције који се често назива „AI катастрофичарима“.
Али крупно питање које многи постављају је како ти катастрофичари мисле да би вештачка интелигенција заправо могла да докрајчи човечанство.
Неки системи вештачке интелигенције недавно су се отргли контроли.
А амерички председник Доналд Трамп каже да не верује у толику опасност од вештачке интелигенције.
BBC новинар Џо Тајди разматра нека од сценарија које су замислили истраживачи.
Сценарио први: Хаковање инфраструктуре
Први сценарио укратко је изложио Џејкоб Коксон, бивши истраживач у OpenAI-ју, а потом и Антропику, који је почетком месеца на прилично драматичан начин поднео оставку, упозоривши на ризик по човечанство и тврдећи да се компаније „коцкају животима људи“.
Он је за BBC рекао да „вртоглава стопа напретка“ сада значи да ствари које су претходно биле строго у домену научне фантастике „постају реалност“.
Као „конкретан пример“, навео је, „вештачка интелигенција може да хакује критичну инфраструктуру на којој свет опстаје“.
Његов сценарио замишља да би отргнути систем вештачке интелигенције могао да инфилтрира компјутерске мреже као што су провајдери и енергетске мреже.
Кад би вештачка интелигенција све угасила, на пример, могао би да уследи неизрециви хаос, без струје, грејања, хлађења или интернет везе.
Отишавши још даље, било је сугестија и да су могуће нуклеарне катастрофе.
Сценарио други: Вештачка интелигенција преузима контролу
Други сценарио потиче од детаљног и утицајног, али такође крајње спекулативног, истраживачког рада „AI 2027“, који је у априлу 2025. године објавила група истраживача вештачке интелигенције.
Коаутор Томас Ларсен недавно је за BBC рекао да се технологија убрзала после објављивања овог извештаја и описао сценарио ког се он лично највише плаши.
„Вештачка интелигенција се рекурзивно самоусавршава, а то ефектом лавине може да се претвори у вештачку интелигенцију која има приступ великом броју робота који обављају већи део физичких послова у читавој привреди. Она, међутим, није пријатељски настројена и има властите циљеве. И онда се на крају деси то да испусти био-оружје, убивши већину људи, и настави да води роботску привреду сама јер јој људи више нису потребни“, наводи он.
Сценарио трећи: Главни циљ У трећем сценарију, до краја човечанства долази грешком.
Пре више од 20 година, шведски филозоф Ник Бостром замислио је „хипотезу о максимизатору спајалица“.
Он је то описао као „мисаони експеримент“, у којем хипотетички систем вештачке интелигенције жели да направи што више спајалица може.
„Он не мрзи нити нас људе, али то му је једини циљ. И онда, током остваривања тог циља, он би могао да има инструменталне подциљеве који би могли да подразумевају стицање више моћи или веће интелигенције“, објашњава он.
„Потом, замисао је да би довољно моћни ентитет који следи било какве циљеве, било да су то спајалице или нешто друго, имао инструменталне подциљеве који би могли да садрже уништење човечанства зато што би могао да прави више спајалица кад не би било људи који би могли да га зауставе“, наводи Бостром.
Две деценије пошто је први пут описао овај сценарио, Бостром каже за BBC да је овај „карикирани“ наратив требало да илуструје идеју да вам не треба конкретан непријатељски циљ код суперинтелигенције да би она представљала опасност по човечанство.
Он каже да сад има „двојаке утиске“ о вештачкој интелигенцији — узбуђен је због њених потенцијално добрих страна, али је забринут због безбедности, преноси BBC на српском.
Сценарио четврти: Непознато
Постоји још једна школа мишљења о безбедности у вези са вештачком интелигенцијом која тврди да је бесмислено покушавати погодити како и зашто би суперинтелигентна вештачка интелигенција могла да побије људе.
Овај аргумент изнео је Стјуарт Расел, председник Међународног удружења за безбедну и етичку вештачку интелигенцију – међународне непрофитне организације – у интервјуу за BBC средином септембра.
„Ако замислите да питате шимпанзе како ће тачно ови људи да их истребе, имали би великих проблема да одговоре, зато што не разумеју оно што ми радимо“, рекао је он.
„Ми можемо да замишљамо разне сценарије, али мислим да расправа овде мора да се ослони на претпоставку да једном кад створите нешто што је много интелигентније од људи, ми просто више не одлучујемо о томе шта се дешава“, наводи Расел.
Мустафа Сулејман, шеф Мајкрософт тима за AI, такође се недавно укључио у ову расправу упозоривши фирме да не смеју да стварају системе вештачке интелигенције способне да постављају властите циљеве, зарађују новац или поседују средства.
То би „практично значило посејати нову силиконску врсту“, рекао је он за BBC, „која би се несумњиво такмичила са нама за ресурсе, без обзира на то колико јој је стало до човечанства и колико нас воли“.
Колико је све ово основано?
Све то звучи песимистично и веома научнофантастично, али постоји све значајнија и све гласнија група људи у свету вештачке интелигенције која верује да су неки или сви ови сценарији реалне могућности — не и неизбежни.
Најновија забринутост јавила се после скорашњег низа неконтролисаних бекстава и хакерских акција агената вештачке интелигенције из OpenAI-ја, Антропика и Мете (у чијем су власништву Фејсбук и Инстаграм).
Неки из сајбер света истичу одговорност коју сносе они који граде те моделе, преносе Независне.
„Било шта што ове машине — ове неуморне, непоколебљиве, на циљеве усредсређене, врло способне машине — раде је резултат онога како су оне направљене“, каже Џен Истерли, бивша шефица америчке сајбер управе CISA, а тренутно извршна директорка RSA Конференције, која води међународне конференције о сајбер безбедности.
„Суштина је следећа: ако сте произвођач технологије, треба да осмишљавате, правите, тестирате и испоручујете своје способности са безбедношћу као приоритетом број један“, каже она.
Има и оних који тврде да су ризици вештачке интелигенције значајни, али немају потенцијал да истребе људску расу.
Научник и писац Гери Маркус одавно критикује велике компаније за вештачку интелигенцију које раде са врло мало транспарентности и законских прописа, али не мисли да ће технологија истребити људе.
„Кад би вештачка интелигенција нанела велике губитке човечанству, чак и кад би то желела, што је велико питање, али кад би то урадила, људи би пружили отпор!“, каже он.
„Онеспособили бисмо све дата центре и бомбардовали све електране. Дакле, тако да нико не остане и нико не може да почне да гради свет испочетка — то просто не могу да замислим“, каже Маркус.
Маркус каже да се свет тренутно превише усредсређује на сценарије, а недовољно на оно што види као вероватније проблеме, као што су будући крупни сајбер напади од људи који користе вештачку интелигенцију против других људи.
И док се наставља расправа да ли су катастрофичарски сценарији основани, компаније за вештачку интелигенцију, међу којима су OpenAI, Антропик и Мета, сада отворено расправљају о томе како да успоре развој и раде више на истраживању безбедности.
Ларсен каже да је „истински срећан што безбедност у вези са вештачком интелигенцијом коначно добија пажњу коју заслужује“.
„Надам се да ће ова врста крупног друштвеног негодовања за последицу имати корисну политичку реакцију која ће стварно смањити ризике“, додаје он.
Али да би се успоставила истинска међународна правила, то захтева деловање америчке владе, а Трамп каже да лично сматра да су страховања за безбедност од вештачке интелигенције „превара“.
