Индустрија вештачке интелигенције води, чини се, најгласнију расправу до сада о томе да ли ова технологија представља егзистенцијалну претњу човечанству.
Истраживач напустио Антропик због страха од вештачке интелигенције
Актуелна расправа почела је након што је истраживач вештачке интелигенције Џејкоб Коксон саопштио да је напустио компанију „Антропик“ јер је забринут да водеће компаније у области вештачке интелигенције „коцкају се нашим животима“.
На његове речи надовезао се и руководилац тима за усклађивање вештачке интелигенције у „Антропику“, који је објавио текст у којем је навео: „Заиста искрено верујемо да би вештачка интелигенција могла да побије све људе!“
Он је додао да лично процењује да је вероватноћа за такав сценарио „већа од 10 одсто у наредној деценији“.
Најновија епизода подкаста „Equity“ компаније „TechCrunch“ била је посвећена управо овим све гласнијим упозорењима о могућој апокалипси коју би могла да донесе вештачка интелигенција.
У разговору су учествовали Кирстен Коросец, Шон О’Кејн и Ентони Ха, који су анализирали најновије изјаве истраживача и руководилаца великих компанија.
Ха је покушао да објасни зашто је скептичан према многим сценаријима који предвиђају пропаст човечанства због вештачке интелигенције. Коросец је, са друге стране, поставила питање да ли су оваква упозорења можда само необичан начин да компаније покажу колико су њихови модели напредни, посебно у тренутку када се припремају за излазак на берзу.
О’Кејн је поставио и занимљиво питање о томе како би се овакве изјаве могле одразити на документацију „Антропика“ поводом иницијалне јавне понуде акција.
„Да ли сада неки млађи адвокати пролазе кроз цео С-1 документ и морају да промене читав одељак како би написали: ’Званичан став Антропика је да постоји више од 10 одсто шансе да развијемо нешто што би могло да уништи цело човечанство и да би то било материјално лоше за наше пословање’?“ упитао је он.
„Ако верујете да ће вештачка интелигенција уништити човечанство, зашто је и даље развијате?“
У наставку преносимо делове разговора, прилагођене и скраћене ради јасноће.
Шон О’Кејн: Тешко ми је да се сетим нечега што је тако брзо ескалирало. Не само да се појавило упозорење овог младог истраживача, који је раније радио и у „OpenAI-ју“, већ га је одмах на Иксу поделио и руководилац тима за усклађивање у „Антропику“.
И то уз реченицу која би могла да остане упамћена као један од најнепримереније употребљених узвичника: „Заиста искрено верујемо да би вештачка интелигенција могла да побије све људе!“
Уз то стоји и узвичник!
Каква чудна атмосфера. То је било огромно убрзање већ прилично напете приче. Све се догодило после хаковања „Hugging Face“-а од стране интерног модела „OpenAI-ја“, као и након све већих способности које смо видели код најновијих модела „Антропика“ и сада „OpenAI-ја“, са „Astra“ системом пре неколико недеља.
Мислим да је све то било савршено темпирано да ова изјава младог истраживача постане својеврсна буре барута.
Ентони Ха: Морам да се не сложим с тобом. Ако верујете да би вештачка интелигенција могла да уништи цело човечанство, онда то свакако заслужује узвичник. Рекао бих да је то сасвим оправдана употреба узвичника!
Мој проблем са том објавом више се односи на реч „ми“. Ко су „ми“? У којој мери уопште можемо да говоримо о заједници вештачке интелигенције или истраживачкој заједници као о некој јединственој целини?
А онда имамо и ту процену од више од 10 одсто. То је једноставно измишљен број који сам по себи не значи много. Понекад и у технолошкој индустрији и на другим местима постоји навика да се избаце неки проценти који заправо нису засновани ни на чему конкретном и нису добијени неким стварним прорачуном.
Тек касније сам схватио да се та објава вероватно позивала на концепт такозваног „P(doom)“, односно процене вероватноће да би вештачка интелигенција могла да доведе до катастрофе. И даље мислим да је такво произвољно лицитирање процентима прилично бесмислено.
Једна ствар коју бих, међутим, рекао о Коксоновој одлуци јесте да се овде стално понавља једна тема о којој говоримо у „Equity“-ју. Када неко попут Сема Алтмана или Дарија Амодеја говори о могућој пропасти човечанства због вештачке интелигенције, увек се поставља питање: Ако заиста верујете да би вештачка интелигенција могла да уништи човечанство, зашто је онда и даље развијате?
Ако заиста верујете да је то могуће, онда бисте престали да радите на томе.
Управо зато је Коксонов случај другачији. Он је својим професионалним путем показао да стоји иза сопствених речи. Практично је рекао: „Верујем да је ово заиста, заиста лоше и не желим више да радим на томе.“
Ако ништа друго, треба му одати признање за храброст да то уради.
Да ли компаније заправо хвале сопствене моделе говорећи о њиховој опасности?
Кирстен Коросец: Да, ја га стављам у потпуно другачију категорију од свих осталих који говоре о опасностима вештачке интелигенције.
Сада ћу мало да шпекулишем, јер желим да вам поставим питање. Да ли је могуће да сваки пут када видимо све већи број текстова о још једном случају у којем је неки њихов АИ агент ненамерно пробио ограничења, или када говоре да је човечанство угрожено, то на неки начин представља необичан начин да покажу колико је њихов модел напредан?
Звучи прилично цинично, али заправо има одређеног смисла.
Ако ти модели нису напредни и способни, не бисмо морали да бринемо о томе да су пробили нека ограничења. На неки необичан начин, то постаје хвалисање способностима модела које су саме компаније створиле.
Ентони Ха: И ја сам се то питао. Не мислим да је то потпуно цинично, јер не верујем да је све само свесна маркетиншка кампања.
Мислим да многи од тих људи, било да су истраживачи или директори компанија, заиста осећају забринутост.
Али, истовремено, то се у великој мери поклапа са њиховим пословним интересима. Можете рећи: „Вау, направили смо најопаснији софтвер који је икада направљен.“
Не желим превише да анализирам њихову психологију, али други су већ указивали на једну људску склоност: природно је да желите да верујете да је ствар на којој радите најважнија и најопаснија ствар на свету.
Шта ако компаније више немају потпуну контролу над својим моделима?
Шон О’Кејн: Када размишљам о том питању, једна ствар ми посебно пада на памет.
Свакако постоји елемент који оставља утисак: „Урадили смо нешто што је невероватно способно, и то је на неки начин добро за нас, чак и ако из много других углова изгледа лоше.“
Али мислим да је код неких од најновијих примера нешто другачије.
Они заиста стварају осећај да те компаније на одређене начине више немају потпуну контролу над оним што су направиле, посебно када је реч о „OpenAI-ју“.
Све чешће се појављују извештаји о интерним агентима који су приступали различитим вики страницама на интернету и остављали поруке једни другима.
И то на начин који не делује као да „OpenAI“ ситуацијом управља нарочито компетентно.
Замислио бих да би прича била много боље испричана када би све било искључиво део стратегије којом желе да покажу: „О, Боже, направили смо нешто невероватно способно.“
Друга ствар која ми је овде веома занимљива јесте чињеница да смо, шта, свега неколико недеља удаљени од тога да видимо С-1 документ „Антропика“ поводом изласка на берзу.
А затим смо вероватно још неколико недеља или месец-два удаљени од саме иницијалне јавне понуде акција.
И онда компанија изађе пред јавност и каже овакве ствари тако директним језиком.
Веома ме занима шта то значи за цео процес.
Колико су овакве ствари већ биле написане у С-1 документу? Колико је упозорења о ризицима већ било укључено?
Да ли сада неки млађи адвокати пролазе кроз цео документ и морају да преправљају читав одељак како би написали:
„Званичан став Антропика је да постоји више од 10 одсто шансе да бисмо могли да развијемо нешто што би уништило цело човечанство и да би то било материјално лоше за наше пословање“?
Кирстен Коросец: Ти претпостављаш да тога већ нема у документу.
Шон О’Кејн: Управо то и кажем. Да ли је то већ тамо и сада се само другачије формулише? Или је у питању права узбуна и покушај да се све на брзину промени?
Мора да је нека врста језика о овим ризицима већ постојала.
То је један од разлога због којих једва чекам да видим тај документ. На неки начин, чак више него С-1 компаније „SpaceX“, јер сам сигуран да ће у њему постојати делови специфични за овакве идеје који ће бити веома занимљиви.
Да ли страх од вештачке интелигенције може чак да повећа вредност компаније?
Кирстен Коросец: Ево у чему је ствар.
У традиционалном инвестиционом окружењу неко би вероватно сматрао да би овакве изјаве могле да нашкоде процењеној вредности компаније, јер одједном постаје јасно да она развија нешто потенцијално опасно.
Али ми не живимо у нормалним временима.
Зато се враћам на своју претходну тезу. Ово би на крају чак могло да буде необичан начин да компанија повећа своју вредност.
То није исто што и тренд намерног изазивања беса и контроверзи који смо гледали прошле године, али се налази у сличном простору.
У том свету снага, способност, па чак и елементи опасности нечега могу да значе већу процењену вредност.
Видећемо шта ће се догодити у наредних неколико недеља.
Можемо ли уопште да контролишемо опасне стране вештачке интелигенције?
Ако то за сада оставимо по страни, поставља се много важније питање: шта се конкретно ради поводом свега овога?
И да ли можемо да контролишемо опасне стране вештачке интелигенције или само посматрамо како се све одвија?
Извршни директор америчке непрофитне организације „ControlAI“, Конор Лихи, говорио је о овој теми и изнео своје виђење начина на који би требало контролисати развој најмоћнијих система вештачке интелигенције.
Ентони Ха: Ни сам немам нужно добар одговор на то питање, али размишљао сам о неким аспектима ове расправе и о томе зашто на њу реагујем на начин на који реагујем.
Да се надовежем на Шонову тезу, мислим да део овог проблема говори о томе у којој мери велике компаније за вештачку интелигенцију имају осећај да више нису у потпуности господари сопственим моделима.
То свакако није добро.
То је нешто због чега би сви требало да будемо забринути.
Да ли страх од апокалипсе скреће пажњу са стварних проблема?
Међутим, мислим да је један од разлога због којих сам скептичан према такозваном „доомерском“ наративу то што он понекад прелази у хистерију.
„Ово би могло да уништи човечанство у наредних десет година.“
Такав приступ, по мом мишљењу, може да одвуче пажњу од много непосреднијих проблема које вештачка интелигенција већ може да изазове.
Ту су, пре свега, последице по тржиште рада, али и утицај на животну средину и климатске промене.
Идеално би било да можемо истовремено да разговарамо о свим овим проблемима и да успоставимо регулаторне и друге механизме заштите од свих њих, укључујући и потенцијалну егзистенцијалну претњу коју би вештачка интелигенција могла да представља.
Али када почнемо да користимо изразе као што су „АГИ“ и „суперинтелигенција“, цела расправа почиње да се врти око њих.
То заузима сав простор у јавној дебати на начин који, по мом мишљењу, није нарочито користан.
Можемо да разговарамо о томе да ли ће једног дана вештачка интелигенција постати толико моћна да представља егзистенцијалну претњу човечанству. Али истовремено не смемо да изгубимо из вида проблеме који су већ овде — од губитка радних места и утицаја на животну средину до чињенице да ни саме компаније које развијају најмоћније системе можда више немају потпуну контролу над њиховим понашањем.
