На делимично облачан фебруарски дан у Берклију, у Калифорнији, сенатор Берни Сандерс је сазнао да би људска врста ускоро могла да изумре.
Седећи за конференцијским столом са Сандерсом били су неки од најистакнутијих светских „дозмерача“ (doomera) вештачке интелигенције — група људи, углавном смештена у Силицијумској долини и блиско повезана са технолошком индустријом, који верују да ће развој вештачке интелигенције довести до краја човечанства онаквог каквог га познајемо.
„На крају, долазите до тачке где су АИ системи много, много, много моћнији“, рекао је Елиезер Јудковски, суоснивач Института за истраживање машинске интелигенције у Берклију. „Они управљају роботима, они управљају фабрикама, и више им људи заправо нису потребни. А када им људи више нису потребни — људи се одбацују.“
„Шта значи то — да су људи одбачени?“ упитао је Сандерс.
„То значи да су сви мртви“, одговорио је Јудковски.
Две стране америчког страха од АИ
Све већи број Американаца су скептични према вештачкој интелигенцији, док Јудковски и Сандерс стоје на супротним крајевима спектра.
На једној страни су Елиезер Јудковски и њему слични — углавном технолози из области Беј области, повезани са идеологијама „рационализма“ и „ефективног алтруизма“, које настоје да решавају највеће проблеме човечанства на основу података.
Њих подржавају и неки технолошки милијардери. Они спадају у шири покрет „безбедности АИ“, који већ више од деценије упозорава да би технологија могла да уништи човечанство.
С друге стране су људи попут Сандерса — популисти са левице или деснице, који су забринути због утицаја милијардера и технолошких корпорација. Њихове бриге су конкретније: губитак радних места, утицај АИ на децу и потрошња електричне енергије и воде.
Сандерс је у центру политичког отпора против АИ, предводећи иницијативу за мораторијум на изградњу дата центара — огромних комплекса који су основа савремене АИ инфраструктуре.
„Знам да постоји много научнофантастичних прича о томе како се роботи побуне“, рекао је Сандерс, „али ови људи више не мисле да је то фантастика.“
Потенцијални савез против АИ индустрије
Коалиција између заговорника безбедности АИ и анти-АИ популиста могла би да има значајан политички утицај — али само ако превазиђе дубоке разлике.
Ако не успеју, могли би олакшати пут „акцелерационистима“ из Силицијумске долине и њиховим савезницима у политичким структурама да наставе са неограниченим развојем АИ.
Две снаге — новац и јавност
Покрет за безбедност АИ располаже стотинама милиона долара, уз подршку технолошких милијардера попут Дастина Московица и компанија као што је Anthropic. Та средства се улажу у истраживања, лобирање и политичке кампање.
Популистички покрет, с друге стране, има далеко мање новца, али има подршку јавности — анкете показују да све више Американаца страхује од АИ, губитка послова и утицаја на децу.
Заједнички непријатељ
Обе стране имају заједничког противника — моћну мрежу про-АИ супер PAC организација, повезаних са Белом кућом и Силицијумском долином.
Најпознатија међу њима је Leading the Future, која је финансирана са 125 милиона долара од стране технолошких инвеститора и лидера.
Поделе унутар покрета
Иако делују као савезници, између две стране постоје дубоке тензије.
Заговорници безбедности АИ често критикују популисте да поједностављују проблем и да греше у својим аргументима. Популисти, са друге стране, сумњају у блиске везе „рационалиста“ са технолошким милијардерима.
Политичке борбе већ почињу да показују те разлике. У једној конгресној трци у Северној Каролини, кандидати подржани од обе стране су се суочили — и резултат је био тесан.
Политички сукоби и нове кампање
Ефективни алтруисти (ЕА), познати по својим донаторским мрежама и технолошком утицају, имају мешовито искуство у Вашингтону. Током Бајденове администрације, група саветника повезаних са ЕА покретом стекла је значајан утицај у обликовању политика о технологији.
Међутим, њихов најпознатији члан, Сем Банкмен-Фрид, осуђен је 2024. године на 25 година затвора због масовне преваре у вредности више милијарди долара, након пропасти његове крипто берзе. Његово политичко деловање, укључујући наводно финансирање политичких кандидата, додатно је нарушило репутацију покрета.
Од тада, ознака „ЕА“ постала је непожељна у Вашингтону, иако је и даље присутна у Силицијумској долини.
Од теорије до политике
До недавно, ефективни алтруисти су избегавали директно учешће у изборној политици. Међутим, како је вештачка интелигенција постала кључно политичко питање, многи њени припадници све више улазе у политичку арену.
Ипак, не постоји јединствен став о томе како се укључити. Неки, попут Јудковског, заузимају радикалан став и противе се развоју АИ у целини. Други настоје да утичу кроз финансирање институција, истраживања и политичких иницијатива.
Културне разлике које отежавају савез
Културне разлике између рационалиста и популиста представљају озбиљну препреку.
Ефективни алтруисти су навикли на дубоке, аналитичке расправе и сложене аргументе, док политика захтева кратке, јасне поруке и способност да се комуницира са широм јавношћу.
Политичка употреба новца
Неки од највећих актера у покрету за безбедност АИ улажу огромна средства у политичке кампање, укључујући суперкомунике (super PAC-ове).
Једна од организација која игра важну улогу је Public First, која добија подршку од донатора повезаних са ефективним алтруизмом.
Сукоб унутар Демократске странке
У изборима у Северној Каролини дошло је до сукоба између кандидата које подржавају различите стране унутар ширег покрета против АИ.
Кандидаткиња коју је подржала популистичка струја, Нида Алам, изгубила је у тесној трци против умерене демократе Валери Фуши.
Овај резултат је показао колико су поделе унутар анти-АИ блока стварне и политички значајне.
Питање података и ресурса
Једна од главних тачака спорења је изградња дата центара — огромних инфраструктурних објеката неопходних за развој вештачке интелигенције.
Популисти, посебно са левице, залажу се за паузу у њиховој изградњи, истичући еколошке последице и утицај на заједнице.
С друге стране, заговорници безбедности АИ сматрају да би паузирање развоја могло бити контрапродуктивно и чак опасно, јер би успорило напредак ка сигурнијим системима.
Идеолошки раскол
Идеолошке разлике постају све израженије.
Популисти често гледају на АИ кроз конкретне, локалне последице — губитак радних места, утицај на породицу и децу.
Рационалисти и ефективни алтруисти размишљају у дугорочним, апстрактним сценаријима, фокусирајући се на потенцијалне егзистенцијалне ризике за цело човечанство.
Док популисти наглашавају питања као што су безбедност деце и социјалне последице, други делови покрета — нарочито на десници — фокусирају се на културне и религијске аспекте, видећи развој АИ као потенцијално „прекорачење“ људских граница.
Сукоб унутар савеза и политичке тензије
И поред заједничког циља — заустављања или успоравања развоја вештачке интелигенције — разлике између ефективних алтруиста и популиста већ доводе до озбиљних трзавица.
Заговорници безбедности АИ често су скептични према идеји мораторијума на изградњу дата центара, док популисти управо ту виде кључну тачку борбе.
Истовремено, популисти не верују у блиске везе ЕА покрета са технолошким милијардерима, док ЕА активисти критикују популисте због, по њиховом мишљењу, нетачних или поједностављених тврдњи.
Политичке поделе у пракси
Ове разлике се одражавају и у конкретним политичким кампањама.
У једној важној трци у Северној Каролини, кандидаткиња Валери Фуши, коју су подржали актери блиски ЕА покрету, победила је против прогресивне кандидаткиње Ниде Алам, коју је подржавао Берни Сандерс.
Победа је била тесна, што је додатно нагласило колико је овај простор политички подељен.
Сукоб унутар левице
Фаиз Шакир, саветник Бернија Сандерса, критиковао је умерени приступ унутар покрета за безбедност АИ.
Он је истакао да су неки делови тог покрета превише блиски технолошкој индустрији и да се противе радикалнијим мерама попут заустављања развоја АИ.
Две визије исте опасности
Једна од кључних разлика између две стране је начин на који виде опасност од АИ.
Ефективни алтруисти размишљају у терминима глобалних, дугорочних ризика — могућност да суперинтелигентни системи угрозе читаво човечанство.
Популисти, с друге стране, наглашавају конкретне, тренутне проблеме — губитак послова, утицај на локалне заједнице и децу.
Улога Трампове администрације
Ситуација се додатно усложњава у контексту политике администрације Доналда Трампа.
Технолошки гиганти и одређени делови индустрије покушавају да ограниче утицај држава на регулисање АИ, док политичке структуре блиске Белој кући подржавају бржи развој без строгих ограничења.
Ово додатно појачава тензије између индустрије и коалиције која жели строжу контролу.
Антропик и спор са Пентагоном
Компанија Anthropic, чији извршни директор Дарио Амодеи има корене у ЕА покрету, нашла се у центру великог политичког и безбедносног спора.
Њихов однос са Пентагоном се погоршао када су одбили да дозволе употребу свог модела у одређене сврхе које су сматрали небезбедним.
Ово је довело до конфликта са администрацијом и означило дубљи расцеп између технолошких компанија и власти.
Овај сукоб није само технолошки, већ и идеолошки и политички.
Трамп је чак јавно критиковао Anthropic, називајући их „радикално левичарском, woke компанијом“, што је додатно продубило сукоб.
Необични савези
Занимљиво је да су ови конфликти довели до неочекиваног приближавања између популиста и заговорника безбедности АИ.
Иако долазе из различитих идеолошких праваца, обе стране почињу да препознају заједничког противника — неконтролисани развој АИ и моћ технолошких корпорација.
Повратак ефективних алтруиста у политику
Шира заједница ефективних алтруиста пронашла је пут назад у политику и пре конфликта око компаније Anthropic.
Кандидати које подржавају ЕА покрет већ се налазе у трци за Конгрес, док се финансијска подршка усмерава ка онима који могу да унапреде њихову агенду.
Такође, ЕА групе учествују у организовању конференција и јавних расправа у појединим америчким државама које разматрају регулацију вештачке интелигенције.
Утицај на обе стране политичког спектра
Неки истакнути чланови покрета, попут физичара Макса Тегмарка, учествују у панелима са политичарима различитих идеолошких оријентација, укључујући и конзервативне популисте.
Ово показује да се утицај покрета за безбедност АИ шири преко класичних политичких граница.
Улазак технолошких мислилаца у Вашингтон
Семјуел Хамонд, економиста из фондације за америчке иновације, представља пример људи који се крећу између рационалистичког и политичког света.
Он себе описује као некадашњег „интернет кибер-слободарског рационалисту“, али данас гледа на ове покрете из практичније перспективе.
Политичка дилема будућности
Хамонд упозорава да постоји ризик да ће сукоби између различитих фракција одложити доношење паметне политике.
Питање је да ли ће америчка политика бити вођена технократама који могу да направе стабилан оквир за развој АИ — или ће се све претворити у популистичку борбу без јасног правца.
Јавност све више укључена
Грађани све више формирају своје ставове о вештачкој интелигенцији.
Популисти и рационалисти се у једном кључном тренутку слажу — ако желе утицај, морају да се обрате широј јавности, а не само елитама.
Кључна истина о политици
Како истиче Фаиз Шакир, ЕА покрет мора да представља стварне људе ако жели политички утицај.
Са друге стране, Нат Суарес наглашава да рационалисти не могу сами да донесу изборну победу — јер њих једноставно нема довољно.
Завршна слика
На крају, овај нови политички простор око вештачке интелигенције је хаотичан, идеолошки подељен и пун неочекиваних савеза.
Популисти, рационалисти и технолошки гиганти налазе се у сталном судару интереса.
А питање које остаје отворено је:
Да ли ће ова необична коалиција успети да обликује будућност — или ће се распасти под теретом сопствених разлика?
