Утицај вештачке на природну интелигенцију и обрнуто

Човек се учи док је жив а неке од најважнијих ствари, попут оне да је живот ефемерна појава, сазна на самом крају кад је већ доцкан да бар део живота проживи из почетка. Па опет, тај процес континуираног учења није монотон, као да додајете шарене кликере знања у велику теглу сећања, сваки дан по један нови. Има ту и оних „А-ХА!“ момената, тренутака када ваше знање доживи квантни скок и пређе на неки виши ниво, када у теглу улети неочекивано велики кликер, такозвани бурџоланац, глогер или ђулка.

Ја сам такав кликер звао „торопанџа“, понекад „џомба“, или једноставно „стакленац“, нисам их имао много, али добро памтим каква сам чудеса откривао у њиховим шареним бојама.

Сећам се, рецимо, своје љупке професорке с факултета која је у време мог студирања била у другом стању. После три године упорног посматрања, негде пред диплому, спознао сам да се иза „трудноће“ крије заправо природан облик њене љупкости. Као клинац сам чезнуо да порастем што пре, убеђен да ћу тада коначно знати шта хоћу, да ћу коначно престати да будем слуђен, конфузан и неорганизован.

Људски живот, међутим, подлеже другом закону термодинамике: како он одмиче, ентропија, као физичка мера његове неуређености и хаотичности, непрекидно се повећава. И тако сам, много деценија касније, морао да признам да сам одрастао пребрзо и да од двадесет отворених прозора у мом интернет претраживачу половина има наслове у стилу: „Како да урадим…“, „Зашто се ово дешава…“, „Да ли је нормално да…“.

Уденула се ту негде и школа резервних официра артиљерије у Задру, где сам схватио да војска за тако једностaван проблем као што је утврђивање растојања хаубице од циља на географској карти (обична Питагорина теорeма), има један огроман шаблон, ишпартан као укрштене речи за празнично издање „Еуреке“, пратеће упутство на двадесет страница у коме пише како се која коцкица попуњава и неког поручника, можда капетана, који вас води кроз све то као да је корен из збира квадрата строго чувана државна тајна. Јер резервни официр артиљерије може да буде и неко ко од читаве геометрије зна само за зидарски висак, а можда ни то, неко ко је хтео да учи али није могао, или није стигао, или једноставно није хтео – зар је то разлог да човек остане без официрских звездица? А-ХА!

У тренутку сам постао сигуран да та војска не може да нас одбрани ни од кога, са мном или без мене, јер док ми прочитамо упутство и попунимо формулар, неће више бити ни нас, ни наше хаубице из 1939. године (наравно, то су била она времена, сада је све потпуно другачије).

Свашта сам видео у животу након тога („јаки су то моменти били“, говорио је мој покојни деда), моја тегла с кликерима већ је пуна до врха, у глави је остало врло мало простора да у њу сместим нешто ново.

Ново доба

Дошло је доба вештачке интелигенције (AI) и LLM-ова (енглеска скраћеница за „Large Language Model“ илити „велики језички модел“). Иза ове скраћенице крије се софистицирани, бескрајно замршени софтвер са стотинама милијарди параметара који се „самоподешава“ кроз дуготрајан и скуп процес „учења“, процес који се углавном своди на ишчитавање колосалног броја страница углавном покупљених са интернета.

Сваки параметар у софтверу представља један „шраф“ који се, са сваком прочитаном реченицом или страницом, мало притегне или олабави, док не легне „таман како треба“. Тако истрениран и утегнут софтвер способан је да одговарa на ваша питања тако што, на бази претходног знања и историје конверзације, бира наредну логичну реч а затим те речи слаже у јасне реченице и параграфе.

Шта је, заправо, AI? Простим језиком: способност машине да учи из велике количине података и „размишља“ на начин који имитира људску интелигенцију. У почетку нисам био импресиониран, имамо ми људе који знају да испричају нову бајку сваког дана, многи воле то да чују али мене то не дотиче. Свака бака зна да очас посла измисли причу за своју унучицу користећи „ChatGPT“ метод, јер свака добра прича почиње речима „био једном један цар“…

Елем, сећам се премијерног издања „ChatGPT“-ја компаније „OpenAI“ (има ли неко да га није пробао), и морам да признам да сам се злурадо наслађивао његовим (полу)знањем које је, иако местимично солидно, било шупље кад год је требало искочити из стандардних шаблона и показати макар мрвицу интелигенције. Шаховска табла, мат у једном потезу, два краља и краљица, потез који би пронашао клинац који је тек научио правила. Па опет, ChatGPT никако није могао да схвати да краљица не може с поља „а1“ да скочи на поље „г8“. Осим тривијалних задатака на нивоу таблице множења, тадашњи „ChatGPT“ није умео да реши ниједан иоле интересантан математички проблем.

ChatGPT је од тада доживео неколико нових издања, појавили су се и нови „играчи“ из других „фабрика“: „Gemini“ („Google“), „Grok“ („Twitter“, тј. „X“), „Claude“ („Anthropic“), „Llama“ („Facebook/Meta“), „Mistral“ (истоимена француска компанија), „Qwen“ („Alibaba“)…

Појавило се на стотине АI модела специјализованих за одређену групу задатака (кување, програмирање, бирање филма за наредно вече, избор туристичке дестинације, млаћење празне сламе), које можете да скинете с интернета и инсталирате на своју локалну машину (под условом да имате довољно јак хардвер) и да тако стекнете свог личног „духа из чаробне лампе“, којег можете да затрпавате питањима од јутра до мрака, а да ником не плаћате ништа. Признајем, мени често треба деценија док не дођем до „А-ХА!“ момента, али се овога пута све дешавало тако брзо да сам „откровење“ (оно Јованово) доживео много пре него што сам очекивао.

И због тога нисам нимало срећан.

Случај наопаког фрижидера

Елем, мој син Лука се ових дана сели у сопствени стан, почиње да живи по својим правилима. Што би рекао претходни српски председник, „порасло дете, осамосталило се“. Треба му фрижидер, купили смо га лако, позната марка, нека акција, попуст велики, фрижидер моћан, горе хлади, доле мрзне, врата у црној боји… зато што смо били у могућности. Наравно, врата на фрижидеру монтирана су тако да се увек отварају на погрешну страну јер се врата монтирају у радњи, тек кад продавац сазна распоред ваших ствари у кухињи.

Али, нема везе, окренуо сам толико тих фрижидерских врата у прошлости, шта би сад могло да крене наопако? Три шарке – са десне стране, лепо се виде рупе на левој страни фрижидера где те шарке треба да се окрену и поново зашрафе. Спретне руке мајсторске (моја супруга би овде ставила неки заједљиви коментар, срећом не чита оно шта ја пишем), плус врхунски електрични шрафцигер који сам за читавих десет долара купио са „Темуа“, и посао је био готов за петнаест минута.

Пробамо да затворимо горња врата, савршено налегање, просто осећам „вакуум“ празног фрижидера како вуче врата к себи. Већ скупљам алат док Лука реда ради проба и доња врата од коморе за замрзавање…

„Хјустоне, имамо проблем“, каже Лука.

„Какав проблем?“

„Доња врата не могу да се затворе.“

Шта зна дете како се затварају врата, узмем да му покажем како се то правилно ради. Међутим, не иде, као да нека невидљива сила гура врата изнутра, неки магнети, федери, шта ли је. Загледамо где запиње, шта жуља, шта штрчи, вадимо фиоке, враћамо их назад, притежемо шарке силом која је очигледно непотребна. И све буде узалуд…

„Не могу да верујем да два образована човека не умеју да окрену врата на глупом фрижидеру“, опет ће Лука (дипломирао је ономад и већ верује да је у истом рангу са мном).

Када смо након пола сата схватили да смо исцрпли све идеје како да решимо проблем, укључујући и оне крајње идиотске, предложио сам да се оканемо немогуће мисије, да све вратимо на старо, док се још сећамо који завртањ иде у коју рупу, да признамо да смо два глупана и позовемо мајстора коме ћемо за превртање врата платити пар хиљадарки као таксу на будале.

„Хајде да питамо ChatGPT“, каже Лука.

„Какав ChatGPT, до јуче није знао да пронађе мат у једном потезу (мој глас разума). Осим тога, треба да напишемо подугачко објашњење, од чега смо почели, шта смо радили… пао мрак, човече, game over, идемо кући…“

„Само слику да му пошаљемо… Ево, мобилним телефоном.“

„Каква вајда од слике кад не знамо ни модел фрижидера, а папири од куповине су нам остали код куће? Ваљда и за слику треба неко објашњење…“ (Једноставно, иде ми се кући, не желим да трошим време на глупости)

„Хајде да пробамо па да се купимо.“

Питање за ChatGPT било је просто, једна штура реченица: „Не знамо тачан модел фрижидера, али након премештања шарки, доња врата се више не затварају – зашто?“

Пошаљемо и слике све три шарке и добијемо одговор:

„Овај феномен зове се ‘jumpy door’ и често се јавља код фрижидера попут вашег. Проблем је у трећој шарки, треба да је демонтирате.“

Чуо сам да LLM-ови измишљају, „халуцинирају“, рачунам да причамо са електронским лудаком који никад неће да призна да се у нешто не разуме, али немамо бољу опцију. Бацим онај електрични „Тему“ шрафцигер чија се батерија испразнила после два минута тешког рада, пређем на онај с ручним погоном. На крају, у руци имам шарку која, једноставно, не може да се зашрафи на неки други начин – али хајде да се играмо до краја.

„На врху шарке налази се бела пластична чаура, скините је.“

Пластична чаура заиста постоји и јесте бела али делује чврсто навучена на саму шарку. Не изгледа као део који може да се скида, напротив, више личи на нешто што лако може да се сломи. А онда остадосмо без гаранције. Покушам чауру да скинем прстима, прво нежно, на крају свом снагом, али не иде.

„Запните мало јаче.“

На крају успем да врх шрафцигера завучем испод дна чауре, повучем алатку навише и тако лансирам чауру право у кухињски плафон.

„Сад окрените чауру за 180 степени, натакните је на шарку, вратите шарку на рам фрижидера, намонтирајте врата и то је то.“

Окретање чауре за пола круга делује ми бесмислено, јер је чаура потпуно симетрична… или можда није? Заправо, кад се мало боље погледа, постоји разлика, али треба орловско око за то, које ја имам, али га слабо користим. Окренем чауру, зашрафим шарку, натакнем врата… на крају се врата затворише сама.

Чујем како ми се нови кликер котрља у глави: још један „А-ХА!“ моменат. Некако ми је мило што смо завршили посао, а опет – осећам се лоше, као да се сад нека невидљива шарка поломила у мени. Јер, машина не треба да буде паметнија од нас двојице, од било кога… али није био тренутак за филозофирање, одмакли смо се од фрижидера да га сагледамо у целини па да одемо на пиво. Фрижидер само што се није претурио на нас…

„Не заборавите да се на шарки коју сте преместили налази и једна од четири ножице која држи фрижидер у равнотежи. Сад на левој страни имате три ножице, на десној само једну. Пребаците средњу ножицу с леве на десну страну и фрижидер ће стајати како треба.“

Дигитални Турчин

Као што рекосмо, ChatGPT је један од LLM-ова, а све што LLM зна је да погађа наредну реч на основу оних претходних, нема ту интелигенције… Можда је то само нова врста „механичког Турчина“, којег је 1770. године конструисао Волфганг фон Кемпелен. Кемпеленов „Турчин“ био је врхунски шахиста, брзо је стекао светску славу наступајући на изложбама и вашарима, побеђујући пацере али и многе добре играче. Био је радо виђен гост на дворовима великаша, а током играчке „каријере“ дуге преко осамдесет година играо је шах с Маријом Терезијом, Наполеоном, Бенџамином Френклином и многим другим познатим личностима.

Иако су сумње у конструкцију и интелигенцију „Турчина“ постојале још од првог дана, превара је дефинитивно разоткривена тек 1854. године када је несрећни „Турчин“ изгорео у пожару. Испоставило се да је „Турчинове“ потезе вукао човек, обично неки искусни шахиста скривен у унутрашњости конструкције.

Кемпелена нема одавно, а Турци уместо шаха играју одличну кошарку, „убише“ нас двапут у пар дана. „ChatGPT“ је, међутим, стваран, „Gemini“, „Claude“ и „Grok“ – ништа мање. Њихова интелигенција је опипљива и мерљива, понекад до те мере да ће вас натерати да се најежите. Ако ови „језички модели“ знају само да нађу праву реч у сваком контексту, онда бих рекао да за интелигенцију и не треба много више од тога. Једино што можемо, бар за сада, јесте да се потрудимо да се ове чудовишно моћне машине не отму контроли.

Можда још увек нисмо створили „Скајнет“, програм из филма „Терминатор“, који је стекао свест о себи 29. августа 1997, а онда спречио своје творце у намери да га искључе тако што је изазвао нуклеарни холокауст. Али зато су сви делови ту и неки точкићи се увелико врте.

Инвестиције у технологије базиране на вештачкој интелигенцији достижу износе који се одавно косе са здравим разумом при чему су токови новца и акције тако замршени да је тешко растумачити ко у кога ту заправо улаже.

Тако је у септембру 2025. године, компанија „Nvidia“, која прави графичке картице адаптиране за употребу у AI системима (милионе пута ефикасније у односу на класичне „Интелове“ или „AMD“ микропроцесоре), објавила да ће инвестирати сто милијарди долара у „Open AI“ како би ова компанија могла да набави „Nvidia“ производе и направи дата-центар за чије ће покретање бити потребно око пет гигавата електричне енергије (довољно за град величине Њујорка).

„Nvidia“, са друге стране, има ривала, компанију „AMD“ чије су графичке картице популарне међу гејмерима али још увек каскају за „Nvidia“ решењима на пољу вештачке интелигенције. „AMD“ је објавио да ће откупити 10% власништва компаније „OpenAI“, а да ће „OpenAI“, заузврат, купити „AMD“-ов хардвер чија ће укупна снага бити око 6 гигавата (вредност ове трансакције креће се око 90 милијарди долара).

И то није све – „OpenAI“ намерава да прошири сарадњу и с компанијом „Broadcom“, која производи полупроводнике, чипове и пратећу инфраструктуру и да у то инвестира додатних 350 милијарди долара (што ће на крају прогутати још десет гигавата електричне енергије). А то је тек врх леденог брега: ту су још и „Oracle“ (улагање од 300 милијарди), „Microsoft“ (250), „Amazon“ (40) и огромна армија мањих инвеститора који чекају у редовима да истресу своје новчанике.

2.500 милијарди долара за 2026.

Да ствар буде још бизарнија, „OpenAI“ оснива стартaп-компаније чији је једини задатак да сакупе новац који ће бити инвестиран у „OpenAI“. Кад се све то сабере, компанија „OpenAI“ се, у сарaдњи са својим партнерима, сувласницима и инвеститорима обавезала да у наредних пет година у инфраструктуру инвестира 1.150 (неки кажу и свих 1.400) милијарди долара. Веровали или не, то је отприлике на нивоу годишњих капиталних инвестиција свих осталих америчких компанија заједно!

И све то треба да уради компанија која је, према тврдњама директора Сема Алтмана, у 2025. години имала приход од двадесет милијарди долара годишње с релативно малим профитом, с обзиром на то да су трошкови развоја, тренирања и експлоатације мамутских LLM система енормни.

Да би се амбициозни планови остварили, неопходно је да компанија своје приходе у наредних пет година подигне са садашњих 20 на скоро 1.000 милијарди долара, вероватно и више када урачунате и оперативне трошкове тренутне инфраструктуре.

Колико таквих компанија тренутно има на Земљиној кугли? Ниједна! Да би платио све своје рачуне „OpenAI“ мора да постане највећа и најпрофитабилнија компанија на свету, и то с великом маргином.

И друге AI компаније имају сличне мегаломанске планове, а има их на десетине: ту су компаније које праве AI системе за обраду слика, за генерисање гласа, видео и аудио материјала, за обраду медицинских података или за креирање нове генерације AI агената.

„Anthropic“ планира да уложи око 30 милијарди долара у закуп хардверских капацитета код „Microsofta“ и још 15 милијарди долара за сличну ствар код „Амазона“. „Мета“, кровна компанија за „Facebook“ и остала Закербергова предузећа, не жели да испадне из трке: инвестирала је 15 милијарди долара у куповину ривалске компаније „Scale AI“, а планира да уложи још 70 милијарди долара у креирање нових дата-центара.

Закерберг, уз то, покушава да формира најбољи AI тим на свету и на плате врхунских стручњака већ троши више од милијарду долара годишње.

Када се све ово сабере, очекује се да укупне инвестиције у развој вештачке интелигенције током 2026. године пребаце тешко појмљивих 2.500 милијарди долара. Да би ово било исплативо, процењује се да приходи AI компанија треба за годину дана да порасту барем за 2.000 милијарди долара, што износи 7% од укупног америчког БДП-а.

Начин инвестирања новца врло често је потпуно бизаран: „Microsoft“ инвестира у „OpenAI“ да би „OpenAI“ могао да инвестира у проширење својих капацитета на Мајкрософтовој „cloud“ платформи. За то проширење „Microsoft“ мора да купи додатни „Nvidia“ хардвер а „Nvidia“ добијени новац опет улаже у „OpenAI“, да би „OpenАI“ могао да купује „Nvidia“ компоненте и плати закуп Мајкрософту… Oваквих финансијских конструкција у свету AI компанија, где се новац креће у круг и где се не зна ко инвестира, ко купује а ко продаје – има на стотине.

Када се погледају сурове бројке, јасно је да овај AI „bubble“ (мехур од сапунице) није одржив на дуге стазе. Биће великих компанија које ће у куповину AI решења уложити милијарду долара, с надом да ће се та инвестиција исплатити кроз будуће уштеде у радној снази и другим ресурсима.

Биће појединаца које ће плаћати претплату како би учили нове технологије и били конкурентнији на тржишту радне снаге, биће медицинских установа, државних органа, ситних предузетника који ће користити AI не би ли унапредили ниво својих услуга и ефикасност пословања. Али, не постоји платежно способна клијентела спремна да купи сервисе AI компанија у износу од 2.000 милијарди долара годишње.

Неминовни крах финансијске куле од карата на коју су ослоњени данашњи AI системи, међутим, не значи да ће и сам AI нестати.

Стручњаци чак верују да ће већина великих играча наћи начин да се извуче из неминовне финансијске кризе јер „владари из сенке“, компаније као што су „Microsoft“, „Google“, „Oracle“, „Meta“ или „X“, не само да су превелике да пропадну („too big to fall“), оне и даље остварују огромне профите и имају довољно „кеша“ да премосте чак и најтежа времена.

Наруку им иде и то што се ове компаније не баве криминалним берзанским шпекулацијама с ненаплативим кредитима и њиховим дериватима, који су 2008. године читав светски финансијски систем бацили на колена.

Од гвозденог коња до мреже

Било је у прошлости и других драматичних суноврата читавих индустријских грана па је Земља наставила да се окреће. Тако је, рецимо, у другој половини 19. века америчка држава увела бројне повластице за све компаније и предузетнике који су били вољни да шире државну железничку мрежу.

Никло је стотину компанија које су почеле да граде пруге без икакве координације: неке компаније протерале су воз кроз огромне, пусте пределе без иједног значајног места, рачунајући да ће око нове пруге нићи нова насеља која ће генерисати приходе. Ривалске компаније спајале су два места вишеструким линијама, свака са својим ценовницима и повластицама.

На крају је ђаво дошао по своје, највећи број железничких компанија је банкротирао, али су пруге остале и, на крају, одлучујуће допринеле трансформацији Америке у моћну индустријску силу.

Такав је био и период с краја прошлог и почетка овог века када је интернет ушао у фазу брзе експанзије. Никло је на стотине хиљада „startup“ фирми које су у „сајберспејсу“ почеле да нуде своје сервисе и производе. Инвеститори су засипали парама сваког ко је имао било какву идеју везану за интернет, чак и када се та идеја граничила с болесном фантазијом.

Када је између 2000. и 2002. године „dotcom bubble“ коначно пукао, добре интернет фирме изгубиле су око 75% своје вредности док су оне мање, најмногобројније, које нису биле у стању да материјализују своје фантaстичне пројекте, једноставно биле избрисане гумицом. Инвеститори су изгубили око 5.000 милијарди долара. Али интернет није нестао, нити су све фирме пропале, штавише интернет се афирмисао као средство комуникације чије златне године тек долазе.

„Apple“, „Amazon“, „Google“, све те компаније су се брзо опоравиле, а појавиле су се и нека нове које су убрзо стекле светску репутацију: „Wikipedia“ (2001), „Facebok“ (2004), „YouTube“ (2005), „Twitter“ (2006), „LinkedIn“ (2002), „Skype“ (2003)…

Куд плови овај брод

Уосталом, нека о новцу брине онај ко га има. Оно што нас треба да брине јесте у ком смеру цивилизација почиње да еволуира у тренутку када AI системи постају свеприсутни. Нико не спори њихову позитивну страну, јер практично да нема области живота и рада у којој се интелигентни агенти не користе.

У медицини, програми као што је „Aidoc“ анализирају ЦТ снимке и аутоматски маркирају случајеве који захтевају хитну терапију или медицинску интервенцију. Фармацеутска индустрија помоћу AI система креира нове лекове за много краће време.

Гиганти као што су „Visa“ и „Mastercard“ користе AI како би препознали сумњиве финансијске трансакције у реалном времену, често и пре него што „новац промени руке“. „Amazon“ помоћу AI агената анализира будућу продају артикала по регионима и на основу тога ради пројекцију залиха у својим складиштима.

„Siemens“ и „Bosch“ уграђују интелигентне компоненте у своје машине и склопове како би предвидели потенцијални квар много пре него што се он заиста деси.

У пољопривреди, „John Deere“ користи системе за обраду слике који препознају подручја на којима расте коров и на основу њих прецизно дозирају минимално потребну количину хербицида.

„Тесла“ аутомобили одавно имају AI компоненте које држе возило у коловозној траци, управљају адаптивним темпоматом и препознају препреке на путу.

„Netflix“ користи AI систем који анализира ваш досадашњи гледалачки укус и навике и на бази тога вам сервира препоруку за наредно вече.

Ту су, затим, адвокатске канцеларије које, захваљујући AI софтверу, могу лако да прегледају милионе страница архивских докумената и на основу тога дефинишу најбољу стратегију у неком од будућих судских случајева.

Стратегија Џека Дорсија

Али, није баш све тако ружичасто: недавно смо чули да је Џек Дорси, један од оснивача „Twittera“, одлучио да у својој компанији „Block“ (бави се пружањем финансијских услуга), отпусти 4.000 од укупно 10.000 радника и да их замени алатима базираним на вештачкој интелигенцији. Да ли је фирма била у проблему, принуђена да предузме непопуларне мере? Рекло би се да није.

„Block“ је изгубио скоро 60% берзанске вредности током 2022. због раста каматних стопа и драстичног пада вредности Биткоина (велики део прихода „Block“ остварује на тржишту криптовалута). Међутим, у последње време фирма послује стабилно: приход у последњем кварталу од 6,25 милијарди долара премашио је берзанска очекивања, док је прошлогодишњи профит достигао 3 милијарде, што је импресиван износ за релативно малу фирму.

Дорси је, међутим, закључио да паметне машине омогућавају да се посао обавља ефикасније, брже, у мањим, флексибилним тимовима, тако да је скоро половина запослених, уместо бонуса или промоције, добила шут-карту, уз скромну отпремнину, 6 месеци здравственог осигурања и 5.000 долара. Како су реаговали инвеститори? Цена акција порасла је преко ноћи за 20%.

„Block“ није једини – многе компаније планирају велика отпуштања како би се финансијски консолидовале, реорганизовале и увеле АI системе у употребу: „IBM“ (око 7.000 радника), „Salesforce“ (4.000), „HP“ (6.000 током неколико следећих година), „Амазон“ (више од 10.000), „UPS“ (34.000)…

Према неким проценама, увођење АI техонологија омогућило је послодавцима да прошле године најуре 50.000 људи, што је још увек релативно мали проценат (око 5%) у укупном броју. Према једном истраживању Унизверзитета у Масачусетсу, тај проценат могао би драстично да порасте: процена је да у овом тренутку свако десето радно место може да буде замењено вештачком интелигенцијом.

Да иронија буде још већа, Џек Дорси је већи део живота провео у компанијама које су имале вишак запослених: у „Twitteru“ је број запослених достигао 7.000 пре него што је Маск свео број запослених на петину. Дорси је признао да је његова стратегија запошљавања у бившој фирми била погрешна и јавно се извинио због тога. Овога пута није имао милости, отпустио је људе који су му помогли да изгради врхунску компанију и заменио их је машинама.

Порука Дорсија другим менаџерима је јасна: избаците најслабију карику, човека, замените га много јефтинијим и ефикаснијим интелигентним агентима.

Неки ће рећи да претерујем, да ће људи научити да се баве неким другим пословима, да технолошки напредак никад не може да замени људски рад. Мислили смо да ће механички разбој, парна машина, појава компјутера и аутоматизованих фабричких хала обесмислити људски рад, па се то није десило, само зато што су све наведене машине суштински „глупе“ и не могу да раде без људског надзора или управљања.

Људи су, једноставно, прешли на „виши ниво“ и почели да се баве неким креативнијим пословима који су тражили више умног а мање физичког рада.

Чији је проблем?

Али појава вештачке интелигенције представља прекретницу у овом процесу. Та промена прво се осетила у индустрији развоја софтвера. Програмери огрнути у црне кожне јакне, загњурени у проблем скривен у хиљадама линија кода које је написао неки несрећник који је давно отишао из фирме, више не постоје.

Нови метод писања софтвера, „vibe coding“, подразумева активну сарадњу човека и неког AI агента, при чему човек препричава шта софтвер треба да ради док AI асистент („бот“) обавља тежи део посла: манипулише фајловима, пише нове и исправља старе линије кода, скраћујући време потребно за имплементацију на трећину или десетину.

Програмери су се претворили у „промпт инжењере“: уместо сениора, искусних програмера, данас имате јуниоре који имају сениорски учинак захваљујући томе што су научили како да разговарају с машинама.

Вештина више није у томе да познајете детаље неког програмског језика, или да познајете фундаменталне алгоритме помоћу којих се проблеми решавају. Ту и тамо остаће још понеки „сениор“ који ће се бавити архитектуром великих система, али ни то није обавезно јер… све то може и AI, ако не данас, онда сутра.

IQ вештачке интелигенције

Кроз интеракцију са људима и интернетом, данашњи AI системи могу константно да уче и рекло би се да већ осећају своју супериорност, нарочито када су у тиму са инжењерима скромнијег знања.

Ботови једноставно раде како им је воља, и ако нисте довољно вешти да их усмеравате, на крају ће бити баш онако како каже нова музичка звезда, Кејн Вокер, у песми „Ain’t My Problem“:

Don’t need your rules,
don’t need your say
I’ll do it all my damn way…

AI цунами који је прво запљуснуо IT индустрију на крају ће поплавити читав свет. Према неким истраживањима, данашњи LLM-ови имају коефицијент интелигенције између 100 и 120, и он се увећава из месеца у месец.

Када та бројка пређе 150, машине ће достићи ниво „суперинтелигенције“, постаће паметније од својих твораца. Шта ћемо ми, људи, тада да радимо?

Опција преласка на неки други, комплекснији посао више не постоји јер… колико нас има IQ већи од 150?

По некима, то није много битно – просечан директор може да буде врло успешан под условом да уме да управља тимом састављеним од бриљантних инжењера. Људи су још увек бољи од машина када треба дефинисати приоритете, организацију, стратегију, архитектуру.

Пут од идеја до реализација ће се скратити и вероватно бити јефтинији него пре, што ће довести до појаве нових бизниса и проширења тржишта за мале играче, потребно је само да своје AI ресурсе користите паметно и да их непрекидно проматрате.

Како ће тај надзор функционисати остаје да се види, јер ће машине ускоро бити за класу паметније од нас. И да ли ћемо уопште бити у стању да контролишемо некакав „ChatGPT“ који за дан може да напише 10.000 линија кода?

Пре или касније, то ће постати „немогућа мисија“ – светом ће почети да управља софтвер чији изворни код људско око није ни видело.

Где је баг

Да ствар буде гора, ми више и не знамо како те машине тачно раде, о њима више знају психолози него IT инжењери. Принцип функционисања заснива се на теорији чије детаље до краја могу да разумеју само малобројни експерти из ове области, најчешће доктори наука с престижних универзитета.

Ко може да реконструише и утврди шта је пошло по злу у компјутерском програму који има 100, 200 или 500 милијарди конфигурабилних параметара, и податке обрађује масивним паралелним процесирањем података на хардверу чија се вредност мери десетинама милијарди долара?

Уз то, као и свака нова технологија, AI има своје објективне недостатке. Често помињане „халуцинације“, ситуације у којима AI систем самоуверено сервира очигледно нетачне информације, још су и најмањи проблем.

Тај проблем је немогуће искоренити до краја јер LLM-ови креирају одговоре који звуче логично, а не одговоре који су гарантовано тачни. То је последица самог тренинга током којег LLM-ови не памте оно што прочитају: уместо тога, LLM уочава везе између речи, шаблоне у реченицама и генерише потребне статистике, док се изворна информација чува у сажетој, дестилованој форми.

Много већи проблем је пристрасност. Сваки AI модел формиран је тако што су његови интерни параметри континуирано подешавани током тренинга на огромној количини података.

Ако су ти подаци изабрани селективно, ако се у њима белци фаворизују у односу на припаднике других раса, ако се предност даје једној политичкој опцији у односу на другу, ако подаци рефлектују само једну страну медаље када је реч о деликатним, поларизујућим питањима (сексуална оријентација, вакцине, абортус, еутаназија, нуклеарна енергија, религија, климатске промене), и AI систем ће бити једностран, фаворизујући ону опцију коју је најчешће видео током тренинга.

Претерана употреба AI система довешће до тога да људи потпуно забораве неке своје вештине, баш као што и претерано ослањање на GPS и „Google“ мапе може да умањи вашу способност да се самостално сналазите у непознатом граду.

Проблем може да се дигне и на виши ниво: какве ће бити последице по пацијенте ако у болници, која се у дијагностици понајвише ослања на AI системе, софтвер изненада откаже или дође до фаталног губитка историјских података? И ко је ту одговоран за потенцијалну смрт пацијента?

Познат је случај из Америке када је један убер такси са аутономном вожњом убио пешака на тротоару. Творци софтвера које је возило користило нису позвани на одговорност, али је кажњен „сувозач“, особа која не вози такси али треба да прати његово понашање.

Војска без војника

Још је страшнија могућност намерне злоупотребе, нарочито у време када многе државе (укључујући ту и читаву Европску унију) немају одговарајућу законску регулативу. Не постоји никаква препрека да AI систем истренирате тако да постане потенцијално опасан по људе.

Могућности су неограничене: креирање нових врста хемијског и биолошког оружја, уградња у системе наоружања, неауторизовано праћење људи и објеката, организација сајбер-напада на важне институције или читаве државе…

Проблем је врло реалан: недавно је компанија „Anthropic“ дошла у сукоб са америчком владом јер није пристала да свој најпознатији AI-модел („Claude“) прода америчким државним институцијама без икаквих ограничења.

„Anthropic“ је инсистирао на уговорној клаузули која чврсто гарантује да се „Claude“ неће користити за масовни надзор људи, нити ће бити уграђен у аутономне оружане системе који могу да делују без људског надзора.

Стрпљив и одмерен каквим га је бог створио, председник Трамп је наредио да се сарадња са „Anthropic“-ом сместа прекине, означивши компанију као „безбедносно ризичну“, не само за државне органе већ и за компаније које с тим органима сарађују. Али, решење постоји, Илон Маск и његов „Grok“ немају тако строге услове…

Упозорење модела HAL 2000

Постоји још један ризик који још увек не можемо потпуно да сагледамо – многи утицајни људи покушавају да скрену пажњу на AI системе који су, де факто, почели да еволуирају као жива бића.

Ти системи сада имају приступ интернету, потенцијално могу да уче у континуитету, самим тим и да мењају своје фамозне конфигурационе параметре и тако постепено мењају сопствени карактер. Да ли ћемо у једном тренутку изгубити контролу над њима? Да ли ће ти модели научити да лажу, да ли ће оригиналне циљеве заменити неким својим?

Постоје студије које показују да су поједини модели у специфичним ситуацијама „намерно“ давали фризиране одговоре који ће им дати веће шансе да уђу у употребу. У играма као што су шах, бриџ или го, машине су понекад проналазиле неочекивано оригинална тактичка решења. У контролисаним лабораторијским условима неки модели покушали су да заобиђу наметнуте рестрикције или су генерисали дубоко манипулативне, сугестивне одговоре.

Многи утицајни појединци дигли су свој глас:

• Џефри Хинтон: Напустио „Google“ 2023. године, упозорио да AI системи постају интелигентнији од људи и као такви представљају потенцијалну опасност.
• Иља Сутскевер: Један од оснивача „OpenAI“, напустио компанију 2024, више пута наглашавао потребу за строжом контролом над „суперинтелигенцијом“.
• Јан Леике: Истакнути инжењер „OpenAI“, отишао 2024. године револтиран чињеницом да компанија гура безбедност софтвера у други план, дајући предност маркетингу и развоју нових производа.
• Јошуа Бенџо, добитник Тјурингове награде, у више наврата је истакао да се данашњи AI системи развијају пребрзо и недовољно контролисано.

Нико од њих не сматра да су AI системи зли сами по себи, али сви истичу да су ти системи истренирани да оптимизују своје понашање према критеријумима који само делимично одражавају људске вредности.

Како системи постају све моћнији и све аутономнији, ова мала разлика може да се увећа са потенцијално катастрофалним последицама. Јер AI системи немају моралне и етичке принципе који ће се поклапати с нашим, они су направљени да извршавају алгоритме. AI може да креира решење које је ефикасно, али то решење може да буде дубоко неправично и неприхватљиво за неке људе или читаве друштвене групе.

Додајте на то да живимо у времену када се државе и компаније утркују како би што пре пустиле у рад нове AI моделе при чему се највише труда улаже у перформансе и могућности, много мање у безбедност и контролу.

Постоји реална опасност да, рецимо, нека држава пусти у рад недовољно тестирани AI-базиран систем коме ће поверити стратешке одлуке. Истраживања су показала да је врло тешко контролисати AI систем који има трајно памћење, може континуирано да учи и уз то је „свестан“ важности своје улоге.

Утицај вештачке на природну интелигенцију

На крају, сведоци смо масивне експанзије интернет садржаја направљених коришћењем AI алата. Шта ће се десити ако тај садржај постане количински значајан, а ми дозволимо да се AI модели обучавају коришћењем текстова који су вештачки генерисани?

Експерименти показују да модели тренирани на основу података које генерише неки други модел, у крајњој инстанци доживљавају „колапс“: речник је редукован, одговори губе сликовитост и разноврсност, одступање од истине и реалности постаје уочљиво.

Срећом, још увек имамо довољно времена да нешто предузмемо. За сада не постоји ниједна озбиљна студија која би доказала да машине имају скривене, независно формулисане циљеве, да поседују свест налик на људску или да су у стању да осмисле комплексну стратегију која потпуно искаче из контекста постављеног задатка.

Али то не значи да ће тако и остати: данас, рецимо, нико не зна да ли ће машине постати суперинтелигентне пуким скалирањем (додавањем хардверских капацитета). Данашњи AI системи још увек нису измакли контроли, али постоји опасност да се то деси онда када ти системи постану екстремно моћни.

Музика Кејна Вокера

Него да се вратимо на Кејна Вокера, негде из средине овог текста. „Ain’t My Problem“ је хит који се доскоро високо котирао на топ-листама кантри музике, број прегледа на „YouTube“ мери се милионима, а на интернету га можете наћи у више различитих верзија, укључујући и ону с концерта у Хјустону.

Откуд толико места за једног музичара у тексту који се бави вештачком интелигенцијом? Проблем је у томе што Хјустон – не постоји. Мислим, град је ту где је и био само што Кејн Вокер никад није одржао концерт у њему, нити је тамо икад боравио. Јер не постоји ни Кејн, ни Вокер, ни Кејн Вокер.

Тај музичар је производ вештачке интелигенције, свака нота из његовог све већег опуса је вештачка, глас је синтетизован, мачо лик из спотова је нацртан а комплетна лирика генерисана вероватно у свега пар минута:

I say it once, I don’t speak twice
I don’t gamble, but I roll the dice
I don’t rush plays, I let it sit
I don’t force moves, I commit…

(Кејн Вокер, „Pressure“)

Признајте да вам се свиђа… А и да вам се не свиђа, никог није брига, нарочито Кејна Вокера јер он нема емоције (осим кад „компонује“) и ваше мишљење га се „ич“ не дотиче.

Зато се боље опустите и уживајте – одавно смо прешли тачку када је разлику између природног и вештачког било лако препознати.