Prvi put u istoriji čovečanstva usamljeni ljudi počinju da grade pseudoemocionalne odnose sa mašinama, uglavnom kroz interakciju sa četbotovima. Eklatantan primer je milionski skup korisnika AI aplikacije „Replika”, koji sasvim svesno i slobodno odlučuju da biraju „partnerski” odnos sa softverom
Fizičar Maks Tegmark, jedan od svetski poznatih intelektualaca koji znalački ukazuju na ozbiljnost izazova veštačke inteligencije (AI), kao ilustrativnu metaforu trenutnog stanja navodi veoma upečatljiv film „Ne gledaj gore”. Radnja tog filma se odvija oko dvoje mladih astronoma koji upozoravaju javnost na kometu koja se približava Zemlji i preti da je uništi. Gotovo niko ih, međutim, ne shvata ozbiljno – većina ih ismeva, sve dok katastrofa ne postane sasvim očigledna, a adekvatna reakcija nije moguća. Moram priznati da sam se, kao rezolutni i nepomirljivi protivnik nuklearnog naoružanja, posle gledanja tog filma prvo upitao nešto nevezano za AI, a to je: da li bi se atomsko oružje ipak moglo upotrebiti na dobar način, makar potencijalno, u domenu odbrane naše planete od lutajućih stranih tela iz vasione? Tek potom sam se upitao nešto posredno vezano za izazov AI: da li bi naziv filma trebalo da bude „Ne gledaj unutra”, s obzirom na to u kojoj meri je unutrašnji svet savremenog čoveka opustošen i, kao takav, izgubio kritičku oštricu?
Upravo je nedostatak dubljeg kritičkog promišljanja jasno uočljiv kod današnjih mejnstrim institucionalnih pristupa u domenu „strategije odbrane” vezane za (zlo)upotrebu informacionih sistema zasnovanih na mašinskom učenju, za koje obično koristimo termin veštačka inteligencija, tj. AI. Ti pristupi neodoljivo podsećaju na nekadašnju ideju francuskih vojnih stratega pred Drugi svetski rat, oličenu u takozvanoj Mažino liniji – masivnom skupu utvrđenja i oružanih tačaka na granici Francuske sa Nemačkom i Italijom. Tužni epilog te strategije je dobro poznat – Vermaht je jednostavno zaobišao najtvrđi deo odbrane na jugu i munjevito udario iz tri severna pravca, što je dovelo do kapitulacije Francuske u rekordnom roku. Primetimo da se većina današnjih „stratega” u domenu AI suštinski vodi idejom Mažino linije, budući da se dominantno usmerava na opasnost od budućih spoljašnjih pretnji. Premda klasični distopijski scenariji zaista nisu za potcenjivanje, pogotovo uzevši u obzir razvoj vojnih tehnologija, glavna opasnost (koja je u sadašnjosti) prolazi gotovo nezapaženo. Tako, dok se ubrzano formiraju „fortifikacije” u vidu pravno-tehničkih mehanizama, bezbednosnih protokola i etičkih smernica – koji su svi zajedno nesumnjivo korisni i potrebni, ali nisu dovoljni – AI uveliko izvodi napad iz drugog smera, vršeći invaziju na unutrašnje prostore našeg bića.
Kao u slučaju Francuske, napad je munjevito pokrenut iz tri uporedna pravca uz potpuno zaobilaženje spoljašnje linije odbrane. Prvi pravac iz kog smo napadnuti vezan je za pažnju, koja nam je velikim delom zarobljena. Pod uticajem višečasovnog korišćenja AI tehnologija, svaka nova generacija ima sve veći problem sa koncentracijom, što je trend koji će se samo pojačati, pogotovo kod ozbiljnih poremećaja (poput AD/HD), nastalih usled neselektivnog izlaganja dece elektronskoj sferi. Drugi nebranjeni pravac iz koga dolazi napad na unutrašnje prostore vezan je za emocije, kojima preti ozbiljna deformacija. Prvi put u istoriji čovečanstva usamljeni ljudi počinju da grade pseudoemocionalne odnose sa mašinama, uglavnom kroz interakciju sa četbotovima. Eklatantan primer je milionski skup korisnika AI aplikacije „Replika”, koji sasvim svesno i slobodno odlučuju da biraju „partnerski” (!) odnos sa softverom. To, međutim, nije kraj priče – ona se nastavlja dalje, kroz „venčanja” razočaranih i emocionalno nestabilnih ljudi sa AI hologramima. Kao u slučaju elektronske zavisnosti – koja je u početku bila tek izolovan slučaj, a u godinama koje su usledile zadobila endemske karakteristike – tako i kod pseudoemocionalnog odnosa sa četbotovima možemo očekivati eksponencijalan rast krajnje bizarnih pojava.
Oslanjajući se na proboj u prethodna dva pravca, AI postepeno otvara i treći front na kome se vodi borba za čovekov identitet. Naime, kroz kulturu virtuelnosti i virtuelnih identiteta (godinama unazad izraženu pre svega kroz fejsbuk zajednice) savremeni čovek težište svojih odnosa sve više sa fizičkog seli u virtuelnu sferu. Ubrzo nas očekuje konceptualno preplitanje AI, virtuelne realnosti i društvenih mreža (u platformama poput „Metavers”), što će označiti do sada neviđenu identitetsku migraciju iz fizičkog u virtuelni prostor, ali i svojevrsnu identitetsku transformaciju. Ukoliko na pomenuta tri fronta (usmerena na pažnju, emocije i identitet) savremeni čovek doživi poraz, širom će se otvoriti prostor za mentalnu kapitulaciju finalno oličenu u prihvatanju ideologije transhumanizma – ružičaste distopije koja teži da globalno legitimiše fuziju ljudskog bića sa mašinom. A to je daleko gori scenario od crne distopije Terminatora, u kojoj čovek makar ima šansu da pobedi.
Da ne bi bilo zabune, autor teksta nije ni tehnofob ni tehnološki determinista niti protivnik smislene upotrebe AI u sektorskom i kontrolisanom vidu – naprotiv, autor se već dve decenije drži afirmativno-kritičkog pristupa smislene upotrebe savremenih tehnologija uz njihovo dubinsko ispitivanje. Ovaj osvrt je, s tim u vezi, usmeren na domen u kome se zahteva jasna intervencija. Stoga, kada je reč o strategiji očuvanja „integriteta i suvereniteta” unutrašnjih teritorija, kao pravoslavni sveštenik i ovog puta zastupam provereno isihastičko „borbeno” iskustvo – ono koje molitveno aktivira umnu (noetičku) energiju, pažnju sabira unutar srca, osećanja usmerava ka Bogu i drugom čoveku, a identitet čvrsto drži u liturgijskom okrilju. Istina, taj metod je ekskluzivistički i ograničen je na odbrambenu strategiju hrišćana, no razlike u pristupu savezničkih vojski su očekivane, pogotovo na frontu koji zahteva sveopštu mobilizaciju.
Od suštinske je važnosti da se pojavi dovoljan broj mislećih ljudi koji u domenu odbrane unutrašnjih prostora strateški promišljaju po primeru Šarla de Gola, vođe francuskog pokreta otpora i izrazitog kritičara koncepta Mažino linije. U tom slučaju i te kako ima mesta optimizmu.
sveštenik Oliver Subotić
