Интервју за часопис Жички благовесник (јануар 2024)

• Помаже Бог, оче Оливере! Захваљујемо се што сте одвојили време да са Вама урадимо интервју за часопис Жички благовесник, на једну од најизазовнијих савремених тема. Шта је вештачка интелигенција, од када почиње да се развија и како је тај процес текао?

Бог помогао! Не постоји консензус у научним и стручним круговима око тога како можемо дефинисати вештачку интелигенцију, премда постоји више радних дефиниција које се користе. Једну (према нашем скромном мишљењу, сувише уопштену) дефиницију је ове године усвојио Европски Парламент за потребе законодавног оквира ЕУ. Неки истраживачи, притом, сматрају да је термин „вештачка интелигенција“ погрешан и да треба користити друге, попут машинског учења (што је термин који се свакако користи у овој области). Постоје и стручњаци из ове области који прибегавају једноставним описним одређењима, без жеље да дефинишу сам термин. Вештачка интелигенција је, дакле, појава која се више препознаје неко што се прецизно дефинише.

Једноставно говорећи, вештачка интелигенција (у даљем тексту: AI) превасходно означава употребу рачунарских технологија за опонашање људских когнитивних способности. Циљ је решавање одређених практичних задатака за које је потребно резоновање, који се крећу од аутоматског фокуса на електронским фото-апаратима, система претраживања на интернету и нових модела електронских преводилаца преко сложених експертских система примењених у привреди, науци, индустрији… све до најсавременијих модела одлучивања који се користе код временских непогода и у војно-безбедносном сектору.

Већ сада постоје области људске делатности у којима AI одлично опонаша човекове способности резоновања. Типичан пример су неки модели AI који се користе у саобраћају. Постоје области у којима се човек одавно не може такмичити са машином, која је постала супериорна, посебно у математичко-логичкој области. Тако је у случају шаха, рецимо, или сложених аналитичких прорачуна. А постоје и области људског рада где је човек још увек незаменљив – занатлијски послови су најбољи пример, јер је код њих поред знања потребна и физичка спретност. Из истог разлога ни стоматолози не треба да брину да ће их AI у догледно време моћи заменити, будући да је поред знања за њихов посао потребна добра координација око-рука.

Сам концепт AI се заснива на философским поставкама које можемо пратити још од античких времена, премда је у ужем смислу везан за средњовековно философско наслеђе (a пре свега за неке Декартове и Лајбницове идеје). У најужем смислу конкретне техничке примене, процес употребе AI, са повременим успонима и падовима у развоју, траје још од времена непосредно по завршетку Другог светског рата. Као прекретница у његовом развоју обично се узима 1996. година, односно тренутак када је рачунар DeepBlue у две партије шаха победио Гарија Каспарова, а већ наредне године је победио и у мечу. Од тада процес развоја AI тече прилично брзо, а посебан замах добија у последњој деценији, када је достигнут висок степен процесорске моћи, прикупљен довољан опсег података (уз помоћ интернета) потребних за „тренирање“ AI система  и развијено више AI модела заснованих на такозваном дубоком учењу (Deep Learning).

• Да ли постоје неки званични ставови православних Помесних Цркава о питању вештачке интелигенције? Да ли постоје актуелни радови православних теолога на ову тему?

Нисам чуо да је до сада нека темељна и систематична студија на ову тему урађена по налогу Синода неке од помесних Цркава. Са друге стране, појединачни радови, као и зборници чланака на тему AI из аспекта православне теологије, постоје већ неко време. Тако сам непосредно пре објаве овог интервјуа имао прилике да добијем увид у један такав зборник под називом Orthodoxy and Artificial Intelligence (у издању Hellenic Research Foundation), који је пре четири године приредио професор Александар Петровић. У новембру месецу, Задужбина „Петар Мандић“, чији сам оснивач, је делегирала професора Петровића да одржи предавање на тему AI у Матици српској. То изразито критички интонирано предавање је донело радикално нов философски приступ овој области и технологији уопште, и верујем да ће покренути ширу расправу.

Покушао сам и да лично, као свештеник Српске Православне Цркве са информатичким предзнањем, пружим допринос на пољу проучавања ове важне проблематике тако што сам ове године објавио књигу Дигитални Рубикон, која на језгровит начин обрађује тему AI из техничког, правног, безбедносног, етичког и, наравно, богословског аспекта. Та књига је, међутим, само скроман увод у проблематику AI и више је подстицај да се овом темом у оквиру наше помесне Цркве позабавимо заједничким снагама. Иницијативу у том погледу очекујем пре свега од Центра за проучавање и употребу савремених технологија СПЦ, који је по природи ствари стручно тело које треба да покреће критички дискурс на ова питања. Надам се да та иницијатива неће изостати, будући да је Центар не тако давно редовно покретао јавни дискурс на разноразне технолошке теме у нашем друштву.

• Промотери вештачке интелигенције истичу предности које она доноси на пољу дијагностике и развоја нових лекова за разне болести. Институт за психијатрију у Београду је у сарадњи са Електротехничким факултетом покренуо пројекат за истраживање проблема шизофреније. Уз помоћ одређених програма и вештачке интелигенције врше се истраживања моторике која омогућавају закључке о току ове болести. Занимљиво је да се ова болест јавља тек када се бележе највиши цивилизацијски домети човека као зрелог хомосапијенса, речником науке. Шта нам то поручује, како пронаћи границе између опасности и добробити које наука доноси човечанству?

Медицина је једна од области у којој се јасно виде добробити контролисаног коришћења технологије AI. То је поготово случај у домену ране дијагностике тешких или ретких болести. Наиме, AI модели знатно прецизније од човека могу да примете неке ране показатеље, који, уколико се на време уоче, могу сачувати живот пацијента јер правовремено скрећу пажњу лекару. Овде је, дакле, јако важно нагласити да су ови системи само подршка лекару, а не замена за њега. Постоји и простор за унапређење процеса развоја нових лекова, но сматрам да су на том пољу ствари још увек недовољно испитане и непоуздане, за разлику од дијагностичког софтвера, који је поуздан јер има помоћну функцију и лекар је тај који доноси одлуку, систем само сугерише.

Са друге стране, ствари се у домену AI и значајно компликују у наше време, с обзиром да она од секторског, уског решења (било да је оно медицинско, техничко, услужно, административно…) све више гравитира ка општем, генералном (такозвана AGI) решењу, које би према неким пројекцијама могло да се достигне у наредних деценију-две. Сматра се да би AGI степен био раван човеку у домену оног дела интелигенције који машина може опонашати, те да би тада AI фактички преузела главне токове функционисања друштва. То би био озбиљан проблем, будући да се у том случају на машину пребацује огроман број ингеренција, а човек губи контролу, што отвара питања опште безбедности и сигурности.

Зато је већ данас важно повући јасне границе о којима Ви говорите. Оне се повлаче пре свега етичким начелима и правно-техничким механизмима, којих за сада још увек нема у довољној мери. Деценије које су за нама су показале да право као област значајно каска за технологијом, те да добра правно-техничка решења долазе и са више година закашњења, што је за поље AI недозвољено дуг период. Истовремено, јако је важно имати прецизно дефинисане етичке смернице које би поставиле будући оквир дозвољеног и недозвољеног у домену AI. На том пољу већ данас постоје готово нерешиве етичке дилеме и питање је да ли ће уопште бити разрешене.

Мислим да је реч „неизвесност“ кључна када је даљи развој AI у питању, због чега сам моју књигу и назвао Дигитални Рубикон. Дефинитивно смо прешли границу после које поуздано не знамо шта нас чека: општедруштвени бољитак или катастрофа светских размера. Ових дана, док радим превод своје књиге на енглески језик, уочио сам да се синтагма Дигитални Рубикон користи код више десетина западних аутора већ пуне две деценије, али да је готово свако користи на неки различит начин. Мислим да је њено коришћење најадекватније управо у домену AI и тренутку у коме се налазимо сада, који је обележен појавом јавно доступних AI модела који праве пометњу у глобалним размерама. Такозвани Deep Fake садржаји (лажне фотографије, звучни и видео садржаји са ликовима познатих личности) су довољан пример реалности која шокира свет са неочекиваним садржајем и типичан је пример sui generis обмане дигиталног доба.

Дакле, добробити употребе AI на неким пољима су сасвим видљиве и јасне, но опасности су још веће. Зато је важно што пре формирати адекватан одговор. То је разлог због чега неки светски стручњаци већ сада позивају на временски ограничен мораторијум на развој нових AI модела, док се не поставе јасни сигурносни механизми. А има и оних који траже неупоредиво радикалније мере. Уколико људи попут Макса Тегмарка и Џефрија Хинтона кажу да је стање алармантно и да је потребна озбиљна акција у регулацији AI, онда то питање треба сви да схватимо озбиљно и да се укључимо у његово решавање.

• У уметности која је упућена на савремене дигиталне технологије се поставља питање „дигиталног задовољства“. Наиме, примећено је да развој технологија утиче на смањење реалних људских контаката, чиме долази до различитих видова незадовољства и психичких проблема. Да ли нам прети негација човека као сложеног психофизичког бића, које није само биће разума?

Те врсте изазова нам прете деценијама уназад, а најдиректније од пре две деценије, када су дијагностиковани први случајеви зависности од дигиталног садржаја. О томе сам детаљно писао у својој књизи Дигитални изазов, чије је треће издање такође изашло ове године, упоредо са Дигиталним Рубиконом. AI ће такве ствари само још додатно појачати и, сасвим несумњиво, довести до нових психолошких поремећаја код оних људи који не буду имали критичку дистанцу. Уколико се ограничимо само на православне хришћане, мислим да је предострожност у доследном држању филокалијског богословског оквира који је заснован на подвижничком етосу у пракси хришћанског живота. Разни „ружичасти“ теологумени који негирају потребу подвига ће управо на пољу односа човека према AI показати колико су површни и неће имати никакво решење за проблем масовних психолошких поремећаја.

Ми већ сада имамо велики број случајева широм света да се људи везују за машину као за живо биће, и то под утицајем нових AI модела који опонашају човека. Један од познатих случајева јесте емотивно везивање за рачунарске апликације типа Replika, но  можда је најупечатљивији недавни пример Јапанца који се оженио лутком-холограмом, заснованом на AI, што је приказано у документарном филму  Рај или робокалипса: клетва и благослов вештачке интелигенције. Када видите начин на који тај усамљени човек приступа једној типичној дигиталној опсени, схватите да један број људи једноставно нема одбрамбени механизам који их брани од усамљености у свету лишеном молитвеног искуства и додира са Богом. Појаве везивање за дигиталне фантоме и сенке ће се временом само усложњавати како се буду појављивали све јачи AI модели. Мислим да ће посебан изазов на том пољу бити у наредним деценијама, када се појаве човеколики роботи са високим степеном „грациозности“. Недавно је мој драги пријатељ Станко Стојиљковић, дугогодишњи уредник Галаксије, у предавању у Матици српској навео да није далеко дан када ће многе људе кући дочекивати роботица (уместо домаћице – прим.). Једно такво дистопијско и застрашујуће виђење смо недавно имали прилоге да гледамо у филму Ex Machina.

AI ће покушати да освоји унутрашње просторе свих нас, па тако и православних хришћана. Са друге стране, „одбрамбена тактика“ постоји и тиче се здраве, молитвено ојачане умне сфере, што је главни „бедем“ од дигиталних изазова који насрћу на савременог човека, желећи да га поробе изнутра. Лично сматрам да је примењено исихастичко богословље, са својим богатим искуством које се тиче умног делања, сасвим адекватно да одговори на сваки дигитални изазов, па тако и на AI.

• Од научника који говоре о вештачкој интелигенцији често се чују изрази како програми успевају да „репродукују“, „генеришу“, „науче правичности“. Све ово звучи као нека унификација искустава, где је мало места за јединственост човека којом га је Бог даривао. Да ли ће ово бити још један корак ближе „кристалном дворцу“ или „људском мравињаку“ као модерном робовласничком поретку о коме је Достојевски пророчки говорио као о логичном крају западне цивилизације?

Неко је лепо приметио да AI може беспрекорно да научи синтаксу, али да није способна да разуме семантику. Чињеница да AI не разуме људски хумор, рецимо, осим уколико треба да га репродукује, сасвим је довољна у том погледу. Наиме, оно што називамо емоционалном интелигенцијом је AI моделима недоступно јер се не може опонашати на начин на који они опонашају мрежу неурона у мозгу односно синапсе којима су повезани. Машина ће, дакле, разумске функције донекле успети да опонаша, али ће јој домен ума и срца заувек остати недоступан.

Но премда AI модели никада неће моћи да „схвате“ истину, правду, љубав… , људи који их развијају ће несумњиво покушати и то да симулирају. У којој мери ће та симулација успети да превари човека-корисника, остаје да видимо. У том домену, међутим, имамо неке типично етичке дилеме. Наиме, један број светских стручњака већ сада апелује да се AI моделима постави ограничење, у смислу да она не сме бити усавршена до нивоа да обмане човека у погледу тога да је живо биће које има осећања. Другим речима, AI мора сама дати до знања да је машина јер би у супротном степен манипулације над психички лабилним људима био огроман. Иначе, одавно је присутан став међу критички настројеним истраживачима да се AI нипошто не сме дати могућност да упозна човека и његове психофизичке слабости, те да јој се током „тренинга“ (процеса у коме AI модел „учи“) не смеју дати подаци из области когнитивне психологије. Нажалост, ти исти истраживачи примећују да је AI то одавно добила и проучила.

Да би Ваши читаоци разумели ширину изазова који је пред нама, предлажем да погледају филм Она (Her) који је настао пре тачно једне деценије и готово хируршки прецизно исцртао степен развоја AI до наших дана, дајући јасно упозорење у ком смеру може да крене цела ова авантура. У том смислу, опет бих поновио да нам већа опасност од AI прети на пољу окупације унутрашњих човекових простора (тј. човековог везивања за машину) него од спољашњег освајања људског друштва у маниру филма Терминатор. Овим не спорим  апокалиптичне сценарије нити их потцењујем, поготово узевши у обзир технологију дронова која у украјинском рату показују наличје AI везано за војну примену. Но уверен сам да ће главно „поприште“ борбе човека и машине бити човеков унутрашњи, а не спољашњи свет, и да на ту тему треба ставити апсолутни акценат.

• Све је актуелнија и тема трансхуманизма. Можете ли нам рећи како вештачка интелигенција утиче на људску? Да ли ће машине престићи човека у будућности  или ће човек постати сличан машини? Јесте ли оптимиста или песимиста по питању развоја и примене вештачке интелигенције у будућности?

Трансхуманизам је, можемо то слободно рећи, један од главних изазова на пољу AI, везан за блиску будућност. Идеје стварања супер-човека уз помоћ споја са машином актуелније су више него икад управо под утицајем AI. Сан свих трансхуманиста (који су заправо атеисти-рационалисти-радикални еволуционисти) јесте да се биолошка ограничења човека превазиђу уз помоћ дигиталних и нано-технологија. AI је те снове само додатно разбуктала, премда се неки познати трансхуманисти прибојавају куда би све то могло да оде, будући да и сами схватају да се ствари у том погледу тешко могу држати под контролом.

Са друге стране, прети нам једна парадоксална опасност, а то је да AI неће учини човека паметнијим већ глупљим, будући да ће све више људи престати да користи своје когнитивне потенцијале и пребацивати своје ингеренције на машину. А сваки орган који се не користи – у овом случају мозак – свакако атрофира. Уосталом, питајте наставнике у основним школама какав је степен пажње (која је, подсетимо, један од важних атрибута интелигенције) нових генерација у односу на претходне и све ће вам бити јасно као дан. Дигиталне технологије су значајно ослабиле аналитичко-критички капацитет нових генерација, и већ сада нам је потребна стратегија излаза. AI ће проблем само увећати, поготово на терену домаћих задатака, где се већ користи за помоћ у писању есеја.

На Ваше питање „Да ли ће машине престићи човека у будућности или ће човек постати сличан машини?“ са моје стране долази подпитање: „У чему конкретно?“. Ако се мисли на типично математичко-логичке функције, њих је машина већ престигла, а у будућности ће се тај тренд само наставити – ако је Каспаров и имао пола-пола шансе против Deep Blue, у односу на нове шаховске система засноване на дубоком учењу шаховски шампиони имају отприлике 1% шансе.

А када је реч о другом делу Вашег питања, приметимо да савремени човек одавно показује неке сличности са машином – постао је хладнији, прорачунатији, дистанциранији. Сетимо се да је још пре више деценија Старац Пајсије Светогорац примећивао такав тренд и објашњавао то тиме што је око нас све више метала, због чега су нам срца временом постала метална. У том смислу, пандигитализација ће несумњиво довести до нових видова отуђења, од којих су неки већ дијагностиковани, о чему сам детаљно писао у Дигиталном изазову.

Највећа претња човеку јесте да добровољно пожели фузију са машином, са жељом да постане својеврсни хибрид ради превазилажења својих ограничења. Још 2005. године сам писао о томе у тексту „Промашај есхатологије модернизма“, указујући на то да тадашње изјаве светских футуролога о превазилажењу смрти уз помоћ смештања садржаја људског мозга у меморију рачунара представљају ништа друго до продужетак промашаја Декартове мисли (која је човекову душу смештала у мозак) са неохилијастичким додатком. Овакве и сличне идеје ће се тек појављивати и биће изазов за православне богослове 21. века – уколико смо у претходним вековима дали одговор на тријадолошка, христолошка и еклисиолошка питања, наше време доноси изазове на пољу антропологије. За нова биоетичка питања морамо бити спремни, јер ће се она појавити брже него што претпостављамо.

Премда имам изразито критички интониран став – који не значи одбацивање технологије, већ њено преиспитивање у светлу критичко-концептуалног разматрања – нисам песимиста, већ реалиста када је област AI у питању, а и један сам од оних људи који су, у мери својих могућности, активни у потрази за адекватним решењем. Оптимиста сам у погледу могућности налажења решења, из једноставног разлога: хришћанин сам, а хришћани су свесни деловања нестворених енергија Божијих у овом свету. Да није Промисла Божијег који све одржава, овај свет би одавно нестао. Зар о томе довољно не говори чињеница да деценијама уназад постоји на хиљаде нуклеарних пројектила са потенцијалом да „преору“ целу планету неколико пута, а да смо још увек ту где јесмо? То, наравно, не искључује могућност неког нуклеарног рата у будућности, но чињеница да до њега већ није дошло је право правцато чудо, с обзиром на напету геополитичку ситуацију од Другог светског рата до данас. Тако је и са AI: неизвесност у погледу те области је огромна, опасности и злоупотребе су евидентне, али сам дубоко убеђен да ће нам Бог помоћи у покушају да задржимо контролу. Ипак, само под једним условом: ако то будемо и сами желели и ако се за то будемо борили.

Бог ће помоћи – ако буде имао коме. И зато је важно да се сви активно укључимо у разматрање изазова AI и дамо свој допринос, да би уз Божију помоћ ову сферу ставили под контролу и усмерили је на прави начин.