Физичар Макс Тегмарк, један од светски познатих интелектуалаца који зналачки указују на озбиљност изазова вештачке интелигенције (у даљем тексту: AI), као илустративну метафору тренутног стања навoди веома упечатљив филм Не гледај горе (Don‘t look up). Радња тог филма се одвија око двоје младих астронома који упозоравају јавност на комету која се приближава Земљи и прети да је уништи. Готово нико их, међутим, не схвата озбиљно – већина их исмева, све док катастрофа не постане сасвим очигледна, а адекватна реакција није могућа. Морам признати да сам се, као резолутни и непомирљиви противник нуклеарног наоружања, после гледања тог филма прво упитао нешто невезано за AI, а то је: да ли би се атомско оружје ипак могло употребити на добар начин, макар потенцијално, у домену одбране наше планете од лутајућих страних тела из васионе? Тек потом сам се упитао нешто посредно везано за изазов AI: да ли би назив филма требало да буде Не гледај унутра, с обзиром на то у којој мери је унутрашњи свет савременог човека опустошен и, као такав, изгубио критичку оштрицу?

Управо је недостатак дубљег критичког промишљања јасно уочљив код данашњих mainstream институционалних приступа у домену „стратегије одбране“ везане за (зло)употребу информационих система заснованих на машинском учењу, за које обично користимо термин „вештачка интелигенција“ тј. AI. Ти приступи неодољиво подсећају на некадашњу идеју француских војних стратега пред Други светски рат, оличену у такозваној Мажино линији – масивном скупу утврђењâ и оружаних тачака на граници Француске са Немачком и Италијом. Тужни епилог те стратегије је добро познат – Вермахт је једноставно заобишао најтврђи део одбране на југу и муњевито ударио из три северна правца, што је довело до капитулације Француске у рекордном року. Приметимо да се већина данашњих „стратегâ“ у домену AI суштински води идејом Мажино линије, будући да се доминантно усмерава на опасност од будућих спољашњих претњи. Премда класични дистопијски сценарији заиста нису за потцењивање, поготово узевши у обзир развој војних технологија, главна опасност (која је у садашњости) пролази готово незапажено. Тако, док се убрзано формирају „фортификације“ у виду правно-техничких механизама, безбедносних протокола и етичких смерница – који су сви заједно несумњиво корисни и потребни, али нису довољни – AI увелико изводи напад из другог смера, вршећи инвазију на унутрашње просторе нашег бића.

Као у случају Француске, напад је муњевито покренут из три упоредна правца уз потпуно заобилажење спољашње линије одбране. Први правац из ког смо нападнути везан је за пажњу, која нам је великим делом заробљена. Под утицајем вишечасовног коришћења smart AI технологија, свака нова генерација има све већи проблем са концентрацијом, што је тренд који ће се само појачати, поготово код озбиљних поремећаја (попут AD/HD), насталих услед неселективног излагања деце електронској сфери. Други небрањени правац из кога долази напад на унутрашње просторе је везан за емоције, којима прети озбиљна деформација. Први пут у историји човечанства усамљени људи почињу да граде псеудоемоционалне односе са машинама, углавном кроз интеракцију са ChatBot-овима. Еклатантан пример је милионски скуп корисника AI апликације Replika који сасвим свесно и слободно одлучују да бирају „партнерски“ (!) однос са софтвером. То, међутим, није крај приче – она се наставља даље, кроз „венчања“ разочараних и емоционално нестабилних људи са AI холограмима. Као у случају електронске зависности – која је у почетку била тек изолован случај, а у годинама које су уследиле задобила ендемске карактеристике – тако и код псеудоемоционалног односа са ChatBot-овима можемо очекивати експоненцијалан раст крајње бизарних појава.

Ослањајући се на пробој у претходна два правца, AI постепено отвара и трећи фронт, на коме се води борба за човеков идентитет. Наиме, кроз културу виртуелности и виртуелних идентитета (годинама уназад изражену пре свега кроз Facebook заједнице) савремени човек тежиште својих односа све више са физичког сели у виртуелну сферу. Убрзо нас очекује концептуално преплитање AI, виртуелне реалности и друштвених мрежа (у платформама попут Metavers-а) што ће означити до сада невиђену идентитетску миграцију из физичког у виртуелни простор, али и својеврсну идентитетску трансформацију. Уколико на поменута три фронта (усмерена на пажњу, емоције и идентитет) савремени човек доживи пораз, широм ће се отворити простор за менталну капитулацију финално оличену у прихватању идеологије трансхуманизма – ружичасте дистопије која тежи да глобално легитимише фузију људског бића са машином. А то је далеко гори сценарио од црне дистопије Терминатора, у којој човек макар има шансу да победи.

Да не би било забуне, аутор текста није ни технофоб ни технолошки детерминиста нити противник смислене употребе AI у секторском и контролисаном виду – напротив, аутор се већ две деценије држи афирмативно-критичког приступа смислене употребе савремених технологија уз њихово дубинско испитивање. Овај осврт је, с тим у вези, усмерен на домен у коме се захтева јасна интервенција. Стога, када је реч о стратегији очувања „интегритета и суверенитета“ унутрашњих територија, као православни свештеник и овог пута заступам проверено исихастичко „борбено“ искуство – оно које молитвено активира умну (ноетичку) енергију, пажњу сабира унутар срца, осећања усмерава ка Богу и другом човеку, а идентитет чврсто држи у литургијском окриљу. Истина, тај метод је ексклузивистички и ограничен је на одбрамбену стратегију хришћана, но разлике у приступу савезничких војски су очекиване, поготово на фронту који захтева свеопшту мобилизацију.

Од суштинске је важности да се појави довољан број мислећих људи који у домену одбране унутрашњих простора стратешки промишљају по примеру Шарла де Гола, вође француског покрета отпора и изразитог критичара концепта Мажино линије. У том случају итекако има места оптимизму.

*Чланак првобитно објављен у Политици под уредничким насловом „Заљубљивање у вештачку интелигенцију“ (рубрика Погледи), 26. 1. 2024.