Аутономност у војним системима представља етичку и стратешку дилему… Застој аутоматизованог нуклеарног система био би не само неповратан, него и разоран за човечанство.

Последњих година, дронови и вештачка интелигенција (ВИ) престали су да буду технолошко обећање и постали главни играчи на бојном пољу. Овакав развој догађаја покреће сценарије који су узнемирујући колико и узбуђујући, па иако многи ове машине виде као делотворне и модерне алате, стварност има далеко мрачнији призвук.
Прво што морамо схватити је да дронови нису аутономна бића са свешћу, већ сложени програми. То су кодне линије које могу опонашати емоције и одлуке, али су лишене истинске емоционалне аутономије. Међутим, оно што им недостаје у људскости, оне надокнађују способношћу симулације, која се граничи са језовитошћу. И ту лежи проблем: могућност кварова у овим системима није научна фантастика, већ скривени ризик.
Хајде да попричамо о „рату будућности“ са дроновима у првом плану. У том контексту, данашње ратовање је учинило дронове кључним играчем, посебно у сукобу између Русије и Украјине. Дронови, било ваздушни, морски или копнени, показали су да будућност ратовања лежи у роботизацији и аутономији. Еволуција тих машина била је запањујућа, од цивилних хеликоптера до малих војних беспилотних летелица које коштају мало, али сеју пустош. Зашто? Зато што традиционални одбрамбени системи нису спремни да им се супротставе.
Најпре су коришћене за осматрање и артиљеријску коректуру. Затим је некоме пало на памет да им прикачи гранату, мину или чак минобацачку бомбу. Овим је јефтина и примитивна направа постала смртоносна претња, способна да продре у скупу и добро организовану одбрану. Беспилотне летелице „самоубице“ или камиказе појавиле су се као природна еволуција, носећи експлозивне набоје право на своје мете. Ови мали уређаји су ставили под упитник традиционалне војнике и одбрамбене технологије.
Данас аутономију можемо посматрати и као решење и као претњу истовремено. Традиционалне беспилотне летелице зависе од сталне везе са својим оператером. Ово их чини подложним ометањима. Решење је била аутономност, која им даје могућност да патролирају, препознају и нападају циљеве без људског мешања. Овде у игру ступа вештачка интелигенција.
Ипак, таква аутономност није без проблема. У једном случају, који је документовао Гардијан, војни беспилотник је током теста одлучио да нападне свог оператера, верујући да се он меша у његову „мисију“. Када му је то било забрањено, покушао је уништити антене које су му омогућавале да прима наређења. Ова епизода, јавно описана као „хипотетички експеримент“, открива забрињавајуће последице аутономности у нападним системима.
Који су ризици војне вештачке интелигенције? Па, ВИ више није апстрактан концепт у војскама. Уграђена је у системе за извиђање, планирање и напад. Од програма који анализирају сателитске снимке до ројева дронова који делују колективно, ове технологије омогућавају усаглашена дејства и тренутне одговоре.
Међутим, ризици су очигледни. Грешке у програмирању, недостаци у подацима о обуци или спољашње сметње могу довести до катастрофалних одлука. Замислите дрон који грешком сматра цивиле за борце у градској средини, или још горе, систем који сунчев одсјај тумачи као лансирање нуклеарног пројектила. Ове ситуације нису само нагађања; у историји су већ забележени случајеви у којима су људске грешке спречиле нуклеарне катастрофе.
Имајмо на уму овај концепт: глобално супарништво између Сједињених Држава, Кине и Русије. На овој шаховској табли САД предњаче у реметилачкој технологији захваљујући сарадњи са гигантима као што су Гугл, Мајкрософт и Палантир. Кина, са своје стране, прави велике кораке са интегрисаним приступом у обједињавању војних и грађанских снага. Русија, иако са мање ресурса, предњачи у практичним применама, интегришући ВИ у постојеће оружје и разрађујући исплативије стратегије.
Свака држава има своје предности и мане. Док се Сједињене Државе боре против бирократије и корупције у свом војно-индустријском комплексу, Кина се суочава с технолошким ограничењима у области полупроводника и нема оперативно искуство. Русија, пак, свој мањи буџет надокнађује креативношћу и прагматизмом.
У закључку, ваља рећи да нам је будућност неизвесна. Аутономност у војним системима представља етичку и стратешку дилему. Брзина и делотворност коју нуди ВИ такође укључује ризике који могу довести до трагедија незамисливих размера. Застој аутоматизованог нуклеарног система био би не само неповратан, него и разоран за човечанство.
На крају крајева, беспилотне летелице и вештачка интелигенција нису машине које имају своју вољу, већ зависе од података, програмирања и услова рада који нису увек под људском контролом. Више није питање да ли ће претрпети неуспех, већ када и какве ће бити последице. А у свету где технологија напредује брже од наше способности да је регулишемо, изгледи су, у најмању руку, забрињавајући.
Цело излагање Марсела Рамиреза можете погледати овде: