Autonomnost u vojnim sistemima predstavlja etičku i stratešku dilemu… Zastoj automatizovanog nuklearnog sistema bio bi ne samo nepovratan, nego i razoran za čovečanstvo.
Poslednjih godina, dronovi i veštačka inteligencija (VI) prestali su da budu tehnološko obećanje i postali glavni igrači na bojnom polju. Ovakav razvoj događaja pokreće scenarije koji su uznemirujući koliko i uzbuđujući, pa iako mnogi ove mašine vide kao delotvorne i moderne alate, stvarnost ima daleko mračniji prizvuk.
Prvo što moramo shvatiti je da dronovi nisu autonomna bića sa svešću, već složeni programi. To su kodne linije koje mogu oponašati emocije i odluke, ali su lišene istinske emocionalne autonomije. Međutim, ono što im nedostaje u ljudskosti, one nadoknađuju sposobnošću simulacije, koja se graniči sa jezovitošću. I tu leži problem: mogućnost kvarova u ovim sistemima nije naučna fantastika, već skriveni rizik.
Hajde da popričamo o „ratu budućnosti“ sa dronovima u prvom planu. U tom kontekstu, današnje ratovanje je učinilo dronove ključnim igračem, posebno u sukobu između Rusije i Ukrajine. Dronovi, bilo vazdušni, morski ili kopneni, pokazali su da budućnost ratovanja leži u robotizaciji i autonomiji. Evolucija tih mašina bila je zapanjujuća, od civilnih helikoptera do malih vojnih bespilotnih letelica koje koštaju malo, ali seju pustoš. Zašto? Zato što tradicionalni odbrambeni sistemi nisu spremni da im se suprotstave.
Najpre su korišćene za osmatranje i artiljerijsku korekturu. Zatim je nekome palo na pamet da im prikači granatu, minu ili čak minobacačku bombu. Ovim je jeftina i primitivna naprava postala smrtonosna pretnja, sposobna da prodre u skupu i dobro organizovanu odbranu. Bespilotne letelice „samoubice“ ili kamikaze pojavile su se kao prirodna evolucija, noseći eksplozivne naboje pravo na svoje mete. Ovi mali uređaji su stavili pod upitnik tradicionalne vojnike i odbrambene tehnologije.
Danas autonomiju možemo posmatrati i kao rešenje i kao pretnju istovremeno. Tradicionalne bespilotne letelice zavise od stalne veze sa svojim operaterom. Ovo ih čini podložnim ometanjima. Rešenje je bila autonomnost, koja im daje mogućnost da patroliraju, prepoznaju i napadaju ciljeve bez ljudskog mešanja. Ovde u igru stupa veštačka inteligencija.
Ipak, takva autonomnost nije bez problema. U jednom slučaju, koji je dokumentovao Gardijan, vojni bespilotnik je tokom testa odlučio da napadne svog operatera, verujući da se on meša u njegovu „misiju“. Kada mu je to bilo zabranjeno, pokušao je uništiti antene koje su mu omogućavale da prima naređenja. Ova epizoda, javno opisana kao „hipotetički eksperiment“, otkriva zabrinjavajuće posledice autonomnosti u napadnim sistemima.
Koji su rizici vojne veštačke inteligencije? Pa, VI više nije apstraktan koncept u vojskama. Ugrađena je u sisteme za izviđanje, planiranje i napad. Od programa koji analiziraju satelitske snimke do rojeva dronova koji deluju kolektivno, ove tehnologije omogućavaju usaglašena dejstva i trenutne odgovore.
Međutim, rizici su očigledni. Greške u programiranju, nedostaci u podacima o obuci ili spoljašnje smetnje mogu dovesti do katastrofalnih odluka. Zamislite dron koji greškom smatra civile za borce u gradskoj sredini, ili još gore, sistem koji sunčev odsjaj tumači kao lansiranje nuklearnog projektila. Ove situacije nisu samo nagađanja; u istoriji su već zabeleženi slučajevi u kojima su ljudske greške sprečile nuklearne katastrofe.
Imajmo na umu ovaj koncept: globalno suparništvo između Sjedinjenih Država, Kine i Rusije. Na ovoj šahovskoj tabli SAD prednjače u remetilačkoj tehnologiji zahvaljujući saradnji sa gigantima kao što su Gugl, Majkrosoft i Palantir. Kina, sa svoje strane, pravi velike korake sa integrisanim pristupom u objedinjavanju vojnih i građanskih snaga. Rusija, iako sa manje resursa, prednjači u praktičnim primenama, integrišući VI u postojeće oružje i razrađujući isplativije strategije.
Svaka država ima svoje prednosti i mane. Dok se Sjedinjene Države bore protiv birokratije i korupcije u svom vojno-industrijskom kompleksu, Kina se suočava s tehnološkim ograničenjima u oblasti poluprovodnika i nema operativno iskustvo. Rusija, pak, svoj manji budžet nadoknađuje kreativnošću i pragmatizmom.
U zaključku, valja reći da nam je budućnost neizvesna. Autonomnost u vojnim sistemima predstavlja etičku i stratešku dilemu. Brzina i delotvornost koju nudi VI takođe uključuje rizike koji mogu dovesti do tragedija nezamislivih razmera. Zastoj automatizovanog nuklearnog sistema bio bi ne samo nepovratan, nego i razoran za čovečanstvo.
Na kraju krajeva, bespilotne letelice i veštačka inteligencija nisu mašine koje imaju svoju volju, već zavise od podataka, programiranja i uslova rada koji nisu uvek pod ljudskom kontrolom. Više nije pitanje da li će pretrpeti neuspeh, već kada i kakve će biti posledice. A u svetu gde tehnologija napreduje brže od naše sposobnosti da je regulišemo, izgledi su, u najmanju ruku, zabrinjavajući.
Celo izlaganje Marsela Ramireza možete pogledati ovde:
