MI drauds militārajā jomā - cilvēks

Arvien vairāk valstu militārajās struktūrās ievieš mākslīgo intelektu (MI), un nav skaidrs, kā šo procesu regulēt. Februārī tas izraisīja skandālu starp ASV Aizsardzības ministriju un uzņēmumu Anthropic. MI izmanto liela apjoma datu analīzei un mērķu izvēlei loģistikas un izlūkošanas jomā, kā arī lēmumu pieņemšanas gaitā. Uzņēmumi, kas izstrādā MI sistēmas militārajām vajadzībām, uzskata, ka MI izplatība militārajā jomā ir neizbēgama.

Kā paziņoja Palantir, viens no galvenajiem MI platformu piegādātājiem ASV drošības dienestiem, "jautājums nav par to, vai būs ieroči ar MI, bet gan par to, kas tos izstrādās un kādiem mērķiem".

Cilvēki mēdz pārspīlēt jebkuru jauno tehnoloģiju iespējas un tas šajā var novest pie kritiskām kļūdām, kas saistītas ar sistēmu darbības traucējumiem. Palīdzēt var drošības kontrole militāro MI sistēmu izstrādes posmā, kā arī militārpersonu un viņu vadītāju spēja kritiski analizēt savus lēmumus.

Jau šobrīd redzams, ka MI kļūst par neatņemamu militāro konfliktu sastāvdaļu. Zināms, ka Izraēla izmantoja sistēmas Gospel un Lavender, lai analizētu izlūkošanas datus un sastādītu mērķu sarakstus triecieniem Gazā. ASV MI ievieš loģistikas un izlūkošanas procesos, izmantojot, piemēram, uzņēmuma Palantir sistēmu Maven Smart System, lai analizētu satelītattēlus, noteiktu BPL uzdevumus un palīdzētu komandieriem pieņemt lēmumus.

Nākotnē varētu būt runa par autonomiem dronu spietiem un, iespējams, pat par kaujas operāciju vadību ar mākslīgā intelekta palīdzību.

Diskusija starp ASV Aizsardzības sekretāru Pītu Hegsetu un MI uzņēmumu Anthropic liecina, ka no bruņotajiem spēkiem ir atkarīgs, vai MI attīstība palielinās vai samazinās nestabilitāti. Kompānija Palantir ASV Aizsardzības departamentam nodrošina slepenos datu tīklus, kuros bija integrējis Anthropic izstrādāto MI modeli Claude. Pīts Hegsets un Pentagons pieprasīja, lai Anthropic atceļ drošības ierobežojumus (guardrails) – militārpersonas vēlējās pilnīgu rīcības brīvību šo tehnoloģiju izmantošanai autonomu ieroču izstrādei, mērķu noteikšanai un masveida novērošanai. Uzņēmuma Anthropic vadītājs Dario Amodei kategoriski atteicās pakļauties Pentagona prasībām un norādīja uz ētiskiem apsvērumiem un riskiem, ka nekontrolēts MI var izraisīt masveida izsekošanu vai pieņemt patstāvīgus lēmumus par cilvēku nogalināšanu kaujas laukā.

Mākslīgais intelekts kaujā var nodrošināt nopietnas priekšrocības, vienkāršot loģistiku un mobilizāciju, kā arī palielināt agrās brīdināšanas sistēmu efektivitāti. Tas var uzlabot karadarbības precizitāti un samazina tādu emociju kā bailes, dusmas vai noguruma ietekmi, kas vēsturiski bieži vien kļuvuši par netiešu kara noziegumu cēloni.

Lēmumi, ko pieņem militārās struktūras un MI izstrādātāji, noteiks, vai šī tehnoloģija kļūs par atturēšanas instrumentu vai, gluži pretēji, mudinās valstis uzsākt jaunus konfliktus.

Problēma ar iespēju novērtēšanu

Galvenais risks, ieviešot jebkuru jaunu tehnoloģiju, slēpjas spēku līdzsvara krasā izmaiņā. Viena valsts var uzskatīt, ka ir ieguvusi izšķirošu pārsvaru, kas ļauj uzbrukt, bet cita – ka ir neaizsargātā stāvoklī un spiesta uzbrukt pirmā. Praksē inovācijas reti kad radikāli maina kādas puses spēju ieņemt un noturēt teritorijas, taču pati ticība šādas tehnoloģiskas "burvju nūjiņas" pastāvēšanai ir ārkārtīgi spēcīga.

Pārspīlēta jauno sistēmu kaujas potenciāla novērtējuma dēļ palielinās ar tehniskām kļūmēm saistītu aprēķinu kļūdu varbūtība. Saskaņā ar pētījumu par kibervājībām un konfliktiem, militāro konfliktu simulācijās ar MI konstatēts, ka MI nosaka nepieciešamību veikt primāros triecienus pretinieka kodolspēkiem, kas, saprotams, izraisīs atbilstošu pretreakciju.

Ar jaunajām tehnoloģijām saistīto bīstamību pastiprina arī dažas cilvēka psiholoģiskās īpatnības. Viens no piemēriem ir Danninga-Krīgera efekts, kad cilvēki ar zemu kompetences līmeni mēdz pārvērtēt savas spējas. Viņi neredz savas vājās vietas, tāpēc izrāda pārmērīgu pārliecību jomās, kurās viņiem ir maz saprašanas. Kā norāda definīcijas autori, šādi cilvēki "saskaras ar divkāršu problēmu – viņi izdara kļūdainus secinājumus un pieņem nepareizus lēmumus, bet viņu nekompetence neļauj viņiem to apzināties".

Tendence pārspīlēt tehnoloģisko iespēju nozīmi var pieaugt, ja lēmumu pieņēmēji saskaras ar situācijām, no kurām nav vieglas izejas.

Iepriekš minētajā militārajā simulācijā dalībnieki nonāca uz kodolkonflikta sliekšņa, bez skaidras izejas uz deeskalāciju vai uzvaru. Ieguvuši iespēju veikt kiberuzbrukumu pretinieka stratēģiskā arsenāla vadības sistēmām, spēlētāji demonstrēja tendenci ignorēt ar šo lēmumu saistītos riskus. Lai gan dalībniekiem tika tieši norādīts, ka šāda uzbrukuma sekas nav zināmas, viņi izvēlējās to izmantot. Šāds rīcības variants īpaši aizrāva tos, kuri slikti orientējas kodolstratēģijā.

Cik patiesībā efektīvs ir MI

Vai MI iespējas netiek pārvērtētas? Saskaņā ar jaunākajiem pētījumiem šāda iespēja pastāv.

Daudzas MI sistēmas sākotnēji veidotas tā, lai izraisītu uzticību lietotājos, tāpēc tās sniedz izteikti pārliecinošus vērtējumus, nepieļaujot novirzes vai alternatīvus redzējumus. Rezultātā lietotāji, kuriem jau tā ir nosliece uz uzticēšanos tehnoloģijām, var paļauties uz to vairāk, nekā tas reāli būtu pamatots. Šādas tendences rada bažas, jo, neraugoties uz ievērojamo progresu MI attīstībā, esošajiem modeļiem joprojām ir fundamentālas problēmas ar drošību un uzticamību. Pētījumi liecina, ka nenoteiktības apstākļos MI var izrādīt pārmērīgu pārliecību, kas dažkārt var novest pie katastrofālām sekām.

Eksperimenti militārās spēlēs parādīja, ka MI, pieņemot lēmumus, ņemot vērā iepriekšējos gājienus un situāciju, demonstrēja lielāku tendenci uz eskalāciju un "halucinācijām" (reakcijas, kas neatbilst sākotnējiem datiem).

Kara apstākļos, kad MI modeļi un dati, ar kuriem tie tiek apmācīti, un to lietotāji kļūst par uzbrukumu un manipulāciju mērķiem, ierobežojumi pārvēršas par ievainojamībām. Cilvēki, kuriem nav pieredzes darbā ar šādām sistēmām, var sākt uztvert to atbildes pēc principa "vai nu pilnībā uzticēties, vai vispār neuzticēties". Pilnīga uzticēšanās kaujas apstākļos var novest pie pārmērīgas pārliecības, kļūdām un situācijas eskalācijas, savukārt neuzticēšanās faktiski paralizē vadību, jo kļūst neskaidrs, uz kuriem datiem var paļauties.

Tas rada īpašu apdraudējumu jauniem un nepieredzējušiem karavīriem, kuri ir vairāk pakļauti Danninga-Krīgera efektam – viņi sarežģītās militārās sistēmās retāk pamanīs MI kļūdas. Tāda pati loģika attiecas arī uz vadību – tā var pārmērīgi uzticēties MI novērtējumiem, it īpaši, ja tie sola vieglu uzvaru.

Tātad, pat pie formālas "cilvēka kontroles" visriskantākajos lēmumos, piemēram, kodolieroču izmantošanā, jaunie operatori un nepieredzējušie vadītāji var pārvērtēt MI secinājumu ticamību.

MI un autoritārie režīmi

Cik lielā mērā atšķiras novērtējumi par MI iespējām atkarībā no politiskās iekārtas? Pētījumi liecina, ka autoritāros režīmos uzticēšanās armijai ir zemāka, tāpēc bruņotie spēki šādās valstīs ir mazāk efektīvi. Vadība cenšas koncentrēt varu augstākajā līmenī, tā samazinot militāro struktūru elastību un stabilitāti.

Neuzticība militārajai vadībai var veicināt mākslīgā intelekta aktīvāku ieviešanu autoritāru režīmu apstākļos. Ja līderis šaubās par padoto lojalitāti, viņš var izvēlēties tos aizstāt ar MI modeļiem, kas programmēti atbalstīt varu. Šādas sistēmas, visticamāk, būs tendētas uz vadības politikas atbalstīšanu. Turklāt autoritāri režīmi var ieguldīt līdzekļus tādu modeļu izstrādē, kuriem nav ētisku ierobežojumu, kas atturētu no vardarbības pielietošanas.

Cilvēks kā lielākais drauds

Tāpat kā ar citām tehnoloģijām, arī MI galvenais drauds ir saistīts ar cilvēkiem – ar to, kā viņi izmanto un attīsta šīs sistēmas, atspoguļojot savas sliktākās īpašības. Pēc Pirmā pasaules kara pētnieki mēģināja saprast, kādēļ notika šāds bezjēdzīgs konflikts, kas prasīja miljoniem dzīvību. Viens no sākotnējiem skaidrojumiem notikušo saistīja ar tehnoloģiju attīstību – dzelzceļi, telegrāfs, ložmetēji un tvaika dzinēji ļāva radīt plaša mēroga militāras iespējas un tā veicināja kara sākšanos, taču lēmumus pieņēma cilvēki, nevis mašīnas. Tādi līderi kā ķeizars Vilhelms bija pārliecināti, ka ar tehnoloģiju palīdzību spēs gūt uzvaru, bet neapzinājās tās cenu.

Šodien tieši cilvēks lemj, kā veidot MI arsenālus, kā tos izmantot militāros konfliktos un kādu lomu tiem piešķirt lēmumu pieņemšanā, ieskaitot lēmumus par kodolieročiem.

MI tehnoloģijas ierobežojumu skaidrošana un apmācība kritiski analizēt tās secinājumus, ļaus samazināt risku, ka tiek pārvērtētas MI iespējas, savukārt drošības prioritāšu ievērošana izstrādes posmā samazinās nejaušu kļūdu iespējamību. MI ieviešana militārajā jomā ir neizbēgama, taču šī procesa stabilitāti var nodrošināt vienīgi cilvēka kontrole.

Tikmēr Ukrainā...

Minētā ASV kompānija Palantir bija starp pirmajām vadošajām ASV tehnoloģiju kompānijām, kas jau 2022. gadā ieradās Ukrainā un piedāvāja savus MI risinājumus valsts aizsardzības nodrošināšanai. Saprotams, ka tas tika darīts tīri pragmatisku iemeslu dēļ – 2022. gada otrajā pusē jau bija redzams, ka karadarbība pāriet citā fāzē, kurā sāks dominēt bezapkalpes tehnoloģijas, tai skaitā arī tādas, kas pielieto MI. Kompānijai bija svarīgi testēt savus izgudrojumus reālajā kaujas vidē.

2026. gada 12. maijā prezidents Zelenskis atkal tikās ar Palantir izpilddirektoru Aleksu Karpu. Abas puses apsprieda jomas, kurās Ukraina un Palantir varētu stiprināt Ukrainas, ASV un to partneru aizsardzību. Ukrainas aizsardzības ministrs Mihailo Fedorovs norādīja, ka Ukraina iepazīstināja uzņēmumu ar savām prioritātēm aizsardzības tehnoloģiju jomā, tostarp ar MI nodrošinātu "Shahed" bezpilota lidaparātu atklāšanu un pārtveršanu, ātrākas vadības sistēmas, kaujas datu analīzi, mērķu atklāšanu un misiju plānošanu.

Palantir loma Ukrainas valdībā ir paplašinājusies. Uzņēmums ir sadarbojies ar Ukrainas Digitālās transformācijas ministriju, noslēdzis partnerattiecības ar Ekonomikas ministriju, un 2026. gadā uzsācis sadarbību ar Aizsardzības ministriju, Ukrainas bruņotajiem spēkiem un Aizsardzības izlūkošanas pētniecības institūtu.

Pēc 2022. gada Krievijas iebrukuma Ukrainai nebija laika rezerves, jo pēc sākotnējā uzbrukuma atvairīšanas Ukrainas bruņotie spēki saprata, ka viņiem būs jācīnās asimetriski, izmantojot tehnoloģijas, lai uzvarētu skaitliskā pārākumā esošo pretinieku. Ukrainas aizsardzības rūpniecība strauji attīstījās, pateicoties īstermiņa domāšanai, regulējumu atvieglojumiem un atvērtām durvīm uzņēmumiem, kas neietilpst tradicionālajā galveno aizsardzības industrijas sistēmā. Rezultātā izveidojās kara laika modelis, kurā pasūtījumu izpildes termiņi tiek mērīti nedēļās, nevis gados.

Pēc Karpa domām, Ukrainas sasniegums nav vienkārši tas, ka tā pārņēma ārvalstu tehnoloģijas, bet gan tas, ka Ukrainas komandas padarīja tās lietojamas kara apstākļos. Viņš to aprakstīja kā "jaunu kara vešanas koncepciju", kurā Ukraina  vienā ātrdarbīgā kaujas laukā apvieno vienības, bezpilota lidaparātus un datus. Šī sistēma ir vērtīga, jo tā ātri mācās. Karavīri pārbauda aprīkojumu frontē. Vienības ziņo, kas darbojas. Inženieri pielāgo rīkus. Nākamā versija atkal tiek nodota lietošanā. Karps šo atgriezeniskās saites ciklu nosauca par "vienu no labākajiem, ja ne vislabāko, kādu esmu redzējis". A. Karps saka: "Ukraiņi atjauno mūsu izveidotos objektus, padarot tos daudz lietderīgākus. Viņi to dara kaujas laukā ar nelielu cilvēku skaitu, pēc tam parādot pasaulei, kā šie objekti darbojas gan valsts, gan komerciālajā sfērā".

Karpa ieskatā kaujas laukā izmantotam MI nozīme ir tikai tad, ja tā ir saistīta ar reāliem datiem, reālām vienībām un reāliem lēmumiem. "Nevar vienkārši paņemt modeli un palaist to sarežģītās MI infrastruktūrās," viņš teicis. Sistēmai ir jāparāda, "kurš to redz un kādā kontekstā" un vienlaikus jānodrošina cilvēkiem iespēja "līdz pēdējam brīdim pārtraukt darbību".

Dronu uzņemtie kadri, radara dati, kaujas ziņojumi un pretgaisa aizsardzības dati tagad tiek izmantoti, lai apmācītu nākamo militāro sistēmu paaudzi visā pasaulē. 2026. gada janvārī Ukraina kopā ar Palantir un aizsardzības iestādēm atklāja Brave1 Dataroom, radot drošu vidi Ukrainas uzņēmumiem, lai apmācītu un testētu MI modeļus, izmantojot reālus kaujas laukā iegūtus datus.

Ukrainas amatpersonas paziņoja, ka viņu mērķis ir panākt 100% gaisa mērķu identificēšanu, un vismaz 95% pozitīvas pārtveršanas rādītājus, kā arī paplašināt MI izmantošanu, lai neitralizētu gaisa draudus un iegūtu pārsvaru gaisā.

Krievija uzbrūk Ukrainai ar raķetēm, "Shahed", planējošām bumbām, artilēriju, karaspēku un bezpilota lidaparātiem. Dažās frontes pilsētās Krievijas droni gandrīz brīvi lido, apzināti medījot civiliedzīvotājus. Ukraina nevar uzvarēt Krieviju tikai ar skaitlisko pārsvaru, tāpēc tai jācīnās asimetriski, un tehnoloģijas ir lielākais spēka reizinātājs šajā karā.

Karps iepriekš ir apgalvojis, ka Palantir ir atbildīgs par "lielāko daļu mērķu atklāšanu Ukrainā", taču tagad viņš izteicies piesardzīgāk. Ukraina ir izveidojusi "vienu no pasaulē svarīgākajām, viegli lietojamajām, interaktīvajām un pielāgojamajām mērķu noteikšanas sistēmām", kurā Palantir spēlē nozīmīgu, taču tikai daļēju lomu: "Daļa šīs sistēmas ir mūsu darbs, bet lielāko daļu izveidoja viņi [ukraiņi]".

Karps apgalvo, ka Ukrainas spēks rodas no tehnisko talantu, kaujas laukā valdošā spiediena un nacionālās gribas apvienojuma.

Ukrainas panākumi piesaista lielu uzmanību arī ārzemēs. Brave1 Dataroom nodrošina Ukrainas aizsardzības uzņēmumiem piekļuvi reāliem kaujas laukā iegūtiem datiem, lai tie varētu apmācīt un testēt MI rīkus pret Krievijas gaisa draudiem. Ukraina sāk dalīties ar daļu no šiem datiem arī ar sabiedrotajiem, un tie ir neiedomājami vērtīgi, jo tie iegūti reālās kaujās, kurās samaksāta augsta cilvēku cena. Ukrainas karavīru gūtā pieredze tagad palīdz izstrādāt labāku pretgaisa aizsardzību, viedākus BPL un jaudīgāku MI.

Ukraina ir pārbaudījums Palantir vīzijai par mūsdienu karu – mūsdienu demokrātija, kas izmanto modernas tehnoloģijas, lai aizstāvētos pret lielāku iebrucēju armiju, kura īsteno postošu, nelikumīgu karu. Citas attīstītās demokrātijas valstīs kritiķi pamatoti turpinās jautāt, cik lielai ietekmei privātiem MI uzņēmumiem būtu jābūt valsts drošības sistēmās. Ukrainai šis jautājums bieži vien ir daudz aktuālāks – vai programmatūra palīdz atrast mērķi, apturēt dronu, neitralizēt mīnu vai glābt pilsētu? Ja jā, mēs to pieņemsim.

“Taisnības” komentārs

Acīmredzami, ka Ukrainas aizsardzības spēku rīcībā nu jau pavisam drīz nonāks plašs spektrs ar MI vadītām bezapkalpes sistēmām, kas Krievijai var nodarīt nepieņemamus zaudējumus. Piemēram, valsts elektroapgādes sistēmas sagraušanu, kuras sekas būs katastrofālas. Līdz ar to loģiska kļūst kremļa bubināšana par drīzu kara aizbeigšanas iespēju un sarunām jau ar Eiropas pārstāvjiem par kara izbeigšanas nosacījumiem. Jautājums tikai, kā Putinam iziet no situācijas, lai neizskatītos pēc zaudētāja.