Mivel ez a blog eredendően a döntéshozatal elemzésére jött létre, nem mehetünk el szó nélkül a mesterséges intelligencia hadviselésben játszott szerepének erősödése mellett. Ezzel kapcsolatban két figyelemre méltó fejlemény is adódott az elmúlt bő egy év tapasztalataiból, ezekre utalnék röviden, feljegyzésszerűen.

1. Ennek a líbiai konfliktusról szóló ENSZ-es szakértői jelentésnek a 17. oldalán szerepel a következő: 

"Logistics convoys and retreating HAF were subsequently hunted down and remotely engaged by unmanned combat aerial vehicles or lethal autonomous weapons systems such as the STM Kargu-2 (see annex 30) and other loitering munitions. The lethal autonomous weapons systems were programmed to attack targets without requiring data connectivity between the operator and the munition: in effect, a true “fire, forget and find” capability."

Ezek szerint sor került tehát szabadjára engedett Lethal Autonomous Weapon (LAW) használatára, valószínűsíthetően halálos következményekkel (megjegyzés: ha a jelenlétük éppen csak zavaró volt, a harctéren már annak is halálosak a következményei — hát még ha rá is repültek valakire). A felhasználó fél a török támogatású líbiai Nemzeti Egységkormány volt (vagy inkább az azt támogató török különleges erők?), az orosz-egyiptomi támogatású Haftar tábornok vezette erők ellen. Az eset 2020. márciusában történhetett.

Egyes szakértők (kiváló szakértők is, mint Ulrike Franke) kiakadtak, hogy ez nem is "autonóm" gyilkolászás — de igazából csak a science-fiction műfajban gyakran előforduló elemzési hiba áldozatai. Ahogyan a "lopakodó" szó jelentése nem az, hogy "láthatatlan", úgy az "Autonomous" sem azt jelenti, hogy "Sentient". Autonóm és döntéseket is hoz, de nem öntudattal bíró. Az ilyen eszköz abban különbözik pl. a hosszú évtizedek óta használt infravörös vezérlésű légiharc-rakétától (mely maga is gyilkos robot, ha úgy tetszik, és korrigálja a röppályáját a célja kergetése közben), hogy ha elküldik, elmegy megkeresni a célpontját (vagy azt, ami eléggé annak tűnik) — az operátor nem fárad ezzel, kis habtestét nem mozgatja ennek érdekében. Ezt a feladatot a Kargu-2 olyan autonómiával végzi, ahogyan a Facebook-algó megpróbálja kitalálni, kitől akarsz híreket látni a newsfeededben. Vagy -- még inkább -- olyan, mint a spam-szűrő az e-mailezésben, amikor eldönti, hogy ez vagy az legitim üzenetként futott-e be.

Itt van a jelentésből az STM Kargu-2-es forgószárnyas (kvadkopter platformra épített), élő adatkapcsolat nélkül is portyázni képes "lófráló muníció" (saját terminus, kopirájt) adatlapja. Török termék.

És még egy kép róla, hogy felismerhető legyen, ha az utcán jön valaki után. Így akkor lehet sejteni, hogy nem az Amazon hozza a friss könyvrendelést. Pláne ha 52 fokos szögben hullik felénk a magasból. Az alul csüngő kamera felett látható a (kerekített trapéz alakú) robbanófej, mely a célponttal való kontaktálást megelőzően lép működésbe a rendeltetése szerint, és beteríti azt mindenféle impakttal. (Videót is mellékelünk.)

Kiegészítés: A Kargu-2 gyártója azt állítja, hogy a lófráló muníciójuk képes több egység összevonásával rárajzó (swarming) támadásra is (húsz Kargu-2 rajszerű működése mellett), és hogy a gépi tanulás mellé arcfelismerő képessége is van, amivel egyéni személyi célpontok után küldhető. Ez a cikk is érdekes. Itt a Kargu-2 mellett említést kap további három, autonóm üzemmódban is működtethető eszköz, mely kitermelődött a törököknél: "Alpagu, Togan and Simsek" — eléggé előrehaladtak ezen a téren. Az Alpaguról hallottam már (ezt is az STM — törökösen "Szeteme" — gyártja), a haditengerészeti alkalmazását is tervezik, és vetőcsőből indítható, a kiröppenéskor nyílnak a szárnyai.

Az autonóm működés lényege, hogy bizonyos típusú célpontot megadnak pl. a Kargunak, az pedig maga kutat át egy területet, ahol azonosítja az előre betáplált célpontot, és támad. (Tévedhet? Persze.)

Így néz ki a távirányító, lásd alább. VUR = STRIKE (jobb felső sarok); iPTAL = ABORT (bal felső sarok). Miután az operátor a VUR-t megnyomta, adatkapcsolat kimaradása vagy megszűnése esetén a Kargu autonóm módon dönti el, hogy amit lát, az a beleprogramozott cél-e. Katona fegyverrel, vagy a Józsi bácsi kapával. Az adatkapocs az operátortól 5-10 km távolságig él. De az indítás eleve történhet autonóm üzemmódban is, ahogyan a 2020. márciusi esetben állítólag történt, ahol (spekulálok) az önvezető autókétól kicsit eltérő parancs szerint az lehetett a Kargu-2-esek feladata, hogy ha "gyalogost" látnak, menjenek neki.

A rajszintű tanulási képesség a műveleti terep feltérképezésére és memorizálására is vonatkozik. A Kargu-2 így akkor is hatékony marad az általa már megismert terepen, ha nem kap GPS-jelet (zavarás, blokkolás esetén). A terep megtanulása akár arra is lehetőséget adhat, hogy a gyalogkatonák után küldött Kargu-2 rögtön a legvalószínűbb búvóhelyeken keresse a célpontokat, ha egyszer a terep ilyen tulajdonságait elkezdte kiismerni ("hol találok kombatánsokat ezen a területen").

Érdekes kérdés, hogy mi történt 2020. márciusa óta. Azerbajdzsánból is került a Kargu-2-esek ottani jelenlétéről felvétel. Mindez mindenképpen aggodalomra adhat okot, mert az MI-kogníciós képességek egyelőre hagynak kívánnivalót maguk után, és bár előretörtek a törökök az alkalmazásban, de azért nem ők a cutting edge ebben a szférában az általános fejlesztés terén.

2. Figyelemre méltó cikk a Jerusalem Postban a gázai konfliktus legutóbbi köréről. Izrael rendszerbe integrálta az all-source hírszerzés-feldolgozás folyamatát szuperszámítógépes támogatással, és három gépi tanulásra képes MI-algoritmussal ("ők": Alchemist, Gospel és Depth of Wisdom).

A rendszerbe táplálták a SIGINT, VISINT, HUMINT és GEOINT információkat (és még sok minden mást), és a Gospel ez alapján osztott célokat katonai felderítésre. A rendszer működése révén tudták nagyon jól feltérképezni a Hamász kiterjedt alagúthálózatát (a "Metrót"). Dolgoztak a rakétaindítások elhárításán és azonnali lereagálásán, úgy, hogy közben hangsúlyozzák, hogy a rendszer által használt paraméter volt a nem-kombatánsoknak okozható ártalom kerülése is. Az MI-támogatással műveletező Izraeli Védelmi Erők mintegy 1500 légi csapásban saját értékelésük szerint a Hamász és a Palesztin Iszlám Dzsihád 150 tagjával végezhettek így. Megsemmisítették a Hamász egy speciális tengeri egységét is, pl. ennek robbanóanyaggal megrakható, GPS-vezérelt tengeralattjáró drónjait.

Az Alchemist közben a saját erők oltalmazásához járult hozzá a rájuk nézve jelentkező fenyegetések azonosításával. Állítólag volt valamiféle figyelmeztetés az előtt a sikeres palesztin támadás előtt is, mely egy ATGM (harckocsi-elhárító rakéta) révén semmisített meg egy izraeli katonai terepjárót. A támadásban ketten sebesültek meg, egy katona (Omer Tabib törzsőrmester) meghalt. A támadók orosz Kornet-rakétát használtak, amit sokfelé alkalmaznak, és többfelé licenszben is gyártanak (a rakéta forrásának megítéléséhez).

Konklúziónak (olyasmi). A döntéshozatal elemzését mindez episztemológiai szempontból érinti. Az emberi elme egy fekete doboz ugyebár, és különféle szándékosan és akaratlanul tett "vallomásokból", illetve cselekményekből-interakciókból visszafejtve próbáljuk megítélni a működését. A problémák a fekete doboz által programozott fekete doboz esetében hatványozottak.

Néhány kérdés ezzel kapcsolatban, ízelítőnek.

Milyen algoritmusok értelmezik gépileg a "nem-kombatánsokra nézve várható ártalom" kategóriát? Van-e visszacsatolásként információ betáplálva adott támadások során jelentett civil veszteségekről? Hogyan írja le a célpontot a Kargu-2 operátora, mielőtt lófrálni indítaná? (Egy képpel az internetről? Előre betöltött célpont-sablonok alapján?) Milyen körülmények között megy rá a célpontjára a Kargu-2? A gyártó magabiztosan demonstrálja, hogy egymástól járványkompatibilis térközt tartó manökenbábuk között precízen arat, ha kell, de a valóságban azok a bábuk mozognak... És nem okoz-e egy életre szóló traumát valakinek, ha kirobbantanak így valakit mellőle? És mi a helyzet megkülönböztetést még "semlegesek" tekintetében sem alkalmazó parancsnál? Kellően lehatárolt-e az érvényes műveleti terület? Stb.

Az ördög, akárcsak az üdvözülés, a részletekben búvik.

Közben viszont fejlesszük a C-RAM védelmi rendszereket (Counter Rocket, Artillery and Mortar), mert szükség lesz rájuk. Ha pedig a humanitárius jogról korábban azt gondoltuk, hogy egy haderőnek ideális esetben a kiképzéstől a műveletekig be kell építenie azt a működésébe, akkor itt az újabb példa, hogy ezeket a normákat a fegyverek tervezésénél és programozásánál is érvényesíteni kell — hogy a humanitárius jognak esélye legyen.