Képkocka Cameron Stanley, a Hadügyminisztérium digitális és mesterséges intelligencia vezetőjének márciusi MavenSmart System bemutatójáról. Stanley előadásában kijelentette, hogy a Palantir szoftvere „egy szolgáltatási termék, amelyet az egész minisztériumban bevezetünk”. Kép ​​forrása: US Department of War

Egy újabb komor figyelmeztetés, egy újabb Kasszandra-hívás az emberiség makulátlan, destruktív énjéről. Ebben a hónapban António Guterres, az ENSZ főtitkára és Mirjana Spoljaric Egger, a Vöröskereszt és Vörös Félhold Nemzetközi Bizottságának (ICRC) elnöke közös felhívást tett közzé, amelyben kijelentették, hogy „Veszélyesen közel vagyunk ahhoz, hogy átlépjük az erkölcsi vörös vonalat: az emberek gépek általi autonóm célba vételét.” Mindketten ragaszkodnak ahhoz, hogy kétféle autonóm fegyvert – a kiszámíthatatlan autonóm fegyvereket és a gyalogsági fegyvereket – tiltsanak be.

Genfben az ENSZ genfi ​​székhelyének leszerelési ügyekért felelős vezetője, Mélanie Régimbal, azzal hangsúlyozta az ENSZ azon álláspontját, hogy az ellenőrzés és megítélés hiányában célpontokat kiválasztó vagy megtámadó, emberéleteket kioltó rendszerek „politikailag elfogadhatatlanok, erkölcsileg visszataszítóak, és a nemzetközi jog szerint tiltandók”.

Laurent Gisel, a Vöröskereszt Nemzetközi Bizottságának fegyverzeti és ellenségeskedési osztályának vezetője szintén Genfből beszélt, és a konfliktust „nem a pontosság, a megkülönböztetés és a korlátozások történeteként” jellemezte, hanem „meghalt civilek, kitelepített családok, egyre nagyobb sebességgel és mértékben megsemmisült kórházak, iskolák és otthonok történeteként”. A konfliktus sűrű ködében számos változó játszhat szerepet. „Egy harcos megadhatja magát vagy megsebesülhet, és így védve van a támadástól; civilek beléphetnek az autonóm fegyverrendszerek működési területére; a fegyverek olyan helyzetbe kerülhetnek, amelyre nem számítottak volna.” Az ilyen autonóm rendszerekben a kiszámíthatatlanság veszélyei rendkívül problematikusak voltak. „Ha nem lehet előre látni, akkor hogyan lehet korlátozni?”

Ezek a figyelmeztetések nem figyelemre méltóak. Az ENSZ és a Vöröskereszt Nemzetközi Bizottsága 2023-ban közös felhívást tett közzé a témában, amelyben felszólította az államokat, hogy 2026-ig tárgyaljanak egy jogilag kötelező érvényű dokumentumról. A civil társadalom szintjén a Stop KillerRobots koalíció 2012 októberében alakult, és 2013-ban indították el nyilvánosan. A csoport szerint a kampány egy olyan világ előmozdítására összpontosít, ahol „tiszteletben tartjuk egymás veleszületett méltóságát”; felelősséget vállalunk a technológiával kapcsolatos döntésekért és azért, hogy az hogyan változtatja meg az emberek közötti kapcsolatokat; olyan technológiát fejlesztünk ki, amely előmozdítja a békét, az igazságosságot, az emberi jogokat, az egyenlőséget és a törvények tiszteletben tartását; és ahol az emberek aktivistaként dolgoznak „egy társadalom felépítésén és az egyenlőtlenségek és az elnyomó rendszerek leküzdésén”. Ez meglehetősen könnyelmű dolog, de központi célja az olyan „társadalmi normák” fejlesztése és megerősítése, „amelyek elutasítják a géppel [sic] történő autonóm gyilkolást a hadviselésben, a rendfenntartásban, a határellenőrzésben és más körülmények között”. Az ellenőrzés, a felelősség és az elszámoltathatóság alapvető jellemzők.

Ez a kampány az utóbbi időben nem hozott érdemi előrelépést. A katonai vezetés hite a gyilkos gépekben továbbra is megingathatatlan, az emberi döntéshozatal feletti kontroll gondolata egyre inkább elhalványul a kritikátlan emberi adatfogyasztó javára. Ez a hit gyakorlatilag kiszorította a lelkiismeretes, hitetlen döntéshozót a célpontok felkutatása és eltalálása terén. A gázai háború első heteiben, 2023. október 7-én kezdődően az Izraeli Védelmi Erők (IDF) nagylelkűen használta a Lavender nevű mesterséges intelligencia alapú döntéstámogató rendszert (DSS), hogy 37 000 egyedi célpontot generáljon egy nyers, a fegyveres csoportokkal való kapcsolattól függő jelentőségű skálán. A harcban használt egyéb rendszerek között szerepelt a The Gospel (Habsora), amely célpontlistákat generál, és a Where'sDaddy? egy platform, amely a csapás előtt nyomon követi az egyének helyzetét. Az IDF magatartása korántsem az ember és a gép zökkenőmentes egyesülését sugallja; sokkal inkább téves optimizmusról és restségről tanúskodik, amikor egy ölőrendszer előnyeire hagyatkozik. Az ebből eredő nagyarányú mészárlást összeszámolták.

Az Anthropic mesterséges intelligenciával foglalkozó cég és az Egyesült Államok Védelmi Minisztériuma közötti nézeteltérés az autonóm rendszerek háborús körülmények között betöltött veszélyes korlátairól egy másik jó példa erre. A két szereplő közötti vita a thanatotikus - halálösztön-jellegű - gazdaságban elég komoly volt ahhoz, hogy a Pentagon összehangolt kísérletet tegyen a cég „ellátási lánc kockázataként” való feketelistára helyezésére. (Ezt augusztus 27-én Kalifornia északi kerületének amerikai kerületi bírósága az első alkotmánykiegészítést sértő „jogellenes megtorlásnak” és az ötödik alkotmánykiegészítés által védett jogszerű eljárás megtagadásának találta.) Ez a vita azonban nem feltétlenül áldás azoknak, akik a gyilkos robotok vagy a teljesen autonóm katonai platformok korlátozását támogatják.

Egy 2026. februári nyilatkozatban Dario Amodei, a cég társalapítója elismerte, hogy a Pentagon, „nem pedig magáncégek” hoznak katonai döntéseket. „Soha nem emeltünk kifogást konkrét katonai műveletek ellen, és nem is próbáltuk eseti jelleggel korlátozni a technológiánkat.” Amodei azonban politikailag érző lénynek tartja magát, ami felveti a kérdést, hogy miért ő áll az élvonalban az emberiség döntéshozatalban betöltött szerepének megfosztásában, nevezetesen a nagy nyelvi modellek (LLM) ösztönzésével, amelyek eltávolítják a kezdeményezőkészséget, az ipart és a találékonyságot. Állítása szerint a mesterséges intelligencia „alááshatja” a demokráciát, egy olyan célt, amelyet látszólag ő maga is követ. Személyes aggodalomra adott okot a cég technológiájának tömeges belföldi megfigyelésre való felhasználása, amely „komoly, újszerű kockázatokat jelentett alapvető szabadságjogainkra nézve”, valamint a teljesen autonóm fegyverek használata, „amelyek teljesen kivonják az embereket a folyamatból, és automatizálják a célpontok kiválasztását és megtámadását”. De még itt is ridegek a megjegyzései, tekintve, hogy a teljesen autonóm rendszerek „kritikusnak bizonyulhatnak nemzetünk védelme szempontjából”. Úgy tűnik, az aggodalom a rendelkezésre álló rendszerek megbízhatóságában és abban rejlett, hogy azok ártanak-e az amerikai személyzetnek. „Tudatosan nem fogunk olyan terméket szállítani, amely veszélyezteti Amerika harcosait és civiljeit.”

Két nappal Amodei nyilatkozata után megkezdődött az Egyesült Államok és Izrael megelőző, közös, illegális támadása Irán ellen, aminek eredményeként újabb falánk módon alkalmazták a mesterséges intelligenciát, a DSS-t. A célpontokat az amerikai hadsereg a Palantir Maven Smart System-jével gyorsasággal generálta, amely integrálva van az Anthropic Claude mesterséges intelligenciájával a megfigyelési adatok értékeléséhez, célpontok listájának generálásához és rangsorolásához. „Az Iránban eltalált célpontok közül sok civil volt, köztük egy iskola, valamint egészségügyi és bentlakásos intézmények, ami jól illusztrálja a gyors célpontgenerálás kockázatait.” A kutatócégekre mindig lehet támaszkodni, hogy egyenlő mértékben használják a visszafogott kifejezéseket és az eufemizmust.

Gisel újságíróknak azt nyilatkozta, hogy a jelenlegi állás szerint nincs „megerősített bizonyíték arra, hogy autonóm fegyvereket használtak volna közvetlenül emberek elleni támadásra a csatatéren”. Ez a különbségtétel alig különbözik, tekintve az Izraeli Védelmi Erők, a Pentagon és más hadseregek technológiai fetisisztáinak tisztelettudó hozzáállását. Ha a rendszer ezt mondja, akkor igaza van. Fennáll annak a veszélye is, hogy ezek a korlátozásra és egy jogi ellenőrzési rendszerre irányuló felhívások csak hizlalják az aggodalom maradványait hatástalanul. A Bizonyos Konvencionális Fegyverekről Szóló Egyezmény (CCW) novemberben megrendezésre kerülő, hetedik Felülvizsgálati Konferenciája előtt az emberi faj aligha fog olyan utat választani, amely nem sodorja előbb veszélybe önmagát, mielőtt visszavonhatatlanul megpróbálná visszazárni a palackból kiszabadult szellemet. Az atomfegyverek megalkotásától kezdve a klímaváltozás fenyegetéséig a legrosszabb forgatókönyv mindig megelőzi a beharangozott csodaszereket. Az a csodaszer pedig, amikor végre megjelenik, valószínűleg nem lesz több puszta tüneti kezelésnél.

Iratkozzon fel a SavageMinds csatornára

Julian Vigo által

Oknyomozó riportok és társadalmi kommentárok a közkultúráról, a művészetekről, a tudományról és a politikáról.

Forrás: https://substack.com/home/post/p-213509677 2026. augusztus 31.

Fordította: Naetar-Bakcsi Ildikó