A sajtójelentések szerint az amerikai hadsereg Maven Smart System rendszere, amely olyan AI-eszközöket is magában foglal, mint az Anthropic Claude modellje, részt vett az Irán elleni katonai műveletekben.

Irán déli városában, Minabban, ahol a hőhullámok remegve szállnak fel a földről, és a birodalmi valóság minden kikötőben és katonai létesítményben jelen van, egy rakéta csapódott egy iskolába 2026. február 28-án. A csapás 156 embert, köztük kiemelten 120 iskolás gyermeket ölt meg, amit az iráni kormány azonnal „nyílt bűnténynek” nevezett. Az Egyesült Nemzetek Szervezete „a humanitárius jog súlyos megsértésének” minősítette a támadást. A meggyilkolt gyermekek nevei nem keringenek a globális hatalmi központokban ugyanolyan erővel, mint a tábornokok, fegyverrendszerek és technológiai platformok nevei. A halott irániak többnyire névtelenek maradnak azok számára, akik a mesterséges intelligencia (MI) jövőjéről vitáznak, amelyet – mint kiderült – az Egyesült Államok ebben a csapásban használt.

A gyermekek meggyilkolása ablakot nyitott korunk egyik központi kérdésére: ki viseli a felelősséget, amikor egy gép bekerül az erőszak láncolatába? Az, hogy milyen szerepet játszott az MI, továbbra is tisztázatlan. A sajtójelentések szerint az amerikai hadsereg Maven Smart System rendszere, amely olyan MI-eszközöket is magában foglal, mint az Anthropic Claude modellje, részt vett az Irán elleni katonai műveletekben. A nyomozók továbbra is vizsgálják, hogy az MI-asszisztált rendszerek bármilyen módon hozzájárultak-e a célpontkiválasztási folyamathoz. A rendelkezésre álló bizonyítékok még hiányosak.

Figyelemre méltó, hogy az MI-ipar vezetői már nem állnak a háborús gépezeteken kívül. Bennük vannak. Amikor a csapásról kérdezték, Dario Amodei, az Anthropic vezérigazgatója azt mondta, „nem tudja pontosan„, hogyan használták a Claude-ot ebben a csapásban, amelyet „hibáknak” nevezett, amelyek „tényleg, tényleg szörnyűek”. Amodei azonban megismételte, hogy az iskola elleni támadás „olyan felhasználási eset volt, amely nem is sérti a vörös vonalainkat”. Ennek az volt az oka, hogy végső soron egy emberi harcos hozta meg a végső döntést az iskola megtámadásáról. Amodei válasza figyelmes elemzést érdemel.

Évtizedek óta a technológiai hatalom építészei olyan nyelvet fejlesztettek ki, amely olyan széles körben osztja szét a felelősséget, hogy az feloldódik. A mérnök megépíti az eszközt, a vállalkozó integrálja a rendszert, a katonai elemző áttekinti az eredményeket, a tiszt jóváhagyja a csapást, a politikus pedig jóváhagyja a háborút. Az eredmény egy olyan láncolat, amelyben mindenki részt vesz, és senki sem vonható felelősségre. A „ember a körfolyamatban” kifejezés ebbe a hagyományba tartozik. Természetesen az emberek hozzák meg a végső döntéseket. Az emberek hozták meg a végső döntéseket a nyugati gyarmati háborúk során is, amelyek Ázsiát és Afrikát pusztították el. Az emberek hozták meg a végső döntéseket, amikor az Egyesült Államok falvakat bombázott Vietnámban. Az emberek hozták meg a végső döntéseket az Irak elleni illegális amerikai invázió során is. Az emberi aláírás jelenléte egy folyamat végén nem sokat mond el a végeredményt létrehozó hatalmi struktúráról.

Fontosabb kérdés ez: milyen szerepet játszik az MI az emberi döntéshozók számára elérhető döntési mezők kialakításában? A modern katonai rendszerek nem csupán számológépek. Megszervezik az információkat, rangsorolják a lehetőségeket, azonosítják a mintákat, javaslatokat generálnak, és irányítják a figyelmet. Befolyásolják, hogy a parancsnokok mit látnak és mit nem. Még amikor egy ember megtartja a formális hatalmat is, az észlelés architektúráját már felépíthették a gépek. Ezért nem érhet véget a vita azzal a kijelentéssel, hogy „egy ember hozta meg a végső döntést”.

A minabi bűncselekmény abban a pillanatban következik be, amikor a technológiai vállalatok egyre inkább az etikai határok őreiként mutatják be magukat. Különösen az Anthropic ápolta az óvatosság képét (ez nyilvánvaló Claude Alkotmányából is). Beszélt a biztonságról, az összehangolásról és a korlátokról. Megkülönböztette magát a technológiai alkalmazás agresszívabb vízióitól. Mégis, minden intézmény végül nem elvein keresztül lepleződik le, hanem azokon a helyzeteken keresztül, amelyekben ezeket az elveket próbára teszik. A gyermekek halála egy iskolában egy ilyen próbatételt képvisel.Ha egy vállalat nem tudja meghatározni, hogyan használták fel a technológiáját egy katonai műveletben, akkor mit jelent az ellenőrzés? Ha a vezetők nem rendelkeznek rálátással a bevetésre, akkor a biztosítékokra vonatkozó állításokat nehéz értékelni. Ha egy rendszer hozzájárul olyan katonai folyamatokhoz, amelyek következményei tömeges polgári áldozatokat is magukban foglalnak, korlátozható-e a felelősség kizárólag a végső emberi szereplőre?

Ezek nem kizárólag az Anthropic-nek szóló kérdések. Szembenéz velük a Szilícium-völgy és az amerikai nemzetbiztonsági állam közötti teljes, kialakulóban lévő szövetség is. A  történelem során a technológiai átalakulás időszakai új partnerségeket hoztak létre a tőke és a katonai hatalom között. A vasutak, a távírók, a repülés, a magfizika és a digitális hálózatok mind ezt az utat járták be. A mesterséges intelligencia most ugyanazon az úton halad. Hívei pontosságot, hatékonyságot és kevesebb hibát ígérnek. Mégis minden generáció hallott már hasonló ígéreteket.

A huszadik század tele volt azokkal az állításokkal, hogy az új technológiák tisztábbá, racionálisabbá és emberségesebbé teszik a háborút. A történelmi feljegyzések kevés támaszt nyújtanak az ilyen optimizmushoz. A technológia gyakran növeli az erőszak mértékét és sebességét, még akkor is, amikor megígéri, hogy korlátozza azt. A minabi gyermekek nem filozófiai vitaként találkoztak az MI-vel. Egy olyan katonai rendszer részeként találkoztak vele, amelynek következményei robbanó erő formájában érkeztek. Hogy a Claude jelentős, csekély vagy egyáltalán nem játszott szerepet a célpontkiválasztási folyamatban, az még megállapításra vár. A nyomozóknak fel kell tárniuk a tényeket, az újságíróknak továbbra is nehéz kérdéseket kell feltenniük, az állampolgároknak pedig átláthatóságot kell követelniük. De még mielőtt ezek a tények teljesen ismertté válnának, az esemény felfed valami fontosat jelenlegi politikai pillanatunkról. A kérdés már nem az, hogy az MI-t integrálják-e a háborúba. Ez az integráció már folyamatban van. A kérdés az, hogy a társadalmak megengedik-e, hogy az életről és halálról szóló döntéseket egyre inkább olyan rendszerek alakítsák, amelyeket még alkotóik is nehezen tudnak nyomon követni, megmagyarázni vagy ellenőrizni.

A minabi iskolaépület figyelmeztetésként áll, nem csak egyetlen csapásról, egyetlen vállalatról vagy egyetlen háborúról szólva. Arra a jövőre figyelmeztet, amelyben a technológiai hatalom gyorsabban halad előre, mint a nyilvános elszámoltathatóság. És abban a jövőben a távolság a mérnök és a csatatér között egyre kisebb lesz az MI-vel és a drónokkal, még akkor is, amikor a felelősség egyre nehezebben található meg az emberek között, akik kiküldik a gépeket, hogy öljenek helyettük.

Írta: Vijay Prashad indiai történész és újságíró. Negyven könyv szerzője, köztük a Washington Bullets, a Red Star Over the Third World, a The Darker Nations: A People’s History of the Third World, a The Poorer Nations: A Possible History of the Global South, valamint a Grieve Chelwával közösen írt How the International Monetary Fund Suffocates Africa. A Tricontinental: Institute for Social Research ügyvezető igazgatója, a Globetrotter vezető tudósítója és a LeftWord Books (Újdelhi) főszerkesztője. Szerepelt a Shadow World (2016) és a Two Meetings (2017) című filmekben is.

Ezt a cikket a Globetrotter és a No Cold War készítette