2021-ben angolul megjelent "Brigadier General YS" álnéven a "The human-machine team: how to create a synergy between human and artificial intelligence that will revolutionise our world" (Az ember-gép csapat: hogyan hozzuk létre az emberi és mesterséges intelligencia közötti szinergiát, amely forradalmasítja a világunkat) című könyve. Ebben a szerző - akiről megerősítettük, hogy az izraeli elit 8200-as hírszerző egység jelenlegi parancsnoka - egy olyan speciális gép megtervezése mellett érvel, amely képes hatalmas mennyiségű adat gyors feldolgozására, hogy a háború hevében potenciális "célpontok" ezreit generálja katonai csapásokhoz. Egy ilyen technológia - írja - megoldaná azt, amit ő úgy jellemez, mint "az új célpontok felkutatásának és a célpontok jóváhagyására vonatkozó döntések meghozatalának emberi szűk keresztmetszetét".

Kiderült, hogy egy ilyen gép valóban létezik. A +972 Magazin és a Local Call új vizsgálata szerint az izraeli hadsereg kifejlesztett egy mesterséges intelligencián alapuló programot, a "Lavender"-t, amelyet itt mutatnak be először. Hat izraeli hírszerző tiszt szerint - akik mindannyian a hadseregben szolgáltak a jelenlegi gázai övezeti háború idején, és közvetlenül részt vettek a mesterséges intelligencia felhasználásában a merényletcélpontok generálásában - a Lavander központi szerepet játszott a palesztinok példátlan bombázásában, különösen a háború elején. Sőt, a források szerint a katonai műveletekre gyakorolt befolyása olyan mértékű volt, hogy lényegében úgy kezelték az AI-gép eredményeit, "mintha emberi döntés lett volna".

Hivatalosan a Lavender-rendszer célja, hogy a Hamász és a Palesztin Iszlám Dzsihád (PIJ) katonai ágainak minden feltételezett tagját, beleértve az alacsony rangúakat is, bombázás potenciális célpontjaként jelölje meg. A források a +972-nek és a Local Callnak elmondták, hogy a háború első heteiben a hadsereg szinte teljes mértékben a Lavenderre támaszkodott, amely akár 37 000 feltételezett militánsnak tartott palesztint - és az otthonaikat is - figyelt a lehetséges légicsapások szempontjából.

A háború kezdetén a hadsereg nagyrészt megengedte a tiszteknek, hogy elfogadják Lavender veszteséglistáit, anélkül, hogy kötelességük lett volna megvizsgálni, hogy a gép miért döntött így, vagy hogy megvizsgálják a nyers hírszerzési adatokat, amelyeken ezek a listák alapultak. Egy forrás szerint az emberi személyzet gyakran csak "pufferként" működött a gép döntéseihez, hozzátéve, hogy általában csak "20 másodpercet" töltöttek személyesen minden egyes célponton, mielőtt engedélyezték a bombázást - csak azért, hogy megbizonyosodjanak arról, hogy a Lavender által megjelölt célpont valóban ember volt. Ez annak ellenére van így, hogy a rendszer az esetek mintegy 10%-ában "hibázik", és időnként olyan személyeket jelöl meg, akiknek nincs vagy alig van kapcsolatuk militáns csoportokkal.

Ezen túlmenően az izraeli hadsereg rendszeresen támadta meg a célszemélyeket, amikor azok otthonukban tartózkodtak - általában éjszaka, amikor az összes családtagjuk jelen volt -, nem pedig katonai tevékenység közben. A források szerint ennek az volt az oka, hogy a hírszerzés szempontjából könnyebb volt megtalálni az egyéneket a magánlakásukban. További automatizált rendszereket, köztük a "Hol van apuci?" nevű, szintén itt először nyilvánosságra hozott rendszert kifejezetten arra használták, hogy a célszemélyeket felkutassák és bombázzák, amikor azok a családjuk otthonába léptek.

Palesztinok visznek sérülteket és próbálják eloltani a tüzet, miután izraeli légicsapás ért egy házat a Gázai övezet déli részén, Rafah városában, a Shaboura menekülttáborban, 2023. november 17-én. (Abed Rahim Khatib/Flash90)

A források tanúsága szerint az eredmény az volt, hogy palesztinok ezreit - többségükben nőket, gyerekeket vagy a harcokban részt nem vevő embereket - irtották ki az izraeli légicsapások, különösen a háború első heteiben, az AI. program döntései miatt.

"Nem akartuk csak akkor megölni a Hamász tagjait, amikor azok egy katonai épületben tartózkodtak vagy katonai tevékenységet folytattak" - mondta A., egy hírszerző tiszt a +972 és a Local Call című lapnak. "Éppen ellenkezőleg, az IDF habozás nélkül bombázta őket az otthonaikban, első lehetőségként. Egy családi házat sokkal könnyebb lebombázni. A rendszert úgy tervezték, hogy ilyen helyzetekben keressék őket.

A Lavender gépezet csatlakozik egy másik mesterséges intelligencia rendszerhez, a "The Gospel"-hez, amelyről a +972 és a Local Call 2023 novemberében egy korábbi vizsgálat során, valamint az izraeli hadsereg saját kiadványaiban is megjelentek információk. A két rendszer közötti alapvető különbség a célpont meghatározásában rejlik: míg a "Gospel" azokat az épületeket és építményeket jelöli, amelyekből a hadsereg szerint a fegyveresek tevékenykednek, addig a Lavender az embereket jelöli - és az áldozatok listájára teszi őket.

Ezen túlmenően a források szerint, amikor a feltételezett Lavender-jelölt ifjabb fegyveresek elleni támadásra került sor, a hadsereg inkább csak irányítatlan rakétákat használt, amelyeket általában "buta" bombáknak neveznek (szemben az "intelligens" precíziós bombákkal), amelyek képesek egész épületeket lerombolni a bennük tartózkodók felett és jelentős áldozatokat okozni. "Nem akarunk drága bombákat pazarolni jelentéktelen emberekre - ez sok pénzbe kerül az országnak, és hiány van [ezekből a bombákból]" - mondta C., az egyik hírszerző tiszt. Egy másik forrás szerint személyesen engedélyezték a Lavandera való megjelöléssel gyanúsított fiatal ügynökök "több száz" magánlakásának lebombázását, és a támadások közül sok esetben civilek és egész családok haltak meg "járulékos veszteségként".

Két forrás szerint a hadsereg példátlan módon úgy döntött a háború első heteiben, hogy minden egyes fiatal Hamász-ügynök, akit Lavender megjelölt, után akár 15-20 civilt is megölhet; korábban a hadsereg nem engedett meg semmilyen "járulékos kárt", amikor alacsony rangú fegyvereseket ölt meg. A források hozzátették, hogy azokban az esetekben, amikor a célpont egy zászlóalj- vagy dandárparancsnoki rangú magas rangú Hamász-tisztviselő volt, a hadsereg több alkalommal engedélyezte, hogy egyetlen parancsnok meggyilkolása során több mint 100 civilt öljenek meg.

Palesztinok várakoznak a Gázai övezet déli részén fekvő Rafahban, az Al-Najjar kórházban, hogy átvegyék az izraeli légicsapásban megölt hozzátartozóik holttestét 2023. október 24-én. (Abed Rahim Khatib/Flash90)

Az alábbi vizsgálat az izraeli hadsereg által a gázai háború első heteiben a célpontok nagymértékben automatizált előállításának hat időrendi szakasza szerint szerveződik. Először magát a Lavender gépet ismertetjük, amely a mesterséges intelligenciának köszönhetően palesztinok tízezreit jelölte meg. Másodszor, felfedjük a "Hol van apuci?" rendszert, amely nyomon követte ezeket a célpontokat, és jelezte a hadseregnek, amikor azok családi házaikba léptek. Harmadszor, leírjuk, hogyan választották ki a "hülye" bombákat, hogy eltalálják ezeket az otthonokat.

Negyedszer, elmagyarázzuk, hogyan lazította a hadsereg a célpontok bombázásakor megölhető civilek megengedett számát. Ötödször, megjegyezzük, hogy az automatizált szoftver mennyire pontatlanul számította ki az egyes otthonokban tartózkodó nem harcoló személyek számát. Hatodszor pedig bemutatjuk, hogy számos alkalommal, amikor egy házat találat ért, általában éjszaka, az egyes célpontok néha egyáltalán nem is voltak benne, mert a hadsereg nem ellenőrizte az információkat valós időben.

1. LÉPÉS: CÉLOK LÉTREHOZÁSA

"Amint automatikus üzemmódra váltasz, a célpontgenerálás megőrül"

Az izraeli hadseregben az "emberi célpont" kifejezéssel egy magas rangú katonát szoktak illetni, akit a hadsereg nemzetközi jogi osztályának szabályai szerint a magánlakásában akkor is meg lehet ölni, ha a közelben civilek vannak. Hírszerzési források a +972-nek és a Local Callnak elmondták, hogy Izrael korábbi háborúiban, mivel ez egy "különösen brutális" módja volt a gyilkosságnak - gyakran egy egész családot öltek meg a célpont mellett -, ezeket az emberi célpontokat nagyon gondosan megjelölték, és csak a magas rangú katonai parancsnokokat jelölték meg. bombázták otthonukban, hogy tiszteletben tartsák a nemzetközi jog szerinti arányosság elvét.

Október 7-e után azonban - amikor a Hamász vezette fegyveresek halálos támadást intéztek dél-izraeli közösségek ellen, mintegy 1200 embert megölve és 240-et elrabolva - a hadsereg a források szerint gyökeresen más megközelítést alkalmazott. A "Vaskardok hadművelet" keretében a hadsereg úgy döntött, hogy a Hamász katonai szárnyának minden tagját emberi célpontként jelöli meg, függetlenül rangtól vagy katonai jelentőségtől. És ez mindent megváltoztatott.

Az új politika technikai problémát is jelentett az izraeli hírszerző szolgálatok számára. A korábbi háborúkban ahhoz, hogy egy tiszt engedélyezze egyetlen emberi célpont elleni merényletet, egy bonyolult és hosszadalmas "gyanúsítási" folyamaton kellett keresztülmennie: keresztellenőrzéssel bizonyítani, hogy az illető valóban a Hamász katonai szárnyának magas rangú tisztviselője, kideríteni, hol lakik, milyen elérhetőségei vannak, és végül valós időben tudni, mikor tartózkodik otthon. Amikor a célpontok listáján csak néhány tucat magas rangú ügynök szerepelt, a hírszerző személyzet egyénileg tudta vállalni a gyanúsításukhoz és felkutatásukhoz szükséges munkát.

Palesztinok próbálják kimenteni a túlélőket és kihúzni a holttesteket a romok alól, miután izraeli légicsapások értek épületeket az Al-Aksza Mártírok Kórháza közelében, a Gázai övezet központjában lévő Deir al-Balahban 2023. október 22-én. (Mohammed Zaanoun/Activestills)

Miután azonban a lista több tízezer alacsonyabb rangú tisztre bővült, az izraeli hadsereg rájött, hogy az automatizált szoftverekre és a mesterséges intelligenciára kell támaszkodnia. A források szerint ennek az lett az eredménye, hogy az emberi személyzet szerepe a palesztinok katonai ügynökökként való gyanúsításában háttérbe szorult, és az AI végezte el helyettük a munka nagy részét. A +972-nek és a Local Callnak nyilatkozó négy forrás szerint a Lavender - amelyet a jelenlegi háborúban emberi célpontok létrehozására fejlesztettek ki - mintegy 37 000 palesztint jelölt meg "Hamász-militánsokként", többnyire ifjabbakat, akiket meggyilkolásra szántak (az IDF szóvivője a +972-nek és a Local Callnak adott nyilatkozatában tagadta egy ilyen gyilkos lista létezését).

"Nem tudtuk, hogy kik a fiatalabb ügynökök, mert Izrael nem követte őket rendszeresen [a háború előtt]" - magyarázta B. főtiszt a +972 és a Local Call című lapnak, kiemelve a különleges célgép kifejlesztésének okát. a jelenlegi háborúra. "Azt akarták lehetővé tenni, hogy automatikusan támadhassuk [a fiatalabb ügynököket]. Ez a Szent Grál. Ha egyszer automatikussá válsz, a célpontgenerálás megőrül.

A források szerint a korábban csak segédeszközként használt Lavender veszteséglisták automatikus átvételére a háború kezdete után körülbelül két héttel adták meg az engedélyt, miután a hírszerző szolgálatok "kézzel" ellenőrizték a több száz célpontból álló véletlenszerű minta pontosságát. amit a mesterséges intelligencia rendszer kiválasztott. Amikor ez a minta kimutatta, hogy a Lavender eredményei 90 százalékos pontosságot értek el az egyén Hamászhoz való tartozásának azonosításában, a hadsereg engedélyezte a rendszer tömeges használatát. Ettől kezdve a források szerint, ha a Lavender úgy döntött, hogy egy személy a Hamász aktivistája, akkor lényegében azt mondták nekik, hogy ezt parancsként kezeljék, és nem kötelesek függetlenül ellenőrizni, hogy a gép miért döntött így, vagy megvizsgálni a nyers hírszerzési adatokat, amelyeken a döntés alapult.

"Reggel 5 órakor [a légierő] jött, hogy lebombázza az összes általunk megjelölt házat" - magyarázta B.. "Több ezer embert likvidáltunk. Nem egyenként vizsgáltuk meg őket, mindent automatizált rendszerbe helyeztünk, és amint valamelyik [megjelölt személy] otthon volt, azonnal célponttá vált. Lebombáztuk őt és a házát.

"Nagyon meglepő volt számomra, hogy arra kértek minket, hogy bombázzunk le egy házat, hogy megöljünk egy katonát a helyszínen, akinek a harcokban olyan alacsony a jelentősége" - mondta egy forrás az AI használatáról, hogy kiszúrják a gyanúsított alacsony rangú harcosokat. "Ezeket a célpontokat 'szemét célpontoknak' neveztem el. Mégis etikusabbnak találtam őket, mint azokat a célpontokat, amelyeket csak 'elrettentés' céljából bombáztunk - felhőkarcolókat, amelyeket kiürítettek és ledöntöttek, csak azért, hogy pusztítást okozzanak".

A háború kezdetén a korlátozások enyhítésének halálos következményei elképesztőek voltak. A gázai palesztin egészségügyi minisztérium adatai szerint, amelyekre az izraeli hadsereg a háború kezdete óta szinte kizárólagosan támaszkodik, Izrael a háború első hat hetében mintegy 15 000 palesztint ölt meg - az eddig megöltek számának csaknem felét - addig, amíg november 24-én egyhetes tűzszünetről állapodtak meg.

Hatalmas pusztítás látható Gáza város népszerű Al-Rimal negyedében, miután az izraeli erők légicsapásai célba vették azt, 2023. október 10-én. (Mohammed Zaanoun/Activestills)

"Minél több információ és változatosság, annál jobb"

A Lavender szoftver elemzi a Gázai övezet 2,3 millió lakosának többségéről egy tömeges megfigyelési rendszer segítségével összegyűjtött információkat, majd felméri és rangsorolja annak valószínűségét, hogy az egyes személyek a Hamász vagy a JIP katonai szárnyában tevékenykednek. A források szerint a gép szinte minden gázai személyhez 1-től 100-ig terjedő pontszámot rendel, ami annak valószínűségét fejezi ki, hogy az illető militáns.

A Lavender megtanulja azonosítani az ismert Hamász- és JIP-ügynökök jellemzőit, akiknek az információit képzési adatok formájában betáplálták a gépbe, majd ugyanezeket a jellemzőket - más néven "vonásokat" - megtalálja az általános lakosság körében - magyarázták a források. Egy olyan személy, aki több különböző terhelő tulajdonsággal rendelkezik, magas pontszámot ér el, és így automatikusan potenciális merénylet célpontjává válik.

A cikk elején hivatkozott "Az ember-gép csapat" című könyvben a 8200-as egység jelenlegi parancsnoka egy ilyen rendszer mellett érvel, anélkül, hogy név szerint említené Lavendert (magát a parancsnokot sem nevezik meg, de a 8200-as egység öt forrása megerősítette, hogy a parancsnok a szerző, amint arról a Haaretz is beszámol). Az emberi személyzetet "szűk keresztmetszetként" jellemezve, amely korlátozza a hadsereg kapacitását egy katonai művelet során, a parancsnok így siránkozik: "Mi [az emberek] csak annyi információt tudunk kezelni, amennyit kell. Nem számít, hány embert bízunk meg a háború alatt a célpontok előállításával: akkor sem tudunk elég célpontot előállítani egy nap alatt.

A megoldás erre a problémára szerinte a mesterséges intelligencia. A könyv rövid útmutatót kínál egy, a Lavenderhez hasonló leírású, mesterséges intelligencián és gépi tanulási algoritmusokon alapuló "célgép" építéséhez. Az útmutató számos példát tartalmaz a "több száz és ezer" olyan jellemzőre, amelyek növelhetik az egyén pontszámát, például ha egy ismert aktivistával együtt csatlakozik egy Whatsapp-csoporthoz, ha néhány havonta váltogatja a mobiltelefonját és gyakran változtatja a címét.

"Minél több információ és minél változatosabb, annál jobb" - írja a parancsnok. "Vizuális információk, mobiltelefonos információk, közösségi hálózati kapcsolatok, harctéri információk, telefonos kapcsolatok, fényképek". Bár eleinte az emberek választják ki ezeket a funkciókat, folytatja a parancsnok, idővel a gép magától is azonosítani fogja a funkciókat. Ez szerinte lehetővé teheti a hadsereg számára, hogy "több tízezer célpontot" hozzon létre, miközben a tényleges döntés, hogy megtámadják-e őket vagy sem, emberi döntés marad.

A könyv nem az egyetlen alkalom, amikor egy magas rangú izraeli parancsnok utalt a Lavenderhez hasonló emberi célgépek létezésére. A +972 és a Local Call megszerezte a felvételeket egy magánelőadásról, amelyet a Unit 8200 titkos adattudományi és mesterséges intelligencia központjának parancsnoka, "Col. Yoav" című előadásáról, amelyet a Tel Aviv-i Egyetem 2023-as mesterséges intelligencia hetén tartott, és amelyről akkoriban az izraeli média is beszámolt.

Az előadásban a parancsnok az izraeli hadsereg által használt kifinomult új célgépről beszél, amely a "veszélyes embereket" az alapján ismeri fel, hogy azok hasonlítanak az ismert militánsok meglévő listáihoz, amelyeken kiképzést kapott. "A rendszernek köszönhetően sikerült azonosítanunk a Hamász rakétacsapatok parancsnokait" - mondta ezredes. Yoav", mondta a konferencián, utalva a 2021 május 2021-es gázai izraeli katonai műveletre, amikor a gépet először használták.

A konferencián tartott előadás diái, amelyekhez a +972 és a Local Call is hozzájutott, illusztrációkat tartalmaznak arról, hogyan működik a gép: adatokat kap a Hamász már létező ügynökeiről, megtanulja észrevenni a jellemzőiket, majd a többi palesztint a hasonlóságuk alapján értékeli a militánsokhoz.

"Rangsoroljuk az eredményeket, és meghatározzuk a küszöbértéket [amelynél megtámadunk egy célpontot]" - mondta Col. Yoav" - mondta a konferencián, hangsúlyozva, hogy "a nap végén hús-vér emberek hozzák meg a döntéseket. A védelem területén etikai szempontból nagy jelentőséget tulajdonítunk ennek. Ezek az eszközök arra szolgálnak, hogy segítsenek [a hírszerzőknek] lebontani a gátjaikat".

A gyakorlatban azonban a Lavendert az elmúlt hónapokban használó források szerint az emberi cselekvést és a pontosságot felváltotta a tömeges célpontok létrehozása és a halálos erejű támadás.

"Nem volt "zéró hiba" politika"

B, egy magas rangú tiszt, aki a Lavendert használta, megismételte a +972-nek és a Local Callnak, hogy a mai háborúban a tiszteknek nem kellett függetlenül felülvizsgálniuk az AI rendszer értékeléseit, hogy időt takarítsanak meg és lehetővé tegyék az emberi célpontok korlátlan tömeges előállítását...

"Minden statisztika volt, minden rendben volt, nagyon száraz volt" - mondta B.. Megjegyezte, hogy ezt a felügyelet hiányát annak ellenére engedélyezték, hogy a belső ellenőrzések azt mutatták, hogy Lavender számításait csak az esetek 90 százalékában tartották pontosnak; más szóval, előre tudták, hogy a merényletre szánt emberi célpontok 10 százaléka egyáltalán nem a Hamász katonai szárnyának tagja volt.

A források például kifejtették, hogy a Lavender gép néha tévesen azonosított olyan személyeket, akiknek kommunikációs mintája hasonlított az ismert Hamász- vagy JIP-ügynökökéhez - köztük rendőröket és polgári védelmi tiszteket, militánsok rokonait, olyan lakosokat, akiknek a neve és beceneve megegyezett egy Hamász-ügynökével, valamint olyan gázaiakat, akik olyan eszközt használtak, amely egy Hamász-ügynöké volt.

"Milyen közel kell állnia egy személynek a Hamászhoz ahhoz, hogy [egy mesterséges intelligenciagép úgy tekintse], hogy kapcsolatban áll a szervezettel?" - mondta az egyik forrás, aki bírálta Lavender pontatlanságát. "Ez egy homályos határ. Az, aki nem kap fizetést a Hamásztól, de mindenféle dolgokban segíti a Hamászt, a Hamász tagja? Valaki, aki a múltban a Hamász tagja volt, de ma már nem az, a Hamász tagja? Mindegyik ilyen jellemző - olyan jellemzők, amelyeket egy gép gyanúsnak jelezne - pontatlan.

Palesztinok egy izraeli légicsapás helyszínén Rafahban, a Gázai övezet déli részén, 2024. február 24-én. (Abed Rahim Khatib/Flash90)

Hasonló problémák merülnek fel a célgépek azon képességével kapcsolatban, hogy felmérjék a merényletre szánt személy által használt telefont. "Háború idején a palesztinok állandóan telefonokat cserélnek" - magyarázta a forrás. "Az emberek elveszítik a kapcsolatot a családjukkal, odaadják a telefonjukat egy barátjuknak vagy a feleségüknek, vagy akár el is veszítik azt. Nem lehet 100 százalékosan megbízni abban az automatikus mechanizmusban, amely meghatározza, hogy melyik [telefon] száma kihez tartozik"."

A források szerint a hadsereg tisztában volt azzal, hogy a minimális emberi felügyelet nem fogja feltárni ezeket a kiskapukat. "Nem volt 'zéró hiba' politika. A hibákat statisztikailag kezelték" - mondta egy forrás, aki Lavendert használt. "A projekt terjedelme és nagyságrendje miatt a protokoll a következő volt: még ha nem is biztos, hogy a gép megfelelően működik, akkor is tudod, hogy statisztikailag minden rendben van. Szóval hajrá!"

"Ez bizonyítottan működik" - mondta B., a vezető forrás. "Van valami a statisztikai megközelítésben, ami egy bizonyos normát és szabványt kényszerít rád. Ebben a műveletben logikátlanul sok [robbantás] történt. Emlékeim szerint példa nélküli. És sokkal jobban bízom egy statisztikai mechanizmusban, mint egy katonában, aki két napja elvesztette egy barátját. Mindenki ott, beleértve engem is, elvesztett embereket október 7-én. A gépezet hidegen tette ezt. És ez megkönnyítette a dolgokat.

Egy másik hírszerzési forrás, aki megvédte a Lavender által generált listák használatát a megölt palesztin gyanúsítottakról, azzal érvelt, hogy érdemes volt egy hírszerző tiszt idejét befektetni csak azért, hogy ellenőrizze az információkat, ha a célpont egy magas rangú Hamász-parancsnok volt. "De ha egy fiatalabb militánsról van szó, akkor nem akarunk sem munkaerőt, sem időt fektetni ebbe" - mondta. "Háborús időkben nincs időnk minden célpontot inkriminálni. Ezért hajlandó vagy vállalni a mesterséges intelligencia használatával járó hibahatárt, a járulékos károk és a civil halálesetek kockázatát, valamint a tévedésből elkövetett támadás kockázatát, és együtt élni vele".

B. szerint az automatizálás oka az volt, hogy folyamatosan újabb merényletcélpontokat akartak létrehozni. "Egy olyan napon, amikor nem voltak célpontok [amelyek jellemzői elegendőek voltak a csapás engedélyezéséhez], alacsonyabb küszöbértékkel támadtunk. Állandó nyomás alatt voltunk: "Hozzatok nekünk több célpontot". Tényleg kiabáltak velünk. Végül nagyon gyorsan megöltük a célpontjainkat.

Elmagyarázta, hogy a Lavender pontozási küszöbértékének csökkentésével több embert jelölnek ki célpontként a csapásokhoz. "A rendszer a csúcson 37 000 embert tudott potenciális emberi célpontként generálni" - mondta B. "De a számok állandóan változtak, mert ez attól függött, hogy mi a Hamász-ügynök definíciója. Voltak időszakok, amikor a Hamász-ügynököt tágabban definiálták, és akkor a gép elkezdett nekünk mindenféle polgári védelmi személyzetet, rendőröket hozni, akikre kár lenne bombákat pazarolni. Ők segítik a Hamász-kormányt, de nem igazán veszélyeztetik a katonákat".

Palesztinok egy izraeli légicsapás által lerombolt épületnél a Gázai övezet déli részén fekvő Rafahban 2024. március 18-án. (Abed Rahim Khatib/Flash90)

Egy forrás, aki a Lavendert kiképző katonai adattudományi csoporttal dolgozott, elmondta, hogy a Hamász által irányított Belbiztonsági Minisztérium alkalmazottaitól gyűjtött adatokat - akiket nem tekintenek harcosoknak - szintén betáplálták a gépbe. "Zavart, hogy amikor a Lavender kiképzését végezték, a "Hamász-ügynök" kifejezést lazán használták, és a kiképzési adathalmazba olyan embereket is bevontak, akik a polgári védelem dolgozói voltak" - mondta.

A forrás hozzátette, hogy bár úgy gondolták, hogy ezek az emberek megérdemlik a gyilkosságot, a rendszer kommunikációs profiljuk alapján történő kiképzése miatt a Lavender nagyobb valószínűséggel választott ki tévedésből civileket, amikor az algoritmusait az általános lakosságra alkalmazták. "Mivel ez egy automatikus rendszer, amelyet nem ember kezel kézzel, ennek a döntésnek drámai a jelentősége: azt jelenti, hogy sok civil kommunikációs profillal rendelkező embert von be potenciális célpontként".

Forrás:https://www.972mag.com/lavender-ai-israeli-army-gaza/

(II. rész holnap)