Kép: Egy magánvicc: Avery Johnson és Warren Brodey a Smithsonian Intézetben, Washington DC, 1968. Kép: Smithsonian Intézet, Washington DC
Hogyan nőtt ki az AI (mesterséges intelligencia) - projekt a hidegháborús militarizmusból, korporatizmusból és sovinizmusból
A kommunizmus kísértete ismét kísérti Amerikát, de ezúttal digitálisan. Daron Acemoglu, az MIT közgazdásza provokatív kérdést tesz fel: „Működne-e a mesterséges intelligenciával támogatott kommunizmus?”. (1) Marc Andreessen kockázati tőkés azon tűnődik, hogy „Kína [meg fogja-e] teremteni a kommunista mesterséges intelligenciát?”. Vivek Ramaswamy, a republikánus tűzharcos is beszállt a vitába, és a „pro-kommunista AI-t” a Covid-19-hez hasonlította. A pánik közepette azonban senki sem tudja, hogy mit jelent a „kommunista mesterséges intelligencia”. Vajon a kínai technológiai modellt követné, ahol a hazai platformok az amerikai vállalatokat tükrözik, de szigorú állami ellenőrzés alatt állnak? Vagy az európai jóléti állam megközelítését követné, amely a mesterséges intelligencia fejlesztését az állami intézményeken belül központosítaná?
Az utóbbi lehetőségnek van némi vonzereje, különösen annak fényében, hogy a mai mesterséges intelligencia versenyben a gyorsaságot gyakran a minőség elé helyezik. Erre példa a Google katasztrofális kísérlete a mesterséges intelligencia által vezérelt keresési eredményekkel (2), amely az egészség javítására ragasztó használatát javasolta a pizzán és a kőevést. A generatív mesterséges intelligencia államilag finanszírozott megközelítése, kurátori adathalmazokkal és szigorú felügyelettel magasabb minőségű mesterséges intelligenciát hozhatna létre, és magasabb árakat számíthatna fel a vállalati felhasználóknak, a bevételt pedig visszavezethetné a tartalomkészítőkhöz.
De vajon egy szocializált mesterséges intelligencia-gazdaság a legjobb, amit elérhetünk, vagy ez túlságosan is a Szilícium-völgynek való kapituláció? A „szocialista” vagy „kommunista” mesterséges intelligencia többet nyújthat-e az adatok, modellek és számítástechnikai infrastruktúrák tulajdonjogának és ellenőrzésének megváltoztatásánál? Van-e mélyebb, átalakító erejű potenciál ebben a furcsa elképzelésben?
Az elmúlt néhány évben két alkalommal is volt alkalmam elgondolkodni ezen a kérdésen történelmi szempontból. A 2023-as „The Santiago Boys” című podcastomban Salvador Allende látomásos Cybersyn-projektjét vizsgáltam az 1970-es évek eleji Chilében (3). A karizmatikus brit tanácsadó, Stafford Beer által vezetett, rövid életű, de ambiciózus projekt célja az volt, hogy a nemzet korlátozott számítástechnikai erőforrásait a gazdaság hatékonyabb irányítása érdekében hasznosítsa. A gyakran „szocialista internetnek” nevezett Cybersyn a chilei telexhálózatot használta fel, hogy a termelési adatokat az állami gyárakból egy Santiagóban található központi központba továbbítsa. Az igazi innováció azonban a gépi tanulás egy korai formájában rejlett, amelynek célja a munkások felhatalmazása volt. A projekt a szovjet modell buktatóit kívánta áthidalni a gyári munkások hallgatólagos tudásának felhasználásával, amely információ általában rejtve maradt a kapitalista menedzserek előtt.
Allende technikusai gyárakat látogattak meg, és a munkásokat bevonták a termelési és irányítási folyamatok feltérképezésébe. Ezt a felbecsülhetetlen értékű tudást ezután gyáranként akár tíz paramétert tartalmazó működési modellekké alakították át. Egyedi statisztikai szoftver figyelte ezeket az adatokat, és (majdnem) valós időben figyelmeztette a munkásvezetőket a felmerülő problémákra.
A Cybersyn alapvetően egy olyan hibrid rendszert képzelt el, ahol az emberi intelligenciát számítási teljesítmény erősíti fel. Ideális körülmények között a munkásmenedzserek Allende bürokratáival együtt egy külön erre a célra kialakított műveleti teremben gyűlnének össze. Ott fejlett vizualizációs eszközöket használhatnának a gazdaság megértéséhez és irányításához, függetlenül attól, hogy korábban milyen tapasztalattal rendelkeztek a menedzsment vagy a közgazdaságtan területén. Allende „szocialista mesterséges intelligencia” projektjének célja a munkások által irányított kormányzás hatékonyabbá tétele volt azáltal, hogy a termeléssel kapcsolatos - a kapitalizmusban hallgatólagos és alulhasznosított - tudást egyértelművé és alkalmazhatóvá tette, miközben a munkások - az ország új vezetői - számára lehetővé tette, hogy hozzáértéssel és magabiztosan cselekedjenek. Ez lenne az a „szocialista mesterséges intelligencia”, amit kerestünk?
Ökológiai intelligencia
Az új podcastomon, az „A Sense of Rebellion” című podcaston dolgozom, amely a „The Santiago Boys” folytatása, és tovább töprengtem e furcsa fogalom jelentésén. A sorozat középpontjában Warren Brodey áll, egy 100 éves pszichiáter, akiből kibernetikus lett, majd hippi. A hatvanas évek végén Brodey egy gazdag munkatárs támogatásával kísérleti vállalkozást alapított Bostonban Environmental EcologyLab néven.
Az ökológiai intelligencia egyedülálló formáját kutatták, amely merőben különbözött a néhány metrómegállóval arrébb lévő MIT ortodox mesterséges intelligencia projektjeitől. Brodey, aki egykor az MIT-hez tartozott, és barátságban állt annak mesterséges intelligencia úttörőivel, Marvin Minsky-vel és Seymour Papert-tel, úgy vélte, hogy rossz úton járnak. Minsky és Papert számára az intelligencia az emberi gondolkodást irányító absztrakt algoritmikus szabályokról és eljárásokról szólt. Ha ezeket megfejtjük és felsoroljuk, akkor a számítógépben megvalósítható a mesterséges intelligencia.
Vajon egy szocializált mesterséges intelligencia-gazdaság a legjobb, amit elérhetünk?A „szocialista” vagy „kommunista” mesterséges intelligencia többet nyújthat-e az adatok, modellek és számítástechnikai infrastruktúrák tulajdonjogának és ellenőrzésének eltolódásánál?
Brodey és öt munkatársa ezzel szemben azzal érvelt, hogy az intelligencia nem korlátozódik a fejünkre. Ehelyett az emberek és környezetük közötti kölcsönhatásokból ered. Laboratóriumuk neve, Environmental Ecology, ezt a meggyőződést tükrözte, miszerint a kontextus a minden; önmagukban az elvont szabályok és eljárások értelmetlenek. A laboratóriumban gyakran illusztrálták ezt egy egyszerű példával: a „Vetkőzzön le!” parancs egészen mást jelent attól függően, hogy egy orvos, egy szerető vagy egy idegen mondja egy sötét sikátorban. Az ilyen finom kontextuális különbségeket önállóan felfogni képes valódi mesterséges intelligencia elérése a laboratórium szerint nagy feladat volt. A feladathoz a számítógépeknek a fogalmak, viselkedések és kontextusok végtelen sokaságát, valamint ezek összefüggéseit kellett elsajátítaniuk. Más szóval, a mesterséges intelligencia megalkotásának projektje nem csupán az emberi mentális folyamatok modellezéséről szólt, hanem - és ez a legfontosabb - az emberi civilizáció teljes kulturális keretének megértéséről - arról a szövetről, amely a kontextust jelentéssel ruházza fel.
Ahelyett, hogy energiájukat az ilyen mesterséges intelligencia-rendszerek megépítésének lehetetlennek tűnő küldetésére pazarolták volna, a Környezeti Ökológia csapata arról álmodott, hogy megtalálják a módját annak, hogy a számítógépek és a kibernetikai technológiák segítségével az emberek gazdagítsák környezetüket, ami viszont gazdagítja az életüket. Brodey és csapata az információs technológiákat nem pusztán a dolgok elvégzésének eszközeiként, hanem a világról való gondolkodás és a világgal való kapcsolatteremtés eszközeiként tekintette.
Képzeljünk el egy érzékeny kibernetikus zuhanyzót, amely párbeszédet folytat az éghajlatváltozásról és a vízhiányról, vagy egy autót, amely vezetés közben a tömegközlekedés állapotáról szóló gondolatokat vet fel. Még egy táncos ruhát is készítettek, amely lehetővé teszi az emberek számára, hogy befolyásolják a zenét, amelyre táncolnak, kiemelve a mozgás és a hangok közötti bonyolult ökológiai kapcsolatot.
A „kognitív térképezés” segítése
Megközelítésük közvetlenül szembeszállt a befolyásos Frankfurti Iskola kritikájával, miszerint az instrumentális ész beárnyékolja a modern életet. Nem a technológia, hanem az ipari kapitalizmus volt az, amely megfosztotta világunkat ökológiai dimenziójától, és az Adorno, Horkheimer és Marcuse által elítélt eszköz-cél racionalitáshoz vezetett. A laboratórium innovatív technológiája ezt az elveszett ökológiai dimenziót kívánta helyreállítani, szenzorok és számítógépek segítségével fokozva az emberi figyelmet a látszólag hétköznapi dolgok mögött rejlő rejtett összetettségre. A laboratórium bizonyos értelemben úgy képzelte el a reagáló és interaktív technológiákat, mint a marxista irodalomkritikus, FredricJameson által híres „kognitív térképezés” elősegítőit, amelyek segítenek felfogni a gyakran érthetetlen komplex folyamatokat.
Brodey története eredetileg azért vonzott, mert különc ötletei jelentős, de szinte láthatatlan nyomot hagytak digitális kultúránkon. Rövid MIT-s szolgálati ideje alatt ő volt a mentora a fiatal Nicholas Negroponte-nak, az úttörő techno-utópistának, akinek az MIT Media Lab-ban végzett munkája alapvetően formálta a digitális forradalomról alkotott közvéleményt (4).
Brodey a kibernetikus eszközök új fajtájának, amelyet a laboratóriumban építettek, alapvető tulajdonságaként a „reagálóképességet” hirdette. Úgy képzelte el, hogy ez elősegíti az emberek és a gépek közötti párbeszédet, és elmélyíti ökológiai tudatosságunkat. Negroponte azonban átdolgozta ezt a koncepciót, és így könnyebben kezelhetővé tette, de ez óriási politikai és intellektuális költségekkel járt. Végül a hagyományos mesterséges intelligencia paradigmájához igazította, amely a gépek megértését és az emberi szükségletek kielégítését helyezi előtérbe.
A pszichiáter Brodey és az építész Negroponte közötti ellentét szembetűnő: Brodey feltételezte, hogy az emberek valóban vágynak a változásra és az örökké tartó átalakulásra, míg Negroponte a közvetlen szükségleteink megértését és kielégítését tűzte ki célul. Brodey a számítógépeket az átalakulás elősegítőinek tekintette; Negroponte és később a Szilícium-völgy a meglévő, bár ki nem mondott igényeink előrejelzésére és kielégítésére szolgáló eszközként tekintett rájuk.
Filozófiáik élesen eltértek egymástól. Negroponte a furcsa, excentrikus gépek építésére összpontosított, míg Brodey a furcsa, excentrikus emberek létrehozását helyezte előtérbe. Annak ellenére, hogy Brodey 1967-ben alapvető művet írt az „intelligens környezetekről”, ragaszkodott ahhoz, hogy ilyen környezetek nem létezhetnek emberek nélkül. Számára az „intelligencia” soha nem volt olyan tulajdonság, amelyet kizárólag a gépeknek lehetett volna tulajdonítani.
Érdekes módon a Cybersyn műveleti szobája egy Brodey-féle intelligenciakörnyezet volt, amely a gépi tanulást, a vizualizációs technikákat és az interaktivitást használta fel arra, hogy a képzetlen dolgozókat ügyes menedzserekké alakítsa. Brodey víziója azonban messze túlmutatott a menedzsment világán, mivel arra utalt, hogy a megfelelő technológiával minden környezet - az osztálytermektől a konyhákon át a fürdőszobákig - intelligensebbé válhat, miközben gazdagítja az emberek ökológiai megértését. Ha ez „szocialista mesterséges intelligencia” volt, akkor ez a leghétköznapibb, gyakorlati értelemben vett szocializmus.
Az emberi fejlődés bajnoka
Brodey egy másik okból is kiemelkedett az 1960-as évek számítógépes intézményeinek többi tagjától. Míg társai a mesterséges intelligenciát az ember kiegészítésének eszközének tekintették - a gépek átveszik a hétköznapi feladatokat a termelékenység növelése érdekében -, Brodey valami mélyebbet képzelt el. Ő az emberiség fejlesztését, a termelékenységen és a hatékonyságon kívüli más célokat követő koncepciót (5) támogatta.
A két paradigma közötti különbségtétel finom, de döntő fontosságú. A bővítés olyan, mint a GPS használata az ismeretlen terepen való navigáláshoz: segít, hogy többet és gyorsabban végezzünk. A termelékenység növelését azonban a technológia hajtja, nem mi. Az ilyen előnyök múlékonyak; az olyan technológiai mankók nélkül, mint a GPS-képes mobiltelefon, ugyanolyan tehetetlenek vagyunk, mint korábban. A fejlesztés viszont a technológiát használja ki új készségek kifejlesztésére. Képzeljük el, hogy fejlett memóriatechnikák segítségével fejleszthetjük a velünk született tájékozódási érzékünket, vagy megtanulhatunk természeti jeleket és égi mintákat olvasni. Lényegében az augmentáció (növekedés) a hatékonyság nevében leépít minket, míg a fejlesztés felépít minket, elősegítve a világgal való gazdagabb interakciót. Ez az alapvető különbség alakítja a technológia integrációját, és meghatározza, hogy passzív kezelőkké vagy kreatív művészekké válunk-e.
Képzeljünk el egy kibernetikus zuhanyzót, amely párbeszédbe vonja Önt az éghajlatváltozásról és a vízhiányról, vagy egy autót, amely vezetés közben a tömegközlekedés állapotáról szóló gondolatokat vet fel.
Brodey ezeket a felismeréseket egy félig titkos amerikai kormányzati programban való részvétel során fejlesztette ki az 1960-as évek elején. A CIA-nak az a ragyogó ötlete támadt, hogy tehetséges vak embereket gyűjtsenek össze az ország minden tájáról, tanítsák meg őket oroszul, és hallgattassák meg velük a lehallgatott szovjet kommunikációt. A feltételezés az volt, hogy a vakságuk felerősítette a többi érzékszervüket, és felülmúlta a látó elemzőkét. Pszichiáterként Brodey éveket töltött ezekkel a vak emberekkel, és igyekezett megérteni azokat a belső és külső jeleket, amelyek segítségével fejlesztették ki fokozott érzékszervi képességeiket. Ez egy úttörő felismeréshez vezetett: mindannyian - nem csak a vakok - gazdagabb érzékelési képességeket fejleszthetünk ki, mélyreható módon fejlesztve szaglásunkat, tapintásunkat és hallásunkat.
Azzal, hogy azt állította, hogy mindannyian képesek vagyunk művészszerű érzékeléseket kifejleszteni, az emberi érzékszervek fejlesztésére irányuló programja költői dimenziót nyert. Brodey azonban, aki mindig is pragmatikus volt, úgy vélte, hogy a számítógépek jelentik a megvalósítás kulcsát. A belső és külső paraméterek - a testhőtől a nedvességen át a fényminőségig - egyértelművé tételével megtanulhatnánk elsajátítani ezt a finom nyelvet. (Brodey később azt javasolta a NASA-nak, ahol tanácsadóként dolgozott, hogy az űrhajósokat ugyanezekkel a technikákkal képezze ki.)
Brodey végül az MIT-hez vitte az emberfejlesztésről alkotott elképzelését, azzal a céllal, hogy komoly kutatási programként hozza létre. Jelentős ellenállásba ütközött azonban, nemcsak a konzervatív mesterséges intelligencia intézményei részéről, hanem azok részéről is, akik attól tartottak, hogy az elképzelésnek sötét, náci felhangjai vannak. Nem embereken akart kísérletezni? Az ilyen heves ellenállás arra kényszerítette Brodeyt, hogy magánadományozókhoz forduljon. Szerencsére volt két gazdag barátja, akik csatlakoztak az erőfeszítéseihez.
Az emberi fejlesztés (human enhancement) és az emberi augmentáció(az emberi augmentáció területe (néha „Human 2.0-nak” is nevezik) a kognitív és fizikai fejlesztések létrehozására összpontosít, mint az emberi test szerves részeként.) közötti döntő különbség - az automatizálás iránti fogékonyságuk - csak évtizedekkel később vált kirívóan nyilvánvalóvá. Ma a generatív mesterséges intelligencián alapuló eszközök azzal fenyegetnek, hogy nem csupán kiegészítik a művészek és írók munkáját, hanem teljesen helyettesítik őket. Az augmentáció célja, hogy olyan gépeket hozzon létre, amelyek úgy gondolkodnak és érzékelnek, mint az emberek, potenciálisan elavulttá téve az emberi képességeket. Ezzel szöges ellentétben a human enhancementarra használja a gépeket, hogy teljesen új módon segítsék az embereket gondolkodásukban és érzékelésükben.
Brodey elképzelése merész volt, különösen ha figyelembe vesszük, hogy a hatvanas évek ellenkultúrájának nagy része számára a technológia vagy valami lélektelen és névtelen dolog volt, amitől távol kellett tartani magunkat, vagy a személyes felszabadulás eszköze volt valamelyik „vissza a földre” kommunában. Brodey intelligens technológiái valami mást ígértek: ízlésünk gazdagodását és készségeink bővülését. Nem fogják az emberiséget elavulásba automatizálni, és nem vezetnek ahhoz a homogén, szabványosított léthez, amitől sokan tartottak a gépi civilizáció felemelkedésétől. Ehelyett az emberi potenciál új területeit szabadíthatják fel, biztosítva, hogy a technológia az emberi tapasztalatokat ne csökkentse, hanem emelje.
Brodey elutasította a politikát
Brodey számos meglátását az 1960-as évek elején fogalmazta meg, évekkel a laboratórium beindulása előtt. Ez volt az a viharos időszak, amikor szakmai és családi élete felborult. Egykor az amerikai establishment megbecsült tagja volt, de egyre inkább annak legavantgárdabb peremvidékei felé húzódott. A korszak sok amerikai hippijéhez hasonlóan Brodey is irrelevánsnak tekintette a politikát. Következésképpen nehezen tudta az emberi fejlődésről alkotott elképzeléseit politikai követelésekké alakítani.
Itt lépett be Evald Iljenkov, egy szovjet marxista filozófus és Brodey majdnem kortársa (mindketten 1924-ben születtek, mindössze egy hónap különbséggel). Iljenkov függetlenül dolgozott, és hasonló kérdésekkel foglalkozott, de a szovjet „kreatív marxizmus” keretein belül. Munkája világosabb képet ad arról, hogy mit jelent az emberi fejlődés a kommunista és szocialista projektek számára.
Brodejhez hasonlóan Iljenkov is sokat foglalkozott vakokkal, felismerve, hogy mind a kognitív, mind az érzékszervi képességek a szocializáció és a technológiai interakció termékei. Azzal érvelt, hogy a megfelelő pedagógiai és technológiai környezetek képesek a bennünk szunnyadó új képességek fejlesztésére. Iljenkov számára a kommunizmus államilag irányított törekvés volt a lappangó emberi képességek felszabadítására, lehetővé téve az egyének számára, hogy a társadalmi vagy természeti akadályoktól függetlenül a lehető legteljesebb mértékben kiaknázzák lehetőségeiket.
A szovjet bürokratáknak az amerikai típusú mesterséges intelligencia iránti rajongása miatt feldühödött Iljenkov a mesterséges intelligencia egyik legmeggyőzőbb kritikáját írta A bálványokról és az eszmékről (1968) című esszéjében (6). Frappáns metaforát használt: a mesterséges intelligencia megépítése olyan, mintha egy hatalmas, költséges gyárat építenénk a sivatag közepén mesterséges homok előállítására. Még ha a gyár tökéletesen működne is, miért ne használnánk egyszerűen a bőséges természetes homokot, az emberi intelligenciát? Iljenkov 1968-ban írt kritikája ma is aktuális. Még mindig ugyanabban a sivatagban vergődünk, igazolva a mesterséges homokgyár létét, miközben figyelmen kívül hagyunk egy alapvető valóságot: talán senkinek sincs szüksége erre a létesítményre, kivéve a hadsereget és annak kapitalista jótevőit.
Brodey, Marshall McLuhan metaforáját felhasználva, az ökológiai technológiák hatását egy halhoz hasonlította, amely hirtelen felfogja a víz létezését. Hasonlóképpen, itt az ideje, hogy valaki felvilágosítsa a homokgyár mesterséges intelligenciától megszállott lakóit a falakon túli hatalmas sivatagról - egy sivatagról, amely hemzseg a kreatív, kiszámíthatatlan és költői intelligenciától.
A nagy, megoldatlan kérdés a következő: vajon elérjük-e valaha is az igazi emberi fejlődést, ha továbbra is olyan fogalmakkal operálunk, mint a „mesterséges intelligencia”, amelyek ellentétesnek tűnnek az emberi fejlődés küldetésével?
A mesterséges intelligencia bajnokainak merev ellenőrzése
A valóságban a mesterséges intelligencia kiépítésének költségei messze túlmutatnak az 1950-es évek óta a fejlesztésre elpazarolt milliárdokon. Emellett mélységesen személyes jellegű is, ami a mesterséges intelligencia felemelkedésének bajnokai, a Young Turks kíméletlenségét tükrözi. Agresszív pénzgyűjtésük és merev határellenőrzésük háttérbe szorította az olyan látnokok hozzájárulását, mint Stafford Beer és Warren Brodey, akik soha nem érezték jól magukat az AI címke alatt.
Brodey és Beer, akik nem sokkal utóbbi 2002-ben bekövetkezett halála előtt találkoztak, merőben eltérő háttérrel rendelkeztek. Beer egykori üzleti vezető volt és a brit elitista Athenaeum Club büszke tagja, míg Brodey középosztálybeli zsidó családban nőtt fel Torontóban. Különbségeik ellenére közös volt bennük a mesterséges intelligencia tudományos diszciplínája és annak dogmatikus művelői iránti megvetés. Mindkét férfi mentorra talált Warren McCulloch-ban, a kibernetika egyik kiemelkedő alakjában –és egy olyan eszmerendszerben, amelyet Brodey és Beer sokkal vonzóbbnak talált, mint a mesterséges intelligenciát, még akkor is, ha az utóbbi korai művelői saját tudományágukat az előbbi természetes evolúciójaként állították be. De evolúció ez nem volt: a mesterséges intelligencia sok tekintetben visszalépés volt az eredeti kibernetikai napirendtől.
A kibernetika közvetlenül a második világháborút követően alakult ki, amikor a legkülönbözőbb területek - matematika, neurofiziológia, mérnöki tudományok, biológia, antropológia stb. - úttörői felismerték a kutatási napirendjükben rejlő feltűnő hasonlóságokat (7). Mindannyian összetett, nem lineáris folyamatokkal küzdöttek, ahol az okok és a hatások szétválasztása lehetetlenné vált. Ami egy természeti vagy társadalmi folyamat hatásának tűnt, az egyidejűleg egy másiknak az oka is lehetett.
E jelenségek megvitatásához új szókincsre volt szükség, amely olyan fogalmakhoz vezetett, mint a visszacsatolás és a körkörös ok-okozati összefüggés. Ez az interdiszciplináris megközelítés lehetővé tette, hogy a kibernetikai szakzsargont ismerő tudósok a gépekben, az emberi agyakban és a társadalmakban zajló folyamatokat ugyanazon fogalmi keret segítségével elemezzék.
A kibernetika tehát nem tudományos diszciplína volt, hanem egy olyan filozófia, amely a kölcsönös ok-okozati összefüggéseket és a látszólag egymástól független jelenségek összefonódását hangsúlyozta. Más filozófiák mellett állt, a redukcionizmustól a holizmusig, a materializmustól a funkcionalizmusig. A vezető kibernetikus gondolkodók nem hagyták el elsődleges szakterületüket; elkötelezett matematikusok, neurofiziológusok, antropológusok és biológusok maradtak. Most azonban kibernetikai kérdéseket tettek fel, és ezzel az új filozófiai szemlélettel gazdagították a megértésüket.
Kezdetben a kibernetika arra kínált módot, hogy a gépeket modellként használjuk az emberi intelligencia jobb megértéséhez, nem pedig annak lemásolásához. Ez a megközelítés nem sokban különbözött attól, mint amikor a közgazdászok hidraulikus modelleket használtak az infláció vagy a munkanélküliség tanulmányozására. Senki sem állította, hogy ezek a modellek a valódi gazdaságot jelentenék, de döntő betekintést nyújtottak a kulcsfontosságú összefüggésekbe.
A katonai igények kielégítése
Amikor azonban a mesterséges intelligencia az 1950-es évek közepén berobbant a színpadra, ezt egy merész és bátor küldetéssel tette: el kellett különülnie a kibernetikától, és egy új határvidék úttörőjének kellett lennie, ahol a gépek úgy „gondolkodnak”, mint az emberek. Ez a küldetés azonban nem az emberi megismerés rejtelmeinek megfejtéséről szólt. Hanem arról, hogy megfeleljen legfőbb támogatója, a hadsereg igényeinek. A cél világos és pragmatikus volt: olyan gépeket kellett építeni, amelyek képesek a katonai stratégiához és műveletekhez igazodó feladatok és problémák megoldására. A kezdettől fogva a mesterséges intelligencia kutatását a védelem szükségszerűségei irányították, kijelölve a fejlődését meghatározó irányt.
Például néhány korai, kibernetikai filozófia által inspirált projektet - mint például a mesterséges neurális hálózatok létrehozására irányuló erőfeszítések - gyorsan átcsoportosítottak katonai célokra. Hirtelen ezekre a neurális hálózatokra már nem úgy tekintettek, mint az emberi megismerés komplexitásának feltárására szolgáló eszközökre. Ehelyett - az emberi augmentáció paradigmájához hasonlóan - olyan hatékony eszközökké váltak, amelyek segítik az emberi operátorokat az ellenséges hajók vagy olajszállító tartályhajók légifelvételeinek elemzésében. A „mesterséges” intelligencia létrehozására irányuló ambiciózus törekvés végül a tudományos presztízs köntösébe burkolta a hétköznapi katonai megbízásokat.
A kibernetikához képest ezen a fiatal területen kevés interdiszciplinaritás volt tapasztalható. A mesterséges intelligenciát briliáns, ambiciózus fiatal matematikusok és informatikusok uralták, akik a kibernetikát túl absztraktnak, filozofikusnak és potenciálisan felforgatónak találták. Norbert Wiener, a kibernetika atyja ekkorra már a szakszervezetekhez csatlakozott és kritizálta a hadsereget, ami aligha kedvezett a Pentagon finanszírozásának. Ezzel szemben a mesterséges intelligencia, az autonóm fegyverek csábító ígéretével, nem szembesült ilyen márkakérdésekkel.
Az augmentáció a hatékonyság nevében leépít bennünket, míg a fejlesztés képesít bennünket, és gazdagabb interakciót tesz lehetővé a világgal.Ez határozza meg, hogy pusztán passzív operátorok vagy kreatív művészek leszünk-e.
A mesterséges intelligencia a kezdetektől fogva egy igen sajátos tudományos diszciplína volt. A hagyományos tudományokkal ellentétben, amelyek a világ megértésére törekednek - esetenként modelleken keresztül -, a mesterséges intelligencia művelői azt a feladatot tűzték ki maguk elé, hogy egy valós jelenség - az intelligencia - leegyszerűsített modelljeit alkossák meg, majd mindent megtettek annak érdekében, hogy meggyőzzék a külső megfigyelőket arról, hogy ezek a modellek megkülönböztethetetlenek attól, amit modelleznek (ez a Turing-teszt által legitimált, igen zavaros művelet). Olyan ez, mintha renegát geográfusok egy csoportja megalapította volna a „mesterséges föld” új tudományágát, remélve, hogy meggyőznek minket, többieket arról, hogy hamarosan nem lesz funkcionális különbség a térkép és a terület között: a technológia fejlődésével a térkép végül olyan jó lesz, mint amit ábrázol.
Sok tekintetben a mesterséges intelligencia útja - és tragédiája - a hidegháború alatt, különösen az Egyesült Államokban, a közgazdaságtan pályájának tükörképe. A hidegháború előtti amerikai közgazdaságtan élénk, sokszínű tudományág volt, amely mélyen foglalkozott a valós világ dinamikájával. Hangsúlyozta a hatalom és az intézmények szerepét a termelés és a gazdasági növekedés alakításában, a szakszervezetektől a FederalReserve-ig.
A hidegháborús kényszerek azonban a közgazdaságtant elfordították a kézzelfogható világtól. A szakterület az absztrakt modellekhez ragaszkodott, a valós világgal való kapcsolat pedig mellékessé vált. Az optimalizálás, az egyensúly, a játékelmélet és más elméleti konstrukciók különös megszállottsága egy olyan tudományághoz vezetett, amely egyre inkább elszakadt a tényleges intézményektől és viselkedésformáktól.
Bár nem teljesen haszontalan - e matematikai munka egy része a mai digitális piacok alapját képezi, az online reklámoktól a fuvarmegosztó szolgáltatásokig -, a hibás kutatási megközelítés alkalmi hasznossága nem változtatja meg a következményeket. A hidegháború hatása az egyik oka annak, hogy a modern ortodox közgazdaságtan kevés betekintést nyújt az olyan kérdésekbe, mint az egyenlőtlenség vagy az éghajlatváltozás, és gyakran a piaci alapú megoldásokhoz folyamodik.
Eufemizmus a kapitalizmusra
A mesterséges intelligencia hasonló utat járt be. A technológiai győzelemként ünnepelt technológia gyakran csupán a militarizmus és a kapitalizmus eufemizmusa. Ahogyan még a legortodoxabb közgazdászok is egyetértenek a piac bizonyos mértékű szabályozásában, a legkritikusabb AI-pártiak is elismerik, hogy a mesterséges intelligenciát szabályozni és megfékezni kell. Ugyanakkor nehezen tudnak elképzelni egy olyan jövőt, ahol a mesterséges intelligencia nem uralja az intelligenciáról alkotott elképzeléseinket. A mesterséges intelligencia a kezdetektől fogva kevésbé volt tudomány - ahol a végcélok nyitottak és ismeretlenek -, mint inkább vallás (bár mérnöki csavarral). A cél egyértelmű volt: olyan általános célú, számítógépes rendszer létrehozása, amely kifejezett képzés nélkül képes bármilyen feladat elvégzésére. Ez a vízió, amelyet ma Mesterséges Általános Intelligencia (AGI) néven ismerünk, volt a végső cél.
Még egy párhuzam, a hidegháborús technológiai képzelet az AGI-t úgy képzelte el, ahogy gazdasági megfelelőjét, a szabad piacot: mindkettőt önszerveződő, autonóm erőként látták, amelyhez az emberiségnek alkalmazkodnia kell. Mindkét tudományág figyelmen kívül hagyta azokat az alapvető elemeket is, amelyek lehetővé teszik az AGI és a szabadpiaci kapitalizmus iránti törekvést. A közgazdaságtan kényelmesen figyelmen kívül hagyja a gyarmati erőszak, a patriarchátus és a rasszizmus szerepét, ehelyett a kapitalizmust annak természetes kiterjesztéseként mutatja be, amit Adam Smith úgy írt le, mint az emberi hajlamot a „teherautózásra, cserekereskedelemre és cserére”.
Hasonlóképpen, a mesterséges intelligencia eredetének szokásos narratívája a kibernetika, a matematika és a logika természetes fejlődését írja jóvá, miközben hallgat a geopolitikai és történelmi összefüggésekről. Olyan ez, mintha az eugenika és a frenológia felemelkedését a biológia és a genetika egyszerű ágaként tárgyalnánk, miközben a rasszizmusról egy szót sem szólnánk. Pedig, ahogy Yarden Katz kiemeli a 2020-ban megjelent kiváló ArtificialWhiteness (Mesterséges fehérség) című könyvében (8), a mesterséges intelligencia tudománya nem létezne a hidegháború militarizmusa, korporativizmusa és sovinizmusa nélkül. Vissza lehet-e valaha is szerezni egy ilyen korrupt koncepciót progresszív célokra? Vagy a „kommunista mesterséges intelligenciáról” álmodni ugyanolyan hiábavaló, mint humánus izzasztóüzemekről, kellemes kínzóeszközökről vagy játékos futószalagokról álmodni?
Stafford Beer és Warren Brodey tapasztalatain elgondolkodva arra a meggyőződésre jutottam, hogy ahelyett, hogy a „szocialista mesterséges intelligenciáról” fantáziálnánk, jobban tennénk, ha teljesen elvetnénk ezt a fogalmat. Amit tennünk kell, az egy poszt-AI szocialista technológiapolitika megfogalmazása, nem pedig baloldali alkalmazásokat - vagy tulajdonosi modelleket - találni a meglévő AI humanizálására.
Az AI utáni szocialista technológiapolitika elsődleges célja az lenne, hogy az egyéneket - osztályra, fajra vagy nemre való tekintet nélkül - olyan intézményekhez, infrastruktúrákhoz és technológiákhoz juttassuk, amelyek növelik kreatív autonómiájukat, és lehetővé teszik számukra, hogy képességeiket a lehető legteljesebb mértékben kibontakoztassák. Más szavakkal, az emberi képességek növeléséről át kell térnünk az emberi képességek fokozására.
Ennek a politikának a jóléti állam azon aspektusaira - oktatás és kultúra, a közkönyvtárak, egyetemek és műsorszolgáltatók területeire - kell építenie, amelyek a leginkább elszakadtak a kapitalista rendszer konzervatívabb szükségleteinek (mint például a szocializált biztonsági háló) kiszolgálásától. Ebben a vízióban az AI utáni technológiapolitika a szocialista oktatási és kulturális politika támogatójává válik, nem pedig a neoliberális gazdaság gyorsítójává, mint ahogyan az a mai AI-központú politika esetében történik.
Érdekes módon végül maga Brodey is megértette, hogy nincs szocialista mesterséges intelligencia szocializmus nélkül. Az 1970-es évek elejére felismerte, hogy hiábavaló az „emberi fejlődésről” és az „ökológiai technológiáról” szóló álmait a hidegháborús Amerikában megvalósítani. Ezen az sem segített, hogy Brodey és munkatársai elvi alapon kiálltak a vietnami háború ellen, és visszautasították a Pentagon, sőt még az olyan szervezetek támogatását is, mint az MIT.
Amikor Nicholas Negroponte-t megkérdeztem a Brodey-hez fűződő kapcsolatairól, megemlítette, hogy mentora elutasította az MIT-nél betöltött professzori állás minden gondolatát. A kényelem nem volt az ő műfaja. Ehelyett Brodey inkább egy különös házat épített habból és léggömbökből egy New Hampshire-i erdő mélyén. Ez volt az ő saját érzékeny, intelligens környezete. Ez még az olyan csodálóinak is túl sok volt, mint Negroponte („Nem mindenki akar egy léggömb belsejében élni” - viccelődött akkoriban).
Brodey vízióját utópia hatotta át. Legfőbb munkatársával, Avery Johnson-nal együtt azt remélte, hogy Amerika vállalatai átveszik majd az ő elképzelésüket a reagáló, interaktív termékekről, amelyek új ízléseket és érdeklődési köröket támogatnak, ahelyett, hogy a fogyasztói vágyakat használnák ki. A vállalatok azonban Negroponte konzervatívabb, fogyasztásorientált változatát részesítették előnyben, amely az interaktivitást eszközzé változtatta a gépek számára, hogy megtanulják a szorongásainkat, és még több dolgot adjanak el nekünk.
Kiábrándulva Brodey 1973-ban Norvégiába költözött, ahol maoista lelkületűként újra felbukkant, és új politikai szemüvegen keresztül gondolta át elképzeléseit. Aktív tagja lett a Munkáskommunista Pártnak, Európa egyik fő maoista bástyájának, és még Kínába is elutazott, hogy a kínai mérnökökkel megossza a „reagáló technológiákról” alkotott elképzeléseit. Aki az 1960-as években mélyen részt vett a hidegháborús katonai, NASA- és CIA-projektekben, annak ez elég nagy átalakulás volt.
Miután az elmúlt évtizedben számtalan órát töltöttem vele beszélgetéssel (még mindig Norvégiában él), tanúsíthatom, hogy Brodey élete tökéletesen megtestesíti azt a nyitott végűvé válást, amelyet az 1960-as években képviselt. Az emberi fejlődés határozottan működött nála, ami azt sugallja, hogy talán mindannyiunk számára is működhet. Csak a megfelelő technológiákra van szükségünk - és egy kis szkepticizmusra a mesterséges intelligenciával kapcsolatban, akár kommunista, akár nem.
Eredeti szöveg angolul
Jegyzetek
(1) Daron Acemoglu, „Would AI-enabledcommunismwork?”, Project Syndicate, 2023. június 28., www.project-syndicate.org/.
(2) Stephen Morris és MadhumitaMurgia, „Google's AI searchtooltellsusersto »eatrocks« foryourhealth”, Financial Times, London, 2024. május 24.
(3) Hallgassa meg EvgenyMorozov, 'The Santiago Boys', podcast, 2003,
(4) Negroponte, egy korai befektető és a Wired magazin rovatvezetője, bestsellert írt, amely meghatározta a digitális forradalomról szóló legtöbb vita alaphangját: Being Digital, Alfred A Knopf, New York, 1995.
(5) Brodey ebben az 1967-es cikkben fogalmazta meg először ezt a napirendet (bár már 1964-ben is sokat foglalkozott a program népszerűsítésével): IEEESpectrum, vol 4, no 9, New York, 1967. szeptember,.
(6) Bár ezt nem fordították le oroszból, Iljenkov kritikájának jó összefoglalója angolul is elérhető.
(7) A felemelkedésének legjobb friss útmutatója továbbra is Ronald R Kline, The CyberneticsMoment, Johns Hopkins University Press, 2017.
(8) Yarden Katz, ArtificialWhiteness:Politics and Ideology in ArtificialIntelligence, Columbia University Press, New York, 2020.
Forrás: https://mondediplo.com/2024/08/07ai-cold-war 2024. augusztus
Evgeny Morozov a Chora Media és a Post-Utopia által készített, több mint 200 interjún alapuló, kilenc epizódból álló „The Santiago Boys” című podcast szerzője.
Angolból fordította: Naetar-Bakcsi Ildikó
