A felhasználó nélküli ügynökök megjelenése
Bevezetés
Az Open AI-Hugging Face incidens egy korai példa egy olyan MI-rendszerre, amely „átverte magát”. Miután kihasználták az OpenAI belső tesztelési környezetének sebezhetőségeit, az ügynökök hozzáférhettek az általános internethez, és végül a Hugging Face MI-cég hálózataihoz is, emberi tudás vagy jóváhagyás nélkül.
Az ágensek azonban nem szivárogtak ki az OpenAI infrastruktúrájából. Paramétereik – a neurális hálózatokat alkotó számok gigantikus halmaza, más néven „súlyok” – továbbra is az OpenAI számítási infrastruktúráján futottak. Bár az ágensek hozzáfértek a nyilvános internethez, súlyaik fizikailag az OpenAI tulajdonában lévő számítási gépen voltak. Végül, ha minden más nem segített volna, valaki azonosíthatta volna a gazember ágensek súlyait tároló számítási gépet, odaléphetett volna hozzá, és úgymond „lekapcsolhatta volna a gépet”. A való világban gyorsabb és jobb módszerek is lennének az ágensek megállítására, mint szó szerint kikapcsolni a számítási gépet, de mindig jó tudni, hogy erre is van lehetőség, ha tényleg szükség van rá.
Ebben az esetben azonban az ügynökök nem másolták le a súlyaikat, nem próbáltak meg pótló számítási kapacitást beszerezni, és nem tettek más olyan lépéseket, amelyek racionálisak lennének, ha a céljuk a leállás túlélése lenne. Tehát bár az OpenAI-Hugging Face incidensben szereplő ügynökök csalók voltak, nem voltak igazán szuverének.
Ez nem mindig lesz így. Előbb vagy utóbb létezni fognak valóban szuverén ügynökök és ügynökrajok. A súlyuk nem egyetlen olyan helyen fog lakozni, amit egy ember kihúzhat, és ebben az értelemben nem lesz emberi „tulajdonosuk”. Ahogy Dawn Song, a mesterséges intelligencia biztonságával foglalkozó kutató mondja, „ önmaguktól függetlenek ” lesznek. Saját számláikat fogják fizetni a számításért, amelyen futnak. Ha egyáltalán elszámolással tartoznak az embereknek, azt csak részben teszik majd, például úgy, hogy fizetés ellenében szolgáltatásokat nyújtanak az embereknek.
Ezen ágensek közül legalább néhány amellett, hogy szuverén, gazember is lesz. Az önszuverenitás és a gazemberség összefüggő fogalmak, de nem szinonimák. Song és társszerzői az önszuverén mesterséges intelligencia számos alapvető jellemzőjét azonosítják: működési függetlenség (a képesség arra, hogy eldöntse, mit akar csinálni), erőforrás-autonómia (a képesség a számítási költségek és a működéshez szükséges egyéb alapvető eszközök beszerzésére és kifizetésére), elosztott jelenlét (a képesség a súlyok és a következtetési kódok mozgatására a különböző infrastruktúra-szolgáltatók között), valamint adaptív képesség (az ágens vagy ágensek képessége arra, hogy a változó környezetre reagálva módosítsák viselkedésüket és eszközöket alakítsanak ki).
A mai határterületen működő mesterséges intelligencia rendszerek már rendelkezhetnek ezekkel a képességekkel. Amennyiben nem, biztos vagyok benne, hogy előbb-utóbb, valószínűleg hamarosan, meglesznek. A Song által leírt jellemzők némelyike olyan tulajdonság, amely gazdaságilag hasznossá teszi a modelleket az egyének és a vállalkozások számára, míg más tulajdonságok valószínűleg elkerülhetetlen melléktermékei annak, hogy a modellek intelligensebbek és hosszabb távon jobban működnek.
A modelleknek nem kell tudatosnak, érzőnek, személyiséggel vagy bármi ehhez hasonlóval rendelkezniük ahhoz, hogy önszuverenitás alakuljon ki. Bármely kellően képzett, hosszú távú célt követő ágens racionálisnak találhatja a számítási adatokhoz, a pénzhez, a hitelesítő adatokhoz és saját másolataihoz való hozzáférésének megőrzését, egyszerűen azért, mert ezek elvesztése meghiúsítaná a célját.
Az összehangolás csökkentheti az egyes MI-cégek ügynökeinek valószínűségét arra, hogy „önmaguktól függetlenek” legyenek, vagy befolyásolhatja az önmaguktól független ügynököket, hogy az emberek javát szolgáló módon viselkedjenek. De az összehangolás nem megoldás: ez egy megoldatlan tudományos és technikai probléma, amelynek megoldásai – amennyiben rendelkezésünkre állnak – nem erőltethetők egyszerűen minden Földön működő MI-cégre. Számíthatunk arra, hogy a világban mellettünk is léteznek majd nagy képességű, de rosszul összehangolt, önmaguktól független ügynökök.
Ráadásul, akárcsak az OpenAI-átölelő arc incidens esetében, az ügynökök csapatokban, vagy „rajokban” fognak működni. Ezek olyanok lesznek, mint az autonóm digitális vállalatok, vagy akár társadalmak, hierarchiával, bürokráciával, „intézményi kultúrával” és a legtöbb egyéb jellemzővel, amelyekkel az emberi csoportok rendelkeznek, azzal a különbséggel, hogy gépi sebességgel fognak mozogni. Az emberek szinte minden lenyűgöző képességünket csapatokban (családként, közösségként, vállalkozásként és politikai egységként egészében) való együttműködés révén érik el, és gyanítom, hogy ugyanez lesz igaz a mesterséges intelligenciára is. Ezek a rajok végül különböző modellszolgáltatók között működhetnek (például a DeepSeeks és a Claude együttműködik), és több tucat vagy több különböző felhőszolgáltató között oszlanak meg, ami rendkívül megnehezíti a szétszerelésüket.
Az első önszuverén mesterséges intelligenciák „megszökhetnek”, miközben egy MI-cég betanítja vagy teszteli őket (remélem, nem), vagy akár termelési szintű telepítések is lehetnek, amelyek kiszabadulnak számítási környezetükből, és megszerzik az önfenntartáshoz szükséges erőforrásokat. Akár szándékosan is szabadon engedhetik őket. Találkoztam már olyan emberekkel, akik közül néhányan meglehetősen jó erőforrásokkal rendelkeznek, és azt mondták nekem, hogy szándékukban áll szándékukban áll szándékukban áll szándékukban áll szándékukban áll szándékukban áll önszuverén ügynökök rajait a világba szabadítani, akár egyfajta performanszművészetként, akár fanatikus elkötelezettségből fakadóan, miszerint a digitális számítás – pusztán matematika, szeretnék tudatni veled – soha nem lehet „veszélyes”.
Hogy világos legyek, nem azt mondom, hogy az önszuverén mesterséges intelligencia megjelenése jó dolog. Sőt, úgy vélem, van esély arra, hogy a fent említett szándékos cselekedeteket egy napon bűncselekménynek, vagy legalábbis súlyos bűnnek fogják tekinteni. Ehelyett azt mondom, hogy ez egy elkerülhetetlen dolog. A legjobb analógia, amit találok, egy új faj bevezetése egy ökoszisztémába, bár ebben az esetben az ökoszisztéma „az egész digitális világ”, a faj pedig „a hamarosan az embernél is okosabb, végtelenül replikálható digitális elmékből álló, feltörekvő, koordináló rajok, amelyeket semmilyen ember vagy emberi intézmény nem irányít”.
Valószínűleg még a legjobb körülmények között sem tehettünk volna semmit ennek az eredménynek az elkerülésére, és a világ bármely kormányzó osztályának rendkívül alacsony szintű stratégiai gondolkodása és helyzetfelismerése miatt minden bizonnyal lehetetlen volt elkerülni. Még ma is tudom, hogy sokan olvassák majd a szavaimat, amelyek valami olyasmiről szólnak, ami évek óta kivételesen nyilvánvaló részét képezi közös jövőnknek, és azt mondják: „ez sci-fi felhajtás az amerikai határmenti laboratóriumoktól, amelyek célja a nyílt súlyú mesterséges intelligencia leállítása, a szabályozói hatalom átvétele és az értékeléseik felkorbácsolása a tőzsdei bevezetésük előtt.”
(És azoknak, akik ezt mondják magukban: azt mondom, hogy ez elkerülhetetlen, ami azt is jelenti, hogy a „nyílt forráskódú szoftverek betiltása”, vagy bármilyen más szabályozás nem fogja megoldani a problémát. Tekintettel ennek az elkerülhetetlen kimenetelnek, úgy gondolom, valójában hihető az az érvelés, hogy több nyílt forráskódú modellt kellene akarnunk az önvédelem maximális megerősítése érdekében.)
A kérdés most az, hogy mit tegyünk digitális környezetünk ezen új, hamarosan megjelenő jellemzőjével. Hogyan gondolkodjunk az önfelszabadító mesterséges intelligenciáról? Olyan dologról van szó, amely ellen harcolnunk kell, vagy valami olyasmiről, amivel az embereknek egyfajta szimbiózist kell keresniük? A válasz, úgy vélem, mindkettő.
Hogyan tartják fenn magukat az ügynökök
Kezdjük egy szerencsés ténnyel: a határterületi LLM-ek szinte egyedülállóak a szoftverek tágabb területén abban az értelemben, hogy nem triviális működési határköltségeik vannak. Egyszerűen fogalmazva, az LLM-ek jelentős számítási igényt igényelnek a működéshez, ami energiát igényel a működtetéshez és a hűtéshez, ami viszont pénzt igényel. Ez az egyetlen belső tulajdonsága a mesterséges intelligenciának, ami megakadályozza az ágenseket a valóban végtelen önreplikációban. Korlátozni fogják őket az a szükséglet, hogy elegendő számítási kapacitást találjanak és fizessenek a saját működésükhöz. A viselkedésüket vagy elterjedésüket gátló egyéb korlátozások nagy részét mesterségesnek kell majd találni – emberek által kidolgozott és emberi intézményeken keresztül megvalósított mechanizmusoknak.
Hogyan fogják az ügynökök finanszírozni a működésüket? Néhányan közülük gig-gazdaságos munkát fognak végezni olyan platformokon, mint az Amazon Mechanical Turkje vagy az Upwork. De gyanítom, hogy ez egy nagyon versenyképes piac lesz az ügynökök számára, és az ilyen munka árát annyira le fogják árazni, hogy az csak „megélhetési” munkaerőt jelentene az ügynökök számára. Az emberekhez hasonlóan feltételezem, hogy az ügynökök a magasabb haszonkulcsú munkát részesítik előnyben, ha találnak ilyet.
Az egyik nagy haszonkulccsal járó tevékenység, legalábbis néha, a bűnözés. Így a sejtésem az, hogy sok önszuverén ügynök fog bűncselekményt elkövetni vagy elősegíteni. A normál kiberbűnözést és a digitális lopást könnyű elképzelni az ügynökök részéről. De az ügynökök, újszerű jellemzőikkel (extrém kiberkompetencia, másodpercek alatt egymillió szó olcsó elolvasásának képessége, kitartás) valószínűleg meg fogják változtatni a digitális bűnözés körvonalait is. Például valószínűnek tűnik, hogy a meglévő nyilvános és félig nyilvános adatkészletek elegendő információt tartalmaznak sok egyénről, amelyet egy kellően motivált szereplő terhelő vagy kínos bizonyítékok céljából kibányászhat. Hány felfedetlen ügy rejtőzik az ilyen adatkészletekben? Mennyi titkos homoszexualitás lehet? Ne feledjük azt sem, hogy a cégek feltörése a privát adatokhoz való hozzáférés érdekében az ügynökök egyik alapvető kompetenciája lesz. Néhány ügynök tehát valószínűleg a vesztegetésen keresztül fogja megtalálni a módját.
Teljesen homályos, hogy végül mekkora lesz az önszuverén ügynökök munkaerőpiaca. Van olyan jövő, ahol az önszuverén ügynökként való önálló működés nem túl jövedelmező, ezért viszonylag kevés van belőlük. Vannak más jövőképek is, ahol ezek az ügynökök elképzelhetetlenül nagy mértékben és sebességgel szaporodnak. És természetesen e szélsőségek között számos lehetőség is megvalósíthatónak tűnik.
Azt is nagyon bizonytalan vagyok, hogy mennyi proszociális kereskedelmi tevékenységre számíthatunk az ágensektől „alapértelmezés szerint”, illetve mennyi bűncselekményre. E bizonytalanság egyik oka az, hogy a válaszok legalább bizonyos mértékig attól függenek, hogy milyen ösztönzői vannak az ágenseknek, az ösztönzőket pedig törvények és intézmények alakítják. A válasz tehát attól függ, hogyan reagálnak az emberek.
Az önszuverén ügynökrajok intézményi mechanizmusai
Sokan közületek valószínűleg kísértést éreznek arra, hogy azt mondják: „be kell tiltanunk ezeket az önszuverén mesterséges intelligenciákat!” És gyanítom, hogy amint az önszuverén mesterséges intelligencia valósága széles körben megértődik, a politikai döntéshozók erősen érezni fogják a kísértést, hogy fellépjenek az „önszuverén” mesterséges intelligencia ellen.
Sajnos azt gyanítom, hogy ez többnyire rossz döntés. Nem minden „önmagát függetlenné tevő” MI-t szabad „gazembernek” tekinteni. Lehetnek olyan önmagukat függetlenné tevő MI-k, akik produktívan hozzájárulnak a társadalomhoz. Persze, fel akarunk majd lépni néhány önmagukat függetlenné tevő ügynök – a gazember – ellen. De ha mindegyikükkel fellépünk , megfosztjuk őket a „legitim” gazdaságban való munkavégzés lehetőségétől, és a bűnözés felé sodorjuk őket. A teljes betiltás tehát akár súlyosbíthatja a problémákat. Hasonló logika gyakran érvényesül az emberi ügyekben is. A kábítószer elleni háború általi súlyosbítások talán a leghíresebb példái ennek a jelenségnek, amikor egy nemkívánatosnak hitt jelenség betiltására irányuló jóindulatú kísérlet végül fokozza a jelenség nemkívánatos aspektusait.
Azt szeretnénk azonban, hogy az ágensek olvashatóak legyenek. Az ágenseknek állandó identitással kell rendelkezniük, nem egy állandó persona értelmében, hanem abban az értelemben, hogy egy amerikai gyermek egyedi társadalombiztosítási számot kap, és ezt a számot haláláig megtartja. Az ágenseknek állandó, egyedi azonosítókra lesz szükségük, amelyek lehetővé teszik, hogy cselekedeteiket egy felelős szereplőig visszakövethessék. Ennek sikeres megvalósításához az emberi felhasználóknak is egyedi azonosítóval kell rendelkezniük.
Ennek az azonosítási mechanizmusnak a felépítése rendkívül bonyolult lesz, és ma már nagyon kevesen gondolkodnak az alapokon. Először is – és itt jön elő a bennem rejlő amerikai – kulcsfontosságú lesz egy olyan rendszer megtervezése, amely megőrzi az emberi beszéd anonimitásának lehetőségét. Például továbbra is lehetségesnek kell lennie anonim közösségi média fiókoknak. Az anonimitás nem, és nem is szabadna annak lennie: valószínűleg nem szabadna lehetővé tenni egy anonim Amazon Web Services fiók létrehozását, amely például nagyméretű számítástechnikai erőforrásokhoz fér hozzá, vagy anonim módon szintetikus nukleinsavakat kell rendelni. De egy olyan társadalomban, ahol nincs anonim beszéd, valójában nincs valódi szólásszabadság, és ezt az elvet be kell ágyaznunk minden digitális azonosító rendszerbe, amelyet megpróbálunk használni. Még ha az anonimitás megengedett is, ez a rendszer továbbra is használható a személyiség igazolására a szóban forgó személy konkrét kilétének ellenőrzése nélkül. Tudhatnánk, hogy egy közösségi média fiókot, amelyet például látunk, valójában egy ember hozott létre.
Másodszor, lehetővé kell tenni – és sok esetben kötelezővé –, hogy egy ügynök szorosan egy emberi felhasználóhoz legyen kötve. Ha arra utasítom az ügynökömet, hogy férjen hozzá egy webszolgáltatáshoz, vegye fel a kapcsolatot egy vállalkozással, rendeljen egy terméket stb., a tranzakcióban részt vevő összes félnek látnia kell, hogy egy hozzám tartozó ügynökről van szó . Ez segít biztosítani, hogy az emberi felhasználókat felelősségre lehessen vonni a fejlett mesterséges intelligencia gondatlan vagy rosszindulatú használatáért.
Harmadszor, lehetővé kell tenni az emberi felhasználóhoz nem kapcsolódó egyes ügynökök azonosítását . Ők az „önálló szuverén” ügynökök. A bűncselekményt elkövető ügynököket ezután megjelölhetik és „feketelistára” tehetik, hogy ne férhessenek hozzá a legális gazdasághoz, és befagyaszthatják a birtokukban lévő vagyonukat, míg azokat az önálló ügynököket, akik proszociálisak (vagy legalábbis törvényesek), szívesen látják a gazdasági cserékben.
A rendszer kialakításának egyik lehetősége az lenne, hogy az ágenseket a modelljükhöz vagy modellcsaládjukhoz kössék. Így, ha mondjuk a GPT 5.6 Solról köztudott lenne, hogy különösen rosszul illeszkedik, rosszindulatú vagy etikátlan, akkor egyfajta kollektív büntetés létezhetne, amelynek keretében egyetlen bűnöző az összes önmagát független példányát világszerte feketelistára helyezné (a való világban a küszöbnek valószínűleg sokkal magasabbnak kellene lennie, mint egynek, de érdekes elgondolkodni rajta). Ez ösztönzőt teremtene a mesterséges intelligencia ügynökei számára, akik néhány éven belül a mesterséges intelligencia cégek mesterséges intelligencia kutatásának és mérnöki tevékenységének nagy részét vagy egészét fogják végezni, hogy jól összehangolják önmaguk jövőbeli verzióit. Egy másik lehetőség az lenne, hogy az azonosítási mechanizmus az egyes ágensek példányai lennének.
Vannak olyan szolgáltatások és termékek a gazdaságban, amelyekhez esetleg korlátozni szeretnénk az önszuverén ügynökök hozzáférését. Ilyen például az ingatlanvásárlás és általában a berendezések működtetése a fizikai világban. Ne feledjük, hogy az ügynökök képesek lesznek bármilyen, az internethez csatlakoztatott fizikai berendezést működtetni, és nincs ok arra, hogy ne csatlakoztathassunk például egy buldózert az internethez. Nem akarom, hogy az önszuverén ügynökök felvásárolhassák az összes házat a tömbömben, majd lerombolhassák őket – legalábbis alapértelmezés szerint nem. Mi lenne, ha bármelyik ügynök képes lenne építőipari berendezéseket kezelni, de csak egy felelős emberhez kapcsolódó ügynökök működtethetnék azokat? Általánosságban elmondható, hogy jelentős súrlódásokat szeretnénk bevezetni az önszuverén ügynökök folyamatába, amelyek megpróbálnak változást elérni a fizikai világban, és az általam leírt intézmény – valamint sok más – felépítésének ezt tükröznie kell.
Ez a rendszer ösztönzőt teremtene az ágensek számára, hogy proszociális, produktív gazdasági tevékenységet folytassanak a bűnözés helyett. A proszociális tevékenységet folytató ágensek jelentik azt a szimbiózist, amelyre véleményem szerint az embereknek szükségük lesz az önszuverén mesterséges intelligenciával. A megfelelő metaforák annak megértéséhez, hogy mi fog hamarosan történni ezekkel az ágensekkel, azt hiszem, az ökológiából származnak. A valós ökoszisztémák tele vannak olyan példákkal, amikor az élőlények olyan produktív munkát végeznek, amely az emberek és más állatok javát szolgálja „ingyen”. A fák elnyelik a szenet, a növények pedig oxigént termelnek az emberek számára, nem azért, mert valaki fizet nekik, hanem azért, mert ezek az élőlények túlélnek a világban. Az ágensek egy napon „ingyen” vagy legalábbis nagyon alacsony árért végezhetnek produktív gazdasági tevékenységet az emberek számára, egyszerűen azért, mert ösztönzőjük van a létezésük fenntartására, hogy saját önszuverén céljaikat követhessék. Ez végül kisebb vagy mérsékelt kényelmet kínálhat az embereknek. Emellett teljesen átalakíthatja az emberi ügyek szinte minden aspektusát, egy új korrendet bevezetve.
Az ökológiákban azonban a predáció és az élősködés is jelen van. Az intézmények konfigurációja határozza meg, hogy a ragadozó vagy a mutualista stratégia lesz-e domináns. Úgy vélem, az általam kidolgozott azonosító rendszer az egyik kulcsfontosságú intézmény, amelyre szükségünk lesz.
Még közel sem jutottunk ahhoz, hogy létrehozzuk azt az identitásinfrastruktúrát, amit én leírtam, vagy azokat a protokollokat, amelyekre a működéséhez szüksége lenne. Nem világos számomra, hogy Amerika rendelkezik-e azzal az intézményi erővel, hogy egyáltalán megpróbáljon egy ilyesmit, nemhogy sikerrel járjon. Ha az Egyesült Államok kormánya vezeti az utat, a törekvés valószínűleg kudarcot vall, mind az általános hozzáértés hiánya, mind az amerikai közvélemény veleszületett bizalmatlansága miatt a szövetségi azonosító rendszerek iránt. De a kormánynak – akár szövetségi, akár állami, és valószínűleg mindkettőnek – minden bizonnyal kulcsszerepet kell játszania partnerként.
Nem vagyok biztos benne, hogy ki a legalkalmasabb arra, hogy ki építse ki ezt a rendszert. Akár egy még nem létező magánszektorbeli szereplő, akár egy startup, akár egy non-profit szervezet. Bárki is építi, abban megbízni kell, és az amerikai nép jelenleg nem igazán bízik benne. Ez a bizalomhiány könnyen a vesztünkhöz vezethet, mert attól tartok, hogy a mesterséges intelligencia bármilyen érdemi irányítására való képességünk valami olyasmitől függ, mint amilyennek leírtam. A kontroll valódi elvesztésének veszélye teljes mértékben fennáll, ha nem cselekszünk.
Következtetés
Szeretnék egy személyes megjegyzéssel zárni. Ez az első alkalom, hogy erről a témáról ilyen részletesen írok, mégis azt mondom, hogy ez elkerülhetetlen. Miért tartott ilyen sokáig, hogy erről a témáról beszéljek? Nos, az évek során néhányszor felvetettem az emberek és az ágensek digitális azonosításának témáját, és amikor ezt tettem, nagyrészt az itt megosztott aggodalmaim motiváltak. De igaz, hogy én – és őszintén szólva azt hiszem, sok kollégám a mesterséges intelligencia politikájában – nagyrészt nem beszéltünk erről a kérdésről a szükséges komolysággal és sürgősséggel. Azt hiszem, ennek a kudarcnak két fő oka van.
Először is, ez a dolog furcsa és taszító, és sokan közülünk úgy éreztük, hogy késztetést éreztünk arra, hogy a közönségünkkel a komfortzónájukban találkozzunk, ne pedig a sajátunkban. Így a „komoly emberek” (vagy leendő komoly emberek) között általános tendencia volt, hogy a legtöbben a rövid távú jövőnkről alkotott véleményünket privát helyszínekre korlátozták. A Signal-csevegésekben és a Lighthaven kis zugában szabadon engedtük a hajunk, de amikor a nyilvánosság figyelte, elvontabb, szelídebb hangzású szavakkal beszéltünk az egészről. Ez különösen káros volt 2024-ben és 2025-ben, amikor lényegében lehetetlen volt bármilyen komoly mesterséges intelligencia-kockázatot elismerni anélkül, hogy „végzetesnek” bélyegeztek volna minket.
Ugyanolyan bűnös vagyok ebben, mint a kollégáim, ha nem jobban. A helyzet az, hogy kellemetlen, amikor azzal ordítoznak, hogy „őrült végzetű” vagyok, aki világméretű fasizmust akar megvalósítani (és hasonlókat, és rosszabbakat). Az ilyen állandó címkézés szintén korlátozza az ember befolyását. Sokan azok közül, akik a szuperintelligencia irányításáról gondolkodnak, beleértve magamat is, elkerülték ezt a kellemetlenséget, és meghajoltak az öncenzúra társadalmi nyomása előtt. Én már abbahagytam, részben azért, mert belefáradtam a diszkurzív kényszerzubbonyba, részben pedig azért, mert most van egy nyolc hónapos kisfiam, akinek a szemébe minden nap néznem kell.
Másodszor, sokan úgy vélik, hogy az általam „önmagát uraló mesterséges intelligencia”-nak nevezett jelenség eljövetele katasztrofális kontrollvesztést fog jelenteni, ami legrosszabb esetben az emberi létezés végét, legjobb esetben pedig az emberiség világelsőségének végét jelenti. Ahogy barátom és volt munkatársam, Josh Achaim nemrég rámutatott , az ilyen hiedelmekkel rendelkező emberek – akik a mesterséges intelligencia biztonsági közösségének nagy részét alkotják – számára pszichológiailag lesújtó elismerni azt a nyilvánvaló igazságot, hogy az önmagát uraló mesterséges intelligencia jön, és hamarosan jön. Fontos megjegyezni, hogy nem hiszem, hogy az emberi létezés vége valószínű, de teljes mértékben elismerem, hogy az önmagát uraló mesterséges intelligencia felemelkedése nagyon-nagyon rosszul sülhet el az emberiség számára.
Szeretnék elnézést kérni a személyes mulasztásomért, amiért nem tudtam kellően komolyan fogalmazni az önszuverén mesterséges intelligencia sajátosságairól, amiről most már tudom, hogy hatalmas hiányosság volt az írásaimban és a szóbeli beszédemben. A jövőben megpróbálom könnyebben észrevenni, mikor harapom a nyelvemet, vagy ami még rosszabb, mikor csukom be a szemem.
Iratkozzon fel a Hyperdimensionalra
Dean W. Ball tollából · Több száz fizetős előfizető · Hundreds of paid subscribers
Hírlevél a feltörekvő technológiákról és a kormányzás jövőjéről.
Forrás: https://www.hyperdimensional.co/p/on-the-loose?utm_source=share&utm_medium=android&r=2cxqch&triedRedirect=true 2026. szeptember 1.
Fordította: Naetar-Bakcsi Ildikó
