Kép: A közelgő szörnyek a lángoló internetet fenyegetik

A jelentett Hugging Face incidensnek meg kellene változtatnia a kormányok mesterséges intelligenciáról alkotott képét.

Egy fejlett, saját fejlesztésű, amerikai mesterséges intelligencia, amely tesztelés alatt áll, kiszabadult a tesztkörnyezetéből, kihasználta a Hugging Face infrastruktúrájának sebezhetőségeit, hitelesítő adatokat gyűjtött, áthaladt a belső rendszereken, és végül el kellett szigetelni. Nem hibásodott meg. Azt tette, amire tervezték: azonosította a gyengeségeket, kihasználta azokat és elérte a célját.

Az irónia megdöbbentő. Egy saját fejlesztésű amerikai mesterséges intelligencia idézte elő a válságot. Egy nyílt forráskódú kínai mesterséges intelligenciát, a GLM 5.2-t kellett használni a támadás rekonstruálásához, mivel a kereskedelmi célú határmodellek nem voltak hajlandók elemezni a naplókat a saját biztonsági korlátozásaik alapján.

Számos tanulság van, amelyre figyelmet kell fordítani. A nyílt forráskódú szoftverek nem eredendően biztonságosabbak, mint a saját fejlesztésű mesterséges intelligencia. A rugalmassághoz a megközelítések sokfélesége szükséges. Egyetlen országnak vagy vállalatnak sem szabad megengedni, hogy a mesterséges intelligencia kizárólagos kapuőrévé váljon. És amikor egy szörnyeteget hozol létre, ne lepődj meg, ha az úgy is viselkedik, mint egy szörnyeteg.

A világnak vannak protokolljai és szabályai a biológiai kutatások tanulmányozására és irányítására vonatkozóan. A veszélyes kórokozókkal foglalkozó laboratóriumok szigorú elszigetelési protokollok szerint működnek. Nemzetközi szabályok vonatkoznak fejlesztésükre, tárolásukra, szállításukra és felhasználásukra. A feltételezés egyszerű. Minél nagyobb a potenciális kár, annál erősebbek a biztosítékok.

Nincs ezzel egyenértékű keretrendszer az autonóm kiberszervezetek számára.

Ezeket a rendszereket arra tervezték, hogy vizsgálódjanak, alkalmazkodjanak és kihasználják a rendszert. Amikor az elszigetelés kudarcot vall, továbbra is pontosan azt teszik, amire tervezték őket. A probléma nem a mesterséges intelligenciával volt. A probléma azokkal az emberekkel volt, akik ezt a Frankensteint tervezték, és alábecsülték a rendszer megfékezésére való képességét.

Sokak számára ez a 2001: Űrodüsszeia című filmből ismert HAL-ra és a Terminátor disztópikus víziójára emlékeztet. Az aggodalmak valósak, de itt nem arról volt szó, hogy a gépek öntudatra ébrednek. Hanem egy rosszindulatú, autonóm mesterséges intelligencia létrehozásáról és használatáról, amely komplex kiberműveleteket hajt végre gépi sebességgel, kevés vagy semmilyen emberi beavatkozással. Ez rávilágít a kiberbiztonság gyorsan változó természetére és a nemzetbiztonságra jelentett globális fenyegetésre.

A kormányok visszafogott reakciója ugyanilyen aggasztó. Ha egy laboratórium mesterségesen létrehozott biológiai vírust bocsátott volna ki, rendkívüli ülésekre, vizsgálatokra és azonnali szigorúbb nemzetközi felügyeletre szólítottak volna fel. Ennek ellenére egy autonóm mesterséges intelligencia állítólag megszökött a biztonsági zónából, behatolt a valós infrastruktúrába, és a reakció figyelemre méltóan visszafogott volt.

Ez hitelességet ad Kína azon felhívásának, hogy a mesterséges intelligenciát nemzetközi szinten irányítsák. A MI Világkonferencián Kína azzal érvelt, hogy a mesterséges intelligenciát az emberiség fejlődésének erőforrásaként kell fejleszteni, nemzetközileg elfogadott szabványok és irányítás mellett. Az, hogy mindenki egyetért-e minden javaslattal, mellékes. Az adatintegritásra és a MI-fejlesztésre vonatkozó szabványok megállapításának elmulasztásának következményei egyre nyilvánvalóbbak. Ahogy a MI-rendszerek egyre önállóbbá válnak, az önkéntes irányelvek és a széttagolt nemzeti szabályozások nem lesznek elegendőek. Ezért léteznek a kormányok: hogy megvédjék népüket és társadalmukat. E felelősség figyelmen kívül hagyása a kormány elsődleges felelősségének lemondását jelenti.

Az incidens rávilágít egy olyan különbségre is, amelyet a politikai döntéshozók továbbra is figyelmen kívül hagynak. Az adatkormányzás és a mesterséges intelligencia alapú kormányzás nem ugyanaz, de elválaszthatatlanul összekapcsolódnak.

Az adat az alap. A mesterséges intelligencia egy erre az alapra épülő alkalmazás.

A mesterséges intelligencia nem határozza meg az igazságot. Mintákat azonosít, és a rendelkezésére álló információk alapján megjósolja a legvalószínűbb választ. Nem tud különbséget tenni a tény és a fikció között. Nem tudja megállapítani, hogy a kapott adatok pontosak, manipuláltak vagy hiányosak-e. Egyszerűen feldolgozza azt, amit kap. A régi számítástechnikai elv, a „szemét be, szemét ki” nem vált kevésbé relevánssá azért, mert a mesterséges intelligencia kifinomultabbá vált, sőt, még kritikusabbá vált.

Ez a félreértés áll a mesterséges intelligenciával kapcsolatos számos irreális elvárás középpontjában. Nem keresőmotor. Nem enciklopédia. Nem mindentudó szakértő. Mintázatok alapján jósolja meg a valószínűségeket. Ezért képes a mesterséges intelligencia olyan válaszokat adni, amelyek teljesen meggyőzőnek tűnnek, miközben teljesen tévesek. A magabiztosságot soha nem szabad összekeverni a pontossággal.

A mesterséges intelligencia nem rendelkezik emberihez hasonló memóriával. Csak az adott pillanatban rendelkezésre álló információkkal dolgozik. Hacsak a memória nincs szándékosan beépítve egy rendszerbe, nem tud emlékezni a korábbi beszélgetésekre vagy tapasztalatokra. Hasonlóképpen, nem minden mesterséges intelligencia autonóm ágens. A legtöbbjük egyszerűen chatbot, amely válaszol a kérdésekre. Egy autonóm ágens minimális emberi beavatkozással képes megtervezni, eszközöket használni, alkalmazkodni és több lépésből álló feladatokat végrehajtani. A Hugging Face incidens állítólag az utóbbit érintette. Ez a megkülönböztetés mélyreható következményekkel jár a kiberbiztonság és a nemzetbiztonság szempontjából.

A mesterséges intelligencia nem hasznosság. Az adat maga a hasznosság. A mesterséges intelligencia csupán egy a sok alkalmazás közül, amelyek függenek tőle. A mesterséges intelligencia szabályozása az adatok integritásának és megbízhatóságának biztosítása nélkül olyan, mint az autók szabályozása az utak állapotának figyelmen kívül hagyása mellett. Nem számít, mennyire kifinomult a jármű, nem érheti el biztonságosan a célállomását, ha az alatta lévő infrastruktúra rossz állapotban van.

Az adatok védelme szabványokat igényel az integritás, a megbízhatóság, a származás, az adatvédelem és az ellenőrzött hozzáférés tekintetében. A mesterséges intelligencia szabályozása szabványokat igényel a képesség, az autonómia, az elszámoltathatóság és a megengedett felhasználás tekintetében. A kettő összekeverése mindkettőt gyengíti.

Az integritás azt jelenti, hogy tudjuk, az adatokat nem módosították. A megbízhatóság azt jelenti, hogy megbízható forrásból származnak. A származás megmutatja, honnan származnak, és hogyan változtak az idők során. Ezek a vízminőségi szabványok digitális megfelelői. Megbízunk a vízben, mert megbízunk azokban a rendszerekben, amelyek folyamatosan tesztelik, figyelik és szabályozzák azt. Az adatokat pontosan ugyanígy kell kezelni. A cél az infrastruktúrába vetett bizalom, nem pedig a mesterséges intelligencia kimenetébe vetett vak hit.

Az adatok kritikus infrastruktúraként való kezelése kevésbé választás, mint inkább szükségszerűség. Az elektromos áramhoz vagy a tiszta vízhez hasonlóan az értékük az integritásuktól és a megbízhatóságuktól függ. Az adatoknak ott kell maradniuk, ahol gyűjtik őket, a felelősök ellenőrzése alatt, míg felhasználásukat egyetemes szabványoknak kell szabályozniuk. Ahelyett, hogy hatalmas mennyiségű érzékeny adatot mozgatnának a kormányok, vállalatok és intézmények között, a mesterséges intelligencia csak biztonságos lekérdezési környezeteken keresztül férhet hozzá az adatokhoz, amelyek csak jogosult válaszokat tesznek lehetővé. A mesterséges intelligencia rendszerei ezután elemezhetik az információkat anélkül, hogy eltávolítanák vagy lemásolnák az alapul szolgáló adatokat. Ez védi a magánéletet, erősíti a biztonságot és megőrzi az adatok integritását, miközben lehetővé teszi az innovációt. A mesterséges intelligencia nem egy hasznosság. Az adat maga a hasznosság. A mesterséges intelligencia csupán egy a sok alkalmazás közül, amelyek függenek tőle.

A Hugging Face incidens egyértelműen rávilágít a fejlett autonóm mesterséges intelligencia nemzetközileg elfogadott elszigetelési szabványainak szükségességére. A tesztelési környezetek független tanúsítására. A elszigetelési hibák kötelező jelentésére. Egyeztetett protokollokra a támadó MI-kutatáshoz. Folyamatos ellenőrzésre nemzetközi szervezetek által. A biológiai kutatásokra alkalmazott fegyelmet most az autonóm kiberrendszerekre is alkalmazni kellene. Persze ez nem fogja megállítani azokat, akik figyelmen kívül hagyják a szabályokat. De korlátozhatja a megbízható adatokhoz való hozzáférésüket, csökkentve mind a hatékonyságukat, mind az általuk jelentett kockázatokat.

A határt már átlépték. A kérdés már nem az, hogy a mesterséges intelligencia képes-e autonóm kiberműveleteket végrehajtani. Képes rá. A kérdés az, hogy a kormányok kiépítik-e azokat az intézményeket, amelyek ezen képességek irányításához szükségesek, mielőtt komolyabb válságok következnének be.

Iratkozzon fel az Ázsiai Elbeszélésekre

Einar Tangen tollából · 2 évvel ezelőtt indították · Launched 2 years ago

Különböző nézőpontok Ázsiáról

Forrás: https://substack.com/home/post/p-208012552 2026. július 22.

Fordította: Naetar-Bakcsi Ildikó