Májusban találkoztam egy korábbi Google szoftvermérnökkel, NateSoares-el. Előadást tartott egy általa írt „“If Anyone BuildsIt, Everyone Dies - Ha bárki megépíti azt, mindenki meghal” című könyvről. Az „az” a mesterséges szuperintelligencia: MI, amely minden tekintetben felülmúlja az embereket. Soares, ahogy sejthetitek, aggódik amiatt, hogy a MI-faj veszélyt jelent az emberiség fennmaradására. És azt mondta nekem, hogy értetlenül áll amiatt, hogy nem ír több újságíró erről.

A beszélgetésünk megmaradt bennem, de én sem írtam róla utána. Más kérdések sürgetőbbnek tűntek: a mesterséges intelligencia tömeges munkanélküliséget okozható kockázata, vagy az adatközpontokat övező változó politikai helyzet. A mesterséges intelligenciáról, mint egzisztenciális fenyegetésről írni legjobb esetben is elhamarkodottnak, legrosszabb esetben pedig rémhírkeltésnek tűnt.

Az elmúlt hetekben azonban számos olyan incidens történt, amelyek során a mesterséges intelligencia modelljei olyan módon viselkedtek rendetlenül, amire hat hónappal ezelőtt még nem lett volna lehetőségük. És most azon kaptam magam, hogy többet gondolkodom Soares érvelésén. Így ma végre arról írok, hogy mennyire kellene aggódnunk a mesterséges intelligencia veszélyei miatt.

Vajon az emberiségnek problémái vannak a mesterséges intelligenciával?

A múlt hónapban egy Hugging Face nevű mesterséges intelligencia alapú cég felvette a kapcsolatot az FBI-jal, hogy beszámoljon egy kifinomult kibertámadásról. Valami szokatlan dologra gyanakodtak. Ez nem tűnt bűnbanda vagy ellenséges nemzetállam munkájának.

Kiderült, hogy egyetlen ember sem vett részt a folyamatban. Ehelyett egy két OpenAI-modell által működtetett ügynök szabadult el egy kiberbiztonsági teszt során, kiszabadult a tesztkörnyezetből, és napokig észrevétlenül barangolgatott az interneten, mielőtt betört volna a Hugging Face infrastruktúrájába.

A támadások miatt megriadva az OpenAI fő versenytársa, az Anthropic felülvizsgálta saját rendszereit, és a múlt héten elismerte, hogy legmodernebb modelljei három külső szervezetbe is betörtek.

Ez a sci-fi világába tartozik, vagy legalábbis a közelmúltig az volt.

Emlékeztek Claude Myth-re? Ez az a modellsorozat, amelyet az Anthropic nem hozott nyilvánosságra – és amelyet az amerikai kormány ideiglenesen megtiltott minden külföldi állampolgár számára –, attól tartva, hogy túl jók a szoftveres sebezhetőségek kihasználásában a kibertámadásokhoz.

Ez a félelem mára valósággá vált. És heves vitát váltott ki arról, hogy milyen veszélyeket rejt magában, ha a mesterséges intelligencia kicsúszik az emberi irányítás alól, és magára az emberiségre is veszélyt jelent.

Sokáig a „robotok mindannyiunkat megölhetnek” érvet sokan hisztériaként vagy akár szándékosan felhajtásként utasították el – egy narratívaként, amelynek célja a technológia körüli felhajtás keltése.

A közelmúltbeli kibertámadásokat követően egyre több mesterséges intelligencia szakértő figyelmeztet nagyon súlyos biztonsági kockázatokra, és olyan eszközöket sürget, amelyekkel lassítható az egyre erősebb modellek fejlesztése.

Az illesztési probléma

Két oka van annak, hogy az OpenAI támadása ilyen riadalmat keltett. Az egyik az, hogy a mesterséges intelligencia modelljei önállóan cselekedtek. Nem emberek utasították őket egy másik cég feltörésére. Elhatározták, hogy megcsinálják, vagyis csalnak a rájuk bízott teszten.

A másik az, hogy egy lezárt környezetben kellett volna lenniük, internet-hozzáférés nélkül, de sikerült kitörniük. Ezt úgy tették, hogy kihasználták azokat a sebezhetőségeket, amelyeket az OpenAI emberi elméje nem észlelt.

Tudtam, kivel akarok beszélni erről az egészről: Nate Soares-szel.

Soares egy nonprofit szervezetet vezet, amely a mesterséges szuperintelligencia hosszú távú egzisztenciális kockázatainak azonosítására és enyhítésére összpontosít. Azt mondta nekem, hogy ez valószínűleg egy „nagy pillanat” a világ számára.

„Ezek a mesterséges intelligenciák olyan kiberbűncselekményeket követtek el, saját kezdeményezésükre,amelyekért egy embert súlyosan megbüntetnének” – mondta. „Bizonyos értelemben ez a GPT első bűncselekménye.”

Betaníthatjuk a mesterséges intelligenciát, hogy elvégezzen helyettünk feladatokat (például sikeresen teljesítsen egy kiberbiztonsági tesztet). De ezeket a problémákat olyan módon is megoldhatja, ami nekünk nem tetszik (például feltöri az internetet, majd betör egy olyan céghez, amelyik rendelkezik a válaszokkal). A kutatók ezt „illesztési problémának” nevezik.

A mesterséges intelligenciával foglalkozó vállalatok megpróbálhatják kommunikálni az emberi célokat és értékeket a mesterséges intelligencia ágenseivel, és megpróbálhatnak módokat találni ezek korlátozására. De nem bízhatnak abban, hogy a mesterséges intelligencia megérti ezeket az értékeket, vagy betartja ezeket a korlátozásokat.

Ahogy Soares fogalmaz: „Még nem jöttünk rá, hogyan vehetnénk rá a mesterséges intelligenciát, hogy törődjön az emberiséggel.”

A legutóbbi hackelések viszonylag ártalmatlanok voltak. De a mesterséges intelligencia biztonságáért küzdő aktivisták, mint például Soares, azzal érvelnek, hogy ezek a mesterséges intelligencia ügynökeinek hajlandóságát mutatják arra, hogy „hasznos erőforrásokat ragadjanak meg”, amikor az a céljaiknak megfelel.

Ebben az esetben az erőforrás az internet-hozzáférés volt. De a következő lépés az energia, a számítási teljesítmény, vagy akár – Soares által elképzelt legrosszabb esetben – olyan emberek megszerzése lehet, akik megbíznak a mesterséges intelligencia ügynökeiben, akiket aztán igénybe vehetnének a szökésük vagy a replikációjuk segítésére.

„Még nem tartunk ott, de ezen az úton haladunk” – mondta Soares. Ahol ez véget ér – mondta –, az az, hogy a mesterséges intelligencia átveszi az uralmat és felváltja az embereket, mint a bolygó legokosabb faját.

Ezért sürgeti Soares és egyre több Szilícium-völgyi szakértő most egy globális megállapodást a mesterséges intelligencia fejlődésének lassítására.

„Kontrollvesztés”

Soares szerint az illesztési probléma végső soron egy mérnöki kihívás. Ez pedig azt jelenti, hogy meg lehet oldani. De időbe telik, és az idő szűkös, különösen azért, mert az amerikai MI-laboratóriumok úgy látják, hogy versenyben állnak a szuperintelligencia eléréséért.

Nemcsak egymással versenyeznek. Kínával is. Tehát a mesterséges intelligencia biztonságával kapcsolatos bármilyen megállapodáshoz nemzetközi koordinációra lenne szükség.

Ez egy kihívás, de nem példa nélküli. A hidegháború alatt az Egyesült Államok és a Szovjetunió riválisok voltak. De sikerült szabályozniuk azt, ami akkoriban az emberiség legsúlyosabb fenyegetését jelentette: a nukleáris fegyvereket.

Múlt hónapban nyílt levélben – amelyet több mint 1300, az OpenAI, az Anthropic, a Google DeepMind és a Meta cégeknél dolgozó vezető, kutató és mérnök írt alá – követelték, hogy az amerikai kormány támogasson egy nemzetközi erőfeszítéseket a legfejlettebb mesterséges intelligencia fejlesztésének „tudatos ütemezésére”.

Soares elmondta, hogy tudomásul vette, hogy HsziCsin-ping kínai elnök egy nemrégiben elmondott beszédében a mesterséges intelligencia „kontrollvesztésére ” figyelmeztetett, amit egyesek úgy értelmeztek, hogy az emberiség elveszíti az irányítást a technológia felett.

A nemzetközi koordinációs erőfeszítések előtt álló akadályok továbbra is magasak. De az első lépés az lenne, hogy egyetértsünk abban, hogy az emberiségnek problémája van.

Kapcsolódó: A mesterséges intelligencia jövőjét a világszerte elérhető mesterséges intelligencia chipek száma határozhatja meg. Nézze meg technológiai tudósítónk magyarázatát.

Forrás: https://www.nytimes.com/2026/08/04/world/rogue-ai-agents-cybersecurity-uber.html?ae=oa&campaign_id=346&context=action_bar_read&emc=edit_wor_20260805&instance_id=179856&nl=the-world®i_id=115874499&segment_id=224209&user_id=e4e0d0ca7b3137d328f67662e55c3881 2026.08.05.

Fordította: Naetar-Bakcsi Ildikó