A mesterséges intelligencia és az ipari forradalom ugyanaz. Mindkettő paradigmaváltást jelent a társadalom, a munkaerő és a hatalom szerveződésében és működésében. Mindkettő hatalmas potenciált és mélyreható kockázatot hordoz magában. Egyik sem eredendően jó vagy rossz. Az erkölcsi súly nem magában a technológiában rejlik, hanem abban, hogy az emberek hogyan választják ki annak alkalmazását, szabályozását és a belőle származó előnyök elosztását.

A belső égésű motor, amikor egy traktorra volt kötve, egyetlen nap alatt elvégezte azt, amit tíz ember lóval és ekével alig tudott egy hét alatt befejezni. Ez az egyetlen újítás felszabadította a vidéki munkaerő jelentős részét. Emberek milliói vándoroltak városokba és gyárakba. Ugyanazok a motorok, amelyek a vonatokat és a gőzhajókat hajtották, tették lehetővé a gyarmati terjeszkedést, egész kontinensekről vonták ki a vagyont, és néhány gyarmatosító hatalom kezében koncentrálták azt. Ők voltak felelősek a lassú, módszeres fosszilis tüzelőanyag-mérgezésért is, amely bolygónk éghajlatát fenyegeti. De a motor nem volt gonosz. Eszköz volt. Felerősítette az emberi szándékot, legyen szó kizsákmányolásról vagy innovációról, hódításról vagy együttműködésről.

Évtizedek alatt, ideológiai változások, sztrájkok, munkásmozgalmak, politikai csatározások és társadalmi felfordulás révén, ennek a motornak a termelékenységi növekedése végül egyenletesebben oszlott el. Olyan középosztályt hozott létre, amely korábban soha nem létezett. Lehetővé tette a tömeges oktatást, a lakástulajdont, a szabadidőt és a fogyasztói választási lehetőségeket. Az iparosodott országokban az átlagemberek életszínvonala olyan szintre emelkedett, amely elképzelhetetlen lett volna agrár őseik számára. A lényeg az, hogy az eredmény nem volt előre meghatározott. Kiharcolták.

A mesterséges intelligencia pontosan ugyanilyen erő. Egy új motor, de a föld szántása helyett adatokon halad keresztül. A fizikai javak mozgatása helyett információkat dolgoz fel, döntéseket hoz és alakítja a társadalmi világot. Saját hasznot, saját zavarokat és saját hatalomkoncentrációkat fog generálni. A kérdés nem az, hogy a mesterséges intelligencia mindent megváltoztat-e. Meg fogja változtatni. A kérdés az, hogy ki fogja irányítani, ki fog belőle hasznot húzni, és ki fogja viselni a költségeit.

De itt az analógia bonyolultabbá válik, mivel a mesterséges intelligencia nem egy semleges eszköz, mint egy traktor. A traktor a földdel lép kölcsönhatásba. A mesterséges intelligencia az emberi társadalommal, az emberi történelemmel és az emberi elfogultsággal lép kölcsönhatásba. Üzemanyaga az adat, és ha ez az adat megsérül, a mesterséges intelligencia is megsérül. Ez nem egy hipotetikus kockázat. Ez egy mérnöki valóság. Szemét be, evangélium ki.

Egy, a korábbi felvételi adatokon képzett mesterséges intelligencia nem fogja túllépni a felmerülő előítéleteket. Le fogja másolni azokat. Meg fogja tanulni, hogy a férfiak alkalmasabbak a vezetésre, mert a férfiak vezető szerepet töltenek be az adatokban. Meg fogja tanulni, hogy bizonyos egyetemek jobb jelölteket képeznek, mert a HR-esek előnyben részesítették őket. Hűen kódolja a múltbeli előítéleteket, majd azokat nagy léptékben beveti, olyan sebességgel és hatékonysággal, amihez emberi erő nem fogható. Ez nem rosszindulat. Ez mintafelismerés. De a következmények ugyanazok, mint a rosszindulatnak.

Az elsősorban világos bőrön képzett arcfelismerő rendszerek sötét bőrön kudarcot vallanak. A korábbi letartóztatási adatokon képzett prediktív rendőri algoritmusok, amelyek az elfogult végrehajtási mintákat tükrözik, több rendőrt küldenek a már amúgy is túlrendőrzött környékekre, több letartóztatást generálva és megerősítve az algoritmus eredeti elfogultságát. Az évtizedekig tartó redliningen képzett hiteljóváhagyási rendszerek ugyanazon közösségekben fogják elutasítani a jelzáloghiteleket, megfosztva őket a tőkétől, majd az ebből eredő szegénységet felhasználva bizonyítékként arra, hogy az elutasítás jogos volt. Ez a visszacsatolási hurok. A mesterséges intelligencia nem pusztán a múltat ​​tükrözi. Aktívan konstruál egy olyan jövőt, amely tükrözi az elfogult képzését.

Ezt a problémát súlyosbítja az átláthatatlanság. Ezek a rendszerek gyakran fekete dobozok. Még az alkotóik sem tudják teljes mértékben megmagyarázni, hogyan jutnak el a konkrét döntéseikhez. Amikor egy traktor elromlik, egy szerelő kinyithatja a motorháztetőt, és a hibás szelepre vezetheti vissza a hibát. Amikor egy mesterséges intelligencia megtagad valakitől a kölcsönt, az állást vagy a feltételes szabadlábra helyezést, a döntés forrásáig való visszakövetése gyakran lehetetlen. Ez elszámoltathatósági vákuumot hoz létre. Ha senki sem tudja megmagyarázni, hogy a mesterséges intelligencia miért hozta meg a döntését, senki sem vonható felelősségre érte. A programozó az adatokra mutat. A cég az algoritmusra mutat. Az adatgyűjtő a szolgáltatási feltételekre mutat. A sérült félnek nincs jogorvoslati lehetősége.

Például az „igazságosság” fogalma problémává, nem pedig megoldássá válik. A méltányosság nem technikai paraméter. Filozófiai érv. A méltányosság különböző definíciói ütköznek. Igazságos-e a csoportok közötti egyenlő eredmények biztosítása? Vagy igazságos-e az esélyegyenlőség biztosítása, még akkor is, ha ez egyenlőtlen eredményekhez vezet? Nehéz a mesterséges intelligenciát egynél több fogalomra optimalizálni, és ha mégis megteszi, akkor saját elfogultságát is belecsepegtetheti. A dinamikus értékítéletekre alkalmazott statikus definíciók kiválasztását a mérnökök és a vezetők fogják magánbeszélgetésekben meghozni, nem pedig nyilvánosan azok az emberek, akiknek az életét a döntéseik alakítani fogják.

Ez a mesterséges intelligencia korának központi küzdelme. Az ipari forradalmat sztrájkfrontokon, szakszervezeti csarnokokban, politikai háttérszobákban és törvényhozás előtt vívták. A munkások láthatták a gépet, ismerték a tulajdonosokat. Sztrájkolhattak ellene és ellenük. Szervezkedhettek. A mesterséges intelligencia forradalmát kódban, adathalmazokban és saját fejlesztésű algoritmusokban vívják. A gépezet láthatatlan. A döntéshozatal átláthatatlan. A hatalom olyan módon koncentrálódik, amelyet nehéz még érzékelni is, nemhogy megkérdőjelezni.

Mindez nem jelenti azt, hogy a mesterséges intelligencia gonosz. Nem az. A mesterséges intelligencia egy eszköz, mint a motor, mint a traktor. Gazdagságot fog teremteni, lehetővé teszi a felfedezéseket, és olyan lehetőségeket nyit meg, amelyeket még nem tudunk előre látni. De a hatalmat is koncentrálhatja, automatizálhatja az egyenlőtlenséget, és elfogultságot kódolhat, hacsak nincs aktív közpolitikai beavatkozás. Az eredmény teljes mértékben attól függ, hogy mit teszünk most. Attól függ, hogy megköveteljük-e az átláthatóságot. Attól függ, hogy harcolunk-e az elszámoltathatóságért. Attól függ, hogy ragaszkodunk-e ahhoz, hogy a rendszereket tápláló adatok reprezentatívak legyenek, és hogy maguk a rendszerek auditálhatók legyenek.

A motor nem arra volt hivatott, hogy középosztályt hozzon létre. Ezért harcoltak. A mesterséges intelligencia nem arra hivatott, hogy igazságos társadalmat teremtsen. Ezért is harcolni kell. A technológia semleges.

A küzdelem nem az.

Iratkozzon fel az Ázsiai Elbeszélésekre

Einar Tangen tollából · 2 évvel ezelőtt indították · Launched 2 years ago

Különböző nézőpontok Ázsiáról

Forrás: https://substack.com/home/post/p-188779385 2026. 02.22.

Fordította: Naetar-Bakcsi Ildikó