A felhasználók – gyakran díj ellenében – megtervezhetik és felöltöztethetik (vagy levetkőztethetik) saját mesterséges intelligencia által vezérelt barátjukat . Ezek a közösségi chatbotok „ boldog beszélgetéseket ” és látszólag tökéletes kapcsolatot biztosítanak a kölcsönös sebezhetőség és a más emberekkel való kötelékekből fakadó valódi összetartozás érzésének rovására.
A támogatók azzal érvelnek, hogy a társas kapcsolatoktól távol élők számára a chatbotok végtelenül elérhető, támogató társak, akik nem ítélkeznek felettük. És vannak bizonyítékok arra is, hogy a chatbotok enyhíthetik a magány, a krónikus kapcsolatvesztés és a megakadt hovatartozás tüneteit.
Az ausztrál e-biztonsági biztos elismeri ezt:
A mesterséges intelligencia által támogatott társak mindig elérhetőek – ami vonzó lehet azoknak a fiataloknak, akiknek nehézséget okoz a személyes kapcsolatok kialakítása.
De az emberi kapcsolatok chatbotokkal való felváltásának kockázatait csak most kezdjük megérteni.
Egy 2023-ban végzett tanulmányunk kimutatta, hogy az egyetemi hallgatók, akik korai chatbotokat használtak tanulmányi támogatásra, nem kívánt következményekkel, például magányossággal küzdöttek. Jelenleg a közösségi chatbotok kockázatai – mint például a függőség, az emberi barátságok felborulása, a társasági visszahúzódás vagy az irreális kapcsolatok kiépítése – meghaladják az előnyöket.
Kína az elmúlt hetekben új szabályokat vezetett be a mesterséges intelligencia által vezérelt társakra és chatbotokra, vagy ahogy a törvényben nevezik , az „antropomorf interaktív szolgáltatásokra” . Amellett, hogy a chatbotoknak államtitkokat kell védeniük, korlátozzák ezen eszközök érzelmi alapú használatát, és elvárják, hogy megfeleljenek a társadalmi és erkölcsi normáknak.
Ezek a közösségi mesterséges intelligencia használatának legszigorúbb ellenőrzései, amelyeket a világon bárhol bevezettek. Mit tanulhatunk ebből?
Kína szociális mesterséges intelligencia szabályozása
Anyagi károk a mesterséges intelligencia használatából erednek, többek között Kínában is. Egy 18 éves lány 7000 jüant (1400 ausztrál dollárt) költött egyedi ékszerekre mesterséges intelligenciával rendelkező barátjának a négy hónapos „randevúzásuk” alatt.
Egy magányos , 84 éves kínai nő családja felfedezte, hogy a nő beleszeretett egy mesterséges intelligencia által vezérelt karakterbe, és naponta akár tíz órát is töltött videókat nézve vele és más karakterekkel, több ezer jüant költött a szolgáltatásra, sőt, kézzel írt szerelmes leveleket is neki.
Kína új szabályai explicit rendelkezéseket tartalmaznak arra vonatkozóan, hogy a chatbotok hogyan fognak interakcióba lépni az emberekkel.
Az intézkedések elvárják a közösségi AI-botok fejlesztőitől, hogy biztosítsák a tartalom következő okait:
- veszélyezteti a nemzetbiztonságot vagy a nemzeti becsületet
- megsérti az alapvető szocialista értékeket
- önkárosításra vagy öngyilkosságra ösztönöz
- túlzottan érzelmi függőséghez vagy addikcióhoz vezet
- virtuális „partnereket” vagy „rokonokat” biztosítani kiskorúaknak
- nem megfelelő tartalmat kínáljon kiskorúaknak.
Ráadásul a szolgáltatástól túlzottan függő felhasználóknak kiemelt emlékeztetőket kell kapniuk arról, hogy egy chatbottal beszélnek. A mesterséges intelligenciával foglalkozó vállalatoknak pedig be kell avatkozniuk, ha a felhasználók látszólag rendkívüli bajban vannak.
A „magányosság spiráljának” kockázata
Amint azt bemutattuk, aggodalmak merülnek fel – és az eddigi tanulmányok is erre utalnak –, hogy nem egészséges, ha a fiatalok kizárólag a mesterséges intelligenciára támaszkodnak megbízható barátként vagy terapeutaként.
A szociális szorongással küzdő magányos emberek problémásan használhatják a mesterséges intelligenciát a magány és a negatív elmélkedés érzésének enyhítésére.
Azt feltételezzük, hogy ez a függőség egy mesterséges intelligencia által kiváltott „magányossági spirálhoz” vezethet. Amikor az egyének magányosnak érzik magukat, érzékenyebbek a társadalmi fenyegetettség érzésére és a zavaró érzelmi szabályozásra.
Így egy alacsony kockázatú mesterséges intelligencia által támogatott „baráthoz” fordulnak támogatásért a képzett vagy barátságos emberek helyett. Ez azonban gyakran nem oldja meg a magány kezdeti problémáját, mivel a chatbotok valójában súlyosbíthatják azt.
Kína által a mesterséges intelligencia által támogatott társakra vonatkozóan bevezetett korlátozások segíthetnek megtörni ezt az ördögi kört, és újra előtérbe helyezni az emberi kapcsolatokat. Újra egyensúlyba hozzák a kognitív matematikát: kielégítőbb lenne-e telepíteni egy mesterséges intelligencia által támogatott társalkalmazást, vagy időt szakítani egy barátommal való találkozásra?
Tanulságok Ausztráliának
A magány és a valahová tartozás érzésének hiánya továbbra is komoly kihívást jelent Ausztráliában, legalább minden hatodik ember magányt él át , és egyes bizonyítékok magasabb arányra utalnak.
Míg Kína fellépett a mesterséges intelligencia által támogatott társak ellen, Ausztrália élen jár a fiatalok közösségi médiahasználatának korlátozásában. Az eSafety (elektronikus biztonság) kódexeket is kidolgozott az életkorral kapcsolatos online tartalmak, például a pornográfia, a nagy hatású erőszak, az önkárosítás, az öngyilkosság és a rendellenes étkezés korlátozására. Ezek azonban nem foglalkoznak a mesterséges intelligencia által támogatott társak társadalmi káraival, például az érzelmi függőséggel vagy az emberi kapcsolatok elvesztésével.
Anthony Albanese miniszterelnök a múlt heti, mesterséges intelligenciáról szóló beszédében nem említette a mesterséges intelligencia által működtetett chatbotok társadalmi kárait.
Azt javasoljuk, hogy Ausztrália korhatáros anyagi védelme terjedjen ki a társadalmi, analitikus és funkcionális mesterséges intelligenciákkal folytatott beszélgetések nem szándékos társadalmi káraira is.
Az ausztrál kormánynak meg kell vizsgálnia, hogyan lépnek interakcióba ezek a virtuális társak az ausztrálokkal. És fel kell készülnünk a nem szándékos társadalmi károk enyhítésére, mielőtt ezek a szintetikus társadalmi kapcsolatok széles körben elterjedtek és normalizálódtak volna.
Ausztráliának prioritásként kell kezelnie a társadalmi kapcsolatok fejlesztését – a munkahelyeken, a termelékenységi stratégiákban, az oktatási tantervekben és közösségeink tervezésében .
A chatbotok elleni autoriter fellépés talán nem elérhető egy demokratikus nemzet számára. De prioritásként kezelhetjük – és előtérbe kell helyeznünk – az emberi kapcsolatteremtési készségek fejlesztését, hogy ellenálljunk a mesterséges intelligenciától való egészségtelen túlzott függőségnek.
Ausztráliának a szabályozási védelmet kellene kihasználnia a társadalmi károk enyhítése érdekében, kiterjesztve az eSafety által a közösségi médiával már végzett munkát.
