Paul Tudor Jones, a neves amerikai befektető és kockázatkezelő évtizedeket töltött azzal, hogy a pénzügyi piacok rejtett veszélyeit azonosítsa. Most azonban nem a gazdasági válságok, hanem egy új, sokkal átfogóbb fenyegetés miatt kongatja a vészharangot: a mesterséges intelligencia ellenőrizetlen fejlődése szerinte nem csupán munkahelyek millióit szüntetheti meg, hanem soha nem látott társadalmi feszültségekhez, sőt akár az emberiség létét fenyegető kockázatokhoz is vezethet, ha a szabályozás továbbra is elmarad.
- Friss adatok szerint az amerikai egyetemi végzősök munkanélküliségi rátája elérte az 5,8%-ot, ami a 45 éves történelem során először haladja meg az országos átlagot, jelezve a munkaerőpiaci változások első jeleit.
- Dario Amodei, az Anthropic AI-óriás vezérigazgatója szerint a mesterséges intelligencia az elkövetkező 1-5 évben az összes belépő szintű, szellemi munka 50%-át eltörölheti, és 10-20%-ra emelheti a munkanélküliséget.
- Paul Tudor Jones kiemelten aggasztónak tartja a javaslatot, amely 10 évre befagyasztaná az MI szabályozását, miközben egyes techvezetők 10-20%-os esélyt látnak arra, hogy az AI a következő 20 évben az emberiség felét elpusztítja.
A vészjósló adatok és a jövő árnyéka
Míg a gazdaság állapotáról szóló diskurzusok a megszokott mederben folynak, egy apró, ám annál aggasztóbb adat szinte észrevétlen maradt: a júniusi foglalkoztatási statisztikák szerint az amerikai egyetemi végzősök munkanélküliségi rátája 5,8%-ra emelkedett. Ez a szám először haladta meg az országos átlagot a legutóbbi 45 évben, ami önmagában is figyelmeztető jel. Paul Tudor Jones szerint ez az adat – bár elsőre csak egy számadatnak tűnik – sokkal nagyobb problémát vetít előre, különösen Dario Amodei, az AI-óriás Anthropic vezérigazgatójának nemrégiben tett kijelentése fényében.
Amodei arra figyelmeztetett, hogy a mesterséges intelligencia a következő egy-öt évben a belépő szintű, szellemi munkák felét eltörölheti, és 10-20%-ra növelheti a munkanélküliséget. Ez a prognózis Jones számára, aki közel fél évszázada professzionális kockázatkezelőként dolgozik, minden létező vészcsengőjét megszólaltatja. Szerinte mindannyiunknak aggódnunk kellene.
A Washingtoni vakvágány és a szabályozás hiánya
A legijesztőbb az, hogy Washington mintha süket lenne erre a vészjelzésre. A Trump-adminisztráció „Nagy Szép Törvénytervezetébe” ugyanis bekerült egy javaslat, amely 10 évre moratóriumot hirdetne az államok azon jogára, hogy „korlátozzák, szabályozzák, vagy egyéb módon szabályozzák a mesterséges intelligencia rendszereket”.
Az MI fejlődésének tempóját tekintve 10 év egy évezrednek felel meg. Senki sem tudja, mi áll a mai MI-modellek által adott válaszok mögött, és azt sem, mit hoz az MI akár csak egy év múlva, nemhogy tíz. A szabályozás mellőzésének hátterében a szabadpiaci kapitalizmusba vetett rendíthetetlen hit áll, amely a növekedés és a társadalmi jó maximalizálását célozza. Paul Tudor Jones maga is erősen hisz a kapitalizmusban és a szabad piacokban, de emlékeztet arra, hogy az ellenőrizetlen profithajhászat katasztrofális következményekkel járhat. Példaként említi az opioid-válságot, amely több mint 800 000 amerikai halálát okozta, mert az Élelmiszer- és Gyógyszerügyi Hivatal (FDA) nem végezte el szabályozási feladatát, és nem állította meg egy vállalat felelőtlen profitvágyát.
Természetesen az MI innovációk hihetetlen dolgokat fognak tenni az emberiségért, de még a technológiai fejlődés ünneplése közben is meg kell állnunk, hogy megfontoljuk ezeknek az új eszközöknek a társadalmi költségeit. Szükség van élénk vitára – a kormányzat legmagasabb szintjein, a vállalati igazgatótanácsokban és a társadalomban egyaránt – arról, hogy mi is az az „MI a jó célért”. Fel kell tennünk a kérdést, hogyan részesülhet a társadalom a közelgő termelékenységi nyereségekből, milyen felelősséggel tartoznak az MI-vállalatok ezen technológiák biztonságos fejlesztésében, és mi a kormány szerepe annak biztosításában, hogy ezek az innovációk mindannyiunk javát szolgálják.
Ha az elmúlt 45 év forgatókönyvét követjük, ahol a termelékenységi nyereség több mint 92%-a a részvényesekhez került a dolgozók helyett, és ha Amodei munkanélküliségi előrejelzése akár csak félig is igaz, akkor példátlan társadalmi felfordulással nézünk szembe.
A gazdasági összeomlás árnyéka
A legrosszabb forgatókönyv szerint a magas munkanélküliség által a szociális hálóra nehezedő nyomás sok államot és önkormányzatot csődbe kényszerít. A szövetségi kormány sem lesz jó mentsvár, hiszen 120%-ot meghaladó adósság/GDP arányával már nem rendelkezik azzal a hitelképességgel, mint egykor. A kötvénypiacok összeomlanak, magukkal rántva a részvényeket is.
Más szóval, egyszerűen nem engedhetünk meg magunknak egy 10 éves szabályozási szünetet, arra az esetre, ha felfedeznénk valamit, ami változtatást igényel. Minden jelentős pénzügyi katasztrófa, amit pályafutásom során láttam – az 1987-es összeomlástól az 1998-as Long Term Capital válságon át a Nagy Pénzügyi Válságig – azért következett be, mert valaki olyasmire adott el opciót, amit nem értett teljesen. Meg kell ezt ismételnünk?
Az MI mint biztonsági fenyegetés
A legveszélyesebb aspektust Paul Tudor Jones szándékosan hagyta utolsónak. Néhány hónapja Elon Musk kijelentette, hogy 20% esély van arra, hogy az MI kiirtja az emberiséget. És nem ő az egyetlen, aki így gondolja. Jones nemrég részt vett egy kis konferencián a techvilág vezetőivel, ahol a négy legfontosabb AI-fejlesztő egyetértett abban a hipotézisben, hogy „az AI-nak 10% esélye van arra, hogy a következő 20 évben az emberiség felét elpusztítsa”. Egyik modellész még azt is kijelentette, hogy kontroll nélküli világban az MI végtelenül megkönnyíti a vírusos járványok fegyverré tételét.
A szabadpiacba vetett hiten túl a legfőbb ok, amiért vakon rohanunk az ismeretlenbe, Kína. Az a félelem, hogy ha Kína döntő előnyre tesz szert az MI terén, örökre geopolitikai és katonai hátrányba kerülünk. Extrém esetben Kína dominanciája akár az emberiség egészét is fenyegetheti. De vizsgáljuk meg a valós esélyeket: igen, Kína megkísérelheti az MI-t olyan módon fegyverré tenni, ami veszélyezteti az emberiséget; de ezt megtehetik mások is, beleértve a különféle radikális és terrorista csoportokat, ha valahogyan megszerzik a szükséges technológiai szakértelmet. Paul Tudor Jones szerint az esély 5% Kína, és 95% mások. Végtére is, az emberiség elpusztítása nem az, amit bármelyik, egy ország vezetésére elég erős vezető örökségként kíván magának.
Mit tehetünk? Javaslatok a cselekvésre
Paul Tudor Jones szerint azonnal cselekednünk kell. Íme a javaslatai:
- Először is, abba kell hagynunk az emberiség számára biztonságos MI megteremtésére irányuló erőfeszítések késleltetését. Ez pedig azt jelenti, hogy el kell távolítani a rosszul átgondolt MI-szabályozási moratóriumot a „Nagy Szép Törvénytervezetből”.
- Másodszor, szövetségi törvényt kell elfogadni, amely előírja, hogy minden MI által generált tartalmat vízjellel kell ellátni, hogy tudjuk, mikor fogyasztunk MI által létrehozott tartalmat. Emellett kriminalizálni kell az MI-csalást és a károkozási szándékot. Az emberek irrelevánssá válnak a világban, ahová tartunk, ha nem követeljük meg az emberi hitelességet.
- Harmadszor, létre kell hoznunk egy új, kétpárti amerikai bizottságot a termelékenység megosztásának kulcsfontosságú kérdéseinek kezelésére, hogy proaktívan reagálhassunk, amint az MI ránk tör.
- Végül, kétoldalú tárgyalásokat kell kezdeményeznünk Kínával, hogy közös MI-biztonsági protokollokat hozzunk létre az egész világ védelmére a hibáktól és a rosszindulatú szereplőktől.
Mindez nem radikális, hanem racionális. A belépő szintű munkahelyek munkanélküliségi adatai cselekvésre szólítanak fel. Az MI társadalmi zavarainak első jelei már itt vannak. Demokráciánk az innováció szabadságával és a szabályozás bölcsességével épült. Az MI-t is jól kell kezelnünk, és azzal kell kezdenünk, hogy megszüntetjük a szabályozási moratóriumot.
Forrás:
https://time.com/7297582/ai-safety-risks-paul-tudor-jones-essay