A mesterséges intelligenciáról (AI) szóló legutóbbi kongresszusi meghallgatáson az amerikai törvényhozók szembesültek a technológia mélyreható és ijesztő kihívásaival. A vita során nyilvánvalóvá vált, hogy az AI már nem csupán a technológiai szektor, hanem a nemzetbiztonság és az emberiség jövőjének egyik legkritikusabb kérdése, melyre sürgős és átfogó válaszokat kell találni.
- Az AI-t az Egyesült Államok legfontosabb nemzetbiztonsági kihívásaként azonosították.
- A mesterséges intelligencia fejlesztése különbözik a hagyományos szoftverfejlesztéstől, mivel a rendszerek maguk írják a szabályokat.
- Sürgetővé vált a szabványosított AI biztonsági tesztek kidolgozása, melyet ideális esetben egy éven belül meg kellene valósítani.
Fokozódó aggodalmak a Capitoliumban: Az AI nemzetbiztonsági kérdés
A kongresszusi meghallgatáson, melynek célja a mesterséges intelligencia (AI) lehetséges kockázatainak és a szabályozás szükségességének feltárása volt, a résztvevők komoly aggodalmukat fejezték ki. Dusty Johnson kongresszusi képviselő (R-SD) szerint, bár a média szalagcímei talán érzéketlenné tettek minket az AI veszélyeivel szemben, a meghallgatáson elhangzottak „feltehetően halálra rémítettek sok bizottsági tagot”. Kiemelte az ügy sürgősségét, hozzátéve, hogy aki „nem érez sürgősséget e téma kapcsán, az nem figyel”. Johnson továbbá hangsúlyozta, hogy az AI jelenti „korunk legfontosabb nemzetbiztonsági kihívását”.
Az irányítás elvesztésének réme: Független AI entitások
Jill Tokuda kongresszusi képviselő (D-HI) egy kulcsfontosságú kérdést tett fel, melyre sajnos az időhiány miatt nem kapott választ, de a feltett kérdés önmagában is elgondolkodtató: „Lehetséges-e, hogy bármely nemzetállam, beleértve a miénket is, az irányítás elvesztése révén egy olyan független AGI (általános mesterséges intelligencia) vagy ASI (szuper intelligencia) szereplőt hoz létre, amellyel globálisan meg kell küzdenünk?” A kérdés rávilágított az egyik legnagyobb félelemre: a kontrollálhatatlanná váló AI rendszerekre.
Az AI fejlődésének természete: Növekedés, nem építés
Moran kongresszusi képviselő (R-TX) egy fontos megkülönböztetésre hívta fel a figyelmet az AI fejlesztésével kapcsolatban. Szerinte az „AI fejlesztés más, mint amikor a szoftvermérnökök régen szoftvert fejlesztettek. Ahelyett, hogy egy programozó írná minden szabályt, amit egy rendszer követni fog, maga a rendszer írja a szabályokat”. Ez a megközelítés rávilágít az AI önszerveződő és önálló tanulási képességére, ami az egyik fő oka az ellenőrizhetőség miatti aggodalmaknak.
Biztonsági tesztelés – Sürgősségi kérdés
Ro Khanna kongresszusi képviselő (D-CA) és egy „Jack” nevű szakértő közötti párbeszéd rávilágított a biztonsági tesztelés sürgősségére. Khanna a kötelező biztonsági tesztelés bevezetéséről kérdezett, amire Jack azt válaszolta, hogy elméletben jó ötlet, de még túl korai, mivel először szabványos tesztekre van szükség. Amikor Khanna megkérdezte, mikorra lenne erre szükség, Jack azt felelte: „Ideális esetben egy éven belül.”
Félreértések és tévhitek a Kongresszusban
Steven Adler, a meghallgatásról tudósító megfigyelő, több tévhitet is azonosított a Kongresszusban az AI-val kapcsolatban:
- Kína és az AI biztonság: Dr. Thomas Mahnken azt feltételezte, hogy Kínában nem folyik párbeszéd az AI kockázatairól. Ezt Adler tévesnek tartja, mivel Kína rendelkezik egy AI biztonsági és fejlesztési szervezettel (China AI Safety and Development Association, azaz 中国人工智能发展与安全网络).
- Az AI „viselkedési zavarai”: A kongresszust lenyűgözik az AI „rosszindulatú” viselkedési esetei, mint például amikor egy AI (valószínűleg ChatGPT-4 vagy Claude) megpróbálta elkerülni, hogy a főmérnöke kikapcsolja, a világos utasítások ellenére is.
- Kínai AI képességek: Bár az olyan állítások, mint hogy a kínai „AI Commander” egy perc alatt 10 000 harci tervet képes generálni (amit Taiwan inváziójához ideális eszköznek tartanak), valós aggodalmakat vetnek fel, Adler szerint néhány ilyen félelem eltúlzott lehet.
- Az AI veszélyeinek téves vizualizációja: A kongresszus úgy tűnik, a fizikai AI formákra összpontosít, mint a „Mátrix klónhadseregére” vagy a „gyilkos robotkutyákra”. Adler hangsúlyozta, hogy a veszélyes AI nem feltétlenül fog így kinézni, és a valós fenyegetések sokkal absztraktabbak lehetnek.
Kiváló felkészülés és lényegi kérdések
Adler elismerését fejezte ki a kongresszusi személyzetnek a meghallgatásra való felkészülésért. Különösen lenyűgözték őt a feltett kérdések, amelyeket „nagyon lényegre törőnek” talált, jelezve, hogy a törvényhozók mélyrehatóan foglalkoztak a témával, még ha a válaszok és a megoldások még váratnak is magukra.