Az OpenAI kutatója, Jason Wei szerint a szuperintelligencia megjelenése nem egy hirtelen, robbanásszerű esemény lesz, ahogy sokan elképzelik. Éppen ellenkezőleg: a mesterséges intelligencia (MI) öntanuló képessége még messze van, és amikor eljön, rendkívül fokozatosan, évek – sőt, akár egy évtized – alatt bontakozik majd ki, számos gyakorlati akadályon keresztül.
- Az öntanuló MI még nem létezik, és kezdetben kifejezetten ineffektív lesz, még az emberi kutatókhoz képest is.
- A fejlődés nem egységes: az MI nehezebben javítja magát komplex, adathiányos területeken, mint az egyszerű, könnyen orvosolható problémáknál.
- A valós világban végzett kísérletek elengedhetetlenek és időigényesek, ami alapvető korlátot jelent a haladás sebességében, függetlenül az MI intelligencia szintjétől.
A szuperintelligencia mítosza: fokozatos fejlődés helyett hirtelen robbanás?
Az MI fejlődésének üteme és jellege az egyik legvitatottabb téma napjainkban. Míg sokan egy hirtelen, robbanásszerű „gyors felszállásra” számítanak, ahol a mesterséges intelligencia egyik napról a másikra eléri az emberfeletti szintet, addig az OpenAI kutatója, Jason Wei árnyaltabb képet fest erről. Véleménye szerint a jelenlegi technológiai szinten még egyáltalán nem létezik öntanuló MI, és amikor megérkezik, a haladás sokkal inkább lassú, lépésről lépésre történő folyamat lesz.
Wei hangsúlyozza, hogy az öntanulás nem egy bináris állapot: nem arról van szó, hogy egy MI modell hirtelen tökéletesen képes lesz önmagát képezni. Vegyük például azt a forgatókönyvet, hogy a GPT-5 képes lenne a GPT-6 képzésére. Ez kezdetben valószínűleg rendkívül erőforrás- és időigényes lenne, összehasonlítva azzal, ahogyan az emberi kutatók dolgoznak. Csak sok próba és iteráció után válna hatékonyabbá az MI a saját maga képzésében, mint az ember.
Nem minden területen egyszerre: a fejlődés gradiens
Fontos megérteni, hogy még ha egy modell képes is lenne az öntanulásra, nem javulna hirtelen minden területen egyszerre. A különböző feladatok nehézsége eltérő. Például, az MI először valószínűleg olyan egyszerű problémákban lenne képes önmagát javítani, mint a hallucinációk csökkentése vagy a stílus finomítása, melyeket viszonylag könnyen orvosolhatunk a képzés utáni fázisban.
Ezt követhetnék a bonyolultabb területek, mint a matematika vagy a programozás, ahol már kifinomultabb módszerek léteznek a modellek fejlesztésére. A skála extrém végén azonban olyan feladatok állnak, amelyek rendkívül nehezek az öntanuló rendszerek számára. Wei példaként említi a tlingit nyelvet, amelyet mindössze mintegy 500 ember beszél. Mivel kevés adat áll rendelkezésre, az MI-nek rendkívül nehéz lenne ezen a területen önmagát fejleszteni anélkül, hogy több adatot gyűjtenének, ami időigényes folyamat.
Ez a „nehézségi gradiens” azt jelenti, hogy a fejlődés nem egyidejű és nem egységes.
A valós világ korlátai: a kísérletek ereje
Végül, de nem utolsósorban, Wei kiemeli, hogy a tudományos haladás végső soron a valós világban végzett kísérletek által korlátozott. Sokan hihetik, hogy az összes biológiai vagy gépi tanulási cikk elolvasása elegendő lenne a rák gyógyításához, vagy egy tökéletes GPT-10 modell képzéséhez. Ha ez igaz lenne, a legtöbb cikket elolvasó vagy elméletet tanulmányozó emberek lennének a legjobb MI kutatók.
A valóságban azonban az MI (és számos más terület) fejlődését az empirikus, kísérletező kutatók dominálják, ami jól mutatja, hogy a progresszió mennyire függ a valós világbeli tapasztalatoktól, nem csupán a nyers intelligenciától. Még ha egy szuperintelligens ügynök kétszer, vagy akár ötször jobb kísérleteket is tervezne, mint a legjobb emberi kutatók, akkor is meg kellene várnia, amíg ezek a kísérletek lefutnak. Ez felgyorsíthatja a folyamatot, de nem eredményez hirtelen ugrást.
Összegzés: Gyorsulás, de nem robbanásszerű ugrás
Összefoglalva, a mesterséges intelligencia fejlődésének számos szűk keresztmetszete van, nem csupán a nyers intelligencia vagy az öntanuló rendszer hiánya. Bár az MI számos területen képes lesz áttörést hozni, minden egyes területnek megvan a maga fejlődési üteme.
Még a legmagasabb intelligencia is igényli a valós világbeli kísérleteket és az időt. Tehát a fejlődés felgyorsulása várható, de egy hirtelen, robbanásszerű „gyors felszállás” nem. Az MI a várakozások szerint fokozatosan és következetesen fejlődik majd, lépésről lépésre alakítva át világunkat, nem pedig egyetlen, mindent megváltoztató pillanatban.
Forrás: Jason Wei (@_jasonwei) X