Az alábbi írás Will Bryk 2024. december 25-én leírt gondolatai az előttünk álló esztendőkről.
Will Bryk az Exa nevű vállalat alapítója és vezérigazgatója, amely a mesterséges intelligencia ügynökök számára készült keresőmotorok fejlesztésére specializálódott. Korábban a Cresta AI-nál dolgozott, és a Harvard Egyetemen végzett. San Franciscóban található a székhelye.
És akkor jöjjön az írás!
Gondolatok az AGI előestéjén
Beszéltem a héten több barátommal az o3-ról. Az ő összefoglalt válaszuk lényegében: „Úristen, ez tényleg megtörténik?”.
Igen, ez tényleg megtörténik. A következő pár év őrült lesz. Ez történelmi jelentőségű dolog, sőt galaktikus.
Nevetséges, hogy nincs kifinomult vita arról, ami történik. Az AI laborok nem beszélhetnek róla. A hírek alig érintik. A kormány nem érti.
Az a tény, hogy egy közösségi média mém alkalmazás hírfolyama az, ahogyan az emberiség jövőjéről beszélgetünk, valami abszurd szitkomnak tűnik, de itt vagyunk.
Alább olvasható egy csomó gondolat, ami éppen történik – az én hozzájárulásom az X ötletmélységhez.
Jegyezzétek meg, ezek a gondolatok FÉLKÉSZEK és SZÓRAKOZTATÓ SPEKULÁCIÓK. Nem volt elég időm mindegyiket átgondolni / kutatni, és sokban tévedni fogok. De remélem, hogy érdekesek lesznek néhány ember számára, akik próbálják feldolgozni a történéseket.
Jó szórakozást!
- Az o3 nem kellett volna, hogy sokkoló legyen. Az OpenAI 2 hónappal ezelőtt megmutatta nekünk a tesztidő skálázási grafikonját, és a számítógépek története megtanít minket hinni a trendvonalaknak, bármennyire is hihetetlenek. Ami sokkoló kellene, hogy legyen, az az, hogy 2 hónap alatt történt meg. Ilyen gyorsan jutottunk el a főiskolai szintű AI-tól a PhD-szintű AI-hoz. Az emberek számára a változás izgalmas, de a gyors változás sokkoló.
- Elég nyilvánvaló, hogy mi fog legközelebb történni. Az o3 osztályú modellek tényleg nagyon jók bárminek az optimalizálásában, amire jutalomfüggvényt lehet definiálni. A matematikához és a kódoláshoz viszonylag könnyű jutalomfüggvényt tervezni. A fikcióírás nehezebb. Ez azt jelenti, hogy rövid távon (1 év), kiugróan jó modelleket fogunk kapni. Alapvetően AGI-szintűek lesznek matematikában, kódolásban és általános következtetésben, de sablonos fikciót fognak írni. Bár a jobb következtetés miatt a modellek összességében okosabbnak tűnnek majd, még mindig hülye módon fognak elbukni olyan dolgokban, amelyekre nem voltak RL-ezve – azaz nem szerepeltek a képzési adataikban. Hosszabb távon (1-3 év), továbbra is új területeket fogunk hozzáadni, hogy RL-ezzük őket (érzelmi adatok, érzékszervi adatok stb.), amíg a vakfoltok be nem lesznek foltozva, és akkor ezek a modellek egyértelműen AGI-k lesznek mindenki számára, aki nem Gary Marcus.
- Az ügynökök tényleg 2025-ben érkeznek. Kizárt, hogy az o3-szerű modellek ne legyenek képesek navigálni a böng