Az LLM-felhasználók folyamatosan alulteljesítettek neurális, nyelvi és viselkedési szinten
Bár a nagyméretű nyelvi modellek (LLM-ek), mint a ChatGPT, jelentősen csökkenthetik a feladatok elvégzéséhez szükséges időt, egyre több kutatás mutat rá, hogy használatuk súlyos hátrányokkal járhat a felhasználók kognitív, nyelvi és viselkedési képességeire nézve. Az eredmények azt sugallják, hogy az LLM-ekre támaszkodók mélyebb szinten alulteljesíthetnek, gyengébb emlékezeti bevésődés és kritikai gondolkodás jellemezheti őket.
- Az LLM-ek csökkentik a kognitív terhelést, de gátolják a mélyebb sémák kialakítását, hacsak a felhasználó nem tesz tudatos erőfeszítéseket az információk integrálására.
- A modellek valószínűségi alapja erősítheti az „echo-chamber” hatást, szűkítve a különböző nézőpontoknak való kitettséget és tompítva a kritikai gondolkodást.
- Vizsgálatok szerint az LLM-et használó személyek nehezebben idéztek fel saját írásaikból, és alacsonyabb volt az elkészült anyaggal kapcsolatos tulajdonosi érzésük, ami a mélyebb megértés hiányára utal.
Az elmúlt években a mesterséges intelligencia, különösen a nagyméretű nyelvi modellek (LLM-ek), mint a ChatGPT, forradalmasították a munkavégzés és tanulás módját. Ígéretesen hangzik, hogy ezek az eszközök 32%-kal csökkenthetik a felesleges kognitív terhelést, ezzel meghosszabbítva a produktív időt. Azonban a Rohan Paul, AI kutató által felvetett kérdések azt sugallják, hogy az éremnek két oldala van: a látszólagos hatékonyság súlyos árat fizettethet a felhasználók neurális, nyelvi és viselkedési képességeivel.
A kognitív terhelés paradoxona: hatékonyság kontra mélység
Paul egyik fő felvetése a kognitív terhelésre vonatkozik. Miközben az LLM-ek valóban „levágnak” a felesleges terhelésből, ami felszabadítaná kapacitást, paradox módon a lényegi terhelést, azaz a releváns, mélyebb gondolkodást igénylő feladatokat is csökkentik. Ez azt jelenti, hogy a felhasználó agya kevesebb erőfeszítést tesz a sémák, azaz az összefüggések és mélyebb tudásstruktúrák kiépítésére. Ennek következménye, hogy hacsak a tanulók nem tesznek tudatos erőfeszítést az ötletek saját maguk általi integrálására, a megszerzett tudás felületes maradhat, és nehezen épül be a hosszú távú memóriába.
Visszhangkamra-effektus: a kritikai gondolkodás elhomályosulása
Egy másik kritikus pont a „visszhangkamra” kockázata. Mivel a valószínűségi alapon működő modellek, mint a ChatGPT, előnyben részesítik a „megfelelő” folytatásokat és válaszokat – azokat, amelyek a legvalószínűbbnek tűnnek a betanított adatok alapján –, ez a mechanizmus szűkítheti az információs hurkokat. Egy hagyományos keresőmotorral szemben, amely gyakran különböző forrásokból származó, akár ellentétes nézőpontokat is megjelenít, az LLM-ek hajlamosak megerősíteni a meglévő gondolati sémákat. Ez csökkenti a felhasználók kitettségét az ellentétes tényeknek és érveknek, ami hosszú távon tompítja a kritikai gondolkodás képességét, és megnehezíti az összetett problémák árnyalt megértését.
Neurális és viselkedési alulteljesítés: idézés és „tulajdonlás”
Az elméleti aggodalmak mellett gyakorlati adatok is alátámasztják az LLM-használat negatív hatásait. Paul utal olyan vizsgálatokra, amelyek során a résztvevőknek saját esszéikből kellett idézniük. Az adatok szerint az LLM-eket használó csoportok tagjai gyakrabban küszködtek azzal, hogy bármit is idézzenek, míg a hagyományos módon (azaz „csak aggyal”) dolgozók arányaiban sokkal pontosabb idézeteket adtak. Ez arra utal, hogy az LLM-es segítségével készült munka nem rögzült olyan mélyen a felhasználó emlékezetében.
Továbbá, a résztvevők által az esszéikhez fűzött „észlelt tulajdonosi érzés” is jelentősen alacsonyabb volt az LLM-használók körében a „csak agy” csoportéhoz képest. Ez a csökkent „tulajdonosi érzés” arra utal, hogy a felhasználók kevésbé érzik sajátjuknak, kevesebb mentális energiát fektettek bele, és így kevésbé is értik az általuk generált tartalmat. Ez mind nyelvi, mind viselkedési szinten aláássa a teljesítményt és a mélyreható megértést.
Összességében elmondható, hogy bár az LLM-ek hihetetlen eszközök, használatuk nem mentes a kockázatoktól. A felhasználóknak tudatosan kell törekedniük arra, hogy ne csak passzív befogadóként, hanem aktív, kritikus gondolkodóként használják ezeket az eszközöket, folyamatosan felülvizsgálva és integrálva az általuk generált információkat. Csak így kerülhető el, hogy a technológia, ami hivatott segíteni minket, valójában aláássa alapvető kognitív képességeinket.