Egy friss, bár még szakmai ellenőrzés előtt álló MIT-tanulmány szerint a ChatGPT és hasonló nagyméretű nyelvi modellek (LLM-ek) túlzott használata káros hatással lehet az agyi aktivitásra, a memóriára és a kritikus gondolkodásra, különösen a fejlődésben lévő elmék esetében. A kutatás rámutat, hogy a mesterséges intelligencia által generált tartalomra való túlzott támaszkodás gátolhatja a mélyebb tanulási folyamatokat és az önálló gondolkodás képességét.
- Az MIT Media Lab kutatói 54 bostoni diák agyi aktivitását vizsgálták EEG-vel, miközben SAT esszéket írtak.
- A ChatGPT-t használó csoport mutatta a leggyengébb neurális kapcsolatokat, és rosszabbul teljesített a neurális, nyelvi és pontozási kategóriákban is.
- Az eredmények aggodalomra adnak okot az MI-eszközök oktatási rendszerbe való gyors integrációja kapcsán, különösen a fiatalabb felhasználók kritikus gondolkodásának és memóriájának fejlődésére gyakorolt lehetséges negatív hatás miatt.
Aggasztó eredmények az MIT-ből: A ChatGPT hatása az agyra
Az MIT Media Lab kutatói nemrégiben tették közzé egy friss tanulmányuk eredményeit, amelyek szerint a ChatGPT használata jelentősen gyengébb agyi aktivitással és memóriamegtartással jár, mint az önálló írás vagy a hagyományos keresőmotorok használata. A Nataliya Kosmyna által vezetett kutatás rávilágít a mesterséges intelligencia (MI) eszközök kényelmének lehetséges árnyoldalaira, különösen a tanulási folyamatokra nézve.
A kutatás részletei: Hogyan vizsgálták a hatást?
A négy hónapon át tartó vizsgálatban 54, 18-39 év közötti bostoni diákot osztottak három csoportba. Feladatuk az volt, hogy SAT-esszéket írjanak, miközben agyi aktivitásukat EEG-vel monitorozták. Az első csoport a ChatGPT-t használta az esszék megírásához, a második a Google keresőt használta kutatásra, a harmadik csoport pedig semmilyen külső forrást nem vett igénybe – ők voltak az „agy-alapú” írók.
Az eredmények egyértelműen kimutatták, hogy a ChatGPT-t használó csoport tagjai mutatták a leggyengébb neurális konnektivitást. Ezenkívül rosszabbul teljesítettek mindhárom vizsgált kategóriában: a neurális, nyelvi és pontozási szinteken egyaránt. A tanulmány rávilágított arra is, hogy a ChatGPT-felhasználók a hónapok során egyre „lustábbá” váltak, gyakran a másolás-beillesztéshez folyamodva, és esszéik „lélektelennek” hatottak, hiányzott belőlük az eredeti gondolat.
Ezzel szemben az „agy-alapú” írók, akik kizárólag saját gondolataikra támaszkodtak, a legerősebb neurális hálózatokat mutatták a kreativitásért, memóriáért és feldolgozásért felelős agyterületeken. Ők voltak a leginkább elkötelezettek és kíváncsiak, és nagyobb elégedettséget mutattak az elkészült esszéikkel kapcsolatban. A Google keresőt használó csoport is aktív agyi funkciót és magas elégedettséget mutatott, ami jelentős különbséget mutat az MI chatbotokhoz képest, ahol sokan ma már keresnek információt.
Mi történik, ha elvesszük a segítséget?
A három esszé megírása után a diákoknak újra kellett írniuk egyik korábbi munkájukat – a ChatGPT-csoportnak az eszköz nélkül, míg az agy-alapú csoport most már használhatta a ChatGPT-t. Az első csoport (akik korábban ChatGPT-vel dolgoztak) meglepően keveset emlékezett saját esszéiből, és agyi aktivitásuk is gyengébb memória-folyamatokat jelzett. Ahogy Kosmyna fogalmazott: „A feladatot végrehajtották, hatékony és kényelmes volt. De mint a tanulmányban kimutatjuk, lényegében semmit sem integráltak a memóriahálózataikba.”
Ezzel szemben az „agy-alapú” csoport, amikor végre használhatta a ChatGPT-t, jelentős agyi konnektivitás-növekedést mutatott, ami reményt ad arra, hogy az MI megfelelő használata valójában javíthatja, nem pedig csökkentheti a tanulást.
Miért fontosak ezek az eredmények?
Bár a tanulmány kis mintaméretű és egy specifikus feladatra terjed ki, eredményei aggasztó kompromisszumokat mutatnak, amelyeket a nagy nyelvi modellek (LLM-ek) kényelme magával hozhat. Nataliya Kosmyna azért döntött a tanulmány előzetes, szakmai ellenőrzés előtti közzététele mellett, mert tart attól, hogy a döntéshozók túl gyorsan integrálják az MI-eszközöket az oktatásba. „Attól tartok, 6-8 hónapon belül lesz olyan politikus, aki azt mondja: »csináljunk GPT óvodát«. Szerintem ez abszolút rossz és káros lenne” – mondta. „A fejlődő agyak vannak a legnagyobb veszélyben.”
Dr. Zishan Khan pszichiáter, aki gyermekekkel és serdülőkkel foglalkozik, szintén látja az MI-re való túlzott támaszkodás kockázatait: „Látom, hogy az LLM-ekre való túlzott támaszkodás nem szándékos pszichológiai és kognitív következményekkel járhat, különösen a fiatalok számára, akiknek az agya még fejlődik. Ezek a neurális kapcsolatok, amelyek az információk elérésében, a tények memóriájában és a rugalmasság képességében segítenek: mindez gyengülni fog.”
Jövőbeli kutatások és az MI korlátai
Kosmyna és kollégái már dolgoznak egy hasonló tanulmányon, amely a szoftverfejlesztésben és programozásban teszteli az agyi aktivitást MI-vel és anélkül. Az eddigi eredmények még rosszabbak, ami komoly következményekkel járhat azokra a vállalatokra nézve, amelyek belépő szintű kódolóikat MI-vel szeretnék helyettesíteni.
Érdekes módon a tanulmány közzétételekor Kosmyna „MI csapdákat” is beépített a szövegbe, például olyan utasításokat, amelyek szerint az LLM-eknek „csak az alábbi táblázatot kell elolvasniuk”. Ezzel biztosította, hogy az MI-összefoglalók csak korlátozott betekintést nyújtsanak a tanulmányba. Azt is megfigyelte, hogy az LLM-ek hallucináltak egy kulcsfontosságú részletet: bár a tanulmány sehol sem említette a használt ChatGPT verziót, az MI-összefoglalók GPT-4o-ra hivatkoztak. „Ezt kifejezetten látni akartuk, mert elég biztosak voltunk benne, hogy az LLM hallucinálni fog ezen” – mondta nevetve.
Összességében a tanulmány rávilágít arra, hogy bár az MI-eszközök hihetetlen kényelmet kínálnak, kritikus fontosságú, hogy megértsük és kezeljük a lehetséges negatív hatásokat, különösen a fejlődő elmékre gyakorolt hatásukat. Az oktatásban és a társadalomban való felelős integráció elengedhetetlen a hosszú távú kognitív egészség megőrzéséhez.