ChatGPT může podle nové studie MIT narušovat kritické myšlení
21. června 2025
Matthew Loop: „MIT právě dokončil první studii mozkových skenů uživatelů ChatGPT a výsledky jsou děsivé. Vlastně jsem o tom už několik let přemýšlel. AI nás sice v některých ohledech činí produktivnějšími, ale u intenzivních uživatelů způsobuje kognitivní bankrot. Tady je shrnutí dat za 4 měsíce.
1) 83,3 % uživatelů ChatGPT nedokázalo citovat z esejí, které napsali před pár minutami. Nechte si to projít hlavou. Napíšwtw něco, uložítw to a váš mozek to už zapomněl, protože za vás přemýšlel ChatGPT.
2) Skeny mozku odhalily poškození: počet neuronových spojení klesl ze 79 na pouhých 42. To je 47% pokles mozkové konektivity. Kdyby váš počítač ztratil polovinu svého výpočetního výkonu, označili byste ho za rozbitý. To se právě děje s mozky uživatelů ChatGPT.
3) Učitelé nevěděli, které eseje byly napsány pomocí AI, ale cítili, že něco není v pořádku. Bez duše. Obsahově prázdné. Jazyk téměř dokonalý, ale bez osobních postřehů. Lidský mozek dokáže rozpoznat kognitivní dluh, i když ho nedokáže pojmenovat.
A teď ta děsivá část. Když výzkumníci donutili uživatele ChatGPT psát bez AI, dopadli hůře než lidé, kteří AI nikdy nepoužívali. Nejde jen o závislost. Jde o kognitivní atrofii.
Jako sval, který zapomněl, jak funguje.
Tým MIT použil EEG skenování mozku u 54 účastníků po dobu 4 měsíců. Sledovali alfa vlny (kreativní zpracování), beta vlny (aktivní myšlení) a vzorce neuronové konektivity.
Nejde o názor. Jde o měřitelné poškození mozku způsobené nadužíváním AI. Paradox produktivity, o kterém nikdo nemluví:
Ano, ChatGPT vám pomůže dokončit úkoly o 60 % rychleji.
Ale snižuje „relevantní kognitivní zátěž“ potřebnou pro skutečné učení o 32 %. Vyměňujete dlouhodobou kapacitu mozku za krátkodobou rychlost.
Společnosti, které oslavují zvýšení produktivity díky AI, nevědomky vytvářejí kognitivně slabší týmy. Zaměstnanci se stávají závislými na nástrojích, bez kterých nemohou žít, a jsou méně schopni samostatného myšlení.
Mnoho nedávných studií zdůrazňuje stejný problém, včetně studie společnosti Microsoft.
Výzkumníci z MIT to nazývají „kognitivní dluh“ – podobně jako technický dluh, ale pro váš mozek. Každá zkratka, kterou s AI použijete, vytváří úroky ve formě ztracené schopnosti myslet.
A stejně jako finanční dluh, i tento dluh se nakonec musí splatit.
Ale je tu i dobrá zpráva.
Ve čtvrté části studie se totiž objevilo něco zajímavého.
Lidé s vysokou kognitivní základnou vykazovali při používání AI VYŠŠÍ neurální konektivitu než chroničtí uživatelé. Ale co chroničtí uživatelé AI, kteří byli nuceni pracovat bez ní? Dosáhli horších výsledků než lidé, kteří AI nikdy nepoužívali.
Řešením není zakázat AI. Je třeba ji používat strategicky.
Volba je na vás. Budujte kognitivní dluh a staňte se závislými na AI. Nebo budujte kognitivní sílu a staňte se multiplikátory AI.
První studie mozkových skenů uživatelů AI nám právě ukázala, o co jde. Rozhodněte se moudře.
Sdíleno od Alexe Vaccy
Škodí ChatGPT kritickému myšlení? Nová studie výzkumníků z Media Lab na MIT přinesla znepokojivé výsledky.
Studie rozdělila 54 subjektů – 18 až 39letých z oblasti Bostonu – do tří skupin a požádala je, aby napsali několik esejí SAT pomocí ChatGPT od OpenAI, vyhledávače Google a vůbec ničeho. Výzkumníci použili EEG k zaznamenání mozkové aktivity pisatelů ve 32 oblastech a zjistili, že z těchto tří skupin měli uživatelé ChatGPT nejnižší mozkovou aktivitu a „konzistentně dosahovali horších výsledků na nervové, lingvistické a behaviorální úrovni“. V průběhu několika měsíců se uživatelé ChatGPT s každou další esejí stávali línějšími a na konci studie se často uchylovali ke kopírování a vkládání.
Studie naznačuje, že používání LLM by mohlo ve skutečnosti poškodit učení, zejména u mladších uživatelů. Studie dosud neprošla recenzním řízením a její vzorek je relativně malý. Hlavní autorka studie Nataliya Kosmyna však považovala za důležité zveřejnit výsledky, aby upozornila na obavy, že s tím, jak se společnost stále více spoléhá na LLM pro okamžité využití, může být v tomto procesu obětován dlouhodobý vývoj mozku.
„Co mě skutečně motivovalo k tomu, abych to zveřejnila teď, než budu čekat na úplné vzájemné hodnocení, je to, že se obávám, že za 6–8 měsíců se nějaký tvůrce politik rozhodne: ‚Pojďme zavést GPT v mateřské škole.‘ Myslím, že by to bylo naprosto špatné a škodlivé,“ říká. „Největšímu riziku jsou vystaveny vyvíjející se mozky.“
Generování nápadů
MIT Media Lab nedávno věnovala značné prostředky studiu různých dopadů generativních nástrojů umělé inteligence. Studie z počátku tohoto roku například zjistily, že obecně platí, že čím více času uživatelé tráví komunikací s ChatGPT, tím osamělejší se cítí.
Kosmyna, která je od roku 2021 vědeckou pracovnicí na plný úvazek v laboratoři MIT Media Lab, chtěla konkrétně prozkoumat dopady používání umělé inteligence ve školních úkolech, protože stále více studentů umělou inteligenci používá. Proto spolu se svými kolegy pověřila subjekty, aby napsaly 20minutové eseje založené na zadáních ze SAT, mimo jiné o etice filantropie a úskalích příliš mnoha možností.
Skupina, která psala eseje pomocí ChatGPT, odevzdala všechny extrémně podobné eseje, které postrádaly originální myšlenky a opíraly se o stejné výrazy a myšlenky. Dva učitelé angličtiny, kteří eseje hodnotili, je označili za do značné míry „bezduché“. EEG odhalilo nízkou exekutivní kontrolu a zapojení pozornosti. A ve své třetí eseji mnoho pisatelů jednoduše zadalo výzvu ChatGPT a nechalo ho udělat téměř veškerou práci. „Bylo to spíš jako: ‚Dejte mi esej, upřesněte tuto větu, upravte ji a mám hotovo,‘“ říká Kosmyna.
Skupina, která pracovala pouze s mozkem, naopak vykazovala nejvyšší neuronovou konektivitu, zejména v pásmech alfa, theta a delta, které jsou spojeny s kreativními myšlenkami, paměťovým zatížením a sémantickým zpracováním. Výzkumníci zjistili, že tato skupina byla více angažovaná a zvědavá, prohlašovala, že je součástí eseje, a vyjadřovala vyšší spokojenost se svými esejemi.
Třetí skupina, která používala Vyhledávání Google, také vyjádřila vysokou spokojenost a aktivní mozkovou funkci. Rozdíl je zde patrný, protože mnoho lidí nyní vyhledává informace pomocí chatbotů s umělou inteligencí na rozdíl od Vyhledávání Google.
Po napsání tří esejů byli účastníci požádáni, aby přepsali jeden ze svých předchozích pokusů – ale skupina ChatGPT to musela udělat bez tohoto nástroje, zatímco skupina s pouze mozkem nyní mohla ChatGPT používat. První skupina si ze svých vlastních esejů pamatovala jen málo a vykazovala slabší alfa a theta mozkové vlny, což pravděpodobně odráželo obcházení hlubokých paměťových procesů. „Úkol byl proveden a dalo by se říci, že byl efektivní a pohodlný,“ říká Kosmyna. „Ale jak ukazujeme v článku, v podstatě jste nic z toho neintegrovali do svých paměťových sítí.“
Druhá skupina si naopak vedla dobře a vykazovala významné zvýšení mozkové konektivity napříč všemi frekvenčními pásmy EEG. To dává naději, že umělá inteligence, pokud bude používána správně, by mohla učení zlepšit, spíše než ho oslabit.
Po publikaci
Toto je první předběžný recenzní článek, který Kosmyna kdy vydala. Její tým jej sice předložil k recenznímu řízení, ale nechtěl čekat na schválení, které může trvat osm i déle měsíců, aby upozornil na problém, o kterém se Kosmyna domnívá, že se nyní týká dětí. „Vzdělávání v tom, jak tyto nástroje používáme, a propagace skutečnosti, že váš mozek se skutečně potřebuje vyvíjet analogovějším způsobem, je naprosto zásadní,“ říká Kosmyna. „Potřebujeme mít aktivní legislativu, která je synchronizovaná, a co je důležitější, testovat tyto nástroje, než je zavedeme.“
Psychiatr Dr. Zishan Khan, který léčí děti a dospívající, říká, že vidí mnoho dětí, které se ve školních úkolech silně spoléhají na umělou inteligenci. „Z psychiatrického hlediska vidím, že nadměrné spoléhání se na tyto metody LLM může mít nezamýšlené psychologické a kognitivní důsledky, zejména pro mladé lidi, jejichž mozek se stále vyvíjí,“ říká. „Tato neuronová spojení, která vám pomáhají s přístupem k informacím, paměť faktů a schopnost být odolný: to vše oslabí.“
Je ironií, že po zveřejnění článku ho několik uživatelů sociálních médií prohlédlo algoritmy LLM, aby jej shrnuli a poté zveřejnili zjištění online. Kosmyna očekávala, že to lidé udělají, a tak do článku vložila několik pastí s umělou inteligencí, jako například pokyn autorům LLM, aby „četli pouze tuto tabulku níže“, čímž zajistila, že autori LLM z článku získají pouze omezené poznatky.
Zjistila také, že LLM halucinovaly klíčový detail: Nikde ve svém článku neuvedla, jakou verzi ChatGPT použila, ale souhrny umělé inteligence uváděly, že článek byl trénován na GPT-4o. „To jsme chtěli konkrétně vidět, protože jsme si byli docela jistí, že LLM na to bude halucinovat,“ říká se smíchem.
Kosmyna říká, že ona a její kolegové nyní pracují na další podobné studii testující mozkovou aktivitu v softwarovém inženýrství a programování s umělou inteligencí nebo bez ní, a dodává, že zatím jsou „výsledky ještě horší“. Tato studie by podle ní mohla mít důsledky pro mnoho společností, které doufají, že nahradí své kodéry na základní úrovni umělou inteligencí. I když se efektivita zvýší, rostoucí závislost na umělé inteligenci by mohla potenciálně snížit kritické myšlení, kreativitu a schopnost řešit problémy u zbývajících pracovníků, tvrdí.
Vědecké studie zkoumající dopady umělé inteligence jsou stále v rané fázi a rozvíjejí se. Studie Harvardu z května zjistila, že generativní umělá inteligence zvyšuje produktivitu lidí, ale snižuje jejich motivaci. Také minulý měsíc se MIT distancovalo od dalšího článku, který napsal doktorand v rámci svého ekonomického programu a který naznačoval, že umělá inteligence by mohla podstatně zlepšit produktivitu pracovníků.
Společnost OpenAI na žádost o komentář nereagovala. Loni ve spolupráci s Wharton Online vydala společnost pokyny pro pedagogy k využití generativní umělé inteligence ve výuce. Loni ve spolupráci s Wharton Online vydala společnost pokyny pro pedagogy k využití generativní umělé inteligence ve výuce.
ZDROJ: TIME
