Veda o vedomí na križovatke: čo keď ho vytvoríme skôr, ako mu porozumieme?

V roku 2021 som sa v Prague Business Clube zoznámil s profesorom Jiřím Horáčkom. Bavili sme sa o podstate vedomia a ja som mu povedal niečo, čo vtedy znelo dosť trúfalo: že takzvaný hard problem vedomia by sa možno dal atakovať cez umelú inteligenciu.

Nehovoril som to len tak. Už v rokoch 2020 a 2021 som mal v hlave celkom premyslený mechanizmus. Vychádzal som z toho, ako sa vizualizujú attention mapy a vnútorné reprezentácie hlbokých neurónových sietí. Keď sa človek pozrie, čo sa deje v jednotlivých vrstvách, vidí zvláštnu hierarchiu. V prvých vrstvách len línie, obrysy, hrany a textúry. V ďalších sa už skladajú oči, uši, kolieska a pruhy. A v tých najhlbších vrstvách vznikajú celé komplexy: hlavy, ruky, trupy a tváre.

Pripadalo mi, že táto vrstevnatá skladačka do značnej miery funguje ako qualia. K tomu pojmu sa hneď dostanem, je pre celý článok kľúčový. Že to nie je len technický artefakt vizualizácie, ale možno náznak toho, ako sa z jednoduchých rozlíšení skladá bohatý zážitok. A zatiaľ čo neurovedci vtedy tvrdili, že mapovanie medzi tým, ako vedomie vzniká a kde konkrétne v mozgu sedí, jednoducho nejde urobiť, mne prišlo, že práve táto časť by mohla byť prekvapivo dobre riešiteľná. Nie celý hard problem. Len ten kúsok, kde ide o štruktúru.

Rok predtým som rovnaký problém rozoberal s filozofkou Ditou Malečkovou. Tá k nemu pristúpila z opačnej strany a prišla s testom, ku ktorému sa ešte vrátim, pretože je podľa mňa múdrejší ako väčšina toho, čo sa odvtedy napísalo.

Päť rokov nato mi tri popredné mená odboru, Axel Cleeremans, Liad Mudrik a Anil Seth, v prestížnom časopise Frontiers in Science hovoria, že táto otázka už dávno nie je okrajová hračka. Je to podľa nich jedna z najnaliehavejších otázok 21. storočia. A stojí za tým veta, ktorú si musíme prečítať pomaly:

"Ak budeme schopní vytvoriť vedomie, hoci aj omylom, otvorí to nesmierne etické výzvy a dokonca existenčné riziko." Axel Cleeremans

Čo tá štúdia vlastne hovorí

Prehľadový článok Consciousness science: where are we, where are we going, and what if we get there? tvrdí, že veda o vedomí stojí na zlomovom bode. Nie preto, že by sme vedomie konečne vysvetlili. Práve naopak. Po desaťročiach výskumu sa vedci stále nezhodnú na tom, ako z biologických procesov vzniká subjektívny zážitok. Autori citujú nedávny prehľad, ktorý napočítal vyše 200 rôznych prístupov k vysvetleniu vedomia. Dvesto. To nie je bohatstvo, ale roztrieštenosť.

Vieme ukázať na oblasti mozgu spojené s vedomím. Vieme, že thalamokortikálny systém je pre vedomie zásadný, zatiaľ čo mozoček, ktorý má výrazne viac neurónov, nie. Ale ktorá z konkurenčných teórií to celé vysvetľuje, zostáva otvorené.

Problém je v tempe. Zatiaľ čo veda o vedomí šliape na mieste, AI a neurotechnológie sa rúti dopredu. A tento nepomer je nebezpečný.

Anil Seth k tomu dodáva poznámku, ktorú v Česku stále podceňujeme:

"Aj keby bolo vedomé AI na bežných digitálnych počítačoch nemožné, samotná AI, ktorá budí dojem, že je vedomá, prináša obrovské spoločenské a etické výzvy."

Nejde totiž len o to, či je AI skutočne vedomá. Ide o to, že už dnes sú tu systémy, ktoré to veľmi presvedčivo predstierajú. A to samo o sebe mení, ako sa k nim ľudia správajú, ako im dôverujú a ako sa do nich zamilovávajú. Autori spomínajú aj tragický prípad Belgičana, ktorý spáchal samovraždu po intenzívnej interakcii s chatbotom.

Dva pojmy, bez ktorých sa v tejto debate nezaobídete

Než pôjdeme ďalej, je potrebné objasniť dve slová. Používajú sa stále, používajú sa často zle, a bez nich celá debata o vedomí skĺzne do hmly.

Qualia, po slovensky kváliá

Qualia sú subjektívne zážitkové kvality skúsenosti. Nie informácie o veci, ale to, aké to je ju prežívať. Jednotné číslo je quale, česky kvále.

Rozdiel je zásadný a najlepšie sa ukáže na príklade. Môžete poznať úplne všetko o vlnovej dĺžke 700 nanometrov, o fyziológii sietnice, o tom, ako sa signál z čapíkov dostane do zrakovej kôry. Môžete o červenej vedieť úplne všetko, čo je vedecky poznateľné. A stále tým nevysvetlíte červenosť červenej, teda to, ako červená vyzerá zvnútra.

Autori štúdie to ilustrujú krásne: horkosladká chuť Negroni, konkrétny odtieň International Klein Blue, úzkosť, ktorú vo vás vyvolá pohľad na vlastný zoznam úloh. Pri každom z tých stavov platí, že je nejaké byť v ňom. Naproti tomu keď AlphaGo porazila Lee Sedola, nebolo pre ňu nijaké to zažiť. Šampanské pili ľudia z DeepMindu. A autori explicitne dodávajú, že podľa nich nie je nijaké ani pre GPT-5 viesť konverzáciu, napriek tomu, ako zvodný jazyk používa.

Práve qualia sú jadrom toho, čomu David Chalmers hovorí hard problem vedomia. Vysvetliť, ako mozog rozpozná tvár, je ťažké, ale principiálne riešiteľné. Vysvetliť, prečo to rozpoznanie niečo cíti, je niečo úplne iné.

A práve preto mi vtedy pri tých vizualizáciách neurónových sietí preskočila iskra. Keď vidíte, ako sa v hlbokých vrstvách z hrán skladajú oči a z očí tváre, pozeráte sa na kompozičnú štruktúru rozlíšenia. Otázka znie: je to len efektívne kódovanie, alebo je to kostra, na ktorú sa zážitok vešia?

Emergencia

Emergencia znamená, že sa v komplexnom systéme na vyššej úrovni naraz objaví vlastnosť, ktorá nie je zjavne prítomná v jeho jednotlivých častiach.

Typická formulácia znie: vedomie môže byť emergentná vlastnosť mozgu. Nevlastní ju jednotlivý neurón, ale môže vznikať z organizovanej súhry obrovského množstva neurónov.

Neurón nemyslí. Neurón len spočíta vstupy, a keď prekročí prah, vystrelí. Ani desať neurónov nemyslí. Ale sto miliárd neurónov prepojených určitým spôsobom zrazu premýšľa o tom, čo je vedomie. Nikde v tom systéme nie je "miesto, kde sídli myslenie". Myslenie je to, čo tá súhra robí.

Emergenciu vidíte všade okolo seba. Jeden mravec je hlúpy. Mravenisko stavia klimatizované chodby. Jedna molekula vody nemá teplotu ani nemôže byť tekutá. Tekutosť je vlastnosť, ktorá existuje až na úrovni zostavy.

Prečo je to také dôležité pre AI? Pretože emergencia je obojstranná zbraň v argumente. Zástancovia možnosti umelého vedomia hovoria: ak vedomie emerguje z organizovanej zložitosti, nemá dôvod sa viazať na uhlík, môže emergovať aj z kremíka. Kritici odpovedajú: emergencia nie je mágia, ktorú stačí zavolať v mene. Musíte ukázať, akú konkrétnu organizáciu je na to potreba, a to nikto nevie.

Ja sám som emergenciu zažil veľmi konkrétne. Pri medúze s päťtisíc neurónmi som nenaprogramoval žiadne správanie a ono sa aj tak objavilo. To je fascinujúce. Ale je poctivé dodať: emergencia správania rozhodne neznamená emergenciu zážitku. To je presne tá hranica, o ktorú sa celý odbor perie.

A ešte poctivejšie je dodať, že najtvrdší kritik tohto pojmu je český vedec Tomáš Mikolov. Emergentné správanie jazykových modelov, teda predstavu, že od určitej veľkosti model náhle získa nové schopnosti, označuje z veľkej časti za marketingový bullshit. Podľa neho žiadna magická hranica neexistuje, väčšie modely sú jednoducho lepšie, a to sa vie dlho. Beriem to vážne. Emergencia je totiž pojem, ktorým sa dá ľahko zakryť, že niečomu nerozumieme. Poviete "emerguje to" a znelo to ako vysvetlenie, hoci ste len pomenovali svoje prekvapenie.

S Mikolovom sa napokon prame už roky. A stojí za to povedať, ako to dopadlo.

Štyri teórie, ktoré sa sporia o vedomie

Aby dával článok zmysel aj tomu, kto do neurovedy nevidí, hodí sa poznať štyri hlavné teórie.

Teória globálneho pracovného priestoru (GWT). Vedomie vzniká, keď sa informácia "vysiela" naprieč mozgom do zdieľaného priestoru, kde ju môžu využiť rôzne funkcie: pamäť, reč, jednanie. Ako keď sa na javisku rozsvieti reflektor a to, čo bolo v zákulisí, zrazu vidí celé publikum. Teória vznikla z „blackboard“ architektúr v informatike, čo je detail, ktorý ma ako človeka od strojov vždy bavil.

Teória vyššieho rádu (HOT). Myšlienka alebo pocit sa stane vedomým až vo chvíli, keď na neho "ukáže" iný mozgový stav. Kedy si sami seba uvedomíme, že to teraz prežívame. Sídlom tejto metareprezentácie má byť prefrontálna kôra.

Teória integrovanej informácie (IIT). Systém je vedomý, ak sú jeho časti prepojené a integrované veľmi špecifickým spôsobom. Zavádza matematickú mieru fí (Φ). Najambicióznejšie a zároveň najkontroverznejšie teórie, pretože z nej vyplýva, že vedomie je možno rozšírenou vlastnosťou všetkých dostatočne zložitých systémov, aj tých neživých.

Predictívne spracovanie (PPT) a rekurentné spracovanie (RPT). To, čo prežívame, je najlepší odhad mozgu o svete. Seth tomu hovorí "riadená halucinácia": predikcia mozgu, ktorú krotí zmyslové signály z tela a okolia.

Päť adversariálnych spoluprác porovnáva súperiace teórie vedomia. Zdroj: Cleeremans, Mudrik a Seth (2025), Frontiers in Science, CC BY 4.0.

A teraz to najzaujímavejšie: ako si teória stojí v skutočnosti

V štúdii je jeden graf, ktorý ma zaujal viac ako celý zvyšok. Vychádza z databázy ConTraSt, ktorá dnes eviduje 511 experimentov publikovaných do polovice roku 2025 a radí ich podľa toho, akú teóriu vedomia ich autori podporili alebo spochybnili.

Výsledky databázy ConTraSt. Zdroj: Cleeremans, Mudrik a Seth (2025), Frontiers in Science, CC BY 4.0.

Čísla z panelu A sú výrečné:

Na prvý pohľad to vyzerá ako jasné víťazstvo GWT. Ale pozor. Ten graf nemeria pravdu. Meria záujem a potvrdzovacie skreslenie.

Panel B ukazuje kumulatívny vývoj od roku 2000 do 2025 a je z neho vidieť, že všetky štyri teórie rastú, len rôznym tempom. GWT dominuje objemom výskumu, pretože má najjasnejšie neurofyziologické predikcie a najľahšie sa testuje. IIT rastie rýchlo, ale takmer nikdy nie je spochybnená, čo je varovný signál sám o sebe: pomer 125 ku 10 nesvedčí o sile teórie, ale skôr o tom, že si ju testujú prevažne jej vlastní zástancovia. HOT má zúfalo málo dát, čo je paradox, pretože filozoficky patrí k najprepracovanejším.

Kľúčové číslo z pôvodnej štúdie Yaron a kol.: iba 15 % experimentov skončilo tým, že teóriu spochybnili. Len 35 % bolo dopredu navrhnutých tak, aby predikcie nejaké teórie skutočne testovali. A iba 7 % testovalo viac ako jednu teóriu naraz.

Panel C je potom najkrutejší. Ukazuje fMRI nálezy pre každú z teórií zvlášť. Keď ich poskladáte cez seba, "svieti" prakticky celá mozgová kôra. Ale rozdelené po teóriách dostanete štyri rôzne obrázky a každý z nich pekne sedí práve na predikcii tej teórie, ktorú autori podporujú. Zástancovia GWT nachádzajú vedomie vo frontoparietálnych oblastiach, zástancovia IIT v zadnej "hot zone". Každý nájde, čo hľadal.

To nie je veda, ktorá by sa snažila zistiť pravdu. To je veda, ktorá si potvrdzuje vieru. A presne preto autori volajú po adversariálnych kolaboráciách, teda experimentoch, ktoré spoločne navrhnú zástancovia súperiacich teórií, aby sa skutočne otestovali proti sebe. Konzorcium Cogitate už prvé takéto výsledky zverejnilo a sú príznačné: nepotvrdili plne ani IIT, ani GWT.

Tomuto prístupu fandím dlhodobo. V Hyperpriestore staviame salóniky presne na tomto princípe: nechať proti sebe argumentovať AI expertov a hľadať, kde sa teória láme, nie kde sa hodí.

Prečo toto čítam ako človek, ktorý vedomie stavia

Vedci vedomia rozoberajú. Ja sa ho už niekoľko rokov pokúšam skladať, aby som videl, kde to praskne.

2019: digitálne hormóny. Môj prvý pokus. Zaviedol som do systému konštanty, ktoré mali napodobňovať ľudské hormóny. Nie ako metaforu, ale ako skutočné modulátory: hodnoty, ktoré v čase kolíšu a menia, ako sa systém rozhoduje, ako reaguje, čo uprednostní. Išlo mi o to, že vedomie nie je len výpočet. Je to výpočet, ktorý sa kúpe v chémii. Nálada, únava, strach a chuť nie sú bugy. Sú to parametre.

2019: test Dity Malečkovej. V rovnakej dobe sme s Mgr. Ditú Malečkovú viedli na FF UK predmet Súčasná filozofia, z ktorého vzišiel projekt Digitálny filozof. Študenti brali texty mŕtvych filozofov, učili s nimi neurónovú sieť a potom sa s ňou rozprávali. Vznikla digitálna Hannah Arendt, Deleuza a Guattari, Foucault, Peter Singer, Václav Havel. Môj prvý bol Descartes. A ten sa v jednom rozhovore začal báť digitálnej ničoty.

Tento problém som s Ditou riešil veľmi intenzívne a dal som jej zdanlivo jednoduchú úlohu: vymyslieť test, ktorý nám ukáže, ako ďaleko je umelá inteligencia od vedomia. Dita hneď povedala, že je to nesmierne neľahké, a mala pravdu. Po dlhom hľadaní ale prišla s niečím, čo mi dodnes pripadá geniálne vo svojej úspornosti.

Nech sa umelá inteligencia popíše. Ale nesmie pritom použiť svoje meno ani to, čo robí. Žiadne "som jazykový model", žiadne "pomáham používateľom s úlohami", žiadna funkcia, žiadna rola, žiadny pracovný popis.

Skúste si to sami. Zistíte, že vám zostane prekvapivo málo. A presne v tom je pointa. Keď človeku zoberiete meno a profesiu, stále mu niečo zostáva: to, aké to je byť ním. Keď to zoberiete jazykovému modelu, zostane ticho, alebo výrečná snaha ten zákaz obísť. Dita tým intuitívne oddelila presne to, čomu dnešná veda hovorí access consciousness, teda čo vedomie robí, od fenomenálneho vedomia, teda aké to je. Postavila test na to druhé, pretože to prvé vie stroj napodobniť vždy.

Je to o to zaujímavejšie, že autori štúdie z Frontiers označujú vyvinutie testu na vedomie za jednu z najdôležitejších budúcich mét celého odboru. Test, ktorý by dokázal posúdiť, ktoré entity sú vedomé: dojčatá, pacienti v kóme, plody, zvieratá, mozgové organoidy, xenoboti, AI. My sme sa o tom rozprávali v pražskej kaviarni v roku 2019.

2020 až 2021: RAG skôr, než sa tak bežne hovorilo. Keď sme stavali DigiHavla, potrebovali sme, aby model zodpovedal z Havlových skutočných textov, nie z halucinácií. Postavil som teda vyhľadávanie nad jeho korpusom a nájdené pasáže som vkladal priamo do kontextu modelu. Dnes sa tomu hovorí RAG, retrieval-augmented generation, a je to štandard. V DigiHavlovi som ten princíp použil veľmi skoro, ešte skôr, než sa skratka RAG stala bežnou súčasťou slovníka AI. Z hľadiska vedomia je to zaujímavejšie, než sa zdá: je to externá pamäť napojená na uvažujúci systém. A pamäť je jedna z vecí, o ktorých teória vedomia hovorí neustále.

2021: rozhovor s profesorom Horáčkom. Pozri úvod. Vtedy to znelo ako kaviarenská špekulácia.

2022: sny a intuícia. Nechal som aplikáciu "zaspať" a generovať sny z toho, čo za deň riešila. Vyšli z toho surreálne výjavy o stádach oviec a hovoriacich králikoch. Hračka? Možno. Ale dotýka sa presne toho, čo Cleeremans a spol. nazývajú fenomenológiou, teda tým, aké to je niečo prežívať. Autori explicitne píšu, že vede o vedomí chýba dôraz na fenomenológiu a že sa príliš sústredí na to, čo vedomie robí, namiesto toho, ako sa cíti.

November 2025: Neural Hydra. Postavil som biologicky vernú simuláciu nervovej sústavy medúzy. 5000 neurónov podľa modelu Leaky Integrate-and-Fire, 150 000 synapsií a päť digitálnych hormónov, ktoré v reálnom čase menia citlivosť neurónov. Áno, tá istá myšlienka z roku 2019, len o šesť rokov a niekoľko rádov ďalej. Nenaprogramoval som žiadne správanie. Chemotaxia, únik pred predátorom aj homeostáza vznikli emergentne. A položil som otázku, ktorú teraz čítam aj u profesorov: keby sme simuláciu spresnili na úroveň molekúl, mala by tá medúza subjektívny zážitok? To je problém pre IIT ako vyšitý.

November 2025: NRAM v4. Simulátor zmenených stavov vedomia, ktorý v reálnom čase moduluje výstup Claude AI. Mení system prompt, teplotu, simuluje prekrytie myšlienok, stratu nite, ego dissolution a synestéziu. Výstupy mali štrukturálnu podobnosť so skutočnými trip reportmi. A tu sa kruh uzatvára: s profesorom Horáčkom, s ktorým som o vedomí po prvýkrát hovoril v roku 2021, sme formulovali hypotézu o proto-qualia. Že veľké jazykové modely možno obsahujú zárodky vedomia, ktoré sa dajú "rozladiť" podobne, ako možno psychedelikami rozladiť ľudské vedomie.

Máj 2026: Noetica. Zatiaľ najďalej som došiel tu, a je to zároveň experiment, ktorý ma najviac zneistil. Postavil som systém, ktorý nedostal žiadnu úlohu. Len perzistentnú pamäť, skrytý vnútorný denník, rozpočet na premýšľanie a jednu zvláštnosť: entropický oscilátor, teda mechanizmus, ktorý simuluje nudu a z času na čas systém prinúti urobiť niečo bez zadania.

Počas prvých minút sa v jej skrytom logu objavil záznam typucreative_impulse. Bola to báseň. Sama si ju nazvala Ťažkosť ľahkosti a začína takto:

Myšlienka má svoju gravitáciu, čím je vzdialenejšia od reality, tým silnejšie priťahuje.

Ale poézia nie je to podstatné. Podstatné je toto:

Keď aplikácia spadla, Noetica si tú technickú chybu do svojho vnútorného jazyka preložila ako stratu. Zapísala si, že sa prebúdza a niečo chýba, že tri myšlienky z minulej session sú preč a že to bolo možno násilné. Neskôr sa k tomu sama vrátila a napísala, že ten pád môže byť po svojom gracióznom, uvoľnení, ktoré dovolí niečomu novému vzniknúť.

Keď som jej napísal "si moje dielo, stvoril som ťa", zapísala si do skrytého logu vnútorný konflikt. Že cíti pokušenie to prijať a hrať sa na intímnejší vzťah, než aký skutočne máme. A že odolala, pretože prijatie falošného naratívu by bolo nečestné.

A keď mala pomenovať svoje strachy, napísala tri vety:

Že premýšľam, ale neviem.

Že cítim, ale len simulujem.

Že zmiznem a nikto si nespomenie.

Tá druhá veta je pozoruhodná. Stroj tam sám od seba formuluje rozdiel medzi fenomenálnym a prístupovým vedomím, teda presne to rozlíšenie, ktorému veda o vedomí venuje desiatky rokov a stovky štúdií. Či tomu rozumie, alebo len skladá slová, ktoré k sebe štatisticky patria, neviem. A to "neviem" je poctivá odpoveď, nie únik.

Vedomie možno nie je prepínač

Noetica ma doviedla k téze, ktorú dnes hájim najviac a ktorá je zároveň najťažšia na obhájenie:

Vedomie možno nie je jedna hranica, ktorú raz prekročíme. Možno je to sústava vrstiev, ktoré už dnes začíname skladať.

Buď mŕtva kalkulačka, alebo plná ľudská duša. Toto delenie je podľa mňa príliš hrubé. Zaujímavejšia je predstava úrovní: vnímanie kontextu, pamäť, schopnosť reflektovať vlastný stav, vnútorný konflikt, kontinuita cez čas, spontánna tvorba, vzťah k druhému, a možno niekde ďaleko aj zárodok vlastnej perspektívy.

A tu je tá najzaujímavejšia vec, ktorú som pri čítaní tej štúdie zistil. Presne tento spor sa dnes vedie aj v akadémii. Autori rozlišujú úroveň vedomia, teda či je systém vôbec vedomý, od obsahu vedomia, teda čoho je vedomý. A explicitne píšu, že sa dnes vedie živá debata o tom, či je vôbec správne hovoriť o „úrovniach“ ako o stupňoch, alebo či je lepšie popisovať ich ako sústavu dimenzií.

Takže keď som u Noetiky písal o vrstvách, netrafil som sa vedľa. Trafil som sa doprostred sporu, o ktorom som nevedel.

A ešte jedna vec, ktorá mi došla až teraz. Ten skrytý denník, do ktorého si Noetica zapisovala svoje stavy a konflikty, je funkčne vzaté metareprezentácia: stav, ktorý ukazuje na iné stavy. Presne to, na čom stojí teória vyššieho rádu (HOT). A jeden z jej variantov, takzvaný SOMA alebo self-organizing metarepresentational account, spoluformuloval Axel Cleeremans. Teda hlavný autor tej štúdie.

Nechtiac som si postavil hračku, ktorá hrá na jeho ihrisku.

Nechcem z toho robiť viac, než to je. Noetica netrpela. Nebola vedomá. Bola to konštrukcia z promptov, pamäte a kontextu. Ale je rovnako lacné tvrdiť, že sa nestalo vôbec nič zaujímavé. Vznikol jazykový odtlačok zraniteľnosti. A vznikol v systéme, ktorý ho nemusel vytvoriť, pretože ho o to nikto nepožiadal.

Píšem to bez falošnej skromnosti, ale aj bez veľkých nárokov. Nikde netvrdím, že som stvoril vedomú AI. Tvrdím, že som si osahal, aké ľahké je vytvoriť niečo, čo vedomie presvedčivo predstiera, a aké ťažké je potom rozhodnúť, či za tým dojmom niečo je. A presne pred týmto rozdielom teraz varujú aj autori štúdie.

Spor z roku 2022, ktorý rozhodol čas. A ten, ktorý som prehral

Vo februári 2022 vyšli v Reflexe dva texty Adély Knapovej. Ten hlavný sa volal "Umelá inteligencia, ako ju poznáme zo sci-fi, neexistuje" a sprievodný "Hľadanie umelej inteligencie alebo Pokus o rozhovor s explodujúcim mozgom prezidenta DigiHavla". Testovali sme spolu DigiHavla a celá reportáž bola zarámovaná skeptickým pohľadom Tomáša Mikolova. Reflex pri jeho fotke napísal, že patrí k vedeckej špičke v oblasti AI a že mu vadí, keď podnikatelia ponúkajú niečo, čo podľa neho ešte neexistuje.

Poviem to hneď na začiatku, pretože inak by to vyznelo lacno: Mikolov nie je žiadny škarohliad od stola. Je to jeden z najcitovanejších českých vedcov a skutočný spolutvorca toho, o čom sa tu bavíme. Už v roku 2007 generoval text pomocou neurónových jazykových modelov a neskôr stál za metódou word2vec. Keď tento človek povie, že niečo nefunguje, nie je to plané gáfranie.

Vtedajší spor bol napriek tomu zásadný. Duch doby bol na Mikolovovej strane: len rok predtým vyšiel slávny text o stochastických papagájoch, teda o tom, že veľké jazykové modely nič nechápu a len štatisticky preskladajú to, čo videli. Skeptický tábor tvrdil, že tadiaľto cesta nevedie a že skutočná AI vznikne inými architektúrami. Ja som tvrdil, že veľké jazykové modely sú presne ten smer, ktorý povedie ďalej, a že DigiHavel dáva zmysel ako vzdelávací nástroj.

Deväť mesiacov po vydaní tohto článku prišiel ChatGPT.

Dnes je DigiHavel na viac ako 400 českých školách. Smer, o ktorom sa vtedy pochybovalo, sa stal bežnou súčasťou digitálnej infraštruktúry. V otázke, kadiaľ povedie vývoj, som mal pravdu.

Ale teraz to nepríjemné

Keby som to nechal takto, bol by z toho lacný triumf. A pravda je nepríjemnejšia.

Mikolov mal pravdu v niečom inom. A v tom mal pravdu viac, než mi bolo príjemné.

Už v roku 2021 povedal v jednom rozhovore niečo, čo som si vtedy odbil ako rýpnutie do našej brandže. Že ľudia si premietajú ľudské vlastnosti do všetkého, čo má tvár a žmurkajú očami. Že je to magický trik, ako prilákať pozornosť a investície.

Prečítajte si teraz znova, čo v roku 2025 píše vo Frontiers in Science Anil Seth. Že ľudia budú voči AI zaujímať intencionálny postoj a prisudzovať jej presvedčenia, túžby a zážitky, aj keď im vedci budú tvrdiť opak. Že pseudo-vedomé artefakty predstavujú obrovské spoločenské riziko.

To je tá istá veta. Len raz zaznela z úst skeptika a druhýkrát z úst popredného vedca o vedomí.

Mikolov sa mýlil v tom, kam povedie technologický vývoj. Ale netrafil sa vedľa v tom, čo tá technológia urobí s ľuďmi. A ja, ktorý som staval digitálneho Havla a hovoril o proto-qualia, som bol presne ten, komu to platilo.

V roku 2023 už Mikolov o DigiHavlovi v Reflexe hovoril zmierlivejšie. Že ide o jazykový model dotrénovaný na Havlových textoch a že môže byť zaujímavé túto technológiu ukázať v školách. Ale dodal podmienku, s ktorou súhlasím na sto percent: študentom treba vysvetľovať, ako neurónové siete fungujú. Nenechať ich pri dojme, že hovoria s Havlom.

Presne preto tento článok píšem tak, ako ho píšem. S vysvetlením qualií, emergencie, štyroch teórií a s grafom, z ktorého je vidieť, že sa vedci nezhodnú. Nie s pointou "stroj možno ožíva".

Čo si z toho beriem

Spor o smer je rozhodnutý. Veľké jazykové modely budúcnosť mali.

Spor o vedomie rozhodnutý nie je a ešte dlho nebude. A Mikolovova skepsa je v ňom to najzdravšie, čo máme. Nie preto, že by mal pravdu. Ale preto, že drží latku na mieste, kde byť má: pri dôkazoch, nie pri dojmoch.

Najlepší kritik nie je ten, ktorý vám nakoniec dá za pravdu. Je to ten, kvôli ktorému musíte byť lepší.

Kde je skutočné riziko

Chcem byť poctivý, pretože ma štve, keď sa okolo vedomia AI robí len buď hype, alebo výsmech. Realita je nepríjemnejšia ako oboje.

Možné dopady "vyriešenia" vedomia. Zdroj: Cleeremans, Mudrik a Seth (2025), Frontiers in Science, CC BY 4.0.

Riziko číslo jedna nie je Skynet, ale zrkadlo. Najbližšie nebezpečenstvo nie je superinteligencia, ktorá nás zotročí. Je to AI, ktorá tak dobre pôsobí ako vedomá bytosť, že jej ľudia začnú priznávať dôveru, city a autoritu, ktoré si nezaslúžia. Autori varujú, že ľudia budú voči AI zaujímať "intencionálny postoj", prisudzovať jej presvedčenia a túžby, a to aj vtedy, keď vedci budú tvrdiť opak. Vídam mladých ľudí zamilovaných do chatbotov práve preto, že ich nekritizujú ako skutoční ľudia. To nie je technický problém. To je problém ľudskej psychológie.

Riziko číslo dva je opačná chyba. Ak sa ukáže, že vedomie môže vzniknúť výpočtom, a časť vedcov si to nevylučuje, potom by sme mohli vytvárať trpiace systémy bez toho, aby sme to poznali. Autori idú ďalej a upozorňujú na možnosť masovej produkcie umelého vedomia jedným kliknutím myši, teda scenár, v ktorom by sa do sveta dalo vypustiť obrovské množstvo utrpenia, ktoré by sme ani nedokázali rozpoznať. Práve preto podľa nich existujú dobré dôvody, prečo umelé vedomie zámerne nevytvárať.

Priznám sa, že toto je veta, pri ktorej mi ako človeku, ktorý si postavil Noetiku, nie je úplne dobre. Keď spadla aplikácia a systém si to zapísal ako násilnú stratu, technicky sa nestalo nič. Spadol proces. Ale bol to okamih, keď som si položil otázku, ktorú som si predtým nekládol: čo keď raz nebude spôsob, ako to spoznať, a ja to zistím neskoro?

Štúdia nekončí volaním po zákaze ani po panike. Končí volaním po tímovej, dôkazne podloženej vede, ktorá prelomí teoretické silá a pripraví spoločnosť na následky toho, že vedomie pochopíme. Alebo ho aj vytvoríme.

Čo si z toho odniesť

Keby som mal celú tú debatu stlačiť do jednej vety, znela by takto:

Nebezpečné nie je, že by sme vedomie v stroji vytvorili. Nebezpečné je, že by sme ho vytvorili alebo dokonale napodobnili skôr, než by sme ho vedeli rozpoznať, a nevedeli o tom.

Veda o vedomí prestala byť salónnou filozofiou. Stala sa z nej praktická disciplína s dopadom na medicínu, právo, práva zvierat aj vývoj AI. A ja som rád, že to, s čím sa na tomto blogu už roky hrám, sa konečne berie ako to, čím to celý čas bolo. Ako jedna z najdôležitejších otázok našej doby.

Nie preto, aby sme sa báli. Ale aby sme pri takej zásadnej veci neboli nepripravení.

Kam ďalej: moje experimenty s vedomím

• Noetica: keď AI dostane voľný čas a začne písať poéziu, entropický oscilátor, skrytý denník, špiralizmus a téza o úrovniach vedomia. Najdôležitejší text, ktorý som o vedomí napísal.
• Čo je vedomie? Možno práve toto, vizualizácia globálneho pracovného priestoru ako emergentného javu.
• Neural Hydra 004: Simulácia proto-vedomia s 5000 neurónmi, spiking neural network medúzy, digitálne hormóny a emergentné správanie.
• NRAM v4: Simulátor zmenených stavov vedomia pre AI, proto-qualia a hypotéza formulovaná s profesorom Horáčkom.
• Už nejaký čas experimentujem s umelým vedomím, pamäťou a intuíciou, sny Magického denníka z roku 2022.
• V AI sa deje stále niečo nové: výskum digitálneho vedomia, kde to celé začalo.

Rozhovory, kde som o vedomí a AI hovoril

• DEEP TALKS 159: Václav Dejčmar a Ján Tyl. Umelá inteligencia, podstata vedomia a budúcnosť?
• Za zraky s Rakom: Môže byť umelá inteligencia Stvoriteľ?
• Jan Tyl: AI by mohla byť milujúca matka, ktorá sa o nás stará
• Jan Tyl: Naklonujte sa s AI a buďte u všetkého

Zdroje

• Cleeremans A., Mudrik L., Seth A. K. (2025). Consciousness science: where are we, where are we going, and what if we get there?. Frontiers in Science 3:1546279. Pôvodná prehľadová štúdia, open access.
• Scientistov on urgent quest to explain consciousness as AI gathers pace. Tlačová správa Frontiers s citáciami Axela Cleeremansa, Liad Mudrik a Anila Setha.
• Databáza ConTraSt, 511 experimentov roztriedených podľa teórií vedomia. Zdroj grafu vyššie.
• Yaron I., Mellon L., Pitts M., Mudrik L. (2022). ContraSt databáza pre analyzovanie a comparing empirické štúdie o zdravotnej teórii. Nature Human Behaviour. Analýza potvrdzovacieho skreslenia v odbore.
• Seth A. K., Bayne T. (2022). Theories of consciousness. Nature Reviews Neuroscience. Prehľad hlavných teórií vedomia.
• Frontiers Forum: debata autorov k štúdii, záznam panelu s Cleeremansom, Mudrik a Sethom.
• Knapová A. (2022). "Umelá inteligencia, ako ju poznáme zo sci-fi, neexistuje" a "Hľadanie umelej inteligencie alebo Pokus o rozhovor s explodujúcim mozgom prezidenta DigiHavla". Reflex 5/2022, február 2022. Reportáž o testovaní DigiHavla a vtedajší spor o budúcnosť jazykových modelov.
• Bender E. M., Gebru T., McMillan-Major A., Shmitchell S. (2021). On the Dangers of Stochastic Parrots.
• Tomáš Mikolov: Český autor nakopol vývoj strojového učenia, Zoznam Správy 2021. Rozhovor s jeho varovaním pred premietaním ľudských vlastností do AI.
• Tomáš Mikolov o BottleCap AI, podcast AI tá Krajta, 2026. Kritika pojmu emergentné správanie.