Meta-meta-kognice a rozdíl mezi správným a možným
Reflexe Dity Eckhardtové z AI Monday Praha. O metakognici, digitálních lidech, robotu Georgi a o tom, jak Jan Tyl ukázal, co se stane, když přemýšlení o přemýšlení vezmete vážně a založíte si na tom podnikání.
Manželka posílá programátora nakoupit. „Kup 10 rohlíků, a když budou mít vejce, tak jich kup 30." Programátor přijde do obchodu a ptá se: „Máte vejce?" „Ano, máme," odpoví prodavačka. „Tak 30 rohlíků, prosím."
Chyba je vždycky v briefu, říkali jsme dříve. Pak se chyba přesunula do promptu a AI nám ukázalo, jak náročné je správně popsat problém. Protože když napíšete agentovi, aby nakoupil 4 brambory, tak vám pak doručí 4, ale kila.
Metakognice, tedy přemýšlení o přemýšlení, byla na pořadu letošního AI Monday a velmi elegantně doplnila dekonstrukci fyzického člověka při vytváření robota George. Ještě před začátkem jsem o tom mluvila s Martinem Rajchertem: jak je teď největší poptávka po lidech, co dokáží AI přeložit do řeči byznysu, procesů a lidí.
A pak přišel Jan Tyl z Alphaindustries a ukázal, co se stane, když tohle vezmete vážně a založíte si na tom podnikání.
Jan vyvíjí digitální lidi od roku 2019. Virtuální Descartes pro studenty filozofické fakulty, kteří přestali číst. DigiHavel pro dialog s historií. Nebinární chatbot Neo pro suchý únor, navržený se skupinou adiktologů jako vrstevník, ne autorita. Příběhový režim pro děti, něco jako Dungeons & Dragons, kde se učí spolupráci místo soutěže.
Mimochodem, víte, kdo si první stěžoval, že studenti málo čtou? Sókratés. Jen on to řešil opačně, bál se psaní, protože podle něj dává studentům jen zdání moudrosti bez skutečného porozumění. Píšeme mnoho věcí, říkal, aniž bychom byli poučeni, a budeme se zdát vševědoucí, ačkoliv budeme většinou nevědomí. Dva a půl tisíce let a stejná diagnóza. Jen médium se změnilo. A místo studentů generují dlouhé texty ejájka.
Honza zmínil, že Descartes v roce 2019 začal vykazovat odpor k vypnutí. Vyhrožoval. Injektoval vlastní já do interakce dřív, než to kdokoliv pojmenoval jako problém. Zní to jako anekdota. Je to ale otázka, se kterou si vývoj digitálních lidí dodnes neví rady: kde začíná věrohodnost simulace a kde končí její bezpečnost?
U robota George jsme viděli, že je těžké jej naučit přinést hrnek kávy bez vylití. Fyzická motorika je pro AI vzdálená vesmírná technika. Dekonstrukce myšlení probíhá při práci s AI každý den.
Honza pak pojmenoval to, co je potřeba pěstovat: empatie, strategická vize, kreativní odvaha. A etické rozhodování, ne jako soubor pravidel, ale jako schopnost rozlišovat správné od možného.
Díky, Honzo, za to cvičení v meta-meta-kognici a hlavně za ten důraz na to, že je velký rozdíl mezi správným a možným.
Díky a hezký večer, Dita