Za rok se z AI nestal člověk. Stala se z ní nová vrstva práce

Na opavském Slunovratu jsem byl letos podruhé, ale poprvé jen virtuálně. Tělo zůstalo v Praze, duch visel na obrazovce v nádherném prostoru kostela sv. Janů. V sále seděl u moderátora Leoše Kyši Michal Kubíček, já jsem se připojil na dálku, a čekala nás debata o umělé inteligenci bez přikrášlování a bez zbytečného hype.

Před rokem jsme řešili hlavně to, jak dobře AI odpovídá. Letos jsme řešili něco jiného: jak dobře pracuje. A to není kosmetický rozdíl. Je to možná nejdůležitější posun posledních dvanácti měsíců.

Modely nezačaly jen o trochu lépe psát. U kreativního psaní vidíme posun, ale ve schopnosti něco skutečně postavit, naprogramovat, naplánovat a provést je posun ještě výraznější. Na žebříčcích typu Arena se dá ten rozdíl dobře ilustrovat: v kreativním psaní se špička posunula o desítky Elo bodů, zatímco v praktických webových a agentních úlohách byl skok násobně větší.

Jinými slovy: AI se nenaučila jen hezčí slohovku. Začala být mnohem lepší v práci.

Špičkový model nemusí být samozřejmost

Jedno téma, které se letos nedalo obejít, je křehkost závislosti na jednom poskytovateli. Ať už jde o bezpečnostní zásahy, produktové změny, exportní regulaci nebo obchodní strategii, špičkový model se může z vašeho pracovního procesu ztratit mnohem rychleji, než bychom si před pár lety připustili.

To je podle mě jedna z největších lekcí současné AI éry. Pokud firma, škola nebo stát postaví všechno na jednom proprietárním modelu, dobrovolně si vyrábí závislost. Nejde jen o cenu. Jde o dostupnost, pravidla použití, politiku poskytovatele a schopnost reagovat, když se trh změní.

Právě proto mě zajímají architektury, které nespoléhají na jednu vševědoucí hlavu. V Alpha Industries už delší dobu pracujeme na směru, který spojuje více modelů, nástrojů a zdrojů dohromady. V posledních článcích jsem o tom psal u HyperFusion i u novějšího DRACO benchmarku.

Nejde jen o odolnost. Jde i o kvalitu. Jeden model má slepá místa. Panel modelů může nabídnout víc perspektiv, pokud ho umíme dobře řídit a vyhodnocovat.

Od odpovídání k vykonávání

V Opavě zazněl příklad, který to vystihuje lépe než abstraktní definice. Dřív by člověk vzal seznam kategorií v e-shopu, exportoval ho, překládal, kontroloval a importoval zpátky. Dnes může agent dostat úkol: otevři administraci, přelož kategorie, zkontroluj výsledek a až skončíš, dej vědět. Člověk už nepíše každý krok. Popisuje cíl a kontroluje výsledek.

Tohle je obrovská změna. Programátor se postupně mění z člověka, který píše každý řádek, na architekta práce agentů. Jeden agent navrhuje databázi, druhý píše frontend, třetí hledá bezpečnostní problém, čtvrtý čte dokumentaci. Člověk rozhoduje, co má vzniknout a jestli to dává smysl.

Tím se nemění jen produktivita. Mění se i povaha odbornosti. Expertíza neztrácí cenu, spíš naopak. Čím přesněji víte, co chcete, tím lepší práci za vás agent udělá. Úzkým hrdlem přestává být samotné psaní kódu nebo textu. Úzkým hrdlem je vědět, co stavět, proč a jak poznat, že je to dobře.

Zubatá inteligence

Jestli bych si přál, aby si lidé z celé debaty odnesli jeden pojem, byl by to tenhle: zubatá inteligence.

AI dnes nepůsobí jako rovnoměrně chytrý člověk. Spíš jako krajina plná ostrých vrcholů a hlubokých děr. V jedné oblasti řeší úkoly na úrovni nejlepších studentů planety, v jiné udělá chybu, kterou by člověk považoval za směšnou. Umí napsat program, navrhnout strategii, shrnout odborný text, ale pak selže na banálním detailu, který nečekáte.

Tohle je důvod, proč veřejná debata tak často ujíždí do extrémů. Jeden člověk vidí geniální odpověď a řekne: „Už je to tady, nahradí nás to všechny.“ Druhý vidí hloupou chybu a řekne: „Vždyť to neumí ani základní věci.“ Oba mají kus pravdy. AI je dnes schopná být brilantní i prostoduchá zároveň.

Umění je vědět, kde zrovna stojíme. Jsme na vrcholu, kde model skutečně pomáhá? Nebo v díře, kde jen plynule a sebevědomě vyrábí omyl?

Spíš než Terminátora bych se bál nudnějších věcí

V debatách o AI se dřív nebo později objeví Terminátor. Já bych se ale méně bál filmové vzpoury strojů a víc prozaičtějších věcí, které už máme před sebou.

Třeba kyberbezpečnosti. AI snižuje práh vstupu. To, co dřív vyžadovalo hlubokou expertízu, dnes může s pomocí modelu zkoušet i méně zkušený útočník. Na druhou stranu platí i opak: stejné nástroje mohou obráncům pomáhat hledat zranitelnosti, psát testy, kontrolovat konfigurace a tvrdit systémy. Není to důvod k panice. Je to závod připravenosti.

Druhé riziko je informační prostředí. Ne tolik roboti na bojišti, ale drobné, vytrvalé posouvání nálad, názorů a důvěry na sociálních sítích. Hybridní válka není dramatická jako film. Právě proto je nebezpečná.

A třetí věc je kognitivní dluh. Ne jako katastrofa, ale jako něco, na co si máme dávat pozor. Když za nás AI píše, plánuje a analyzuje, je lákavé vypnout vlastní hlavu. Jenže nejlepší použití AI je podle mě opačné. Brát ji sokratovsky: jako partnera do debaty, který klade otázky, nabízí protiargumenty a nutí nás věc lépe promyslet.

Když občas říkám, že by nás z AI měla „bolet hlava“, nemyslím tím utrpení. Myslím tím, že ji máme používat tak, aby nás nutila přemýšlet, ne abychom přemýšlení outsourcovali.

U faktů je AI začátek práce, ne konec

Jeden konkrétní typ chyby je dobré opakovat pořád dokola: AI umí velmi přesvědčivě halucinovat citace, paragrafy, studie i rozsudky. Zní to autoritativně, formálně to sedí, jazyk je krásný, jenže zdroj neexistuje.

To není důvod AI zavrhnout. Je to důvod změnit pracovní postup. U faktů, právních odkazů, citací, medicíny, peněz a reputace je AI začátek práce, ne její konec. Model může pomoci najít směr, připravit rešerši, navrhnout kontrolní seznam. Ale finální tvrzení musí projít ověřením.

Tahle lekce je zvlášť důležitá, protože právě teď se AI dostává z rukou nadšenců do běžných kanceláří. Když ji používá expert, může se stát silným zesilovačem práce. Když ji používá člověk bez ověřování, může se stát generátorem sebevědomých omylů.

Velký pluh, ne velký klacek

V debatě jsme se dostali i k obrazu „velkého klacku“. Jestli si máme pořídit vlastní silnou AI hlavně proto, že ji budou mít i ostatní. Já jsem navrhl ten obraz otočit: místo velkého klacku raději velký pluh.

Umělá inteligence je nástroj. Klacek můžete použít k mlácení, ale můžete z něj také udělat násadu, páku nebo součást pluhu. Rámovat AI především jako obří zbraň, které se máme všichni bát, vede k paralýze. Mnohem užitečnější je naučit se ji používat tak, aby zlepšovala každodenní práci.

Tabulka, která dřív trvala dvě hodiny, může být hotová za dvě minuty. Rešerše, kterou by člověk odkládal týden, může začít za pět minut. Koncept přednášky, dokumentace nebo aplikace může vzniknout v dialogu. Tohle není magie. Je to nový pracovní nástroj.

A v Česku k tomu máme lepší výchozí pozici, než si někdy myslíme. Nedávno jsem psal o datech STEM a Eurostatu: podle průzkumu STEM má zkušenost s AI zhruba 71 % českých uživatelů internetu. U mladých je adopce ještě výraznější. Mezi dospělými jsme evropský průměr, ale mezi mladými patříme k evropské špičce.

To není jen statistika. To je předpověď. Generace, která teď sedí ve školách, vstoupí na trh práce s AI jako se samozřejmostí.

Kam to půjde dál

Nečekám nutně jednu AGI, která zítra ovládne všechno. Spíš čekám vrstvu specializovaných, poloautonomních agentů, kteří postupně převezmou větší část digitální práce: kód, tabulky, rešerše, dokumenty, plánování, vyhledávání, právní koncepty, přípravu výuky.

Čekám, že se z AI stane druhý mozek, kopilot nebo kolega. Ne v romantickém smyslu, ale prakticky: systém, který zná kontext vašich projektů, pomáhá udržet dlouhou nit a dovede spolupracovat s dalšími nástroji.

Čekám první opravdu významné vědecké objevy, kde bude AI podstatným spoluautorem procesu. Na Slunovratu nebyl čas pořádně rozvést témata jako kognitivní architektura nebo digitální vědec, ale právě tudy podle mě vede cesta: spojit více různých inteligencí, lidských i umělých, aby celek zvládl víc než kdokoli sám.

Robotika půjde pomaleji než software, ale první opravdu užiteční univerzálnější roboti v logistice a průmyslu jsou v horizontu několika let realistický scénář. A čeká nás těžké téma koncentrace moci. Pokud bude většinu inteligence planety ovládat pár firem, je to společensky větší problém než jednotlivá halucinace modelu.

Za rok budeme řešit spolupráci

Před rokem jsme řešili, jak dobře AI odpovídá. Dnes řešíme, jak dobře pracuje. A za pár let budeme řešit, jak dobře spolupracuje.

U nás v Alpha Industries na tom už nějaký čas pracujeme. Občas mám pocit, že dobu trochu předbíháme, někdy až nepohodlně. Ale přesně to mě na tom baví. Vždycky jsem si přál být u toho, když vzniká něco jako osobní počítač, když se z technické hračky stává nová vrstva civilizace. Tohle je ta chvíle.

Ne s klackem. S pluhem.

Děkuju Leoši Kyšovi, Michalu Kubíčkovi a Opavě za debatu, která měla hlavu, humor i tření. Slunovrat je pořád jeden z nejhezčích letních festivalů, kde se dá přemýšlet nahlas. A věřím, že za rok bude znovu o čem mluvit.

Zdroje a další čtení

• Alpha Industries: Tři čtvrtiny českého internetu už používají AI.
• Alpha Industries: HyperFusion: když jeden model nestačí.
• Alpha Industries: HyperFusion po opravách: DRACO benchmark.
• Arena AI: žebříčky modelů pro text a webový vývoj.
• STEM, Eurostat, METR a Stanford HAI AI Index: veřejně dostupné přehledy adopce, schopností a limitů současné AI.

Poznámka k poctivosti: článek vychází z debaty na festivalu Slunovrat a z následných podkladů. Některá efektní tvrzení z pracovních poznámek jsem formuloval opatrněji nebo vynechal tam, kde by bez jasného zdroje působila přesně jako ten typ AI halucinace, před kterým text varuje.