Umělá inteligence se často popisuje především jako technologická změna. Mluví se o modelech, datech, regulaci, automatizaci, produktivitě a pracovním trhu. To jsou podstatné věci. Samy ale nevystihují celý problém.

AI nemění jen to, jak rychle vzniká software, obraz nebo dokument. Zrychluje také výrobu jazyka. Běžně dostupné bude psaní shrnutí, doporučení, komentářů, analýz, omluv, návrhů i zdánlivě promyšlených stanovisek. To, co dříve vyžadovalo čas, orientaci v tématu a schopnost formulovat myšlenku, lze stále častěji získat během několika vteřin.

Proto nestačí ptát se, kdo bude umět AI ovládat. Důležitější otázka zní, jak si společnost v prostředí levně vyráběných odpovědí uchová vlastní úsudek.

Od nedostatku informací k nadbytku formulací

Každá významná technologie proměnila cenu určité lidské schopnosti. Písmo změnilo vztah k paměti. Knihtisk změnil vztah ke knize. Internet změnil vztah k informaci. AI mění vztah k formulaci.

Napsat souvislý text dříve obvykle vyžadovalo alespoň základní práci s tématem. Člověk musel vybrat informace, uspořádat je, rozhodnout o tónu a vytvořit návaznost. Samotný text samozřejmě nikdy nebyl jistým důkazem porozumění. Přesto o autorovi něco vypovídal.

Jazykové modely tento vztah oslabují. Mohou vytvořit text, který působí klidně, přesně a rozumně, aniž by za ním stál lidský soud konkrétního autora. To není důvod takové texty odmítat. Je to důvod číst je s jiným očekáváním.

Vzácné nebude umět něco napsat. Vzácné bude poznat, zda napsané skutečně něco vysvětluje, zda odpovídá situaci a zda za ním někdo nese odpovědnost.

Plynulost není porozumění

Lidé mají sklon spojovat plynulou řeč s kompetencí. Když někdo mluví souvisle, používá odborná slova a zní vyrovnaně, snadno předpokládáme, že věci rozumí.

U AI je tato zkratka zvlášť riskantní. Model pracuje s jazykovými vzorci, vztahy mezi pojmy a pravděpodobnými pokračováními textu. Dokáže vytvořit přesné, užitečné i inspirativní odpovědi. Nemá však lidskou zkušenost, odpovědnost ani vlastní životní situaci, z níž by jeho výklad vyrůstal.

AI odpověď je proto vhodné chápat jako návrh. Může být kvalitní, může upozornit na souvislost nebo nabídnout lepší strukturu problému. Může být ale také povrchní, jednostranná, nepřesná nebo jen dobře napsaná.

První schopností společnosti v AI době tedy není rychlá tvorba textu. Je to schopnost rozlišovat mezi jazykovým výkonem a skutečným porozuměním.

Umět číst rámec odpovědi

Každá odpověď má svůj rámec. Něco zvýrazní, něco odsunuje stranou a něco ani nepovažuje za otázku. To platí pro novinový článek, učebnici, politický projev i výstup AI.

Když se modelu zeptáme na společenský problém, nedostáváme pouze data. Dostáváme také určitý způsob, jak problém uchopit. Některé příčiny se budou jevit jako podstatné, jiné jako vedlejší. Některé hodnoty budou působit samozřejmě, jiné se nemusí objevit vůbec.

Tady je důležitá sémiotická rovina. AI nepracuje jen s jednotlivými informacemi. Pracuje s pojmy, styly, kulturními vzorci a ustálenými způsoby popisu reality. Uživatel proto nemá hodnotit jen to, zda odpověď obsahuje chybu. Má si všímat i toho, jaký obraz člověka, společnosti nebo problému odpověď předpokládá.

Vedle otázky „Je to správně?“ je proto vhodné klást i otázku „Jaký rámec tato odpověď vytváří?“

Schopnost prodlevy

AI zrychluje tvorbu odpovědí. V mnoha situacích je to přínos. Ne každá otázka však potřebuje okamžité uzavření.

Otázky vzdělání, politiky, etiky, kultury nebo osobního rozhodování často vyžadují čas. Ne proto, že by rychlá odpověď nebyla možná, ale proto, že první dobrá formulace nemusí být dobrý závěr. Někdy je nutné vrátit se k zadání, vyslechnout námitku, porovnat více výkladů nebo připustit, že problém zůstává otevřený.

V AI době může být prodleva formou inteligence. Neznamená neefektivitu. Znamená ochranu před tím, aby se rychlá formulace automaticky proměnila v rozhodnutí.

Společnost, která bude schopná vše okamžitě shrnout a rozhodnout, může být velmi výkonná. Bez prostoru pro pochybnost a revizi ale zároveň může ztrácet hloubku soudu.

Škola po konci hotového textu

AI zásadně promění školu. Nejen kvůli opisování. Hlubší problém spočívá v tom, že hotový text přestává být spolehlivým důkazem, že žák tématu rozumí.

Jestliže školní výkon stojí hlavně na odevzdání referátu, eseje nebo správně znějící odpovědi, AI tento model oslabí. To může být nepříjemné, ale zároveň užitečné. Ukazuje se, že samotná forma textu nestačí.

Škola bude muset více sledovat proces. Jak žák k závěru došel. Jak pracoval se zdroji. Jak obhájí své stanovisko. Jak reaguje na námitku. Zda umí vysvětlit vlastní postup, opravit omyl a přiznat nejistotu.

Důležitější budou rozhovor, práce s otázkou, pomalé čtení, interpretace, argumentace a schopnost rozlišovat mezi převzatou formulací a vlastním porozuměním. Ne proto, že by se škola měla vracet do minulosti, ale proto, že právě tyto schopnosti nelze nahradit pouhým vygenerováním odpovědi.

Instituce musí nést odpovědnost

AI bude pro instituce lákavá i proto, že dokáže vytvářet dojem neutrálního doporučení. Rozhodnutí se může skrýt za analýzu. Analýza za model. Model za data. A data za představu, že za výsledek už nikdo konkrétní nenese odpovědnost.

To je problém. Nejen proto, že systém může chybovat, ale proto, že chyba může přestat mít viditelného nositele. Člověk se pak neobrací k rozhodnutí konkrétní instituce nebo osoby, ale k procesu, který působí neosobně a nevyhnutelně.

Zralá společnost musí trvat na jednoduchém pravidle. Technologie může rozhodování podporovat, ale odpovědnost za použití technologie zůstává u lidí a institucí. Musí být jasné, kdo AI použil, za jakým účelem, jaké meze nastavil a kdo nese důsledky.

Systém nesmí být štít, za který se lze schovat.

Média, kultura a moc nad významem

Média budou řešit falešné obrázky, nahrávky a automaticky vytvářené texty. Vedle ověřování faktů však bude stále důležitější i schopnost rozpoznat jazykové rámce.

Text nemusí přímo lhát, aby ovlivňoval veřejné myšlení. Stačí, když nenápadně určí, co bude považováno za normální, rozumné nebo okrajové. Moc nad významem často nefunguje jako otevřený příkaz. Funguje jako nastavení slovníku, kategorií a otázek, které se ve veřejném prostoru vůbec objeví.

AI může tyto vzorce zesilovat, protože se učí z existující kulturní paměti. Zároveň ale kulturní paměť není živá kultura. Paměť uchovává stopy minulosti. Živá kultura vytváří nové výklady, nové konflikty i nové možnosti pojmenování.

Společnost, která se spokojí jen s automatickým opakováním naučených formulací, může mít velké množství textů, ale málo skutečně nových hlasů.

Pohodlí jako riziko

Riziko AI nespočívá jen v manipulaci nebo chybách. Spočívá i v pohodlí.

Pohodlí první odpovědi. Pohodlí shrnutí místo četby. Pohodlí formulace bez vlastního soudu. Pohodlí systému, který předem uspořádá problém a nabídne jazyk, jímž o něm budeme mluvit.

Největší hrozbou nemusí být, že AI začne myslet místo lidí. Větší hrozbou může být, že lidem začne stačit, že AI mluví místo nich.

Člověk, který dlouhodobě přebírá hotové věty, může postupně ztrácet potřebu formulovat vlastní stanovisko. Společnost pak nebude méně svobodná proto, že má více technologií. Bude méně svobodná proto, že svůj soud stále častěji odevzdává do předem připravených odpovědí.

Pozitivní možnost

AI nemusí být nepřítelem vzdělání ani kultury. Může fungovat jako zrcadlo jejich slabin.

Může ukázat, kolik textů bylo prázdných už před jejím příchodem. Kolik školních prací jen naplňovalo formu. Kolik pracovních dokumentů bylo provozní mlhou. Kolik veřejných projevů bylo jen opakováním očekávaných frází.

AI prázdný jazyk nevytvořila. Jen ho umí vytvářet rychle a levně.

Právě proto může zvýšit nároky. Nejen na modely, ale na lidi. Nutí nás přesněji rozlišovat, co je myšlení, co je pochopení, co je vzdělání, co je odpovědnost a co je pouze dobře sestavený text.

Pozitivní možnost AI nespočívá v tom, že za nás bude myslet. Spočívá v tom, že může člověka přimět myslet přesněji, pokud ji používá jako nástroj pro práci s vlastním úsudkem a ne jako jeho náhradu.

Praktická kontrola při práci s AI

Při používání AI je užitečné klást si několik jednoduchých otázek.

  • Nahrazuje mi tento výstup rutinní práci, nebo vlastní úsudek?
  • Pomáhá mi odpověď problém otevřít, nebo jej příliš rychle uzavírá?
  • Vím, z čeho závěr vychází a co v něm může chybět?
  • Dokážu výstup obhájit i bez toho, abych se odvolal na autoritu systému?
  • Jsem ochoten nést odpovědnost za to, že tento text použiji?

Když na tyto otázky nelze odpovědět, nejde ještě o vlastní myšlenku. Jde o text, který může být užitečný, ale potřebuje další práci.

Shrnutí

AI doba nebude chudá na jazyk. Naopak. Textů, návrhů a odpovědí bude více než kdy dřív. Hlavní otázka proto nebude jen to, kdo je dokáže vytvářet.

Důležité bude, kdo dokáže rozpoznat jejich kvalitu, přečíst jejich rámec, doplnit jejich slepá místa a nést odpovědnost za jejich použití.

Společnost, která chce AI zvládnout, nepotřebuje pouze technickou infrastrukturu a digitální dovednosti. Potřebuje také úsudek, schopnost pochybovat, kulturu argumentace, vzdělání zaměřené na proces porozumění a instituce, které se neschovávají za systém.

AI může dát lidem mnoho slov. Sama ale nerozhodne, která z nich mají váhu.