Umělá inteligence vyvolává obavy z chyb, ztráty pracovních míst nebo falešných informací. Je tu ale ještě jiná otázka: může AI ovlivňovat, jak lidé rozumějí světu?

Tato otázka není přehnaná, jen je potřeba ji formulovat přesně. Jazykový model nemá vlastní politický plán ani lidskou vůli někoho ovládat. Pracuje však s jazykem, tedy s pojmy, argumenty, styly a kulturními vzorci, které lidé po sobě zanechali v textech. A protože odpovědi podává plynule, osobně a často přesvědčivě, může zároveň nenápadně posilovat určitý způsob výkladu reality.

Základní problém proto nezní: *Chce nás AI ovládat?* Přesnější otázka je: *Jaké významové rámce vstupují do jejího trénování, nastavení a každodenního používání?*

Co znamená kulturní paměť v AI

Lidé po sobě zanechali obrovské množství textů: knihy, články, zákony, učebnice, encyklopedie, vědecké práce, diskuse, reklamy, návody, politické projevy i běžnou internetovou komunikaci. V těchto textech nejsou jen jednotlivé informace. Je v nich i to, jak společnost třídí svět.

Texty ukazují, které pojmy považujeme za důležité, kdo v nich vystupuje jako autorita, jaké problémy opakujeme, čeho se obáváme a co naopak zůstává na okraji. Jazykový model z takového materiálu nevytváří úplný obraz lidstva. Vytváří statisticky uspořádanou mapu toho, co bylo digitalizováno, vybráno a zpracováno jako text.

To je důležitý rozdíl. AI neobsahuje kulturu v její plnosti. Neobsahuje tělesnou zkušenost, mlčení, každodenní práci, vztahy ani situace, které nikdy nikdo nezapsal. Zachycuje především znakové stopy, jimiž lidé svou zkušenost pojmenovali.

Jak se z textů stane jazykový model

Základní princip velkého jazykového modelu je technicky jednodušší, než jak působí jeho výstupy. Model se při trénování učí předpovídat další část textu.

Text je nejprve rozdělen na tokeny, tedy malé technické jednotky. Někdy odpovídají celému slovu, jindy části slova, koncovce, interpunkci nebo mezeře. Model dostane určitý kontext a odhaduje, co bude následovat. Když odhad neodpovídá trénovacím datům, jeho vnitřní číselné parametry se upraví. Tento proces se opakuje ve velkém měřítku.

Výsledkem nejsou uložené věty ani jednoduchý archiv hotových odpovědí. Vzniká síť vztahů, která modelu umožňuje rozpoznávat jazykové souvislosti mezi pojmy, styly, tématy a typy argumentace.

Proto může model pokračovat v tónu právního textu, filozofické úvahy, reklamy, odborného vysvětlení nebo běžného rozhovoru. Ne proto, že by tyto situace sám prožil, ale protože se naučil jejich opakující se jazykové struktury.

Pravděpodobnost není pravda

Jazykový model není stroj, který by přímo ověřoval realitu. Jeho základní mechanismus hledá pravděpodobné pokračování v daném kontextu.

To neznamená, že AI nemůže poskytovat správné informace. Mnoho textů, z nichž se učí, obsahuje reálné poznatky, odborné postupy a ověřené vztahy. Model proto dokáže vysvětlit velké množství věcí užitečně a někdy velmi přesně.

Samotná plynulost odpovědi však není důkaz. Pravděpodobná formulace může opakovat omyl, zjednodušení, společenský stereotyp nebo neaktuální výklad. Naopak odborné, nové nebo menšinové stanovisko může znít méně samozřejmě právě proto, že se v běžném textovém prostředí objevuje méně často.

AI je proto vhodné číst jako nástroj pro práci s informacemi a argumenty, ne jako automatickou autoritu pravdy.

Proč nejsou data neutrální

Výběr dat nikdy nevzniká ve vzduchoprázdnu. Rozhoduje se, co bude považováno za kvalitní text, co za spam, co za rizikový obsah a co za nerelevantní materiál. Další rozhodnutí přicházejí při dolaďování modelu, bezpečnostních pravidlech, hodnocení odpovědí, výběru zdrojů i návrhu samotné aplikace.

To neznamená, že každé takové rozhodnutí je manipulace. Filtrování a pravidla jsou nutná, protože bez nich by systém snadno šířil spam, nebezpečné návody nebo zjevné nesmysly. Přesto jde vždy také o rozhodnutí hodnotové. Určuje se tím, které typy řeči model snáze reprodukuje, které rámce považuje za běžné a kde naopak začne být opatrný nebo odmítavý.

Zaujatost AI proto často nevypadá jako otevřená propaganda. Může se projevit jemněji: ve volbě pojmů, v tom, které zdroje jsou předkládány jako normální, jaké otázky jsou považovány za legitimní nebo které alternativy odpověď vůbec nezmíní.

AI navazuje na starší média, ale mění vztah k uživateli

Média vždy organizovala význam. Noviny rozhodují, co se stane zprávou. Televize vybírá hosty, obrazy a emoce. Škola vytváří výběr toho, co má společnost pokládat za základní vědění. Vyhledávače a sociální sítě určují, co se zobrazí jako první a co zůstane prakticky neviditelné.

AI do tohoto prostředí vstupuje jinak. Neoslovuje jen dav. Vede individuální rozhovor. Přizpůsobuje styl, reaguje na námitku, umí shrnout spor, vysvětlit pojem a nabídnout další krok. Proto může působit jako osobní intelektuální partner.

Právě zde je její síla i riziko. Rámec odpovědi nemusí vypadat jako nátlak. Může přijít v podobě klidného, užitečného a zdánlivě vyváženého vysvětlení. Uživatel pak snadno přehlédne, že vedle faktů přijímá i určité rozdělení problému, volbu autorit a pořadí důležitosti.

Jak s odpovědí AI pracovat

Základní dovedností není jen napsat dobrý prompt. Je to umět odpověď číst jako interpretaci, nikoli jako hotový verdikt.

Při důležitých tématech má smysl ptát se:

  • Jaký rámec odpověď předpokládá?
  • Co považuje za samozřejmé?
  • Jaké pojmy používá a jaké možnosti tím vytlačuje?
  • Které zdroje, zkušenosti nebo perspektivy v ní chybí?
  • Co by na stejnou otázku řekl člověk z jiné odborné, kulturní nebo politické pozice?
  • Která tvrzení je nutné samostatně ověřit?

Takový postup není paranoidní nedůvěra. Je to běžná informační gramotnost přizpůsobená nástroji, který umí mluvit velmi přesvědčivě.

Co má chtít společnost

Individuální kritické myšlení samo nestačí. Pokud se AI používá ve školství, úřadech, médiích, zdravotnictví nebo právním systému, musí existovat i veřejné záruky.

Důležité jsou zejména pluralita modelů a zdrojů, možnost nezávislého testování, jasná odpovědnost provozovatelů, ochrana menších jazyků a transparentnost tam, kde AI ovlivňuje důležitá rozhodnutí. Veřejné instituce by zároveň neměly být odkázány jen na několik soukromých platforem bez vlastní odborné kapacity.

Cílem není vytvořit dokonale neutrální AI. Takový systém v praxi neexistuje, protože každé rozhraní a každé pravidlo obsahuje určitou volbu. Cílem je, aby tyto volby nebyly skryté, nezkontrolovatelné a soustředěné v rukou několika aktérů.

Závěr

AI převádí velké množství lidských textových stop do pravděpodobnostního systému, který s námi umí vést dialog. Tím získává schopnost nejen předávat informace, ale také spoluutvářet rámce, v nichž o věcech přemýšlíme.

Proto je nutné držet dvě myšlenky současně. AI není tajný subjekt s vlastním úmyslem ovládat společnost. Zároveň není neutrální zrcadlo světa.

Je to nástroj, v němž se setkávají data, technická pravidla, rozhodnutí provozovatelů a otázky konkrétních lidí. To, zda bude rozšiřovat porozumění, nebo jen upevňovat hotové mocenské rámce, nebude rozhodovat samotná technologie. Rozhodne způsob, jak ji budeme navrhovat, kontrolovat a používat.