Když lidé hodnotí odpověď umělé inteligence, často mluví o tom, zda model „má pravdu“. Méně často si všímají, že značná část směru odpovědi byla určena už předem formulací otázky.

To není zvláštnost AI. Platí to v běžném rozhovoru, ve vědě, v politice i v osobním rozhodování. Otázka nikdy není pouhý prázdný obal pro informaci. Volbou slov vymezuje, co považujeme za problém, co bude relevantní a jaké typy vysvětlení vůbec připustíme.

U jazykového modelu je tento mechanismus dobře vidět. Model nemá přímý přístup k celé situaci. Pracuje s textem, který dostane, a s jazykovými vzorci, jež se naučil z dat. Proto na formulaci, tón, kontext a skryté předpoklady reaguje velmi citlivě.

Co je rámec otázky

Rámec je soubor předpokladů, které jsou v otázce přítomné, i když je výslovně neřekneme. Může obsahovat například:

  • předem určeného viníka
  • hodnotový soud
  • definici toho, co je problém
  • očekávaný typ řešení
  • hranice toho, o čem se vůbec bude mluvit

Otázka „Proč se lidé bojí umělé inteligence?“ otevírá hlavně téma strachu. Otázka „Jaké naděje a obavy lidé spojují s umělou inteligencí?“ vytváří širší a méně jednostranný prostor. A otázka „Jak AI mění vztah člověka k práci, poznání a vlastní výjimečnosti?“ přesouvá pozornost od emocí k proměně lidského sebeobrazu.

Téma je podobné, ale významový prostor není stejný. Proto ani odpověď nebude stejná.

Otázka jako výběr perspektivy

Jedna situace může být vyložena z více hledisek. Každé hledisko něco ukáže a něco ponechá stranou.

Otázka „Kdo za to může?“ staví situaci do rámce viny a odpovědnosti. Otázka „Co k tomu vedlo?“ hledá příčiny a souvislosti. Otázka „Jak to napravit?“ obrací pozornost k řešení. Otázka „Co mi tato situace ukazuje?“ otevírá rovinu osobního nebo symbolického významu.

Žádný z těchto rámců není automaticky chybný. Problém vzniká ve chvíli, kdy je jeden z nich vydáván za jediný možný pohled. Pak se z otázky stává nástroj, který potvrzuje již přijatý závěr.

AI tento efekt nevytváří sama. Často jej pouze rozvíjí. Když uživatel vloží do otázky silné hodnocení, model má tendenci pracovat uvnitř takto vymezeného pole, pokud jej výslovně nevyzveme ke kritické kontrole předpokladů.

Příklad z osobní situace

Představme si člověka, který odešel z práce po konfliktu s nadřízeným.

Otázka „Proč mám pořád problém s autoritami?“ předpokládá, že hlavní problém leží v člověku a v jeho vztahu k autoritě. Odpověď proto nejspíš zamíří k opakovaným vzorcům, osobnosti nebo předchozím zkušenostem.

Otázka „Proč mi vadí nekompetentní autority?“ posouvá těžiště jinam. Předpokládá, že je třeba odlišit legitimní autoritu od pouhé formální moci.

Nejpřesnější formulace by mohla znít: „Jak rozpoznat, kdy je můj odpor vůči autoritě oprávněný, a kdy mi naopak škodí?“ Taková otázka neobsahuje hotový rozsudek. Umožňuje zkoumat obě strany situace, vnější podmínky i vlastní podíl.

Nejde o to, že by AI byla najednou moudřejší. Lepší je především struktura otázky, z níž odpověď vyrůstá.

Pojmenování není neutrální

Výraz, který pro věc zvolíme, určuje část jejího významu. „Problémový žák“ a „dítě v dlouhodobém stresu“ nejsou totožné popisy. První vede pozornost k porušování normy, druhý k možným příčinám chování. Oba mohou být v určitém kontextu relevantní, ale každý vyvolává jiný typ reakce.

Podobně se liší „selhání matky“ a „přetížení pečující osoby“, „nepřizpůsobivost“ a „konflikt s dominantní normou“ nebo „líný zaměstnanec“ a „člověk s nízkou motivací v konkrétních podmínkách“.

To neznamená, že máme nahrazovat nepříjemná slova eufemismy. Znamená to, že bychom měli vědět, co konkrétní pojmenování dělá. Některá slova zvýrazňují vinu, jiná příčinu, další systémové podmínky nebo lidský příběh.

Ze sémiotického hlediska znak nikdy nestojí sám. Vstupuje do sítě dalších významů, hodnot a kulturních asociací. Jazykový model tuto síť napodobuje a rozvíjí.

AI jako zesilovač, ne jako neutrální rozhodčí

AI lze chápat jako nástroj, který často zesiluje zadaný rámec. Technicky položená otázka vyvolá technický typ odpovědi. Právní otázka aktivuje jazyk odpovědnosti, rizik a pravidel. Duchovní otázka otevře význam, symboliku a vnitřní proměnu.

To má výhodu i riziko.

Výhodou je, že lze model přesně nasměrovat. Rizikem je, že nevyřčený předsudek může dostat velmi uhlazenou a přesvědčivou podobu. Model nemusí uživatele automaticky vyvést z jednostranného myšlení. Často potřebuje výslovnou instrukci, aby prověřil alternativní výklady, slabiny argumentu nebo chybějící fakta.

Proto je užitečné zadávat nejen otázku, ale i způsob práce. Například:

> Rozděl tuto situaci na ověřitelná fakta, interpretace a hodnotové soudy. Uveď alespoň tři možné výklady a napiš, jaké informace by mezi nimi rozhodovaly.

Takové zadání nepředává modelu jen téma. Dává mu i intelektuální disciplínu.

Rozdíl mezi osobními, společenskými a technickými otázkami

U osobních témat rámec často rozhoduje o tom, zda budeme hledat viníka, vzorec, hranici nebo možnost změny. Otázka „Proč mě nikdo nechápe?“ může být užitečná jako popis pocitu, ale pro analýzu je přesnější ptát se, kde vzniká rozdíl mezi tím, co chci sdělit, a tím, co druzí skutečně slyší.

U společenských témat rámec určuje, zda budeme vidět úpadek, proměnu, konflikt zájmů nebo vznik nových institucí. Místo obecné otázky „Proč se společnost rozpadá?“ lze zkoumat, které konkrétní vazby slábnou, kde vznikají nové formy spolupráce a podle jakých ukazatelů to poznáme.

V technických tématech je rámec především otázkou kontextu. Dotaz „Proč mi nefunguje aplikace?“ je pro model slabý, protože nevymezuje problém. Silnější zadání obsahuje chybu, očekávané chování, skutečné chování, relevantní část kódu, použitou technologii a omezení projektu. Přesnost zde není filozofická ozdoba. Je to podmínka použitelné odpovědi.

Jak formulovat zralou otázku

Dobrá otázka nemusí být dlouhá. Musí však odlišovat to, co víme, od toho, co si vykládáme, a od toho, čeho se obáváme nebo v co doufáme.

Před důležitým dotazem je užitečné prověřit několik bodů:

1. Jaké tvrzení už otázka předpokládá?

2. Neobsahuje skrytý rozsudek nebo nálepku?

3. Jaké jiné vysvětlení by mohlo být stejně možné?

4. Co v otázce chybí, aby se dala věc posoudit poctivě?

5. Jaký typ odpovědi vlastně potřebuji: fakta, výklad, rozhodovací varianty, kritiku, nebo praktický postup?

Místo „Proč jsou mladí lidé líní?“ lze položit otázku: „Jak se změnil vztah části mladých lidí k práci, mzdě, jistotě a loajalitě vůči zaměstnavatelům, a co z toho lze doložit?“

Místo „Je ten člověk manipulátor?“ lze otázku formulovat: „Jak rozlišit manipulaci, tlak, nedorozumění a odlišný komunikační styl v této konkrétní situaci?“

Místo „Co mám dělat?“ je obvykle lepší: „Jaké mám možnosti, jaké budou jejich pravděpodobné důsledky a podle jakých hodnot mezi nimi mám rozhodnout?“

AI jako laboratoř jazyka

Práce s AI má jednu praktickou hodnotu. Umožňuje rychle vidět, jak změna jediného slova nebo předpokladu změní směr výkladu. V běžné debatě tento mechanismus často přehlížíme, protože se hádáme o závěry. Při práci s modelem lze porovnat několik formulací vedle sebe a sledovat, co která z nich aktivuje.

To z AI nedělá zdroj konečné pravdy. Dělá z ní nástroj pro zkoumání vlastního myšlení a jazyka.

Nejlepší výsledek nevzniká tehdy, když model rychle odpoví. Vzniká tehdy, když otázka vytvoří dostatečně poctivý prostor pro rozlišování.

Shrnutí

Každá otázka nese rámec. Tento rámec ovlivňuje, co bude vidět, jaká vysvětlení budou působit přirozeně a jaký typ odpovědi AI nabídne.

AI proto není jen nástroj pro získávání hotových odpovědí. Je také zrcadlo, které ukazuje, jakým jazykem a z jakých předpokladů člověk vykládá svět.

Kvalita práce s AI nezačíná až u odpovědi. Začíná ve chvíli, kdy dokážeme otázku položit tak, aby nehledala jen potvrzení našeho prvního dojmu, ale umožnila skutečné rozlišení.