V posledních měsících u mě v kuchyni u stolu sedělo hned několik přátel, kterým zneklidněl pohled pokaždé, když přišla řeč na nové počítačové technologie. Někteří malují čerta na zeď. Bojí se, že stroje brzy získají vlastní vědomí, převezmou kontrolu a člověk se stane zbytečným.
I zkušení vývojáři občas nevěřícně kroutí hlavou nad tím, co z jejich programů najednou vychází. Z takového upřímného úžasu se však u mnohých bleskově stává existenciální panika. Jakmile stroj začne zdánlivě smysluplně a logicky argumentovat, máme tendenci za tím okamžitě vidět myslící bytost.
Jenže mezi ohromující schopností tvořit věty a skutečným myšlením leží hluboká propast.
Když nás stroje zničehonic překvapí
My lidé máme přirozený sklon dávat všemu lidskou tvář. Když nám program odpovídá přátelským tónem, skládá básně nebo řeší zapeklité chyby v kódu, bezděčně máme pocit, že mluvíme s někým živým. A právě tady se rodí strach: Když ta věc odpovídá tak chytře, nezačne si brzy prosazovat vlastní vůli?
Fascinace vývojářů je pochopitelná. Některé schopnosti dnešních systémů se v této kvalitě nedaly zcela přesně předpovědět. Vyplynuly z obrovského množství dat a složitých matematických modelů. Jenže to, že nás něco překvapí, ještě neznamená, že to má duši.
Z otevřených technických otázek média často během pár dní upletou apokalyptické scénáře. Dobře se to prodává, ale místo střízlivého úsudku to v lidech vyvolává spíš ochromující úzkost.
Co se ve skutečnosti děje pod kapotou
Když se na takzvanou umělou inteligenci podíváme střízlivě, zjistíme, že jen počítá. Zpracovává vstupy pomocí matematické pravděpodobnosti a rozpoznává vzorce v obrovských souborech textů. Když jí předložíte větu, statisticky vyhodnotí, jaká slova by měla nejpravděpodobněji následovat.
Samotný pojem „umělá inteligence“ považuji za ošemetný, jakmile pod ním začneme chápat lidské myšlení. Jistě, určitý výpočetní výkon můžeme čistě technicky označit za inteligentní – to je věc definice. Zda ale počítač vůbec kdy dokáže prožívat subjektivní vnitřní zkušenost, cítit bolest nebo opravdovou radost, zůstává přinejmenším naprosto nedokázané. Jsem přesvědčen, že tam uvnitř nikdo nemyslí. Jen tam něco počítá.
Žádný takový systém nemá vlastní záměry, netouží po Bohu a nemá svědomí. Dokonce ani neví, co znamenají slova, která skládá za sebe. Pouze zrcadlí lidský jazyk, kterým byl nasycen.
Proč tento nástroj přesto rád používám
Dříve nám tabulkové procesory pomáhaly udělat pořádek v nepřehledných hromadách čísel. Nikoho tehdy ani nenapadlo bát se, že tabulka v Excelu usiluje o nadvládu nad světem. Dnes zažíváme obrovský skok v rovině jazyka.
Moderní nástroje nám pomáhají utřídit si myšlenky, ověřit argumentaci a dát hrubým konceptům jasnější tvar. Nedělám z toho žádné tajemství: i při psaní tohoto blogu takové pomocníky využívám. Pomáhají mi vystavět osnovu, vybrousit formulace nebo promyslet možné protiargumenty.
Občas do systému vložím koncept a požádám ho: „Porovnej tuto myšlenku s biblickými principy, najdi k ní příhodné pasáže, upozorni mě na případné rozpory a pomoz mi to podat srozumitelně pro ty, kdo hledají.“ Ušetří mi to drahocenný čas a odhalí slepá místa, která bych mohl přehlédnout.
Na konci celého procesu však před klávesnicí sedí člověk z masa a kostí. Odpovědnost za každé zveřejněné slovo nesu výhradně já sám. Stroj nemá duchovní rozlišování ani Ducha svatého. Je to písařský nástroj, v žádném případě pastýř.
Skutečná rizika místo vymyšlených přízraků
Přehnaný strach z myslících robotů často odvádí pozornost od skutečných hrozeb. Systém totiž nemusí mít vědomí, aby napáchal obrovské škody.
Už dnes vidíme, jak snadno lze chrlit masové dezinformace. Setkáváme se s podvody, při nichž stroje napodobují hlasy našich blízkých. A pokud neuvážené algoritmy bez lidského dohledu rozhodují o půjčkách, přijímacích řízeních nebo zbraňových systémech, hrozí skutečná nespravedlnost. K tomu se přidávají závažné otázky ochrany soukromí a duševního vlastnictví.
Tato nebezpečí vyžadují bdělost, jasné zákony a osobní soudnost. Nemusíme bojovat s vymyšlenými démony v křemíkovém čipu; musíme se naučit s těmito mocnými nástroji zacházet zodpovědně.
V čem je ukotvena naše skutečná hodnota
Skutečná otázka v pozadí celé této debaty totiž zní: Kým jsme, když stroje zvládají některé úkoly rychleji než my? V naší výkonové společnosti, která člověka poměřuje efektivitou, dosaženým vzděláním a měřitelným užitkem, se s takovým technickým pokrokem začíná obraz o nás samých povážlivě viklat.
Biblické poselství zde ale nastavuje blahodárnou hranici. Neodvozuje totiž hodnotu člověka od jeho výpočetního výkonu.
Bůh stvořil člověka, aby byl jeho obrazem, stvořil ho, aby byl obrazem Božím, jako muže a ženu je stvořil. (Genesis 1,27)
Nejsi datové centrum. Jsi bytost chtěná Bohem, schopná opravdové lásky, pokání, modlitby i soucitu. Člověk s těžkou demencí už často sotva logicky uvažuje, a přesto má před svým Stvořitelem plnou a nedotknutelnou důstojnost. Žádný sebegeniálnější počítačový program nikdy nebude Božím obrazem – a žádný člověk neztrácí smysl své existence jen proto, že nějaký procesor třídí data rychleji než on.
Svět se mění závratným tempem a nepochybně zažijeme ještě mnoho technických průlomů. Náš základ však zůstává neotřesitelný.
Ježíš Kristus je tentýž včera i dnes i na věky. (Židům 13,8)
Nemusíme se schovávat před každou novinkou. Můžeme s vděčností využívat nové možnosti, střízlivě pojmenovávat reálná rizika a především vědět, v čích rukou spočívá naše budoucnost.