V roce 1976, v době, kdy se počítače teprve začaly objevovat mimo výzkumné laboratoře a kdy internet existoval pouze jako vojenský projekt ARPANET, vydal Joseph Weizenbaum knihu, která se odvážila klást otázky, jež většina jeho kolegů považovala za irelevantní, ba dokonce nebezpečné. Weizenbaum nebyl technologický luddita ani nostalgický kritik pokroku. Byl respektovaným profesorem počítačové vědy na Massachusetts Institute of Technology, institucí, která se pyšnila tím, že stojí v čele technologické revoluce. A právě tato pozice uvnitř systému dávala jeho kritice neobyčejnou váhu a naléhavost.
Kniha “Computer Power and Human Reason” vznikla z osobní krize autora, který se stal nečekaným svědkem toho, jak může být dokonce jednoduchá technologie zneužita, pokud ji společnost nepochopí nebo jí připisuje vlastnosti, které nemá. Weizenbaum vytvořil program ELIZA jako demonstraci principů zpracování přirozeného jazyka, jako akademickou ilustraci toho, jak může počítač analyzovat a reagovat na lidské věty podle předem definovaných vzorců. Program byl navržen tak, aby napodoboval rogersovského psychoterapeuta, což bylo ironickou volbou, neboť Weizenbaum chtěl ukázat, jak mechanicky lze reprodukovat některé konverzační techniky. To, co následovalo, však autora šokovalo natolik, že to změnilo směr jeho myšlení i kariéry.
ELIZA se stala fenoménem, ale z důvodů, které Weizenbaum vůbec nezamýšlel. Lidé se k programu emocionálně připoutali, svěřovali mu své intimní problémy a dokonce vyžadovali soukromí při konverzaci s ním. Psychiatři začali vážně uvažovat o nasazení takových systémů do klinické praxe. Média oslavovala ELIZU jako průlom v oblasti umělé inteligence a porozumění přirozenému jazyku. Autor sledoval s narůstajícím zděšením, jak jeho jednoduchý experiment v oblasti počítačové lingvistiky přerůstá v něco, co považoval za nebezpečnou iluzi o schopnostech technologie a ještě nebezpečnější sebeobraz člověka jako pouhého stroje.
Následující text představuje úvod této pozoruhodné knihy. Čteme v nich nejen příběh o vzniku ELIZY a reakcích na ni, ale především hlubší úvahy o proměně vztahu mezi člověkem a technologií, mezi vědou a moudrostí, mezi rationalitou a pouhou logičností. Weizenbaum ukazuje, jak moderní věda, původně osvoboditelská síla, začala působit jako pomalu účinkující jed, který podkopává důvěru v jiné způsoby poznávání světa a redukuje lidské dilema na technické problémy řešitelné výpočty.
Text je pozoruhodný především svou autentičností a odvahou. Weizenbaum píše z pozice člověka, který se vyrovnává s morálními důsledky vlastní práce, který se ptá po odpovědnosti vědce vůči společnosti a který není ochoten přijmout jednoduchou odpověď. Jeho kritika nesměřuje proti technologii jako takové, ale proti imperialismu instrumentálního rozumu, proti tendenci považovat za legitimní pouze takové otázky, které lze formalizovat a algoritmizovat, pouze takové problémy, které lze vyřešit výpočtem.
Dnes, téměř půl století po napsání těchto slov, zní Weizenbaumova slova prorocky. Žijeme v době, kdy umělá inteligence skutečně dokáže konverzovat způsobem, který původní ELIZA nedokázala ani vzdáleně napodobit, kdy se automatizace rozšířila do oblastí, které Weizenbaum sotva mohl předvídat, a kdy debata o hranicích mezi lidským a strojovým myšlením nabrala na naléhavosti. Přesto základní otázka zůstává stejná: existují aspekty lidského života, lidského myšlení a lidského vztahování se k světu, které by měly zůstat výsadou člověka, i kdyby je technologie dokázala napodobit?
Následující text nás zve k zamyšlení nad touto otázkou způsobem, který je současně osobní, filosofický i naléhavě praktický. Weizenbaum nás vybízí, abychom si uvědomili, že rozhodnutí o tom, jak používáme technologii, nejsou pouze technická, ale především morální rozhodnutí o tom, jakými lidmi chceme být a v jaké společnosti chceme žít.
Práce byla vykonána v období let 1964–1966 a byla publikována v literatuře o počítačové vědě v lednu 1966 a srpnu 1967. Stručně řečeno, sestavil jsem počítačový program, se kterým bylo možné „konverzovat“ v angličtině. Lidský partner v konverzaci psal svou část rozhovoru na psacím stroji připojeném k počítači a počítač pod kontrolou mého programu analyzoval zprávu, která mu byla takto předána, sestavil na ni odpověď v angličtině a nechal odpověď vytisknout na psacím stroji počítače.
Zvolil jsem pro program jazykové analýzy jméno ELIZA, protože, stejně jako Eliza z Pygmalionu, se mohla naučit „mluvit“ stále lépe. Protože konverzace musí být o něčem, to znamená, že se musí odehrávat v nějakém kontextu, byl program zkonstruován ve dvouvrstvém uspořádání, přičemž první vrstva se skládala z jazykového analyzátoru a druhá ze scénáře. Scénář je soubor pravidel, podobný těm, která by mohla být dána herci, jenž je má použít k improvizaci na určité téma. Tak mohla být ELIZA vybavena scénářem, který jí umožnil vést konverzaci o vaření vajec nebo o správě bankovního účtu a tak dále. Každý specifický scénář tak umožnil ELIZE hrát specifickou konverzační roli.
Pro svůj první experiment jsem dal ELIZE scénář navržený tak, aby jí umožnil hrát (měl bych spíše říci parodovat) roli rogersovského psychoterapeuta zapojeného do úvodního rozhovoru s pacientem. Rogersovský psychoterapeut se napodobuje relativně snadno, protože velká část jeho techniky spočívá v tom, že přiměje pacienta hovořit tím, že mu odráží jeho vlastní výroky zpět. Následující rozhovor mezi mladou dámou a Elizou hrající si na doktora ilustruje jak rogersovskou techniku povzbuzování pacienta k hovoru, tak fungování počítačového programu ELIZA. První, kdo „mluví“, je mladá dáma. Odpovědi počítače jsou vytištěny výhradně velkými písmeny.
Muži jsou všichni stejní.
V JAKÉM SMYSLU
Vždycky nás kvůli něčemu otravují.
MŮŽETE UVÉST KONKRÉTNÍ PŘÍKLAD
No, můj přítel mě donutil sem přijít.
VÁŠ PŘÍTEL VÁS DONUTIL SEM PŘIJÍT
Říká, že jsem většinu času v depresi.
JE MI LÍTO, ŽE SLYŠÍM, ŽE JSTE V DEPRESI
To je pravda. Jsem nešťastná.
MYSLÍTE SI, ŽE VÁM PŘÍCHOD SEM POMŮŽE NEBÝT NEŠŤASTNÁ
Potřebuji nějakou pomoc, to se zdá jisté.
CO BY PRO VÁS ZNAMENALO, KDYBYSTE DOSTALA NĚJAKOU POMOC
Možná bych se mohla naučit vycházet se svou matkou.
ŘEKNĚTE MI VÍCE O SVÉ RODINĚ
Moje matka se o mě stará.
KDO JINÝ VE VAŠÍ RODINĚ SE O VÁS STARÁ
Můj otec.
VÁŠ OTEC
V některých ohledech jste jako můj otec.
JAKOU PODOBU VIDÍTE
Nejste moc agresivní, ale myslím, že nechcete, abych si toho všimla.
CO VÁS VEDE K MYŠLENCE, ŽE NEJSEM MOC AGRESIVNÍ
Nehádáte se se mnou.
PROČ SI MYSLÍTE, ŽE SE S VÁMI NEHÁDÁM
Bojíte se mě.
TĚŠÍ VÁS VĚŘIT TOMU, ŽE SE VÁS BOJÍM
Můj otec se bojí každého.
CO JINÉHO VÁM PŘIJDE NA MYSL, KDYŽ MYSLÍTE NA SVÉHO OTCE
Surovci.
MÁ TO NĚCO SPOLEČNÉHO S TÍM, ŽE VÁS VÁŠ PŘÍTEL DONUTIL SEM PŘIJÍT
DOKTOR, jak se ELIZE hrající na psychiatra začalo říkat, se brzy stal slavným v Massachusettském technologickém institutu (M.I.T.), kde poprvé vznikl, hlavně proto, že to byl snadno předveditelný program. Většina ostatních programů nemohla názorně demonstrovat schopnost počítače zpracovávat informace návštěvníkům, kteří již neměli nějaké specializované znalosti, řekněme z nějakého odvětví matematiky. DOKTORA naproti tomu mohl na určité úrovni ocenit kdokoli. Jeho síla jako demonstračního prostředku byla dále zvýšena skutečností, že se návštěvník mohl skutečně účastnit jeho provozu. Brzy se kopie DOKTORA, zkonstruované na základě mého publikovaného popisu, začaly objevovat v dalších institucích ve Spojených státech. Program se stal celostátně známým a v určitých kruzích dokonce národní hračkou.
Šoky, které jsem zažil, když se DOKTOR stal široce známým a „hraným“, byly způsobeny především třemi odlišnými událostmi.
1. Řada praktikujících psychiatrů vážně věřila, že počítačový program DOKTOR by mohl vyrůst v téměř zcela automatickou formu psychoterapie. Colby a kol. například píší:
„Je třeba vykonat další práci, než bude program připraven pro klinické použití. Pokud se metoda ukáže jako prospěšná, poskytla by terapeutický nástroj, který může být široce dostupný psychiatrickým léčebnám a psychiatrickým centrům trpícím nedostatkem terapeutů. Díky schopnostem sdílení času moderních a budoucích počítačů by počítačový systém navržený pro tento účel mohl zvládnout několik set pacientů za hodinu. Lidský terapeut, zapojený do návrhu a provozu tohoto systému, by nebyl nahrazen, ale stal by se mnohem efektivnějším člověkem, protože jeho úsilí by již nebylo omezeno na poměr jeden pacient na jednoho terapeuta, jak je tomu nyní.“
Považoval jsem za nezbytné, jako předpoklad pro samotnou možnost, že jeden člověk může pomoci druhému naučit se zvládat jeho emocionální problémy, aby se samotný pomocník podílel na prožívání těchto problémů druhého a z velké části prostřednictvím svého vlastního empatického rozpoznání těchto problémů jim sám porozuměl. Nepochybně existuje mnoho technik usnadňujících terapeutovu imaginativní projekci do vnitřního života pacienta. Ale že by bylo možné, aby byť jen jeden praktikující psychiatr obhajoval, aby tato klíčová složka terapeutického procesu byla zcela nahrazena čistou technikou – to jsem si nepředstavoval! Co si musí psychiatr, který takový návrh podává, myslet, že dělá při léčbě pacienta, že může považovat nejjednodušší mechanickou parodii jediné techniky vedení rozhovoru za něco, co zachytilo podstatu lidského setkání? Možná nám Colby a kol. dávají požadované vodítko, když píší:
„Lidského terapeuta lze vnímat jako zpracovatele informací a činitele rozhodování se souborem rozhodovacích pravidel, která jsou úzce spjata s krátkodobými a dlouhodobými cíli… Při těchto rozhodnutích se řídí hrubými empirickými pravidly, která mu říkají, co je vhodné říci a co neříci v určitých kontextech. Zabudovat tyto procesy do programu v takové míře, v jaké je má lidský terapeut, by byl značný podnik, ale pokoušíme se tímto směrem ubírat.“
Jaký může být obraz pacienta v očích psychiatra, když sám sebe jako terapeuta vidí ne jako angažovanou lidskou bytost působící jako léčitel, ale jako zpracovatele informací, který se řídí pravidly atd.? Takové otázky byly mým probuzením do toho, co Polanyi dříve nazval „vědeckým náhledem, který zřejmě vytvořil mechanickou koncepci člověka“.
1. Byl jsem zaskočen tím, jak rychle a jak velmi hluboce se lidé konverzující s DOKTOREM emocionálně zapojili do vztahu s počítačem a jak jednoznačně jej antropomorfizovali. Jednou moje sekretářka, která mě sledovala při práci na programu mnoho měsíců, a proto jistě věděla, že jde pouze o počítačový program, začala s ním konverzovat. Už po několika výměnách mě požádala, abych opustil místnost. Jindy jsem navrhl, že bych mohl systém upravit tak, abych mohl zkoumat všechny konverzace, které s ním kdokoli vedl, řekněme přes noc. Byl jsem okamžitě bombardován obviněními, že to, co navrhuji, se rovná špehování nejintimnějších myšlenek lidí; jasný důkaz, že lidé konverzovali s počítačem, jako by to byla osoba, kterou lze vhodně a užitečně oslovovat v intimních termínech. Věděl jsem samozřejmě, že si lidé vytvářejí nejrůznější citové vazby ke strojům, například k hudebním nástrojům, motocyklům a autům. A z dlouholeté zkušenosti jsem věděl, že silné citové vazby, které mají mnozí programátoři ke svým počítačům, se často vytvářejí již po krátkém vystavení jejich strojům. Co jsem si neuvědomil, je, že extrémně krátké vystavení relativně jednoduchému počítačovému programu může u docela normálních lidí vyvolat silné bludné myšlení. Tento vhled mě vedl k tomu, abych přikládal novou důležitost otázkám vztahu mezi jednotlivcem a počítačem, a tudíž se rozhodl o nich přemýšlet.
2. Další rozšířenou a pro mě překvapivou reakcí na program ELIZA bylo šíření víry, že demonstroval obecné řešení problému počítačového porozumění přirozenému jazyku. Ve svém článku jsem se snažil říci, že žádné obecné řešení tohoto problému není možné, tj. že jazyk je chápán pouze v kontextuálních rámcích, že i ty mohou být lidmi sdíleny jen v omezené míře, a že v důsledku toho ani lidé nejsou ztělesněním žádného takového obecného řešení. Ale tyto závěry byly často ignorovány. V každém případě byla ELIZA jen takovým malým a jednoduchým krokem. Její přínos byl, pokud vůbec nějaký, pouze v tom, že živě podtrhla to, co mnozí jiní již dávno objevili, totiž důležitost kontextu pro porozumění jazyku. Následná, mnohem elegantnější a jistě důležitější práce Winograda v oblasti počítačového porozumění angličtině je v současnosti dezinterpretována stejně jako byla ELIZA.
Tato reakce na ELIZU mi ukázala živěji než cokoli, co jsem doposud viděl, jak enormně přehnané vlastnosti je i vzdělané publikum schopno přisuzovat, a dokonce se snaží přisuzovat, technologii, které nerozumí. Jistě, pomyslel jsem si, rozhodnutí činěná širokou veřejností o nově vznikajících technologiích závisí mnohem více na tom, co veřejnost těmto technologiím přisuzuje, než na tom, čím skutečně jsou nebo co mohou a nemohou dělat. Pokud jsou, jak se zdálo, atributy přisuzované veřejností divoce mylné, pak veřejná rozhodnutí budou nutně scestná a často špatná. Z těchto pozorování vyvstávají obtížné otázky; jaká je například odpovědnost vědce, pokud jde o zveřejňování jeho práce? A komu (nebo čemu) je vědec odpovědný?
Když ve mně vnímání tohoto druhu začalo rezonovat, myslel jsem si, jako možná Polanyi po svém setkání s Bucharinem, že otázky a pochybnosti, které se mi tak naléhavě prezentovaly, by se daly rychle vyřídit, snad v krátkém vážném článku. Skutečně jsem napsal článek dotýkající se mnoha zde zmíněných bodů. Ale postupně jsem začal vidět, že určité zcela zásadní otázky mě infikovaly chroničtěji, než jsem zprvu vnímal. Pravděpodobně se jich nikdy nezbavím.
Existuje tolik způsobů, jak tyto základní otázky formulovat, kolik je výchozích bodů pro jejich řešení. V jádru se týkají ničeho menšího než místa člověka ve vesmíru. Ale já jsem profesně vzdělán pouze v počítačové vědě, což znamená (zcela vážně), že jsem extrémně špatně vzdělán; nemohu v sobě najít ani kompetenci, ani odvahu, ba ani chucpe, abych psal v tak velkém měřítku, jaké je ve skutečnosti vyžadováno. Proto zápolím s otázkami, které se vážou bezprostředněji k obavám, jež jsem vyjádřil, a doufám, že jejich širší důsledky vyplynou spontánně. Budu se tedy muset zabývat následujícími druhy otázek:
1. Co je na počítači takového, že to přineslo pohled na člověka jako na stroj na novou úroveň věrohodnosti? Jasně, že existovaly jiné stroje, které napodobovaly člověka různými způsoby, např. parní rypadla. Ale až do vynálezu digitálního počítače neexistovaly stroje, které by mohly vykonávat intelektuální funkce byť jen skromného rozsahu; tj. stroje, o kterých by se v jakémkoli smyslu dalo říci, že jsou inteligentní. Nyní je „umělá inteligence“ (AI) podoborem počítačové vědy. O tomto novém oboru bude třeba diskutovat. Nakonec musí být narýsována hranice dělící lidskou a strojovou inteligenci. Pokud žádná taková hranice neexistuje, pak zastánci počítačové psychoterapie mohou být pouze heroldy věku, ve kterém byl člověk konečně rozpoznán jako pouhý hodinový stroj. Potom by bylo naléhavě nutné uhodnout a zvážit důsledky takové reality.
2. Skutečnost, že se jednotlivci vážou silnými citovými vazbami ke strojům, by sama o sobě neměla být překvapující. Nástroje, které člověk používá, se koneckonců stávají prodloužením jeho těla. A co je nejdůležitější, člověk musí, aby mohl své nástroje obratně ovládat, internalizovat jejich aspekty ve formě kinestetických a percepčních návyků. V tomto smyslu se jeho nástroje stávají doslova jeho součástí a modifikují jej, a tím mění základ jeho afektivního vztahu k sobě samému. Dalo by se očekávat, že člověk bude intenzivněji katektovat (vázat emoční energii) k nástrojům, které se vážou přímo k jeho vlastním intelektuálním, kognitivním a emotivním funkcím, než ke strojům, které pouze rozšiřují sílu jeho svalů. Celé prostředí západního člověka je nyní prostoupeno složitými technologickými rozšířeními jeho každé funkční schopnosti. Protože je člověk enormně adaptivním živočichem, dokázal přijmout jako autenticky přirozené (tj. dané přírodou) takové technologické základy pro svůj vztah k sobě samému, pro svou identitu. Možná to pomáhá vysvětlit, proč nezpochybňuje vhodnost investování svých nejosobnějších citů do počítače. Ale pak by takové vysvětlení také naznačovalo, že počítací stroj představuje pouze extrémní extrapolaci mnohem obecnější technologické uzurpace lidské schopnosti jednat jako autonomní činitel při dávání smyslu svému světu. Je proto důležité zkoumat širší smysly, ve kterých člověk dospěl k tomu, že vzdal svou vlastní autonomii ve prospěch světa vnímaného jako stroj.
3. Je možná paradoxní, že právě ve chvíli, kdy v nejhlubším smyslu člověk přestal věřit – natož důvěřovat – ve svou vlastní autonomii, začal spoléhat na autonomní stroje, to jest na stroje, které fungují po dlouhou dobu zcela na základě svých vlastních vnitřních realit. Pokud má být jeho spoléhání na takové stroje založeno na něčem jiném než na nezměrném zoufalství nebo slepé víře, musí si vysvětlit, co tyto stroje dělají, a dokonce jak dělají to, co dělají. To od něj vyžaduje, aby si vytvořil nějakou koncepci jejich vnitřních „realit“. Přesto většina lidí nerozumí počítačům ani v nejmenší míře. Takže pokud nejsou schopni velmi velké skepse (takového druhu, jakou uplatňujeme při sledování jevištního kouzelníka), mohou vysvětlit intelektuální výkony počítače pouze použitím jediné analogie, která je jim k dispozici, tj. jejich modelu vlastní schopnosti myslet. Není tedy divu, že přestřelí; je skutečně nemožné představit si člověka, který by mohl napodobit ELIZU, například, ale pro kterého by jazykové schopnosti ELIZY byly jeho limitem. Počítací stroj je opět pouze extrémním příkladem mnohem obecnějšího jevu. Dokonce i šíře konotace zamýšlená v běžném použití slova „stroj“, jakkoli je velká, nestačí k naznačení jeho skutečné obecnosti. Neboť dnes, když mluvíme například o byrokracii nebo univerzitě nebo téměř jakémkoli sociálním či politickém konstruktu, obraz, který generujeme, je až příliš často obrazem autonomního procesu podobného stroji.
Toto jsou tedy myšlenky a otázky, které mě odmítly opustit od té doby, co mi začal být jasný hlubší význam reakcí na ELIZU, které jsem popsal. Přesto pochybuji, že by se na mě mohly tak zapůsobit, nebýt toho, že jsem byl (a stále jsem) hluboce zapojen do koncentrátu technologické společnosti jako učitel v chrámu technologie, kterým je Massachusettský technologický institut, instituce, která se pyšně chlubí tím, že je „polarizována kolem vědy a technologie“. Tam žiji a pracuji s kolegy, z nichž mnozí důvěřují pouze moderní vědě, že dodá spolehlivé znalosti o světě. Radím se s nimi o výzkumných návrzích, které mají být podány vládním agenturám, zejména ministerstvu „obrany“. Někdy se stávám více než trochu vyděšeným, když uvažuji o tom, co sami sebe vedeme k tomu navrhovat, stejně jako o povaze argumentů, které konstruujeme na podporu našich návrhů. Pak jsem také neustále konfrontován studenty, z nichž někteří již odmítli všechny cesty poznání světa kromě té vědecké a kteří hledají pouze hlubší, dogmatičtější indoktrinaci v této víře (ačkoli toto slovo již není v jejich slovníku). Jiní studenti tuší, že ani celá sbírka strojů a přístrojů na M.I.T. jim nemůže významně pomoci dát smysl jejich životům. Vycítí přítomnost dilematu ve vzdělávání polarizovaném kolem vědy a technologie, vzdělávání, které implicitně tvrdí, že otevírá privilegovanou přístupovou cestu k faktu, ale které jim nemůže říci, jak rozhodnout, co se má počítat jako fakt. I když uznávají skutečnou důležitost učení se svému řemeslu, bouří se proti práci na projektech, které se zdají neřešit ani zajímavé otázky faktů, ani řešit problémy v teorii.
Takové konfrontace s mou vlastní každodenní sociální realitou mě postupně přesvědčily, že moje zkušenost s ELIZOU byla symptomatická pro hlubší problémy. Byl jsem si jistý, že přijde čas, kdy se již nebudu moci účastnit konferencí o návrzích výzkumu nebo čestně reagovat na potřebu mých studentů po terapii (ano, to je to správné slovo), aniž bych se nejprve pokusil dát smysl obrazu, který mi moje vlastní zkušenost s počítači tak ostře vykreslila. Samozřejmě, zavedení počítačů do naší již vysoce technologické společnosti, jak se pokusím ukázat, pouze posílilo a zesílilo ty předchozí tlaky, které hnaly člověka ke stále racionalističtějšímu pohledu na jeho společnost a stále mechanističtějšímu obrazu sebe sama. Je proto důležité, abych svou diskusi o dopadu počítače na člověka a jeho společnost koncipoval tak, aby ji bylo možné chápat jako konkrétní druh kódování mnohem většího dopadu, totiž dopadu na roli člověka tváří v tvář technologiím a technikám, kterým nemusí být schopen porozumět a ovládat je. Rozhovory na toto téma probíhají již dlouhou dobu. A v posledních několika letech se zintenzivnily.
Určití jednotlivci zcela odlišných myslí, temperamentů, zájmů a vzdělání – ať už se mezi sebou jakkoli liší a dokonce nesouhlasí v mnoha zásadních otázkách – v průběhu let vyjadřovali vážné znepokojení nad podmínkami vytvořenými nespoutaným pochodem vědy a techniky; mezi nimi jsou Mumford, Arendtová, Ellul, Roszak, Comfort a Boulding. Počítač se v takových diskusích začal zmiňovat teprve nedávno. Nyní existují náznaky, že se rozvíjí rozsáhlá debata o počítači. Soutěžícími na jedné straně jsou ti, kteří stručně řečeno věří, že počítače mohou, měly by a budou dělat všechno, a na druhé straně ti, kteří stejně jako já věří, že existují hranice toho, k čemu by počítače měly být používány.
Na první pohled se může zdát, že jde o interní debatu malého významu s výjimkou malé skupiny počítačových techniků. Ale v jádru, bez ohledu na to, jak může být maskována technologickým žargonem, je otázkou, zda je či není každý aspekt lidského myšlení redukovatelný na logický formalismus, nebo, řečeno moderním idiomem, zda je či není lidské myšlení zcela vypočitatelné. Tato otázka v té či oné formě zaměstnávala myslitele ve všech věcích. Člověk vždy usiloval o principy, které by mohly organizovat a dát smysl a význam jeho existenci. Ale předtím, než moderní věda zplodila technologie, které reifikovaly a konkretizovaly její jinak abstraktní systémy, byly myšlenkové systémy definující místo člověka ve vesmíru zásadně právní. Sloužily k definování povinností člověka vůči jeho bližním a k přírodě. Judaistická tradice například spočívá na myšlence smluvního vztahu mezi Bohem a člověkem. Tento vztah musí a ponechává prostor pro autonomii Boha i člověka, neboť smlouva je dohoda dobrovolně uzavřená stranami, které jsou svobodné se nedohodnout. Autonomie člověka a jeho odpovídající odpovědnost je ústředním tématem všech náboženských systémů. Duchovní kosmologie zplozené moderní vědou jsou naproti tomu infikovány zárodkem logické nutnosti. Ony se, s výjimkou rukou nejmoudřejších vědců a filozofů, již nespokojují s vysvětlováním jevů, ale tvrdí, že říkají, jak věci skutečně jsou a nutně musí být. Stručně řečeno, převádějí pravdu na dokazatelnost.
Jako jeden z důsledků tohoto směřování moderní vědy byla otázka „Jaké aspekty života jsou formalizovatelné?“ transformována z morální otázky „Jak a v jaké formě mohou být známy povinnosti a odpovědnosti člověka?“ na otázku „Jakým technologickým rodem je člověk druhem?“. Dokonce i někteří filozofové, jejichž každý instinkt se bouří proti myšlence, že člověk je zcela pochopitelný jako stroj, podlehli tomuto duchu doby. Hubert Dreyfus například zaměřuje těžká děla fenomenologie na počítačový model člověka. Ale omezuje svou argumentaci na technickou otázku, co počítače mohou a nemohou dělat. Já bych argumentoval, že i kdyby počítače mohly napodobit člověka v každém ohledu – což ve skutečnosti nemohou – i tehdy by bylo vhodné, ba naléhavé, zkoumat počítač ve světle trvalé potřeby člověka najít své místo ve světě. Výsledky praktických záležitostí, které mají zásadní význam pro každého, závisí na tom, jak a v jakých termínech je diskuse vedena.
Jedna pozice, kterou hodlám hájit, se zdá být klamně zřejmá: je to prostě to, že existují důležité rozdíly mezi lidmi a stroji jakožto mysliteli. Chtěl bych argumentovat, že ať už mohou být stroje vyrobeny jakkoli inteligentní, existují určité myšlenkové akty, o které by se měli pokoušet pouze lidé. Jednou společensky významnou otázkou, kterou tak hodlám vznést, je otázka správného místa počítačů ve společenském řádu. Ale jak uvidíme, tento problém přesahuje počítače v tom, že se musí nakonec vypořádat se samotnou logičností – zcela bez ohledu na to, zda je logičnost zakódována v počítačových programech či nikoli.
Laickému čtenáři lze odpustit, že je více než mírně nedůvěřivý k tomu, že by někdo měl tvrdit, že lidské myšlení je zcela vypočitatelné. Ale právě jeho nedůvěřivost může být sama o sobě známkou toho, jak úžasně jemně a svůdně začala moderní věda ovlivňovat imaginativní konstrukci reality člověka. Jistě, za mnoho z toho, co dnes považujeme za dobré a užitečné, stejně jako za mnoho z toho, co bychom nazvali znalostmi a moudrostí, vděčíme vědě. Ale vědu lze také vnímat jako návykovou drogu. Nejenže naše bezmezné krmení se vědou způsobilo, že jsme se na ní stali závislými, ale jak se stává u mnoha jiných drog užívaných ve zvyšujících se dávkách, věda se postupně změnila v pomalu působící jed. Počínaje možná chybným čtením skutečného příslibu vědy Francisem Baconem, byl člověk sveden k přání a práci na nastolení věku racionality, ale s jeho vizí racionality tragicky pokřivenou tak, aby se rovnala logičnosti.
Tak jsme se téměř dostali do bodu, kdy je téměř každé skutečné lidské dilema vnímáno jako pouhý paradox, jako pouze zdánlivý rozpor, který by se dal rozplést uvážlivým použitím chladné logiky odvozené z vyššího stanoviska. Dokonce i vražedné války začaly být vnímány jako pouhé problémy, které mají vyřešit hordy profesionálních řešitelů problémů. Jak řekla Hannah Arendtová o nedávných tvůrcích a vykonavatelích politiky v Pentagonu:
„Nebyli jen inteligentní, ale pyšnili se tím, že jsou ‚racionální‘. … Dychtili po nalezení vzorců, nejlépe vyjádřených v pseudomatematickém jazyce, které by sjednotily ty nejrůznější jevy, s nimiž je realita konfrontovala; to znamená, že dychtili objevit zákony, kterými by vysvětlili a předpověděli politická a historická fakta, jako by byla stejně nutná, a tedy stejně spolehlivá, jak kdysi fyzici věřili, že jsou přírodní jevy… Nesoudili; počítali. Naprosto iracionální důvěra ve vypočitatelnost reality [se stala] leitmotivem rozhodování.“
A tak se i téměř všechny politické konfrontace, jako ty mezi rasami a ty mezi ovládanými a jejich vládci, začaly vnímat jako pouhá selhání komunikace. Takové trhliny ve společenské struktuře pak mohou být systematicky opraveny expertní aplikací nejnovějších technik zpracování informací – alespoň se to tak věří. A tak rovnice racionalita-je-logičnost, kterou nás samotný úspěch vědy nadrogoval přijmout jako prakticky axiom, nás vedla k popření samotné existence lidského konfliktu, tudíž samotné možnosti střetu skutečně nesouměřitelných lidských zájmů a různorodých lidských hodnot, tudíž existence lidských hodnot samotných.
Může být, že lidské hodnoty jsou iluzorní, jak skutečně tvrdí B. F. Skinner. Pokud jsou, pak je pravděpodobně na vědě, aby tuto skutečnost prokázala, o což se skutečně Skinner (jako vědec) pokouší. Ale pak musí být i věda sama iluzorním systémem. Neboť jediné jisté poznání, které nám věda může dát, je poznání chování formálních systémů, to jest systémů, které jsou hrami vynalezenými člověkem samým a ve kterých tvrdit pravdu není nic víc ani míň než tvrdit, že, jako v šachové hře, konkrétní pozice na desce bylo dosaženo posloupností legálních tahů. Když věda předstírá, že činí výroky o lidských zkušenostech, zakládá je na identifikacích mezi primitivními (tj. nedefinovanými) objekty jednoho ze svých formalismů, figurkami jedné ze svých her, a nějakým souborem lidských pozorování. Žádné takové soubory korespondencí nelze nikdy prokázat jako správné. Přinejlepším mohou být falsifikovány ve smyslu, že formální manipulace se symboly systému mohou vést k symbolickým konfiguracím, které, čteny ve světle příslušné sady korespondencí, poskytují interpretace v rozporu s empiricky pozorovanými jevy. Proto je veškerá empirická věda propracovanou strukturou postavenou na pilotech, které jsou ukotveny nikoli na skalním podloží, jak se obecně předpokládá, ale na pohyblivém písku omylného lidského úsudku, domněnek a intuice.
Není dokonce ani pravda, opět v rozporu s obecným přesvědčením, že jediný údajný protipříklad, který, pokud by byl přijat jako pravý, by určitě falsifikoval konkrétní vědeckou teorii, obecně vede k okamžitému opuštění této teorie. Pravděpodobně všechny vědecké teorie v současnosti přijímané samotnými vědci (s výjimkou pouze těch čistě formálních teorií, které si nečiní nárok na vztah k empirickému světu) jsou dnes konfrontovány s odporujícími důkazy o více než zanedbatelné váze, které by je, opět pokud by byly plně uznány, logicky zneplatnily. Takové důkazy jsou často vysvětlovány (tj. vysvětlovány pryč) tím, že se připisují chybě nějakého druhu, řekněme pozorovací chybě, nebo tím, že jsou charakterizovány jako nepodstatné, nebo předpokladem (tj. vírou), že nějaký dosud neobjevený způsob nakládání s nimi jednoho dne umožní, aby byly uznány, ale přesto začleněny do vědeckých teorií, o kterých se původně myslelo, že jim odporují. Tímto způsobem vědci nadále spoléhají na již narušené teorie a odvozují z nich „vědecká fakta“.
Člověk na ulici jistě věří, že taková vědecká fakta jsou stejně dobře zavedená, stejně dobře prokázaná jako jeho vlastní existence. Jeho jistota je iluzí. Ani vědec sám není vůči stejné iluzi imunní. Ve své praxi musí koneckonců potlačit nedůvěru, aby mohl vůbec něco dělat nebo myslet. Je spíše jako divadelní divák, který, aby se mohl účastnit a rozumět tomu, co se děje na jevišti, musí po určitou dobu předstírat sám sobě, že je svědkem skutečných událostí. Vědec musí věřit své pracovní hypotéze, spolu s její obrovskou základní strukturou teorií a předpokladů, i kdyby jen kvůli argumentaci. Často se „argument“ táhne přes celý jeho život. Postupně se stává tím, čím zprvu jen předstíral být: opravdovým věřícím. Volím slovo „argument“ promyšleně, neboť vědecké demonstrace, dokonce i matematické důkazy, jsou v zásadě akty přesvědčování.
Vědecká tvrzení nemohou být nikdy jistá; mohou být pouze více či méně věrohodná. A věrohodnost je termín v individuální psychologii, tj. termín, který má význam pouze ve vztahu k individuálnímu pozorovateli. Říci, že nějaká propozice je věrohodná, koneckonců znamená říci, že jí věří činitel, který je svobodný jí nevěřit, to jest pozorovatel, který se po uplatnění úsudku a (možná) intuice rozhodne přijmout propozici jako hodnou toho, aby jí věřil. Jak tedy může věda, která sama jistě a nakonec spočívá na obrovských polích lidských hodnotových soudů, prokázat, že lidské hodnotové soudy jsou iluzorní? Nemůže tak učinit, aniž by ztratila svůj vlastní status jediné legitimní cesty k pochopení člověka a jeho světa. Ale žádný čistě logický argument, bez ohledu na to, jak pádný nebo výmluvný, nemůže zvrátit tuto realitu: že věda se stala jedinou legitimní formou porozumění v obecném povědomí.
Když říkám, že věda byla postupně přeměněna na pomalu působící jed, myslím tím, že přisuzování jistoty vědeckému poznání obecným povědomím, přisuzování, které je nyní činěno tak téměř univerzálně, že se stalo dogmatem zdravého rozumu, prakticky delegitimizovalo všechny ostatní způsoby porozumění. Lidé vnímali umění, zejména literaturu, jako zdroje intelektuální výživy a porozumění, ale dnes je umění vnímáno převážně jako zábava. Starověká řecká a orientální divadla, shakespearovské jeviště, jeviště zalidněná Ibseny a Čechovy blíže k naší době – to byly školy. Osnovy, které učily, byly prostředky pro porozumění společnostem, které reprezentovaly. Dnes, ačkoli občasný Arthur Miller nebo Edward Albee přežívá a je mu dovoleno učit na jevišti v New Yorku nebo Londýně, lidé hladoví pouze po tom, co je jim prezentováno jako vědecky ověřené poznání. Snaží se nasytit v takových vědeckých jídelnách jako Psychology Today, nebo na popularizovaných verzích děl Masters a Johnson, nebo na scientologii, jak ji zjevil L. Ron Hubbard. Víra v rovnici racionalita-logičnost rozežrala prorockou sílu jazyka samotného. Umíme počítat, ale rychle zapomínáme, jak říci, co stojí za to počítat a proč.
