Současné velké jazykové modely, jako je GPT, se stávají čím dál sofistikovanějšími nástroji pro generování textu a zodpovídání otázek. Například GPT-4 od společnosti OpenAI nebo Claude od Anthropic se ukazují jako mimořádně schopné nástroje pro tvorbu koherentních a rozmanitých textů, od odpovídání na otázky až po kreativní psaní. Pokud jsou obohaceny pokročilejšími funkcemi jako je implementace „přemýšlecího“ způsobu přístupu k odpovědím, jak to ukazuje o1 nebo další nástavby ve formě canvas 4o či artefakty v Claude, zvládají i složitější logické úlohy a poskytují bezesporu vyšší úroveň přesnosti. Tyto pokroky umožňují modelům generovat nejen texty, které se blíží lidskému projevu, ale také odpovědi, které jsou mnohem více kontextově relevantní a přesné.
Tyto modely, založené na neuronových sítích a trénované na obrovských korpusech textů, se tedy ukazují jako velmi účinné při napodobování lidského jazyka. Díky schopnosti učit se z miliard vět dokážou tyto modely předpovídat dle kontextu nejpravděpodobnější sekvence slov a vytvářet text, který působí přirozeně a je často srovnatelný s lidským projevem. Jejich úžasné generativní schopnosti ale někdy postrádají to nejdůležitější – za prvé hluboké porozumění a za druhé skutečnou schopnost logického uvažování, což jsou aspekty, které lze doplnit skrze formální logické systémy. Toto zamyšlení se zaměřuje na možnosti propojení obou těchto přístupů a na překážky, které tvůrce jazykovým modelů na této cestě čekají.
Jak naučit umělou inteligenci skutečně rozumět jazyku?
Denně se setkáváme s pozoruhodnými výkony v oblasti zpracování přirozeného jazyka. Chatboty a virtuální asistenti, jako je ChatGPT, dokáží vytvářet texty, které na první pohled nerozeznáme od těch, které napsal člověk. Odpovídají na složité otázky, píší básně, a dokonce i programují. Turingův test již dávno zastaral.
Tento pokrok vyvolává otázku: Rozumí AI skutečně tomu, co říká? Odpověď zní zatím „ne“ – současné systémy AI spíše velmi dobře napodobují lidskou komunikaci, než že by jí opravdu rozuměly. Vědci však intenzivně pracují na tom, aby tuto situaci změnili a vyvinuli AI systémy, které budou skutečně chápat význam slov a vět, které zpracovávají a generují. Následující text nastiňuje jednu z potenciálních cest.
Abychom pochopili, proč současné AI systémy nerozumí jazyku tak, jak ho chápeme my lidé, musíme se nejprve podívat na to, jak tyto systémy fungují. Dnešní nejpokročilejší jazykové modely AI, známé jako „velké jazykové modely“ (LLM), pracují na principu statistického předpovídání. Představme si to jako nesmírně sofistikovanou verzi funkce automatického doplňování textu, kterou známe z našich chytrých telefonů nebo e-mailových klientů. Tyto modely se učí z obrovského množství textů dostupných na internetu – od novinových článků přes vědecké publikace až po příspěvky na sociálních sítích. Během tohoto procesu si model vytváří složité statistické vzorce o tom, jaká slova a fráze obvykle následují po jiných slovech a frázích v různých kontextech.
Když pak takovému modelu zadáme začátek věty nebo otázku, model na základě naučených vzorců předpoví, jaká slova by měla následovat, aby vznikla smysluplná odpověď. Tento přístup se ukázal jako překvapivě účinný. AI modely dokáží generovat souvislé a kontextově relevantní texty, odpovídat na širokou škálu otázek a dokonce řešit některé typy logických problémů. Výsledky jsou často tak přesvědčivé, že u mnoha lidí vyvolávají dojem, že AI skutečně rozumí tomu, o čem mluví.
Problém však spočívá v tom, že tyto modely ve skutečnosti „nerozumí“ obsahu v tom smyslu, jak chápeme porozumění my lidé. Lidské porozumění jazyku zahrnuje vytváření mentálních modelů světa, chápání příčinných vztahů, logické uvažování a schopnost abstrakce. Například, když člověk čte větu jako „Dítě upustilo sklenici a ta se rozbila,“ okamžitě chápe, že příčinou rozbití je pád sklenice na zem. Také dokáže rozpoznat složité kontexty, jako jsou sarkasmus nebo ironie, což jsou úrovně porozumění, které AI modely obvykle nedokážou správně interpretovat. AI modely nic z toho nedělají – pouze velmi dobře napodobují vzorce, které se naučily z dat.
Představme si následující situaci: „Všichni lidé jsou smrtelní. Sokrates je člověk.“ Člověk by pomocí logického uvažování snadno došel k závěru, že Sokrates je smrtelný. AI by pravděpodobně také dospěla ke stejnému závěru, ale ne proto, že by provedla logickou dedukci. Místo toho by odpověděla na základě toho, že v trénovacích datech často viděla tento typ otázky spojen s touto odpovědí. Pokud bychom změnili jméno na méně známé, nebo pozměnili strukturu argumentu způsobem, který se v trénovacích datech nevyskytoval, AI by mohla selhat nebo poskytnout nekonzistentní odpovědi.
Tento nedostatek skutečného porozumění a schopnosti logického uvažování představuje významné omezení současných AI systémů. Ačkoli tyto systémy excelují v úlohách, které vyžadují rozpoznávání vzorů a statistické předpovídání, selhávají v situacích, které vyžadují hluboké porozumění kontextu, abstraktní uvažování nebo řešení nových problémů, se kterými se během tréninku nesetkaly.
Formální logická analýza: Přesnost vs. flexibilita
Formální logické systémy, jako transparentní intenzionální logika (TIL) nebo Montagueho gramatika, se zaměřují na analyzování významu slov a vět na základě pevně definovaných pravidel. Transparentní intenzionální logika (TIL) je formální systém, který se používá k modelování významu přirozeného jazyka pomocí komplexních matematických struktur, zatímco Montagueho gramatika představuje přístup k formální sémantice, který se snaží popsat význam přirozeného jazyka pomocí metod z formální logiky a matematiky. Významy slov jsou přesně určeny a logický vztah mezi nimi může být formálně analyzován. To poskytuje vysokou úroveň přesnosti, díky které můžeme například odvozovat pravdivostní hodnoty jednotlivých výroků. Tyto systémy pracují s přesnou reprezentací sémantických vztahů, což umožňuje provádět logické inference a zajišťuje logickou konzistenci výroků.
Formální logika však trpí nedostatkem flexibility. Například při práci s větami, které obsahují idiomatické výrazy nebo kulturně specifické metafory, může formální logika selhávat, protože tyto výrazy často nedávají smysl při doslovném výkladu. Formální logika neumí pracovat s těmito významovými nuancemi bez dodatečného kontextu. Problémem je pracovat s běžnou mluvenou řečí, která je často plná nejednoznačností a sémantických nuancí. Přirozený jazyk je dynamický, proměnlivý a mnohdy i nekonzistentní. Formální logika si těžko poradí s ambiguitami, kde jedna věta může mít různá významová vysvětlení bez dodatečného kontextu.
Vezměme si třeba větu: „Muž se díval na ženu s dalekohledem.“ Pro člověka je okamžitě jasné, že tato věta je dvojznačná – není jasné, zda dalekohled drží muž, nebo žena. Člověk by tento problém identifikoval a mohl by se zeptat na upřesnění. AI model by pravděpodobně jednoduše zvolil jednu z interpretací na základě toho, která se častěji vyskytovala v jeho trénovacích datech, aniž by si uvědomil, že existuje nejednoznačnost. Taková nejednoznačnost je obtížně řešitelná čistě pomocí striktní logické analýzy bez dodatečných informací nebo širšího kontextu. Právě v těchto situacích neuronové modely vynikají, jelikož využívají pravděpodobnostní informace z velkého množství dat a dokáží předpovědět nejpravděpodobnější význam. Pokud se tedy jinde v textu bude objevovat zmínka o tom, že muž je myslivec, nebo se před odchodem vybavil dalekohledem, odpověď LLM bude nejenom pravděpodobná, ale i pravdivá. Schopnost pracovat s nejednoznačností a odhadovat význam na základě kontextu je klíčovým rozdílem mezi statistickým a logickým přístupem.
Navzdory těmto rozdílům mají oba přístupy své silné stránky, které by se mohly vzájemně doplňovat. Logické systémy poskytují jasnou strukturu a vysvětlitelnost, zatímco neuronové modely přinášejí schopnost pružně reagovat na jazykové vzory a interpretovat složité kontextové situace. Formální logika by mohla dodat neuronovým sítím jasně definované pravidla, zatímco neuronové sítě by mohly přinést flexibilitu a schopnost adaptovat se na různé jazykové nuance a proměnlivé kontexty.
Princip logického přístupu v návaznosti na tokenizační charakter LLM
Jedním z hlavních rozdílů mezi logickými přístupy a současnými velkými jazykovými modely (LLM) je způsob, jakým zpracovávají a interpretují text. LLM modely pracují na principu tokenizace, kdy je text rozdělen na menší jednotky – tokeny. Tyto tokeny mohou být jednotlivá slova nebo jejich části, což umožňuje LLM pracovat s velmi jemnými textovými detaily. Na základě těchto tokenů model vytváří pravděpodobnostní predikce dalšího výskytu slov nebo frází.
Logické přístupy naproti tomu pracují s celistvými významy slov a vět, zaměřují se na logické struktury a vztahy mezi jednotlivými částmi textu. V důsledku toho logické přístupy hledají hlubší významovou konzistenci, což je zásadní při analýze logických důsledků nebo při odvozování závěrů na základě výroků. Tokenizační charakter LLM tak umožňuje práci s jazykem na úrovni mikro, ale často postrádá makro úroveň sémantického pochopení, kterou logické systémy zajišťují. Abychom dosáhli propojení těchto dvou přístupů, je nutné, aby tokeny nejen předpovídaly pravděpodobné sekvence, ale aby byly zároveň schopny zachytit logické vazby a struktury mezi jednotlivými částmi textu.
Směrem k propojení neuronových modelů s logikou
Abychom dokázali propojit silné stránky neuronových modelů a formální logiky, můžeme se pokusit zavést hybridní přístupy, které by umožnily modelům generovat text, který nejenže působí lidsky, ale je i logicky konzistentní. Jedním z řešení by mohla být integrace pravděpodobnostních komponent do formální logiky. Logický systém by tak při analýze pracoval s různými možnými interpretacemi věty a pravděpodobnostní model by jim přiřazoval váhy na základě dostupného kontextu.
Tento přístup by přinesl nejen lepší zvládání nejednoznačností, ale také by zajistil, že logické inference budou stále možné. Neuronové modely by mohly přinést schopnost interpretovat texty ve světle širokého kontextu, zatímco logické systémy by zajistily, že tento výklad bude konzistentní a správně formálně odvozený. Například při interpretaci složitějších vět, kde existují různé možné vztahy mezi aktéry, by pravděpodobnostní logika mohla pomoci vybrat nejvhodnější variantu, a následná logická analýza by zajistila její konzistenci.
Dalším způsobem by mohla být integrace jazykových modelů jako pomocné vrstvy logického systému. Například v právním systému by taková integrace mohla pomoci analyzovat složité právní dokumenty, kde by jazykový model nejprve identifikoval relevantní části textu a logický systém by poté provedl formální analýzu a vyvodil závěry. Podobně v medicíně by kombinace jazykových modelů a logiky mohla podpořit lékaře při stanovování diagnózy – jazykový model by analyzoval symptomy a lékařské záznamy pacienta, zatímco logický systém by na základě těchto informací pomohl navrhnout možné diagnózy a léčebné postupy. Logický model by například narazil na nejednoznačnost a jazykový model by na základě trénovaných vzorců určil nejpravděpodobnější význam. Tím by se mohlo docílit nejen lepší sémantické relevance, ale i vysvětlení toho, jak bylo k danému výsledku dosaženo, což je klíčové pro oblasti jako právo nebo vědecká analýza. Tento přístup by vedl k vytvoření systému, který je schopen pružně reagovat na změny v kontextu, ale zároveň zachovávat přesnou a logickou strukturu svých závěrů.
Další možnou cestou k dosažení propojení je využití explicitních znalostních bází a ontologií. Tyto struktury mohou poskytnout logickým systémům hlubší kontext, který jim umožní lépe interpretovat různé významy na základě konkrétních reálných znalostí. Ontologie by mohly obsahovat informace o běžných vztazích mezi objekty a akcemi, což by usnadnilo řešení nejednoznačností v přirozeném jazyce a umožnilo by neuronovým modelům pracovat s významy na základě skutečných logických vztahů.
Dopady a otázky
Spojení těchto dvou přístupů přináší nové možnosti, ale i řadu nezodpovězených otázek. Schopnost AI nejen generovat text, ale i mu porozumět a odvodit jeho logický význam, vede k novým etickým důsledkům. Pokud systém dokáže uvažovat a argumentovat na základě logických pravidel, vyvstává otázka odpovědnosti za chybná rozhodnutí, která by mohla mít negativní dopad. Transparentnost a vysvětlení výsledků jsou klíčovými požadavky, aby mohly být tyto systémy bez obav nasazovány v oblastech, které vyžadují vysokou úroveň důvěry.
A co teprve, pokud bychom chtěli zajistit, aby se hybridní systémy nestaly nástrojem pro manipulaci s informacemi nebo zneužívání. Pokud modely dokážou generovat a porozumět textu na základě formální logiky, vzniká riziko, že jejich výstupy budou zneužívány k vytvoření falešného, ale o to více přesvědčivého obsahu. Proto je důležité, aby vývoj těchto systémů byl doprovázen adekvátními etickými pravidly a standardy, které zajistí odpovědné použití a zarovnání této technologie se zájmy společnosti.
Tyto otázky zdůrazňují potřebu interdisciplinárního přístupu k vývoji AI. Vedle počítačových vědců a lingvistů budou hrát důležitou roli i filozofové, etici, psychologové a odborníci z dalších oborů. Budeme potřebovat nejen technická řešení, ale také nové rámce pro hodnocení a regulaci AI systémů s pokročilými kognitivními schopnostmi.
Propojení neuronových sítí s logickými systémy představuje zajímavou cestu vpřed, která by mohla rozšířit schopnosti AI systémů jak v oblasti generace, tak v oblasti skutečného porozumění. Například v medicíně by mohly hybridní systémy napomoci lepší diagnostice tím, že kombinují schopnost analyzovat obrovské množství lékařských dat s logickým odvozováním na základě známých příčin a následků. V právní oblasti by takové systémy mohly poskytovat sofistikovanější analýzy právních případů a vyhledávání relevantních precedencí, čímž by pomáhaly právníkům rychleji nalézat řešení složitých situací. Ve vzdělávání by kombinace neuronových sítí a logických modelů mohla umožnit vytváření výukových materiálů, které by byly nejen srozumitelné, ale i logicky koherentní, což by studentům pomohlo lépe pochopit složité koncepty.
Tento směr může přinést robustnější, konzistentnější a vysvětlitelnější systémy pro práci s přirozeným jazykem, což by mělo pozitivní dopad nejen na vědecký výzkum, ale i na široké spektrum praktických aplikací. Aplikace v oblastech, jako je medicína, právo nebo vzdělávání, by mohly získat výrazně na kvalitě díky schopnosti AI skutečně porozumět kontextu a poskytnout logicky odvozené a relevantní odpovědi.
Cesta k AI, která skutečně rozumí jazyku tak jako my, bude dlouhá. Bude vyžadovat nejen technologické inovace, ale i hluboké zamyšlení nad povahou jazyka, myšlení a porozumění. Budoucnost, ve které AI nejen mluví, ale i myslí, však již není jen vzdálenou sci-fi představou, ale reálnou možností, na které vědci aktivně pracují. S každým novým pokrokem v této oblasti se blížíme k vytvoření skutečně inteligentních systémů, skutečné umělé inteligence.
