Znalostní graf je strukturovaná reprezentace poznatků ve formě sítě entit a vztahů mezi nimi. Základní jednotkou je trojice subjekt–predikát–objekt, například „Karel IV. – založil – Univerzita Karlova“; z mnoha takových trojic vzniká graf, jehož uzly jsou entity a hrany pojmenované vztahy. Význam hran a povolené typy entit vymezuje ontologie, díky níž lze nad grafem provádět odvozování – z tranzitivity či dědičnosti vyplynou fakta, která v datech nebyla explicitně zapsána. Technologicky sem patří standardy RDF a OWL, dotazovací jazyk SPARQL i grafové databáze. Ve vyhledávání dala tato technologie vzniknout přechodu od řetězců ke věcem, jak jej zavedl Google Knowledge Graph, a v obsahu se projevuje strukturovanými daty podle schema.org. Ve spojení s jazykovými modely hraje dvojí roli: graf poskytuje ověřitelná, aktuální a auditovatelná fakta, což tlumí halucinace, a modely naopak umějí graf efektivně budovat extrakcí trojic z textu. Kombinace grafového dotazu s sémantickým vyhledáváním se označuje jako GraphRAG a vyniká u dotazů vyžadujících spojení informací z několika dokumentů.
Vektorová databáze je jako mlhavá vzpomínka na to, co jste kdy četli. Znalostní graf je naopak rodokmen vyvěšený na zdi: jasné rámečky se jmény a jasné linky mezi nimi, u kterých je napsáno „je matkou“, „vlastní“, „sídlí v“. Nemusíte hádat. Můžete se prstem posunout po lince a dostat odpověď na otázku, kterou nikdo nikdy nezapsal do jedné věty – „kdo je pratetou toho dítěte“ –, protože ji z linek odvodíte. A právě v tomhle jazykové modely, které umí hlavně mluvit plynule, samy o sobě pokulhávají.