Sémantické vyhledávání je vyhledávání podle významu dotazu, nikoli podle výskytu jeho slov. Dotaz i dokumenty se převedou vektorizací na embeddingy a relevance se určí jejich blízkostí v latentním prostoru, typicky kosinovou podobností. Tím se překonává základní slabina klíčových slov – nesoulad slovníku –, kdy uživatel použije jiné výrazy než autor: dotaz „jak snížit spotřebu vozu“ najde text o úsporné jízdě, i když se v něm ani jedno z těchto slov nevyskytuje. Naopak rozlišuje homonyma podle kontextu. Vyhledávání probíhá nad vektorovou databází přibližnými metodami nejbližších sousedů. V praxi se nasazuje jako hybridní systém, protože sémantický přístup si nedokáže poradit s přesnými identifikátory, kódy výrobků a vzácnými vlastními jmény – ty spolehlivě řeší klasické skóre BM25; obě sady výsledků se pak sloučí a přeřadí přesnějším, ale výpočetně dražším modelem typu cross-encoder. Sémantické vyhledávání je vyhledávací vrstvou architektury RAG a předpokládá rozumné rozdělení dokumentů.
Klasické vyhledávání je knihovník, který umí jediné: najít knihy, v nichž se vyskytuje přesně to slovo, jež jste vyslovili. Řeknete-li „bolí mě v krku“, nenajde nic o angíně. Sémantický knihovník naopak rozumí, o čem mluvíte, a přinese knihy o zánětu hltanu, i když jste to slovo nikdy neřekli. Má ale svou slabinu: když se ho zeptáte na „součástku 4B-77X“, začne vám nosit knihy o podobných součástkách, protože pro něj je to význam, ne kód. Proto nejlepší knihovny zaměstnávají oba – jeden hledá smysl, druhý přesné znaky.