Metoda podpůrných vektorů (Support Vector Machine, SVM) je algoritmus učení s učitelem pro klasifikaci i regresi, jehož cílem není jen oddělit třídy, ale oddělit je s maximální rezervou. Hledá tedy takovou dělicí hyperplochu, která má co největší odstup od nejbližších bodů obou tříd; právě tyto krajní body se nazývají podpůrné vektory a jako jediné určují výsledné řešení – ostatní vzorky lze odebrat, aniž by se model změnil. Parametr C řídí kompromis mezi šířkou rezervy a tolerancí k překlasifikovaným bodům, čímž funguje jako regularizace. Klíčovou myšlenkou je kernelový trik: místo explicitního převodu dat do vysokodimenzionálního prostoru, kde by byla lineárně oddělitelná, se počítají pouze skalární součiny prostřednictvím jádrové funkce, nejčastěji radiální bázové nebo polynomiální. SVM je tak schopná zachytit složité hranice, aniž by kdy s vyšší dimenzí explicitně pracovala. Metoda vyniká na menších datasetech s velkým počtem příznaků a je odolná proti přeučení; slabinou je kvadratické až kubické škálování s počtem vzorků a nutnost normalizace dat.
Představte si, že máte na louce rozeseté ovce a kozy a chcete mezi nimi postavit plot. Nabízí se nekonečně mnoho způsobů, jak ho vést. Naivní řešení postaví plot těsně kolem posledního zvířete – a stačí, aby se příště narodila jedna ovce o metr vedle, a plot je špatně. SVM postaví plot tak, aby měl na obě strany co největší volný pás. Zajímavé je, že o jeho polohu se hádají jen ta zvířata, která stojí přímo na okraji pásu; stádo uprostřed louky nemá na výsledek žádný vliv.