Rozhodovací strom je model, který predikci odvozuje posloupností podmíněných otázek nad hodnotami příznaků. Ve vnitřních uzlech se data dělí podle jednoho prahu nebo kategorie, v listech je uložena výsledná třída u klasifikace nebo číslo u regrese. Trénink probíhá hladově a rekurzivně: v každém uzlu se prohledají možná dělení a vybere se to, které nejvíc sníží nečistotu vzniklých podmnožin – měřenou Giniho koeficientem nebo entropií u klasifikace a rozptylem u regrese. Rostoucí strom je nutné omezit, protože bez zásahu se rozvětví až k jednomu vzorku na list a dokonale se přeučí; k tomu slouží maximální hloubka, minimální počet vzorků v uzlu nebo dodatečné prořezávání. Silnou stránkou je snadná interpretovatelnost, schopnost pracovat s číselnými i kategoriálními příznaky bez normalizace a automatické zachycení nelinearit a interakcí. Slabinou je vysoká nestabilita – malá změna dat může strom přeskládat – a hranatá rozhodovací hranice tvořená pravoúhlými bloky. Právě proto se stromy nasazují téměř výhradně jako součást souborů typu náhodný les nebo gradientní boosting.
Je to přesně ten dotazník, jaký visí na dveřích ordinace: „Máte teplotu nad 38? Ano → Kašlete? Ano → Zůstaňte doma.“ Každá otázka rozdělí lidi na dvě skupiny a po několika otázkách víte, kam pacient patří. Půvab je v tom, že rozhodnutí umíte kdykoli vysvětlit – prostě přečtete cestu, kterou jste šli. Nevýhoda se pozná, když do vzorku přidáte tři nové pacienty a celý dotazník se najednou přeskládá jinak. Proto se v praxi nespoléhá na jeden dotazník, ale na názor mnoha různě sestavených dotazníků současně.