t-SNE a UMAP

t-SNE a UMAP jsou nelineární metody redukce dimenzionality určené primárně k vizualizaci vysokodimenzionálních dat ve dvou nebo třech rozměrech. Na rozdíl od PCA, která se snaží zachovat globální rozptyl, se soustředí na zachování lokální struktury – na to, aby body, jež byly blízko v původním prostoru, zůstaly blízko i na výsledné mapě. t-SNE převádí vzdálenosti na pravděpodobnosti sousedství a minimalizuje Kullbackovu-Leiblerovu divergenci mezi rozdělením v původním a v cílovém prostoru, přičemž v cílovém používá Studentovo t-rozdělení s těžkými chvosty, aby se shluky od sebe odtlačily. UMAP staví na teorii Riemannovy geometrie a topologii grafu sousedství; je řádově rychlejší, škáluje na miliony bodů a zachovává i více globální struktury. Zásadní upozornění pro interpretaci: velikosti shluků a vzdálenosti mezi nimi nemají spolehlivý význam, výsledek silně závisí na nastavení perplexity či počtu sousedů a metody nejsou dobře použitelné pro promítání nových bodů. Jde tedy o průzkumný nástroj, nikoli o vstup do dalšího modelu – běžně se jimi zobrazují shluky embeddingů.


Představte si, že máte rozložit globus na plochý papír. Nejde to bez zkreslení – něco musíte obětovat. t-SNE a UMAP se rozhodnou obětovat velké vzdálenosti a zachovat sousedství: zaručí vám, že města, která jsou vedle sebe, zůstanou na mapě vedle sebe, ale vůbec neřeší, jak daleko je Praha od Tokia. Na takové mapě proto můžete spolehlivě říct „tady je jasný shluk zemí“, ale rozhodně z ní nesmíte odečítat, že jeden shluk je dvakrát dál než druhý. Je to nástroj pro oko, ne pro pravítko.

Je pro vás článek užitečný a čerpáte z něj? Zkopírujte si citaci