Nucleus sampling, běžně nazývané top-p, je metoda dekódování, která před vzorkováním dalšího tokenu omezí množinu kandidátů dynamicky podle jejich kumulativní pravděpodobnosti. Tokeny se seřadí od nejpravděpodobnějšího a přibírají se do jádra tak dlouho, dokud jejich součet nepřekročí hranici p – například 0,9 –; zbytek slovníku se odřízne a pravděpodobnosti jádra se přenormalizují. Klíčovou výhodou proti starší metodě top-k, jež bere pevný počet kandidátů, je právě proměnná velikost výběru. Je-li model na dalším slově téměř jistý, jádro obsáhne jeden či dva tokeny a výstup zůstane věcný; je-li situace otevřená, jádro se rozšíří na desítky možností a text neztratí rozmanitost. Metoda vznikla jako odpověď na dva známé problémy: teplotní vzorkování z celého slovníku občas vytáhne zcela nesmyslný token z dlouhého chvostu rozdělení, zatímco deterministické dekódování produkuje ploché a opakující se texty. V praxi se top-p, top-k a teplota kombinují, přičemž se obvykle doporučuje aktivně ladit jen jeden z nich – nejčastěji teplotu – a ostatní ponechat na výchozích hodnotách.
Představte si, že si vybíráte, co si dáte k obědu, a číšník vám nabídne jen ty položky, které dohromady tvoří devadesát procent všech objednávek v tomto podniku. V pizzerii to bude znamenat tři jídla, protože skoro každý si dá jednu ze tří pizz – a vy si tak nedáte nic exotického. V bistru s vyrovnanou nabídkou vám ale číšník vyjmenuje patnáct položek, protože tam se objednávky rozpouštějí do šířky. Pokaždé máte přiměřený výběr a nikdy vám nenabídne to jedno jídlo, které si za celý rok objednal jeden podivín.