Chain-of-Thought (CoT, řetězec úvah) je technika prompt engineeringu a zároveň způsob generování, při němž model před finální odpovědí vypíše mezikroky svého postupu. Důvod je architektonický: jazykový model vynaloží na každý vygenerovaný token konstantní množství výpočtu, takže složitou úlohu nelze vyřešit „naráz“ v jediném kroku. Tím, že model postup rozepíše, si vytvoří externí pracovní paměť v kontextovém okně a rozloží výpočet do více kroků. Rozlišuje se few-shot CoT, kdy se v promptu ukáže několik vyřešených příkladů i s postupem, a zero-shot CoT, kde stačí instrukce typu „postupuj krok za krokem“. Nadstavbou je self-consistency: vygeneruje se více nezávislých řetězců a jako výsledek se vybere nejčastější závěr. Novější reasoning modely jsou na dlouhé úvahové řetězce trénovány přímo a část z nich uživateli neukazují. Zásadní výhradou je věrnost (faithfulness) – vypsaný řetězec je pravděpodobná verbalizace postupu, nikoli doložený záznam skutečného vnitřního výpočtu, a může tedy vést ke správnému závěru z nesprávných důvodů i naopak.
Zkuste zpaměti spočítat 17 × 24. Většina lidí zaváhá a tipne. Když si to ale rozepíšete na papír – 17 × 20 je 340, 17 × 4 je 68, dohromady 408 – dojdete ke správnému výsledku takřka jistě. Papír vám nepřidal inteligenci, jen vám dovolil rozložit úlohu na kroky a nedržet všechno naráz v hlavě. Model funguje stejně: dostane-li prostor „myslet nahlas“, řeší složitější úlohy spolehlivěji. A stejně jako u člověka platí, že vysvětlení, které nakonec napíše, nemusí přesně odpovídat tomu, co se mu skutečně honilo hlavou.