Jak nastavit “temperature” pro dotazy přes API

Pokud zasíláte dotazy skrze API do nsátrojů jako ChatGPT, Claude nebo Gemini, jednou z hodnot, ktero zadáváte je “temperature” parametr. Ten kontroluje kreativitu a variabilitu generovaných odpovědí modelu. Tento parametr určuje, jak budou jednotlivé tokeny (slova nebo části slov) vybírány při generování textu. Temperature může mít hodnotu mezi 0 a 1, kde:

  • Nízká hodnota (blízko 0): Model generuje konzervativní a předvídatelnější odpovědi. Výběr tokenů je více deterministický, což znamená, že model upřednostňuje nejpravděpodobnější volby. Například hodnota 0.1 způsobí, že model bude vytvářet velmi konzistentní a méně kreativní texty.
  • Vysoká hodnota (blízko 1): Model generuje kreativnější a různorodější odpovědi. Výběr tokenů je více náhodný, což znamená, že model může častěji volit méně pravděpodobné volby. Například hodnota 0.9 způsobí, že model bude vytvářet více variabilní a méně předvídatelné texty.

Příklady použití:

  • Hodnota 0.7: Tato střední hodnota temperature je často používána, protože nabízí dobrý kompromis mezi kreativními a konzistentními odpověďmi. Model je dostatečně kreativní, aby generoval zajímavé texty, ale stále udržuje určitou míru konzistence a relevance.
  • Hodnota 1.0: Když je požadována maximální kreativita, ale s vyšším rizikem méně smysluplných odpovědí. V tomto režimu model více experimentuje a může produkovat originální, ale občas nesouvislé nebo nesmyslné texty.
  • Hodnota 0.0: Pokud je potřeba co nejpřesnější a nejpředvídatelnější odpověď, používá se hodnota blízko 0. Model se bude přísně řídit nejpravděpodobnějšími volbami, což vede k méně kreativním, ale velmi konzistentním výsledkům
Tvorba webových stránek: Webklient