Top-p
Nucleus Sampling / Top-p / Nucleus Sampling
Top-p, auch Nucleus Sampling genannt, ist ein Verfahren zur Auswahl des nächsten Tokens, bei dem nur die wahrscheinlichsten Kandidaten bis zu einer festgelegten Wahrscheinlichkeitsschwelle berücksichtigt werden. Es ergänzt oder ersetzt die Temperatursteuerung, um Ausgaben gezielt zu variieren, ohne völlig unplausible Fortsetzungen zuzulassen.