Sampling-Verfahren
Sampling Method
Sampling-Verfahren sind die Methoden, mit denen ein Sprachmodell aus den statistisch wahrscheinlichsten nächsten Tokens tatsächlich eines auswählt, um Text zu erzeugen. Temperatur und Top-p sind zwei der bekanntesten Stellschrauben innerhalb dieser Verfahren.