Параметры декодирования LLM
Интерактивное демо «Параметры декодирования LLM» — раздел Энциклопедия · Искусственный интеллект.
Параметры декодирования
Распределение следующего токена после «… это»
Контекст: «Искусственный интеллект — это ___»
Выбрано: машинное
Низкая temperature — предсказуемый ответ. Высокая + широкий top_p — креатив и риск «случайных» токенов.