Top-p Sampling

Top-p sampling (còn gọi là nucleus sampling) là một kỹ thuật lấy mẫu trong LLM, giới hạn việc lựa chọn token tiếp theo vào một tập hợp các token có xác suất tích lũy vượt quá một ngưỡng p. Điều này giúp loại bỏ các token có xác suất rất thấp, làm cho đầu ra tập trung và mạch lạc hơn so với lấy mẫu ngẫu nhiên thuần túy.

Các thuật ngữ liên quan

Facebook Messenger

fb.com/toidicodedao

Email Support

[email protected]

Telegram

t.me/hoccodeai