---
title: "Ano ang top-p? Nucleus sampling sa LLM, ipinaliwanag"
description: "Sa top-p (nucleus sampling), kumukuha lang ang model sa pinakamaliit na set ng token na umaabot sa p ang probability. Paano ito gumagana at kaibhan sa temperature."
url: https://broadrouter.com/fil/glossary/top-p/
lang: fil
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Isinalin mula sa Ingles sa tulong ng AI. [Basahin ang orihinal sa Ingles](https://broadrouter.com/glossary/top-p/) (na-update noong 2026-11-14).

# Top-p (nucleus sampling)

Na-update 2026-11-14

Ang top-p, na tinatawag ding nucleus sampling, ay isang paraan ng decoding kung saan kumukuha lang ang language model ng susunod na token mula sa pinakamaliit na set ng pinaka-malamang na token na umaabot sa threshold p, gaya ng 0.9, ang pinagsamang probability, at itinatapon ang hindi malamang na buntot.

Tinatawag ding: top-p sa LLM, top\_p parameter, nucleus sampling, top\_p, top-p sampling

Ang top-p ang nagpapasya kung aling mga token ang puwedeng isali sa bunutan bago pumili ang model.

## Paano ito gumagana

Ipinakilala nina Holtzman ang nucleus sampling noong 2019. Dine-define nila ang top-p vocabulary bilang pinakamaliit na set ng token na ang cumulative probability ay hindi bababa sa p. Zero ang probability ng bawat token sa labas ng set na iyon. Nire-rescale ang natitira para maging isa ang kabuuan, at doon kinukuha ang susunod na token. Gumamit ng p = 0.95 ang mga pangunahing resulta nila.

Nagbabago ang laki ng set sa bawat hakbang:

| Distribution ng susunod na token | Mga token na naitatabi sa p = 0.9 |
| --- | --- |
| Isang token na 0.95 | 1 |
| Apat na token na 0.3, 0.3, 0.2, 0.15 | 4 |
| Mahaba at pantay na pagkakalat | marami |

Iyan ang punto ng method. Ayon sa paper, ang “less reliable tail” (Salin ng BroadRouter: “hindi gaanong maaasahang buntot”) ng distribution ang nagdudulot ng sirang text, at kapag pinutol ito, iba-iba ang output nang hindi nawawala ang coherence. Hindi kayang umangkop nang ganito ng fixed na top-k: pareho ang bilang na itinatabi nito, sigurado man o hindi ang model.

Sa API ng OpenAI, 1 ang default ng `top_p`, ibig sabihin walang pinuputol. Nagbibigay ang reference ng halimbawang “0.1 means only the tokens comprising the top 10% probability mass are considered.” (Salin ng BroadRouter: “ang ibig sabihin ng 0.1 ay ang mga token lang na bumubuo sa top 10% ng probability mass ang isinasaalang-alang.”) 1.0 rin ang default ng Hugging Face Transformers maliban kung iba ang naka-set sa `generation_config.json` ng model.

## Bakit ito mahalaga

-   **Mas kaunting kakaibang token.** Inaalis ng pagputol sa buntot ang mga bihirang pili na nagpapalihis sa text, na mahalaga sa mahahabang sagot at sa panganib ng [hallucination](https://broadrouter.com/fil/glossary/hallucination/).
-   **Ugnayan sa temperature.** Inilalapat ang [temperature](https://broadrouter.com/fil/glossary/temperature/) sa mga score; saka tinatabas ng top-p ang resulta. Mahirap hulaan ang kilos kapag sabay na tina-tune ang dalawa, kaya iminumungkahi ng OpenAI na isa lang ang baguhin.
-   **Debugging.** Kung makita sa [logprobs](https://broadrouter.com/fil/glossary/logprobs/) na pumili ang model ng [token](https://broadrouter.com/fil/glossary/token/) na mababa ang probability, naharang sana iyon ng mas mababang top-p.

Hindi binabago ng top-p ang presyo. Pareho ang singil sa bawat token na nabuo.

## Sa BroadNet Inference

Hindi idinodokumento ng [API reference](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-glossary-top-p&utm_content=body) ng BroadNet ang `top_p`, `top_k` o ang mga default nila. Wala ring sine-set sa dalawa ang mga request example nito. Ipapasa ng OpenAI SDK ang `top_p`, pero hindi sinasabi kung inilalapat ito ng isang partikular na model, kaya subukan muna sa sarili mong mga prompt bago umasa rito. Tingnan ang [gabay sa Python SDK](https://broadrouter.com/fil/guides/openai-python-sdk/) at ang post tungkol sa [pag-evaluate ng model bago lumipat](https://broadrouter.com/fil/blog/evaluate-llm-before-switching/), na nagpapaliwanag kung bakit dapat naka-fix ang mga sampling setting habang nagkukumpara.

## Mga karaniwang pagkakamali

-   Sabay na pag-tune ng `top_p` at temperature, tapos hindi na alam kung alin ang nagpabago sa resulta.
-   Pagkopya ng sampling setting mula sa isang model papunta sa iba. Magkakaiba ang inirerekomendang value bawat model.

## Mga tanong

### Ano ang pagkakaiba ng top-p at temperature?

Binabago ng temperature ang hugis ng lahat ng token probability. Pinuputol naman ng top-p ang hindi malamang na buntot at doon lang kumukuha sa natira. Inirerekomenda ng OpenAI na isa lang sa dalawa ang baguhin, hindi pareho.

### Ano ang pagkakaiba ng top-p at top-k?

Fixed na bilang ng token ang itinatabi ng top-k, gaya ng 50. Ang top-p naman ay nagtatabi ng kahit ilang token ang kailangan para maabot ang probability threshold, kaya maliit ang set kapag sigurado ang model at malaki kapag hindi.

### Idinodokumento ba ng BroadNet ang top\_p?

Hindi. Hindi nakalista sa API reference ng BroadNet ang top\_p o ang default nito para sa anumang model. I-set ito sa request at subukan mismo ang epekto.

## Tingnan din

-   [Temperature](https://broadrouter.com/fil/glossary/temperature/) (termino)
-   [Logprobs](https://broadrouter.com/fil/glossary/logprobs/) (termino)
-   [Token](https://broadrouter.com/fil/glossary/token/) (termino)
-   [AI hallucination](https://broadrouter.com/fil/glossary/hallucination/) (termino)
-   [Frequency at presence penalty](https://broadrouter.com/fil/glossary/frequency-and-presence-penalty/) (termino)
-   [Paano gamitin ang OpenAI Python SDK sa BroadNet Inference](https://broadrouter.com/fil/guides/openai-python-sdk/) (gabay)
-   [Paano mag-evaluate ng LLM bago lumipat ng provider](https://broadrouter.com/fil/blog/evaluate-llm-before-switching/) (artikulo)

Subukan ito sa totoong workload mo. May US$5 na panimulang credit ang mga bagong account para sa Gemma at transcription. Kailangan ng top-up para sa DeepSeek, GLM, at Qwen3.8.

[Magsimula](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-glossary-top-p&utm_content=page-cta) ·

**Mga source**

-   [Holtzman et al. (2019), The Curious Case of Neural Text Degeneration](https://arxiv.org/abs/1904.09751)
-   [OpenAI API reference, create chat completion (top\_p)](https://developers.openai.com/api/reference/resources/chat/subresources/completions/methods/create)
-   [Hugging Face Transformers, GenerationConfig (top\_p, top\_k)](https://huggingface.co/docs/transformers/main/en/main_classes/text_generation)
