你有沒有發現：有時候 AI 像個嚴謹的老教授，回答滴水不漏；有時候它又像個天馬行空的藝術家，能編出一堆意想不到的情節？

這背後往往藏着一個關鍵參數：温度（Temperature）。

別擔心，調高温度並不會讓電腦“發燙”，也不是讓 AI 發燒。這裏的温度，更像一個控制 AI “有多敢冒險”的性格旋鈕：

• 温度低 → 更穩、更像標準答案
• 温度高 → 更發散、更有創意，但也更容易跑偏

一、為什麼需要温度？（AI 的“填空遊戲”）

要理解温度，先看大模型是怎麼説話的。

大模型生成文本的過程，近似於一種“逐字填空”的遊戲：每輸出一個詞（token），它都會對“下一步可能出現的候選詞”打分。

比如當 AI 寫到：

“今天天氣真——”

它腦內可能有這樣一張“候選詞打分表”（通常稱為 logits）：

• 好：90 分（最穩妥）
• 熱：50 分（也合理）
• 怪：5 分（少見但勉強能通）
• 紫色：0 分（基本不通順）

如果 AI 每次都只選分數最高的那個詞（比如永遠選“好”），輸出會非常穩定，但也容易變得模板化：句子沒錯，卻缺少驚喜，像“復讀機”。

於是，我們需要一種機制：在“穩妥”之外，給 AI 一點點“跳出常規”的空間——這就是温度登場的原因。

二、温度到底做了什麼？（神奇的蛋糕分法）

在真正選詞之前，模型會先把“分數”轉換成“概率”，常見做法叫 Softmax。

你可以把它想象成：

把一塊蛋糕分給候選詞：分數越高，分到的蛋糕越多，被選中的概率越大。

而温度，就像影響“怎麼切蛋糕”的那把刀——它決定蛋糕分配得更偏心還是更平均。

1）低温（T < 1）：偏心切法（更保守）

温度調低後，分配會變得更“極端”：
第一名會拿走絕大多數蛋糕，其他詞只剩零頭。

• 結果：AI 更傾向選“最常見、最穩”的詞
• 體驗：更嚴謹、更穩定，但也更容易“千篇一律”

2）高温（T > 1）：均勻切法（更發散）

温度調高後，蛋糕切得更平均：
第一名仍然是大頭，但第二、第三名也能分到明顯份額。

• 結果：AI 更可能選到不那麼“標準”的詞
• 體驗：更有創意、更有變化，但也更容易跑題或胡編

三、温度怎麼設置？（三個常見場景）

可以把不同温度下的 AI，想象成三種不同“人格”。

1）冰塊模式（低温：0 ~ 0.3）

• 像誰：嚴肅的科學家 / 數學老師
• 適合：做數學題、寫代碼、嚴謹問答、總結歸納
• 原因：這類任務追求確定性，“1+1=2”不需要創意

2）常温模式（中温：0.5 ~ 0.9）

• 像誰：正常可靠的聊天夥伴
• 適合：日常對話、寫郵件、寫週報、寫解釋説明
• 原因：穩定之餘也有一點自然變化，是最常用的平衡區間

3）火焰模式（高温：0.9 ~ 1.5 或更高）

• 像誰：靈感爆棚的藝術家 / 頭腦風暴搭子
• 適合：寫故事、寫詩、創意發想、廣告文案、腦洞類任務
• 提醒：温度太高（例如 >1.5）時，輸出可能開始發散到不受控，甚至出現“看起來很像話但其實不太對”的內容

四、補充：温度 vs Top-k / Top-p（它們到底有什麼區別？）

温度之外，你可能還見過兩個常用的“採樣參數”：Top-k 和 Top-p。它們和温度一樣，都是在控制 AI 輸出的隨機性，但“動手的方式”不同。

你可以把它們理解成：温度在“調形狀”，Top-k/Top-p 在“劃範圍”。

1）温度（Temperature）：調“整體概率分佈”的陡峭程度

• 温度低：概率分佈更“尖”，第一名更容易被選中（更穩）
• 温度高：概率分佈更“平”，冷門詞也更容易被抽到（更發散）

👉 它不會刪掉任何候選詞，只是讓“大家的概率差距”變大或變小。

2）Top-k：只在“前 k 名”裏抽

Top-k 的規則很直白：

只保留概率最高的 k 個候選詞，其餘一律不考慮，然後再在這 k 個裏按概率抽。

• 優點：簡單、能防止特別離譜的詞混進來
• 缺點：k 是固定的——有時候候選詞很集中，有時候很分散，固定 k 可能不夠靈活

3）Top-p（Nucleus Sampling）：只在“累計概率達到 p 的那一撮”裏抽

Top-p 更像“動態的 Top-k”：

從最高概率開始往下加，直到累計概率達到 p（比如 0.9），只在這一小撮裏抽。

• 優點：更自適應：模型很確定時範圍會自動變小；模型不確定時範圍會自動變大
• 缺點：需要理解“累計概率”的概念，但用起來通常更順手

怎麼搭配最實用？

很多實際系統裏最常見的是：温度 + Top-p

• 温度負責“敢不敢跳出最優解”
• Top-p負責“別跳得太離譜”

一句話記憶：

温度讓你更有變化，Top-p/Top-k 幫你把變化圈在合理範圍內。

總結：掌握那個旋鈕

温度不會讓 AI 更聰明，它改變的是：AI 在“下一步選哪個詞”時的膽量和隨機性。

• 想要更像“標準答案”？→ 把温度調低
• 想要更多驚喜和創意？→ 把温度調高

下次你可以試試對 AI 説：

“請把温度設為 1.2，給我講一個更瘋狂、更有畫面感的故事。”

看看它會不會帶你去一趟意想不到的冒險。

本文由mdnice多平台發佈