我們在各種 AI 模型的 API 價格裏經常會看到這樣的描述：
百萬 Tokens 輸入（緩存命中）：XX 元/百萬 Tokens，
百萬 Tokens 輸入（緩存未命中）：XX 元/百萬 Tokens，
百萬 Tokens 輸出：XX 元 /百萬 Tokens。
那這些都是什麼意思呢？首先我們要理解的就是百萬 Tokens是什麼意思，提到百萬 Tokens我們就要先知道Tokens是什麼意思！Token（中文規範譯名：詞元）可以簡單理解爲：AI讀取和生成內容時使用的計量單位。它不完全等於“一個字”，也不完全等於“一個單詞”。
比如，AI讀到一句話：“今天天氣不錯，我們出去玩吧。”我們看上去是一句完整得話，但是AI看到的時候就需要先經過一個叫 Tokenizer（分詞器） 的東西，把文字轉換成一串 Token，然後將其拆分成類似：[今天] [天氣] [不錯] [，] [我們] [出去] [玩] [吧] [。]的若干個 Token。每個模型還不一樣，有的模型還可能拆成：[今] [天天] [氣] [不錯] [，] [我們] [出去] [玩吧] [。]。這樣的各個Token。
所以模型的百萬 Tokens就是有10百萬個這樣的Token，AI的使用就是靠這個百萬 Tokens來做爲計量單位的。
那麼“百萬 Tokens 輸入”又什麼意思？就是，你把東西發送給 AI ，就是輸入 Tokens。比如你和AI的對話，你發給AI的文檔、系統提示詞、圖片、視頻、代碼、AI角色的設定等等這些東西加起來，就是一次請求的：Tokens 輸入。有時候所以有時候你明明只對 AI 說了一句：繼續。看上去只有2個字，但如果AI把之前十幾萬 Token 的聊天記錄也一起重新發給模型，那這次請求依然可能產生非常大的Tokens輸入量。
“百萬 Tokens 輸出”那就是同理，AI回答你的內容，就是輸出 Tokens。比如，你輸入一句：寫一篇5000字的小說。你的輸入可能非常少，但 AI 真給你寫了5000字，那生成出來的這些內容，就是：Tokens 輸出。所以：輸入 = AI讀了多少，輸出 = AI寫了多少！
那麼爲什麼輸出一般比輸入貴呢？那是因爲 AI 生成答案，並不是一次性把整段文字“寫”出來的。大模型本質上是在不停幹一件事：根據前面的內容，預測下一個 Token，生成一個之後，再繼續預測下一個，一個接着一個。所以生成一大段內容，需要進行大量連續計算。這也是爲什麼我們經常會看到：輸出 Tokens 的價格明顯高於輸入 Tokens。簡單理解就是，給AI看東西就只有給的那麼多東西，但是AI給你生成東西在背後就要跑更多東西。
接下來就是“緩存命中”又是什麼了？這個呢舉個例子只有，假設我第一次給 AI 發了一篇：20萬 Tokens 的小說。然後問：主角是誰？AI就會把20萬 Tokens 全部處理了一遍。接着我又問：那主角最後去了哪裏？這時候，如果AI又把那20萬 Tokens 的小說完整發送過去，並且模型重新從頭算一遍的話，是不是就特別浪費了？因爲AI剛讀了那20萬 Tokens 的小說，內容一模一樣！所以很多 AI 服務會提供一種機制，叫：Prompt Cache，也就是提示詞緩存。也就是如果AI發現：“這前面一大段內容我剛剛已經處理過了。”那麼它就可以直接複用之前的一部分計算結果。這就是：緩存命中！
所以現在是不能能理解爲什麼緩存命中能便宜那麼多？因爲：這段東西之前已經算過了。咱們還是拿剛纔那篇20萬 Token 小說舉例。第一次：20萬 Tokens 小說 + 主角是誰？模型要認真處理前面的20萬 Tokens。第二次：同樣20萬 Token小說 + 主角喜歡誰？如果前面的內容完全一樣，就可以利用緩存，只繼續處理後面新增的部分。所以：緩存未命中：重新算。緩存命中：以前算過，直接複用。需要消耗的計算資源少得多，價格自然也就能低很多。
再舉個簡單例子來講講緩存命中吧，咱們把它理解成“做數學題”，比如有一道特別麻煩的計算：123456789 × 987654321，AI計算完得到結果，然後我們接着問：用剛纔的結果再 +100。如果你把之前的答案記下來了：直接 +100 就行。這就是：緩存命中。但如果它每次都要重新把：123456789 × 987654321再算一遍的話，那就是：緩存未命中。
之所以緩存命中價格便宜，是因爲：確實少算了很多東西！
不知道盒友們瞭解了AI定價中的百萬 Tokens 輸入，百萬 Tokens 輸出，緩存命中，緩存未命中的意思了嗎？
評論區置頂有福利活動！
----小心翼翼的廣子分割線----
發完帖子了下面就是我們2人開發的遊戲小廣~~謝謝盒友們
我們2人正在開發一款融合了“五行相剋 X 刷寶合成 X 技能構築”玩法的多人MOBA類中國風肉鴿遊戲—《山海：神話起源》。
最近遊戲全新DEMO版還得到了非常多玩家們的認可，近30天還獲得了100%好評。
遊戲擁有爽快的打擊感，融合MOBA的激烈戰鬥、裝備合成構築與寶物收集整理的玩法，更有最新加入的寶石構築系統，讓技能構築變得千變萬化，打擊感爆棚，非常適合和好友們一起開黑刷寶。
現在遊戲是免費的Demo版本，擁有2個完整的關卡，3位能力各異的角色：戰士、法師、射手，支持2-4人聯機遊玩，遊戲節奏爽快，有着不錯的打擊手感。點擊下面遊戲圖標，然後點擊“添加心望單”然後“一鍵同步”就可以一鍵入庫了。
所有現在入庫過Demo版本的盒友都將成爲我們遊戲的盒股東，等正式版上線的時候盒股東們都會收到我們遊戲的專屬獎勵：專屬三星堆面具，還有專屬戰敗動畫等！
總之點擊上面按鈕，然後“一鍵願望單”就可以將遊戲入庫了，Steam上就可以直接啓動遊戲了！
最後祝盒友們身體健康，萬事如意，心想事成，闔家安康，天天開心。
官方QQ羣：839240068
歡迎大家一起討論，找聯機搭子。
下面是我們開發的其他遊戲：
※ 遇事不決，搖一搖！下面這就是在小黑盒爆火，全物理模擬投擲銅幣，盒友都說準的【賽博卜卦】：
※ 還有和朋友一起玩就能笑到肚子疼的爆笑合作闖遊戲【大家一起沖沖衝】：
※ 最後是擁有真實物理系統進行投擲聖盃的桌面軟件，比卜卦更簡單，適合詢問是或否的問題，正在首發8折優惠中：
更多遊戲資訊請關註：電玩幫遊戲資訊專區
電玩幫圖文攻略 www.vgover.com
