Qwen3-Next的GGUF版來了，這幫AI怎麼都討厭蚊子？

朋友們，Qwen3-Next-80B-A3B-Thinking終於出GGUF版本了。

可能有的哥們兒要問了，這Qwen3-Next都發布一陣子了，怎麼現在纔拿出來聊？

這就得說到這個GGUF格式了。

之前的原版模型，首先體積大不說，需要的資源也是十分 新鮮 恐怖，動不動就需要幾張A100或者H800這種企業級顯卡才能跑得動，普通人想在自己電腦上跑個80B參數的大模型，簡直是癡人說夢。

但GGUF版本不一樣，它相當於把那個龐然大物給“壓縮”和“量化”了，雖然精度上有一丁點損失，但它能讓這種參數量的怪獸，勉強塞進咱們消費級的硬件裏，甚至是用CPU都能硬啃下來。

所以說，直到這兩天GGUF版本放出，這個模型才真正走進了咱們普通玩家和極客的視野裏，變成了一個大夥兒觸手可及之物。

在開玩之前，我們先得嘮嘮這個“Next”到底是個什麼路數。

阿里這次起名Next，按照以往慣例（Next or Preview），其實就是下一代的試驗品。

這玩意兒的特色之一就是“混合架構”，沒走尋常路，搞了個“線性注意力”和“標準注意力”的縫合怪。

簡單說，就是爲了解決大模型長文本越來越慢、顯存越來越不夠用的痛點，阿里給它動了個大手術，讓它既有傳統模型的聰明勁兒，又有線性模型的速度。

你看它的參數是80B，也就是800億，但實際上因爲它用了MoE（混合專家模型）技術，跑起來的時候只激活3B，這就好比你僱了80個專家坐鎮，但遇到問題只需要其中3個最懂行的出來幹活，效率直接拉滿。

但這模型實際用起來咋樣呢？

趁着GGUF版本熱乎，參考博主“劉聰NLP”的測試實例，也進行了一些測試。

不過先說個逗的。

讓這個“更聰明”的Thinking模型去幫小學生寫篇作文，題目是“我最討厭的動物”，限制條件是“不能寫貓和狗”，同時讓一堆模型陪跑。

你猜怎麼着？這堆模型像是跟誰串通好了一樣，十有八九給你寫“蚊子”。

Qwen3-Next-Thinking在思考階段就在想蚊子了👆

ChatGPT-5也討厭蚊子👇

你要是讓它重寫，它大概率還是寫蚊子。

這其實暴露了一個大模型圈子裏很尷尬的現狀，就是訓練數據的同質化。

這幫AI讀的書、受的訓練，大多來自同一批數據集，而在這個數據集的語境裏，只要排除貓狗，人類最討厭的公敵就是蚊子。

這就好比現在的孩子，雖然每個人長得不一樣，但一寫作文全是“扶老奶奶過馬路”，看着是挺懂事，但細想之下，這種創造力的枯竭和思維的趨同，是不是也有點可怕？

不過，既然叫Thinking模型，邏輯推理和數學能力肯定得是看家本領。

咱們來看個硬核的數學題，讓它算一個巨大的乘法：178939247893乘以299281748617。

之前的Instruct版本遇到這種題，通常會耍個滑頭，直接調用Python代碼去算，但這次的Thinking版本，它是真刀真槍地自己在“思考”。根據實測，它不僅算出來了，而且答案是完全正確的。這就說明阿里這次在“思維鏈”的訓練上確實下了狠功夫，讓模型在純計算這種大語言模型的弱項上，居然有了不俗的表現。

偷懶來着👇

真的很努力在思考了👇

但是，這模型也有點“偏科”。

雖然它算數厲害，但在一些需要常識和腦筋急轉彎的邏輯陷阱題上，表現得就有點讓人摸不着頭腦了。

有個測試題是這麼說的：李同學發現實驗室的老鼠喫了磁懸浮材料飛起來了，蛇喫了老鼠也飛起來了，第三天發現老鷹也在飛，問原因是啥？正常人其實你仔細想一下，你就會說“不是老鷹本來就會飛嗎？”

但這Qwen3-Next-80B-A3B-Thinking，在這兒就直接翻車了，死活推不出來這個簡單的因果鏈條（對了，個人看好的Gemini3-Pro-Thinking 我也測了，一樣翻車）。

這就是現在AI的一個通病，它能解高數題，卻未必能聽懂一個冷笑話，這種“高智商低情商”的狀態，在這款Next模型上體現得淋漓盡致。

還有就是寫代碼的能力，這裏我直接參考了前文提到的博主的實測案例——有點“退步”。

讓它寫個可愛的五子棋遊戲界面，結果生成的代碼跑出來的東西，根本就沒法看，甚至連基本的交互都成問題。

不過這也情有可原，Next版本，更多的是阿里爲了驗證新架構、新算法搞出來的一個“技術展示車”，重點在於測試那個混合注意力和MoE架構在高負載下的穩定性，至於具體的代碼生成這種細分技能點，可能還不是這個版本的調優重點。

總體來說，Qwen3-Next-80B-A3B-Thinking-GGUF這款模型，給我的感覺就是一個天賦異稟但還在偏科的“特長生”。

它有着驚人的數學直覺和超前的架構設計，讓咱們能在消費級硬件上體驗到80B參數的威力，這點絕對值得點贊。但它在常識邏輯和代碼能力上的短板，也說明了所謂的“Next”還只是個序章。

對於咱們普通用戶來說，這個GGUF版本最大的意義，不在於它能不能立刻幫你幹活，而在於它讓我們可以親手摸一摸大模型技術的最前沿。

咱們能看到國產模型在架構創新上已經不再是單純的跟隨，而是開始嘗試走自己的路，去挑戰那個既要快又要強還要省資源的“不可能三角”。

雖然現在它還討厭蚊子、還不會寫五子棋，但這種嘗試本身，就足夠讓人對未來的完全體Qwen3充滿期待了。

我是 CyberImmortal，關注我們，帶你暢遊AI世界！