不是商單,可以放心看
-
WHAT'S UP!歡迎來到和微論件!

兄弟們最近上網應該經常聽到codex(略微有點古早)deepseekharness(DSH)或者workbuddy這類詞語,或者skill RAG LORA這些詞彙,如果麼有的話,那該去補課啦,這些東西正在快速重塑我們的生活
![]()
自從GPT這枚核彈問世以來,大家以前查百度的習慣估計已經換成去問豆包這類LLM模型了,這類模型的缺點就是隻能告訴你怎麼做,但不能真的幫你去做,並且偶爾會有流口水現象,像是一個不太穩定的搜索引擎
![]()
而現在隨着AI agent的問世,已經演變成可以自己操作電腦,給自己裝插件的智能體,不需要懂代碼,只要對着他“許願”,他就能給你幹活(當然,首先你要有Token),從這個迭代速度還是很快的,也許我們真的離AGI不遠了

既然token是需要花錢的,也不可能真的去買十張H200本地跑AI,那有沒有那種家用級的,可以裝智力不錯的模型的,成本不要太貴,比充API划算的顯卡呢,有的,他就是今天的主角——瀚鎧AI PRO R9700
![]()
先看一眼外觀,一眼看上去,就如同一眼上去一樣,它是一張渦輪卡,比較適合多卡工況,268 × 112 × 40mm的小巧尺寸,雙槽厚度,沒有花裏胡哨的裝飾,整體外觀可以用“樸素”來形容
![]()
供電接口爲16PIN,輸出接口爲4個DP口,沒有HDMI。這也符合工作站定位,多屏輸出和專業顯示設備使用DP接口會更常見一些
![]()
再簡單過一下過一遍核心規格: 核心代號Navi 48,RDNA 4架構配備4096個流處理器,Boost斌率2920MHz,搭載32GB GDDR6顯存,顯存位寬256bit,TBP 300W。
欸,這不是9070XT的核心嘛,是的,它本質上就是一張頻率功耗稍低32G版本的9070XT
![]()
大家都知道大就是好,顯存永遠不嫌多
對AI來說,顯存算是幾個核心指標之一。它直接關係到模型能不能跑、跑得爽不爽、能跑多大的模型。

直接進入實測環節
先帶大家看一下烤雞溫度,得益於渦輪卡的優勢,十分鐘烤雞測試後,核心溫度僅有58℃,顯存溫度76℃,非常涼爽
![]()
性能方面本地部署QWEN3.8 27B,IQ4量化,不開MTP與KV量化,上下文128K,顯存佔用在22G左右,預填充速度約800token/s這個速度還可以
實際體驗下來只有冷啓動的預填充階段,需要等的久一點,其他部分都比較滿意
![]()
如果開啓Q8 KV量化+MTP投機解碼,速度最高可以暴漲到70token/s
![]()
換成MOE之後R9700表現更爲驚人,預填充速度一度衝到3000token/s,吐詞速度也有90token/s。
![]()
![]()
應用方面,我用WORKBUDDY做的這個小項目最終花了10分鐘,可用性其實還不錯,想要完全可用的話也不是不行,無非就是鏈接下數據庫,完善下兼容性規則
![]()
不得不說,模型裏面的老數據真讓人感嘆,去年的硬件價格竟然是這樣的,讓人有種恍如隔世的感覺
![]()
當前時間段,32G顯存本地跑個小參數的MOE模型,體驗就已經非常不錯了(MOE是真的快)千問 3.6 35B A3B IQ4 量化版本中
上下文拉滿,開啓 MTP,預填速度可以來到約2500+ Token/S,吐詞速度更是可以來到 140+ Token/S,已經可以解決一些併發的問題了,甚至併發還能把總帶寬再撐大一點!
![]()
隨着時間的繼續後移,模型繼續變小,32G顯存也許真的能夠撐起非常不錯的本地AI生產力系統
![]()
如果你不想網速太慢跟不上時代,現階段就想本地玩玩AI,那這張與5080售價接近的 R 9700或許就是你的“Dream Card”現階段性價比非常不錯(目前持續漲價中),相對於魔改卡,多了三年官方質保,讓人安心不少
![]()
AI也許可能是泡沫,但至少現在,算力需求依然很大,存儲也看不到降價的勢頭,想上車的人越來越多,不如趁着這波勢頭,乘風破浪!
![]()
“本文章由 AI 生成,內容僅供參考,請仔細甄別”

往期文章
2026年9月DIY電腦配置推薦實測24套主機2K到3W全覆蓋可閉眼抄作業
更多遊戲資訊請關註:電玩幫遊戲資訊專區
電玩幫圖文攻略 www.vgover.com
