英偉達版ChatGPT教程評測，老黃挑戰OpenAI！

2月14日，英偉達推出了自己的ChatGPT，在本地RTX顯卡上運行，命名爲Chat with RTX，目前是早期版本Demo，一切都是在PC上本地運行，用戶需要至少擁有8GB VRAM的30系或40系顯卡，優點在於本地化運行響應速度極快，能夠快速處理個人本地的文檔，增強數據隱私性，降低使用門檻，但是模型準確性較差，對顯卡要求較高。

目前LLM大模型領域各類玩家衆多，在OpenAI山姆·奧特曼宣佈進軍AI芯片領域後，老黃也宣佈進軍AI聊天機器人領域，首先進入NVIDIA官網介紹頁面，下載Chat with RTX。

除了8GB內存的RTX 30/40系顯卡外，還要求WIndows 11系統，16GB的內存以及535.11更高版本的驅動。在衆多聊天機器人應用中，老黃的Chat with RTX主打的是本地運行，不需要像ChatGPT那樣聯網使用，可以與自己電腦上的各種文本進行深度互動，支持文本、pdf、doc/docx 和 xml等格式文件，能夠分析總結傳給Chat with RTX的視頻，用戶僅需要提供網址即可給出答案。

但需要提醒的是，這個功能有時候容易出現事實性幻覺，突然胡說八道，Chat with RTX Demo下載完解壓後差不多接近40G，直接進行Setup安裝，我們可以看到其實Chat with RTX還是基於Llama2和Mistral等開源大型語言模型構建的。

然後可以看到Chat with RTX會下載Miniconda搭建環境，自動安裝CUDA Toolkit，下載各種依賴包，不難看出Chat with RTX其實就是在PC本地搭建Python深度學習環境，再利用Mistral或Llama 2來處理數據，老黃ChatGPT優點在於可以充分利用RTX GPU上的Tensor核心來加快處理推理速度。

Chat with RTX使用檢索增強生成 (RAG)，來提高LLM的生成質量，打開Chat with RTX能夠快速找到個人PC中的各種文檔，有意思的是老黃版ChatGPT，在處理PDF、Word文檔等文件數據時，居然比微軟自己的Copilot還要好用，響應速度極快（取決於本地顯卡和內存），體驗上沒有ChatGPT或者Copilot那種回覆延遲，也不用擔心OpenAI服務器出問題，導致全球用戶無法使用ChatGPT。

由於Chat with RTX是Demo測試版本，其最大的缺點在於沒有上下文功能，且模型的輸出並不太準確，老黃推出英偉達ChatGPT版本的意義，在於提供離線的大模型服務，在本地上可以定製化，而且隱私性更好，老黃希望英偉達不僅僅只是個“賣顯卡的”，而是真正將AI計算能力應用到各行各業，引領大模型時代發展。

目前，Chat with RTX還遠遠沒有達到成熟的GPT產品程度，英偉達與OpenAI在AI領域的競爭還將繼續，兩家公司近期都在推進AI從基礎研發，到實用產品的轉化，在未來隨着模型和芯片技術的發展，期待更多AI的應用下放到個人設備進行本地計算，以達到更快的響應速度和更可靠的模型，筆者建議還是先用GPT-4、Llama2、Mistral等相對成熟的服務。

華爲純血鴻蒙：搭載盤古大模型，全線自研投資超百億！
華爲迴歸：上半年營收3100億，淨利潤暴漲3倍！
華爲問界：搭載十大黑科技，問界M9來了！
華爲和小米：達成專利交叉許可，包含5G技術！
小米發佈會：小米14起售3999元，小米14Pro起售4999元！
三星發佈會：全新AI，安卓機皇5999元起售！
華爲“純血鴻蒙”：1.2億行代碼，生態設備超8億！
國產之光：摩爾線程顯卡骨折降價，2499元降至899元！
英偉達：老黃再放超級大招，史上最強AI芯片！
黃仁勳：給AI圈一點小小的英偉達震撼，11分鐘訓練ChatGPT！
英偉達重磅：史上最強AI算力芯片，老黃髮佈會終極大招！
英偉達重磅：AI讀取視頻，可直出3D遊戲模型！
英偉達：單日瘋漲2000億美元，狂賺一個AMD市值！
CES科技春晚：英偉達、AMD、英特爾三大廠商彙總！
CES科技春晚：索尼、三星等十大黑科技亮相！
CES 2023：英偉達發佈4070Ti，ROG全系40系筆記本配置！
CES 2023：索尼汽車官宣亮相，打造元宇宙進軍太空！
英偉達GTC22：40系顯卡參數解讀，你打算購買哪一款？
英偉達GTC22：40系顯卡價格過高，老黃劍指元宇宙AI！
英偉達GTC23：核彈級AI芯片，專供ChatGPT速度提升30倍！
CES 2021：AMD6000系處理器發佈，輕薄本暢玩3A！
CES 2021：英特爾12代處理器發佈，最快的遊戲CPU！
CES 2021：英特爾遊戲性能怪獸，RTX 3090Ti發佈！
CES 2021：英特爾首款ARM架構CPU，超x86架構十倍性能
英偉達：預計顯卡短缺的情況會持續到2021年底
英偉達：3080Ti價格跳水，以太坊2.0升級與顯卡礦難
天價NFT：從290萬美金到280塊，一年縮水99.99%！
礦難來臨：顯卡接近原價，華人首富身價縮水6000億！
以太坊升級：30系顯卡滯銷，價格會崩到什麼程度？
親兒子跳車：“北美七彩虹”怒剛NV，老黃喫相有多難看？
30系破發：比特幣暴跌，礦場鉅虧要“爆金幣”了嗎？