2023年4月13日，微軟宣佈開源DeepSpeed-Chat，集成了完整RLHF流程的系統框架，可將訓練速度提升15倍以上，幫助用戶輕鬆訓練自己的ChatGPT，只需1.25小時，就可完成訓練一個130億參數大模型，擴展性可玩性極強，實現千億級GPT大模型自由！
ChatGPT
近期，ChatGPT的重磅升級一個接一個，比如開放API接口，2.7美元生成100萬詞；重磅升級GPT-4，可識別圖片，考試成績超九成人類，且能夠幫助程序員1秒生成網站，看圖玩梗能力堪比真人！
隨後，微軟宣佈Copilot集成自家的Office辦公軟件，助力打工人提高效率，GitHub發佈了編程輔助工具Copilot的全新版本Copilot X，新版本接入GPT-4，新增聊天語音功能，允許開發人員說話完成特定的編碼功能！
同時，OpenAI宣佈將ChatGPT聯網，公開了網絡瀏覽器和代碼解釋器插件工具，支持第三方插件，ChatGPT能隨時隨地吸收互聯網的最新消息，聊天機器人的推理能力獲得史詩級提升！
微軟開源
然而，由於OpenAI並未開源GPT-3.5-turbo以及GPT-4版本，對於用戶和其他公司來說，也很難“復刻”出接近GPT-4效果的類GPT產品。
當地北美時間4月12日，微軟宣佈開源DeepSpeed-Chat，只要在模型訓練中加入了完整RLHF流程的系統框架DeepSpeed Chat，即可讓開發者用戶人手一個GPT大模型，實現ChatGPT自由！DeepSpeed-Chat
OpenAI一度被戲稱爲ClosedAI，對比此前斯坦福等大學開源大模型LLaMa羊駝，DeepSpeed Chat的RLHF pipeline完全是復現了GPT的初始論文——InstructGPT，效果更好！
DeepSpeed Chat
在微軟開源的DeepSpeed Chat中，開發者可以快速進行多個訓練步驟，支持使用不同來源的數據進行快速訓練，將推理和訓練能力整合成完整的混合引擎（DeepSpeed-HE），用於RLHF訓練。
目前，DeepSpeed速度比原本的快15倍，成本大幅度降低，2.1天可以訓練出一個OPT-66B模型，成本僅爲1620美金，如果擴大到ChatGPT的參數級別，DeepSpeed支持多節點多GPU，擴展性極佳。
比如微軟測試經過DeepSpeed-Chat訓練後，一個13億參數版的ChatGPT，在問答環節的推理能力和上下文能力都非常突出。
github/microsoft/DeepSpeed
只需要48GB顯存的消費級NVIDIA A6000 GPU，訓練上半天時間，即可通過一個預訓練後的OPT-13B作爲actor模型，OPT-350M作爲reward模型，來生成一個130億參數的類ChatGPT模型，目前的玩法還有很多，微軟歡迎各位開發者測試！
機器學習基礎：
AI學術巨佬——何愷明，從遊戲中獲得論文靈感
AI領軍人物——孫劍，重劍無鋒的經典之作
張益唐——黎曼猜想，華人數學家再創重大突破！
機器學習入門——數學基礎（積分篇）
機器學習入門——數學基礎（代數篇）
機器學習入門——數學基礎（貝葉斯篇）
遊戲&AI系列：
賽博朋克——敏捷開發能挽救CDPR的口碑嗎？
巫師三——AI如何幫助老遊戲畫質重獲新生
AI女裝換臉——FaceAPP應用和原理
AI捏臉技術——你想在遊戲中捏誰的臉？
Epic虛幻引擎——“元人類生成器”遊戲開發（附教程）
腦機接口——特斯拉、米哈遊的“魔幻未來技術”
白話科普——Bitcoin到底是如何誕生的？
永劫無間——肌肉金輪，AI如何幫助玩家捏臉？
GTA6黑客——R星自導自演營銷？無稽之談！
ChatGPT：
聊天機器人——ChatGPT全網爆紅，馬斯克驚歎誇讚！
聊天機器人——ChatGPT小白註冊教程，勿被電商割韭菜！
ChatGPT王炸官宣——僅需2.7美元，即可輸出100萬詞！
火爆全網——AI生成的漂亮小姐姐，形象逼近真人！
微軟——ChatGPT下週史詩升級！百度也同期發佈“文心一言”！
ChatGPT免費開源平替——200億參數，前OpenAI團隊打造！
ChatGPT王炸升級——可識別圖片，考試成績超九成人類！
ChatGPT史詩升級——1秒生成網站，看圖玩梗能力堪比真人！
ChatGPT加強版——60秒生成彈球遊戲，零基礎也能開發遊戲！
ChatGPT王炸升級——解除“封印”，接入互聯網！
ChatGPT：預計3億人將失業，斯坦福封神開源GPT平替版！
ChatGPT：亞洲IP大面積被封，意大利停止服務！
ChatGPT突發：暫停關閉付費Plus，只因需求量太大！
ChatGPT：僅時隔一天，OpenAI重新開放付費訂閱！
青年文學論壇——GPT-4來臨，翻譯會被AI取代嗎？
百度文心一言：全球大廠首發，可幫助續寫《三體》！
百度文心一言：中國版ChatGPT，短視頻批量生成！
百度文心一言：超8萬家企業排隊合作！
百度文心千帆：比ChatGPT便宜，百萬字僅12元！
國產ChatGPT：支持手機芯片推理，馬雲談用GPT解決實際問題！
華爲版ChatGPT：重磅出爐！盤古大模型將在4月發佈！
華爲重磅自研：盤古NLP大模型，不打算追隨ChatGPT！
中國最強ChatGPT：語言大模型“商量”，演示性能超文心一言！
ChatGPT清明節：上海雲生命公司“復原”逝者，數字生命丫丫！
360自研GPT：周鴻禕長文反駁馬斯克，自稱“拯救派”望彎道超車！
360版ChatGPT：實機演示“翻車”，答錯梅西進球數！
阿里版ChatGPT：發佈“通義千問”大模型，可在支付寶測試體驗！
百度打假蘋果：文心一言慘遭套皮，現已對蘋果發起訴訟！
稚暉君：賽博國風輪足機器人“哪吒”，未來或集成GPT大模型！
論文相關：
畢業季雜談——如何隨時免費使用中國知網？
畢業季雜談——論文降重的“奇技淫巧”
畢業季雜談——大學教材如何獲取
畢業論文——Latex論文排版語言介紹
ChatGPT：畢業論文降重必備，天才數學家盛讚論文功能！
更多遊戲資訊請關註：電玩幫遊戲資訊專區
電玩幫圖文攻略 www.vgover.com
