復旦ChatGPT:開源MOSS大模型,3090顯卡即可運行!

近期,復旦大學的NLP實驗室,重新上線並開源了國內第一個類ChatGPT——Moss大模型,該模型命名致敬郭帆導演《流浪地球2》的人工智能系統MOSS!目前,項目在Git上已經獲得3k+Stras,“僅僅”只需要RTX 3090顯卡,即可在用戶本地運行部署模型!



復旦NLP

23年2月20日,復旦大學自然語言處理實驗室,邱錫鵬教授團隊,公開了國內首個類ChatGPT的大模型,並邀請公衆參與內測,發佈時間甚至比百度“文心一言”、阿里“通義千問”、商湯“日日新”等模型都早!

很快,MOSS就登上熱搜榜首,邱老師發文感謝大家的關注,同時再次謙虛強調,MOSS大模型尚且不成熟,距離ChatGPT這樣由大公司支持的商業化應用還有很長的路需要走!

經過兩個月時間的打磨,在此期間OpenAI放出了諸多大招,同時國內各大類ChatGPT的大模型和應用相繼推出,邱錫鵬教授耐心研發,也正式重磅推出國內首個類ChatGPT模型MOSS,並將其開源!與此同時,流浪地球也連連取得票房和口碑的雙豐收!



Moss大模型

https://github.com/OpenLMLab/MOSS

MOSS大模型現已經在Git上開源,公開了MOSS-003基座模型,該模型是在高質量中英文語料上自監督預訓練得到的,預訓練語料包含約7000億個單詞,計算量達到了6.67x1022次浮點數運算!

同時復旦NLP組基於MOSS-003,推出多個微調後得到的模型,這一切也要感謝2月份時參與內測的用戶,當時實驗室在內測階段採集到了約10萬用戶輸入數據!ChatGPT的參數有1750億,最終得到的moss-moon系列模型具有160億參數!

同時,復旦公開了用於訓練的約110萬條對話數據,包含更細粒度的有用性類別標記、更廣泛的無害性數據和更長對話輪數!此外,MOSS還支持插件功能,用戶只需要非常低的顯卡算力即可在本地部署MOSS!



插件功能

早在OpenAI推出GPT-4版本時期,就宣佈解除“封印”,正式將ChatGPT聯網,同時公開了網絡瀏覽器和代碼解釋器插件工具,ChatGPT將支持第三方插件;目前,MOSS大模型也可以支持插件功能。

這也意味着MOSS可以利用插件,集成搜索引擎、計算器、文生圖等各種各樣的插件功能,與GPT-4相同,MOSS也可以“聯網”,問她谷歌合併了哪兩個部門,MOSS第一次給出錯誤答案,但第二次便回答出Deepmind和谷歌大腦!

MOSS現已開源,支持單卡或多卡部署,最低3090即可運行!在顯存受限的場景下,邱錫鵬團隊使用GPTQ算法和Meta LLaMA推出的OpenAI triton backend實現量化推理,MOSS調用量化版本的模型顯著降低了推理成本!




機器學習基礎:

AI學術巨佬——何愷明,從遊戲中獲得論文靈感

AI領軍人物——孫劍,重劍無鋒的經典之作

張益唐——黎曼猜想,華人數學家再創重大突破!

機器學習入門——數學基礎(積分篇

機器學習入門——數學基礎(代數篇

機器學習入門——數學基礎(貝葉斯篇

遊戲&AI系列:

賽博朋克——敏捷開發能挽救CDPR的口碑嗎?

巫師三——AI如何幫助老遊戲畫質重獲新生

AI女裝換臉——FaceAPP應用和原理

AI捏臉技術——你想在遊戲中捏誰的臉?

Epic虛幻引擎——“元人類生成器”遊戲開發(附教程)

腦機接口——特斯拉、米哈遊的“魔幻未來技術”

白話科普——Bitcoin到底是如何誕生的?

永劫無間——肌肉金輪,AI如何幫助玩家捏臉?

GTA6黑客——R星自導自演營銷?無稽之談!

ChatGPT:

聊天機器人——ChatGPT全網爆紅,馬斯克驚歎誇讚!

聊天機器人——ChatGPT小白註冊教程,勿被電商割韭菜!

微軟——解散元宇宙,900億投資壓注ChatGPT!

ChatGPT王炸官宣——僅需2.7美元,即可輸出100萬詞!

火爆全網——AI生成的漂亮小姐姐,形象逼近真人!

微軟——ChatGPT下週史詩升級!百度也同期發佈“文心一言”!

ChatGPT免費開源平替——200億參數,前OpenAI團隊打造!

ChatGPT王炸升級——可識別圖片,考試成績超九成人類!

ChatGPT史詩升級——1秒生成網站,看圖玩梗能力堪比真人!

ChatGPT加強版——60秒生成彈球遊戲,零基礎也能開發遊戲!

ChatGPT王炸升級——解除“封印”,接入互聯網!

ChatGPT:預計3億人將失業,斯坦福封神開源GPT平替版!

ChatGPT:亞洲IP大面積被封,意大利停止服務!

ChatGPT突發:暫停關閉付費Plus,只因需求量太大!

ChatGPT突發:法國、西班牙或禁止GPT,只因數據安全問題!

ChatGPT:僅時隔一天,OpenAI重新開放付費訂閱!

ChatGPT手機版:近300萬年薪招募團隊,GPT5傳言被闢謠!

微軟神級開源:“傻瓜式”工具,人人可擁有自己的ChatGPT!

遊戲界大變天:斯坦福最新成果,AI角色可模擬真人小鎮!

淘汰ChatGPT:智械危機來了,AutoGPT可自動寫代碼!

人工智能“覺醒”:自主學習,AutoGPT會顛覆ChatGPT嗎?

智械危機:AutoGPT嘗試“毀滅人類”,誘導發動核戰爭!

ChatGPT最強挑戰者:谷歌Claude,免註冊支持中文!

ChatGPT:顯卡每日電費500萬,谷歌大腦合併阿爾法狗母公司

馬斯克重磅:推出“真相GPT”,保證不會毀滅人類!

青年文學論壇——GPT-4來臨,翻譯會被AI取代嗎?

百度文心一言:全球大廠首發,可幫助續寫《三體》!

百度文心一言:中國版ChatGPT,短視頻批量生成!

百度文心一言:超8萬家企業排隊合作!

百度文心千帆:比ChatGPT便宜,百萬字僅12元!

國產ChatGPT:支持手機芯片推理,馬雲談用GPT解決實際問題!

華爲版ChatGPT:重磅出爐!盤古大模型將在4月發佈!

華爲重磅自研:盤古NLP大模型,不打算追隨ChatGPT!

中國最強ChatGPT:語言大模型“商量”,演示性能超文心一言!

ChatGPT清明節:上海雲生命公司“復原”逝者,數字生命丫丫!

360自研GPT:周鴻禕長文反駁馬斯克,自稱“拯救派”望彎道超車!

360版ChatGPT:實機演示“翻車”,答錯梅西進球數!

阿里版ChatGPT:發佈“通義千問”大模型,可在支付寶測試體驗!

網易:ChatGPT自研課首發上架,AI爲遊戲賦能!

百度打假蘋果:文心一言慘遭套皮,現已對蘋果發起訴訟!

元宇宙大會:6大國產GPT同日推出,華爲阿里等成立GPT聯盟!

搞錢GPT:國產首個帶貨AI,將顛覆全球千億美金市場!

國產GPT:推出AI數字人員工,元宇宙+GPT震撼登場!

稚暉君:賽博國風輪足機器人“哪吒”,未來或集成GPT大模型!

論文相關:

畢業季雜談——如何隨時免費使用中國知網?

畢業季雜談——論文降重的“奇技淫巧”

畢業季雜談——大學教材如何獲取

畢業論文——Latex論文排版語言介紹

ChatGPT:畢業論文降重必備,天才數學家盛讚論文功能!

#gd的ai&遊戲雜談#

#ai人工智能#

更多遊戲資訊請關註:電玩幫遊戲資訊專區

電玩幫圖文攻略 www.vgover.com