3月18日,馬斯克突然開源旗下的大模型Grok,代碼和模型權重已經上線Github和HuggingFace,可以看到Grok一共有3140億參數,馬斯克方面稱Grok也是採用MoE混合專家架構的大模型,爲目前全球開源參數量最多的大模型!
在3月11日,馬斯克突然宣佈要在下週(也就是本週)開源人工智能助手Grok,並將這條消息置頂,馬斯克表面上是希望通過開源的方式,推動技術發展。
實際上,馬斯克是在回擊之前OpenAI對他的反駁,上個月馬斯克一紙狀告OpenAI和老闆山姆·奧特曼,認爲他們違背了非營利性公司的願景,沒有公開GPT-4,隨後OpenAI逐條反駁馬斯克,還公開了雙方的郵件聊天往來。
OpenAI方面認爲己所不欲勿施於人,馬斯克自己都不開源,爲什麼還老是要求OpenAI方面開源,馬斯克方面則是以Grok開源的方式來給OpenAI施加輿論壓力。
而OpenAI方面似乎是迫於馬斯克的輿論大棒,開源了Transformer Debugger,其他的開發者可以利用TDB來分析解讀Transformer內部結構。
今天,馬斯克按照約定,在一週後開源Grok大模型,代碼和模型權重放在Github和HuggingFace上面,根據描述,Grok一共是314B(3140億)個參數。
官網描述稱Grok也是採用混合專家模型MoE架構,爲目前開源模型中參數最多的大模型,Grok由xAI在去年10月基於JAX和Rust實現,而且模型沒有針對任何特定方向進行微調。
但值得一提的是,馬斯克並非是最早開源的人,早在23年2月份,Meta就已經開源了LLama模型,而之後的Llama2也成爲最火的開源模型之一,成爲各大應用的熱門套皮大模型。
今年六、七月份,Llama3可能會即將推出,就目前來看,馬斯克選擇這個時間點開源更多是回應OpenAI,而且大家的目光很快就會被英偉達老黃的GTC大會所吸引。
馬斯克:
聊天機器人——ChatGPT全網爆紅,馬斯克驚歎誇讚!
馬斯克重磅:推出“真相GPT”,保證不會毀滅人類!
馬斯克:ChatGPT成功離不開我,特斯拉擎天柱將改變未來!
奧特曼、馬斯克:ChatGPT風險堪比核武器,希望全球監管!
馬斯克:中國航天遠比想象中要先進得多,2030年前實現登月!
馬斯克約架小扎:UFC總裁策劃比賽,100美元最低票價!
馬斯克:降本增效,“推特崩了”衝上熱搜!
更多遊戲資訊請關註:電玩幫遊戲資訊專區
電玩幫圖文攻略 www.vgover.com