老黃髮家史——百度大戰微軟谷歌,一場改變世界的祕密拍賣會!

知名科技公司英偉達,市值突破了4萬億美元,超過微軟和蘋果,成爲全球市值最高的公司,在過去的30年時間裏,英偉達從一家開發圖形處理遊戲顯卡的小公司,一路成長爲全球AI巨擘!歡迎大家來到老黃髮家史的第13期,今天承接前12期內容,繼續聊老黃的創業史!

01 一鳴驚人

上文講到華人科學家、AI教母李飛飛,

構建了全球規模最大的數據集ImageNet,

卻受學術界冷落,數據集已經到了雞肋的程度;

老黃拒絕華爾街的建議,

仍然堅持CUDA科學計算,

犧牲玩家的利益,繼續重注那虛無縹緲的未來科技;

而在多倫多大學的辛頓教授,

則在繼續研究已經被判“死刑”的神經網絡,

如果不出意外,65歲的辛頓即將退休,

學術生涯也再無進一步的可能!

然而轉折點就在2012年,辛頓的兩位學生Ilya和Alex,

省喫儉用買下了兩塊GTX 580的遊戲顯卡,

然後構建了一個當時歷史上最龐大的卷積神經網絡,

並且在第三屆ImageNet挑戰賽上一鳴驚人,

以Top-5錯誤率15.3%,碾壓第二名(26.2%),

證明了深度卷積神經網絡在大規模數據+GPU算力下的絕對優勢,

直接點燃了深度學習革命,

也直接掀起了日後的大模型浪潮,

奠定英偉達的AI芯片霸主地位!

02 辛頓團隊

正是因爲ImageNet的功勞,李飛飛在33歲就成爲斯坦福大學教授,

40歲成爲美國科學院、工程院和醫學院三院院士,

老黃依靠ImageNet中GTX 580打下的名聲,

成爲AI時代賺錢最大的受益者,

不過整個事件的主角——辛頓教授,

以及他的兩位學生Ilya和Alex,

纔是整個AI革命功勞最大的貢獻者!

起初,Alex將自己在大賽上的神經網絡命名爲SuperVision,

但是人們爲了紀念Alex的貢獻,將神經網絡命名爲AlexNet。

李飛飛在ImageNet大賽的時候懷孕,

剛剛生完孩子,原本不打算參加賽後的學術會議,

當她得知AlexNet的出色成果後,改變了主意,

直接飛往佛羅倫薩想要見一見Alex。

會議上,ALex是最後一位上臺演講的嘉賓,

他的PPT上詳細介紹了AlexNet的所有技術細節,

包含65萬個神經元、6000萬個參數,以及高達6.3億個連接,

Alex還透露,“這個模型是在我的臥室裏完成訓練的,

對於能在臥室裏訓練的模型而言,它的規模算是相當龐大了。”

當Alex的簡短演講結束時,

場下觀衆並未意識到他剛剛引領了計算機科學的新革命,

甚至一些對神經網絡有偏見的學者還不服氣。

03 開源盛世

不過很快學術界就給予神經網絡最公正的評價,

幾乎所有人都被AlexNet驚人的效率嚇到,

在中國人的傳統觀念裏,

像辛頓教授這種掃地僧級別的大佬,

默默研究神經網絡超過30年,終於成功獲得回報,

這種屬於封聖級別的科學家,

但是辛頓完全不滿足於AlexNet的成果,他們師徒三人還想要更多。

就在Alex收穫名聲的同時,辛頓團隊居然也陷入了危機,

這個危機恰恰在於Alex對其他學者完全不設防,

開源了所有的技術,在2013年的ImageNet比賽上,

神經網絡的提交作品層出不窮,

到了2014年,使用這種方法的參賽者已超過40人,

卷積神經網絡儼然已經成爲計算機視覺的核武器,

人人都能用,畢竟技術門檻其實不高,

連老黃的旗艦卡580遊戲顯卡都能跑,而且用了準超神

(500美元對於很多有錢的企業來說真不算很貴)。

04 抄襲困境

其中最強大的抄襲者就是號稱“不作惡”的谷歌,

他們在2014年引入Inception模塊,推出了史上最大模型GoogleNet,

谷歌完全不差錢,而且英偉達顯卡人人都能買到,

老黃也不介意Alex之外的研究機構找他買卡,

這也導致辛頓團隊其實完全競爭不過谷歌這樣的大公司,

事實上谷歌在科技界所扮演的角色和我們國內某巨頭類似,

打不過就抄,反正谷歌不缺錢,

當然谷歌的這些事已經是後話了,我們接下來還是回到2012年慢慢聊。

就在Alex在佛羅倫薩公開了AlexNet的技術後,

谷歌馬不停蹄在內部進行測試,

但是都沒辦法做出AlexNet這麼好的效果,

大家都很驚訝,

因爲過去都是學界先打好理論基礎,然後硅谷復現摘桃子,

當時谷歌已經擁有全球最好最頂級的硬件資源和人才資源,

卻打不過大學教授帶倆博士生,

谷歌的感覺就是不知道從哪裏冒出來三個妖人,

突然他們搗鼓出來一個新技術,然後就要改變世界了。

05 百度收購?

同年,Hinton發表了一篇只有9頁的論文《ImageNet Classification with Deep Convolutional Neural Networks》,

幾天後,一封來自中國的電子郵件出現在Hinton的郵箱裏,

郵件的署名爲餘凱,辛頓記起來了餘凱這個名字,

他回憶他們曾在多倫多的學術會議上有過幾面之緣。

在給Hinton的郵件中,餘凱博士簡明表達了來意,

百度希望Hinton來到中國,

辛頓回憶這是他第一次受到工業界的邀約,

百度也是第一家拋出橄欖枝的公司,

辛頓當時就給百度餘凱回信說沒問題,

但是希望百度提供一些研究經費,這樣辛頓就能和谷歌這樣的團隊競爭,

餘凱回覆說沒問題,讓辛頓開價,

辛頓回覆說大概需要100萬美元,

於是餘凱拿着辛頓的回信找到李彥宏,李彥宏也非常支持表示認可。

後來的百度首席科學家-吳恩達Andrew Ng

這裏再補充介紹下餘凱博士,他曾經在微軟、西門子和NEC任職,

2012年春天,餘凱離開美國NEC,回國效力選擇加入百度,

當時國內做AI的選擇機會並不多,

百度如日中天,貴爲互聯網三巨頭,也是最早佈局AI的企業,

餘凱一回國就幫百度成立了語音識別團隊和圖像識別團隊,

快速成爲行業領先水平,餘凱還非常重視算力,

大量採購英偉達的GPU,開發了世界上第一個支持 GPU&CPU 的並行深度學習平臺,

老黃本人一向是不和上下游搞競爭,

英偉達沒必要親自下場,只需要做好芯片,

讓幾家大企業去搶就行了,英偉達只需要躺着賺錢。

餘凱現爲地平線創始人&CEO

06 報價疑雲

話接上文,等到辛頓正式接受報價的時候,

百度直接給辛頓提供了1200萬美元,

接近1億元打包拿下辛頓師徒三人,而且不要求他們做任何項目,

這樣的天價也讓辛頓非常激動,

畢竟當時辛頓還遠沒有現在這樣的地位,

1200萬美元從學校挖人不帶任何項目專利也打破了紀錄,

辛頓回信立刻答應下來,兩邊基本上已經接近談妥。

但是兩位俄裔數學天才ilya和Alex,可比老師會算賬多了,

ilya和Alex讓辛頓再回信說等兩天,因爲百度捨得花1200萬美元,

如果他們拿着這個合約去問問谷歌這些公司,沒準價格更高。

然後辛頓有些不好意思給百度回信,

詢問是否可以給他們寬限幾天,評估下其他的邀約,

根據Hinton的說法,他特地在多倫多找了個律師諮詢,

告訴他們的現狀,律師告訴Hinton有兩個選擇,

一是聘請一個專業談判團隊,與百度公司再談一下,

但是這種行爲可能激怒百度;

另一種選擇就是舉辦一場拍賣會,價高者得;

辛頓衡量了一下,決定選擇拍賣會模式。

07 改變世界AI格局的拍賣會

於是,這場AI歷史上最重要的拍賣會展開了,

一共有四家公司參與競拍,

多年後新聞只公開了兩家公司,分別是谷歌和微軟,

辛頓曝光第三家公司是百度,

而第四家公司當時還沒有什麼名氣,參與拍賣時候只成立了兩年,

這家公司名字叫DeepMind,

幾年後他們發明的AlphaGo將打敗柯潔和李世石,

而DeepMind創始人神經科學家戴密斯·哈薩比斯將獲得2024年諾貝爾獎。

在舉行拍賣的那一週,谷歌的工程主管阿蘭·尤斯塔斯駕駛自己的雙引擎飛機,

直接飛抵太浩湖南岸附近的機場,

與他同行的正是谷歌的傳奇程序員Jeff Dean,

兩人邀請辛頓和兩名學生一起在哈拉斯賭場酒店頂樓的餐廳共進晚餐,

當天還是辛頓的65歲生日,谷歌的誠意十足,表明來意,

Alex和ilya看到Dean也是嚇了一跳,

辛頓回憶說自己和四家公司參與拍賣的人都分別見過面,

但是參與拍賣的四家公司彼此都不見面。

08 微軟 VS 谷歌 VS 百度

辛頓將拍賣地點也定在哈拉斯賭場酒店的房間,

拍賣會以郵件的形式進行,兩位學生會發郵件給各家通報最新的報價,

微軟當時已經透過內部消息打探到谷歌也在報價,

微軟抱怨辛頓使用Gmail通信,

他們擔憂谷歌會偷看郵件竊取微軟的祕密信息,

但是辛頓認爲谷歌不會違背用戶條款,

但現實是,如果谷歌違反了這些條款,可能也沒有人會知道。

拍賣規則是每家公司有一個小時的時間將報價提高至少100萬美元,

以倒計時一小時爲準,一個小時之後,

如果沒有新的報價出現,當天的拍賣就結束。

辛頓回憶,DeepMind沒有現金,

而是直接用公司股份報價,所以很快就退出了

(事後來看DeepMind的股權纔是最值錢的,而且科研氣氛最濃),

百度、谷歌和微軟留了下來,

第二份報價就到了1500萬美元,

然後是2000萬美元,微軟宣佈退出,

但是不知道有什麼原因微軟又重新回來了,拍賣繼續。

報價到2200萬美元時,辛頓暫停了拍賣,

他與其中一名競拍者進行了討論,半個小時之後,微軟再次退出,

於是只剩下百度和谷歌兩家,

隨着時間的推移,兩家公司的報價更高了,

一開始百度這邊還是餘凱報價,

到了2400萬美元的時候,辛頓說一名百度的高管從北京接手了拍賣,

餘凱時不時會去辛頓的房間看看報價到了多少,百度這邊進度一下子慢了下來。

deepmind 哈薩比斯

09 天價拍賣

辛頓老頭回憶,說他當時其實不想與餘凱見面,

因爲辛頓年齡大了,去太浩湖都經常生病,

那裏的空氣寒冷、稀薄且乾燥,

辛頓擔心自己在拍賣時可能會再次生病,

於是在房間裏用摺疊沙發上的坐墊和熨衣板搭了一個雨棚加溼空氣,

所以餘凱每次進房間,

辛頓都會讓兩位學生將坐墊、熨衣板和溼毛巾都藏起來。

百度一直願意出更高的價格,

2500萬美元、3000萬美元、3500萬美元,

但是百度每次跟價都會在一個小時倒計時終止前的一兩分鐘纔會出現,

所以拍賣會時間拉得很長。

太浩湖

辛頓將窗口時間從一個小時縮短到30分鐘,

價格迅速攀升至4000萬美元、4100萬美元、4200萬美元、4300萬美元,

接近午夜,當價格達到4400萬美元時,

辛頓再次暫停了拍賣,因爲他身體不行還是要睡覺。

第二天,大約在拍賣開始前30分鐘,

辛頓發了一封電子郵件,說拍賣開始的時間將被推遲。

大約一個小時後,他又發了一封郵件說拍賣結束了,

辛頓決定把自己賣給谷歌,

不過發給百度的郵件中,辛頓沒有說新僱主是誰。

餘凱回憶認爲辛頓的腰背健康問題很大,美國離辛頓更近,

辛頓本人如果年輕一點可能就會來百度,

辛頓後來承認自己其實更想給自己的研究找到合適的歸宿,而不是要更高的價格,

所以當他看到第一天百度一直加價時,就意識到價格還會上漲,

但辛頓覺得自己是學者不是創業者,

當時百度給他100萬美元的時候他也能接受,

如今價格達到4400萬美元簡直就像是在做夢。

10 改變世界的拍賣會

但是誰也沒想到,小房間裏的師徒三人擁有改變世界的力量。

太浩湖拍賣結束後,餘凱登上了返回北京的飛機,

雖然拍賣失利,但餘凱也非常高興,

因爲他看到百度對AI的重視,

在飛機上,餘凱還遇到了一位出生於中國的微軟科學家鄧力,兩人也是老相識,

原來鄧力就是代表微軟去拍賣出價的人,

不過由於保密協議,兩人當時都在假裝不知情的情況下刺探情報,也是比較有意思。

這次拍賣結束,辛頓乘火車回到了多倫多,

幾個月後他飛往美國加州山景城的谷歌總部,

仍然保留自己多倫多大學的教職。

這場拍賣會的主角們仍有後續故事,

餘凱在第二年春天又抵達美國硅谷Palo Alto,

與斯坦福大學教授、華裔機器學習專家Andrew Ng碰面(中文名吳恩達),

之後吳恩達飛往中國與李彥宏會面,

百度14年簽約吳恩達作爲首席科學家,

DeepMind在15年發佈AlphaGo,

ilya在15年與馬斯克、山姆奧特曼一起成立OpenAI,

馬斯克出錢、山姆奧特曼管理、ilya當首席科學家做研發,

谷歌則在2017年公開了Transformer,正式開啓了大模型時代。

ilya-OpenAI創始人

之後的幾年裏,參與競拍的哈薩比斯憑藉AlphaFold,

獲得2024諾貝爾生理學或醫學獎,

ilya成爲OpenAI首席科學家後急流勇退,

選擇再次創業,目前公司估值近千億美元,

辛頓在2018年拿下圖靈獎,2024年收穫諾貝爾物理學獎,

再回顧這些改變了歷史的傳奇科學家們的故事,也是非常有趣。

當然這一切的一切,背後站着的始終都是皮衣刀客老黃,

辛頓師徒的故事到這裏也就告一段落了,

接下來我們將繼續回到老黃主線上來。

就在辛頓把自己賣給谷歌的同時,

老黃並沒有躺平,而是繼堅持CUDA之後再現神操作,

一舉徹底擊敗AMD,奠定了英偉達在AI上的絕對統治地位,

那麼英偉達是如何抓住辛頓師徒創造的百年未有之大變局的機遇,

一舉登上4萬億美元市值寶座的呢?

欲知後事如何,且聽下回分解!

遊戲&AI系列:

老黃髮家史——英偉達市值突破4萬億,老黃的傳奇人生!

老黃髮家史——傳奇AMD工程師,老黃人生的第一份工作!

老黃髮家史——世嘉主機拯救英偉達,老黃曾差點破產!

老黃髮家史——FPS天才成就英偉達,N卡的誕生!

老黃髮家史——N卡大戰A卡,上古芯片巨頭ATI!

老黃髮家史——英偉達創造顯卡,PC遊戲的崛起!

老黃髮家史——極客玩家的一次靈感,啓發英偉達進軍AI!

老黃髮家史——讓玩家爲 AI 買單,老黃成功的祕訣!

老黃髮家史——CUDA崛起,英偉達AI的護城河!

老黃髮家史——華人AI教母李飛飛,老黃髮家的貴人!

老黃髮家史——神經網絡,AI革命的起點!

老黃髮家史——500美元的遊戲顯卡,居然開啓 AI 元年!

AI——是遊戲NPC的未來嗎?

巫師三——AI如何幫助老遊戲畫質重獲新生

你的遊戲存檔——正在改寫人類藥物研發史

無主之地3——臭打遊戲,竟能解決人類大腸便祕煩惱

一句話造GTA——全球首款A遊戲引擎Mirage上線

AI女裝換臉——FaceAPP應用和原理

AI捏臉技術——你想在遊戲中捏誰的臉?

Epic虛幻引擎——“元人類生成器”遊戲開發(附教程)

腦機接口——特斯拉、米哈遊的“魔幻未來技術”

白話科普——Bit到底是如何誕生的?

永劫無間——肌肉金輪,AI如何幫助玩家捏臉?

Adobe之父——發明PDF格式,助喬布斯封神

FPS遊戲之父——誰是最偉大的遊戲程序員?

《巫師3》MOD——製作教程,從零開始!

#gd的ai&遊戲雜談#

更多遊戲資訊請關註:電玩幫遊戲資訊專區

電玩幫圖文攻略 www.vgover.com