知名科技公司英伟达,市值突破了4万亿美元,超过微软和苹果,成为全球市值最高的公司,在过去的30年时间里,英伟达从一家开发图形处理游戏显卡的小公司,一路成长为全球AI巨擘!欢迎大家来到老黄发家史的第13期,今天承接前12期内容,继续聊老黄的创业史!
01 一鸣惊人
上文讲到华人科学家、AI教母李飞飞,
构建了全球规模最大的数据集ImageNet,
却受学术界冷落,数据集已经到了鸡肋的程度;
老黄拒绝华尔街的建议,
仍然坚持CUDA科学计算,
牺牲玩家的利益,继续重注那虚无缥缈的未来科技;
而在多伦多大学的辛顿教授,
则在继续研究已经被判“死刑”的神经网络,
如果不出意外,65岁的辛顿即将退休,
学术生涯也再无进一步的可能!
然而转折点就在2012年,辛顿的两位学生Ilya和Alex,
省吃俭用买下了两块GTX 580的游戏显卡,
然后构建了一个当时历史上最庞大的卷积神经网络,
并且在第三届ImageNet挑战赛上一鸣惊人,
以Top-5错误率15.3%,碾压第二名(26.2%),
证明了深度卷积神经网络在大规模数据+GPU算力下的绝对优势,
直接点燃了深度学习革命,
也直接掀起了日后的大模型浪潮,
奠定英伟达的AI芯片霸主地位!
02 辛顿团队
正是因为ImageNet的功劳,李飞飞在33岁就成为斯坦福大学教授,
40岁成为美国科学院、工程院和医学院三院院士,
老黄依靠ImageNet中GTX 580打下的名声,
成为AI时代赚钱最大的受益者,
不过整个事件的主角——辛顿教授,
以及他的两位学生Ilya和Alex,
才是整个AI革命功劳最大的贡献者!
起初,Alex将自己在大赛上的神经网络命名为SuperVision,
但是人们为了纪念Alex的贡献,将神经网络命名为AlexNet。
李飞飞在ImageNet大赛的时候怀孕,
刚刚生完孩子,原本不打算参加赛后的学术会议,
当她得知AlexNet的出色成果后,改变了主意,
直接飞往佛罗伦萨想要见一见Alex。
会议上,ALex是最后一位上台演讲的嘉宾,
他的PPT上详细介绍了AlexNet的所有技术细节,
包含65万个神经元、6000万个参数,以及高达6.3亿个连接,
Alex还透露,“这个模型是在我的卧室里完成训练的,
对于能在卧室里训练的模型而言,它的规模算是相当庞大了。”
当Alex的简短演讲结束时,
场下观众并未意识到他刚刚引领了计算机科学的新革命,
甚至一些对神经网络有偏见的学者还不服气。
03 开源盛世
不过很快学术界就给予神经网络最公正的评价,
几乎所有人都被AlexNet惊人的效率吓到,
在中国人的传统观念里,
像辛顿教授这种扫地僧级别的大佬,
默默研究神经网络超过30年,终于成功获得回报,
这种属于封圣级别的科学家,
但是辛顿完全不满足于AlexNet的成果,他们师徒三人还想要更多。
就在Alex收获名声的同时,辛顿团队居然也陷入了危机,
这个危机恰恰在于Alex对其他学者完全不设防,
开源了所有的技术,在2013年的ImageNet比赛上,
神经网络的提交作品层出不穷,
到了2014年,使用这种方法的参赛者已超过40人,
卷积神经网络俨然已经成为计算机视觉的核武器,
人人都能用,毕竟技术门槛其实不高,
连老黄的旗舰卡580游戏显卡都能跑,而且用了准超神
(500美元对于很多有钱的企业来说真不算很贵)。
04 抄袭困境
其中最强大的抄袭者就是号称“不作恶”的谷歌,
他们在2014年引入Inception模块,推出了史上最大模型GoogleNet,
谷歌完全不差钱,而且英伟达显卡人人都能买到,
老黄也不介意Alex之外的研究机构找他买卡,
这也导致辛顿团队其实完全竞争不过谷歌这样的大公司,
事实上谷歌在科技界所扮演的角色和我们国内某巨头类似,
打不过就抄,反正谷歌不缺钱,
当然谷歌的这些事已经是后话了,我们接下来还是回到2012年慢慢聊。
就在Alex在佛罗伦萨公开了AlexNet的技术后,
谷歌马不停蹄在内部进行测试,
但是都没办法做出AlexNet这么好的效果,
大家都很惊讶,
因为过去都是学界先打好理论基础,然后硅谷复现摘桃子,
当时谷歌已经拥有全球最好最顶级的硬件资源和人才资源,
却打不过大学教授带俩博士生,
谷歌的感觉就是不知道从哪里冒出来三个妖人,
突然他们捣鼓出来一个新技术,然后就要改变世界了。
05 百度收购?
同年,Hinton发表了一篇只有9页的论文《ImageNet Classification with Deep Convolutional Neural Networks》,
几天后,一封来自中国的电子邮件出现在Hinton的邮箱里,
邮件的署名为余凯,辛顿记起来了余凯这个名字,
他回忆他们曾在多伦多的学术会议上有过几面之缘。
在给Hinton的邮件中,余凯博士简明表达了来意,
百度希望Hinton来到中国,
辛顿回忆这是他第一次受到工业界的邀约,
百度也是第一家抛出橄榄枝的公司,
辛顿当时就给百度余凯回信说没问题,
但是希望百度提供一些研究经费,这样辛顿就能和谷歌这样的团队竞争,
余凯回复说没问题,让辛顿开价,
辛顿回复说大概需要100万美元,
于是余凯拿着辛顿的回信找到李彦宏,李彦宏也非常支持表示认可。
后来的百度首席科学家-吴恩达Andrew Ng
这里再补充介绍下余凯博士,他曾经在微软、西门子和NEC任职,
2012年春天,余凯离开美国NEC,回国效力选择加入百度,
当时国内做AI的选择机会并不多,
百度如日中天,贵为互联网三巨头,也是最早布局AI的企业,
余凯一回国就帮百度成立了语音识别团队和图像识别团队,
快速成为行业领先水平,余凯还非常重视算力,
大量采购英伟达的GPU,开发了世界上第一个支持 GPU&CPU 的并行深度学习平台,
老黄本人一向是不和上下游搞竞争,
英伟达没必要亲自下场,只需要做好芯片,
让几家大企业去抢就行了,英伟达只需要躺着赚钱。
余凯现为地平线创始人&CEO
06 报价疑云
话接上文,等到辛顿正式接受报价的时候,
百度直接给辛顿提供了1200万美元,
接近1亿元打包拿下辛顿师徒三人,而且不要求他们做任何项目,
这样的天价也让辛顿非常激动,
毕竟当时辛顿还远没有现在这样的地位,
1200万美元从学校挖人不带任何项目专利也打破了纪录,
辛顿回信立刻答应下来,两边基本上已经接近谈妥。
但是两位俄裔数学天才ilya和Alex,可比老师会算账多了,
ilya和Alex让辛顿再回信说等两天,因为百度舍得花1200万美元,
如果他们拿着这个合约去问问谷歌这些公司,没准价格更高。
然后辛顿有些不好意思给百度回信,
询问是否可以给他们宽限几天,评估下其他的邀约,
根据Hinton的说法,他特地在多伦多找了个律师咨询,
告诉他们的现状,律师告诉Hinton有两个选择,
一是聘请一个专业谈判团队,与百度公司再谈一下,
但是这种行为可能激怒百度;
另一种选择就是举办一场拍卖会,价高者得;
辛顿衡量了一下,决定选择拍卖会模式。
07 改变世界AI格局的拍卖会
于是,这场AI历史上最重要的拍卖会展开了,
一共有四家公司参与竞拍,
多年后新闻只公开了两家公司,分别是谷歌和微软,
辛顿曝光第三家公司是百度,
而第四家公司当时还没有什么名气,参与拍卖时候只成立了两年,
这家公司名字叫DeepMind,
几年后他们发明的AlphaGo将打败柯洁和李世石,
而DeepMind创始人神经科学家戴密斯·哈萨比斯将获得2024年诺贝尔奖。
在举行拍卖的那一周,谷歌的工程主管阿兰·尤斯塔斯驾驶自己的双引擎飞机,
直接飞抵太浩湖南岸附近的机场,
与他同行的正是谷歌的传奇程序员Jeff Dean,
两人邀请辛顿和两名学生一起在哈拉斯赌场酒店顶楼的餐厅共进晚餐,
当天还是辛顿的65岁生日,谷歌的诚意十足,表明来意,
Alex和ilya看到Dean也是吓了一跳,
辛顿回忆说自己和四家公司参与拍卖的人都分别见过面,
但是参与拍卖的四家公司彼此都不见面。
08 微软 VS 谷歌 VS 百度
辛顿将拍卖地点也定在哈拉斯赌场酒店的房间,
拍卖会以邮件的形式进行,两位学生会发邮件给各家通报最新的报价,
微软当时已经透过内部消息打探到谷歌也在报价,
微软抱怨辛顿使用Gmail通信,
他们担忧谷歌会偷看邮件窃取微软的秘密信息,
但是辛顿认为谷歌不会违背用户条款,
但现实是,如果谷歌违反了这些条款,可能也没有人会知道。
拍卖规则是每家公司有一个小时的时间将报价提高至少100万美元,
以倒计时一小时为准,一个小时之后,
如果没有新的报价出现,当天的拍卖就结束。
辛顿回忆,DeepMind没有现金,
而是直接用公司股份报价,所以很快就退出了
(事后来看DeepMind的股权才是最值钱的,而且科研气氛最浓),
百度、谷歌和微软留了下来,
第二份报价就到了1500万美元,
然后是2000万美元,微软宣布退出,
但是不知道有什么原因微软又重新回来了,拍卖继续。
报价到2200万美元时,辛顿暂停了拍卖,
他与其中一名竞拍者进行了讨论,半个小时之后,微软再次退出,
于是只剩下百度和谷歌两家,
随着时间的推移,两家公司的报价更高了,
一开始百度这边还是余凯报价,
到了2400万美元的时候,辛顿说一名百度的高管从北京接手了拍卖,
余凯时不时会去辛顿的房间看看报价到了多少,百度这边进度一下子慢了下来。
deepmind 哈萨比斯
09 天价拍卖
辛顿老头回忆,说他当时其实不想与余凯见面,
因为辛顿年龄大了,去太浩湖都经常生病,
那里的空气寒冷、稀薄且干燥,
辛顿担心自己在拍卖时可能会再次生病,
于是在房间里用折叠沙发上的坐垫和熨衣板搭了一个雨棚加湿空气,
所以余凯每次进房间,
辛顿都会让两位学生将坐垫、熨衣板和湿毛巾都藏起来。
百度一直愿意出更高的价格,
2500万美元、3000万美元、3500万美元,
但是百度每次跟价都会在一个小时倒计时终止前的一两分钟才会出现,
所以拍卖会时间拉得很长。
太浩湖
辛顿将窗口时间从一个小时缩短到30分钟,
价格迅速攀升至4000万美元、4100万美元、4200万美元、4300万美元,
接近午夜,当价格达到4400万美元时,
辛顿再次暂停了拍卖,因为他身体不行还是要睡觉。
第二天,大约在拍卖开始前30分钟,
辛顿发了一封电子邮件,说拍卖开始的时间将被推迟。
大约一个小时后,他又发了一封邮件说拍卖结束了,
辛顿决定把自己卖给谷歌,
不过发给百度的邮件中,辛顿没有说新雇主是谁。
余凯回忆认为辛顿的腰背健康问题很大,美国离辛顿更近,
辛顿本人如果年轻一点可能就会来百度,
辛顿后来承认自己其实更想给自己的研究找到合适的归宿,而不是要更高的价格,
所以当他看到第一天百度一直加价时,就意识到价格还会上涨,
但辛顿觉得自己是学者不是创业者,
当时百度给他100万美元的时候他也能接受,
如今价格达到4400万美元简直就像是在做梦。
10 改变世界的拍卖会
但是谁也没想到,小房间里的师徒三人拥有改变世界的力量。
太浩湖拍卖结束后,余凯登上了返回北京的飞机,
虽然拍卖失利,但余凯也非常高兴,
因为他看到百度对AI的重视,
在飞机上,余凯还遇到了一位出生于中国的微软科学家邓力,两人也是老相识,
原来邓力就是代表微软去拍卖出价的人,
不过由于保密协议,两人当时都在假装不知情的情况下刺探情报,也是比较有意思。
这次拍卖结束,辛顿乘火车回到了多伦多,
几个月后他飞往美国加州山景城的谷歌总部,
仍然保留自己多伦多大学的教职。
这场拍卖会的主角们仍有后续故事,
余凯在第二年春天又抵达美国硅谷Palo Alto,
与斯坦福大学教授、华裔机器学习专家Andrew Ng碰面(中文名吴恩达),
之后吴恩达飞往中国与李彦宏会面,
百度14年签约吴恩达作为首席科学家,
DeepMind在15年发布AlphaGo,
ilya在15年与马斯克、山姆奥特曼一起成立OpenAI,
马斯克出钱、山姆奥特曼管理、ilya当首席科学家做研发,
谷歌则在2017年公开了Transformer,正式开启了大模型时代。
ilya-OpenAI创始人
之后的几年里,参与竞拍的哈萨比斯凭借AlphaFold,
获得2024诺贝尔生理学或医学奖,
ilya成为OpenAI首席科学家后急流勇退,
选择再次创业,目前公司估值近千亿美元,
辛顿在2018年拿下图灵奖,2024年收获诺贝尔物理学奖,
再回顾这些改变了历史的传奇科学家们的故事,也是非常有趣。
当然这一切的一切,背后站着的始终都是皮衣刀客老黄,
辛顿师徒的故事到这里也就告一段落了,
接下来我们将继续回到老黄主线上来。
就在辛顿把自己卖给谷歌的同时,
老黄并没有躺平,而是继坚持CUDA之后再现神操作,
一举彻底击败AMD,奠定了英伟达在AI上的绝对统治地位,
那么英伟达是如何抓住辛顿师徒创造的百年未有之大变局的机遇,
一举登上4万亿美元市值宝座的呢?
欲知后事如何,且听下回分解!
游戏&AI系列:
老黄发家史——英伟达市值突破4万亿,老黄的传奇人生!
老黄发家史——传奇AMD工程师,老黄人生的第一份工作!
老黄发家史——世嘉主机拯救英伟达,老黄曾差点破产!
老黄发家史——FPS天才成就英伟达,N卡的诞生!
老黄发家史——N卡大战A卡,上古芯片巨头ATI!
老黄发家史——英伟达创造显卡,PC游戏的崛起!
老黄发家史——极客玩家的一次灵感,启发英伟达进军AI!
老黄发家史——让玩家为 AI 买单,老黄成功的秘诀!
老黄发家史——CUDA崛起,英伟达AI的护城河!
老黄发家史——华人AI教母李飞飞,老黄发家的贵人!
老黄发家史——神经网络,AI革命的起点!
老黄发家史——500美元的游戏显卡,居然开启 AI 元年!
AI——是游戏NPC的未来吗?
巫师三——AI如何帮助老游戏画质重获新生
你的游戏存档——正在改写人类药物研发史
无主之地3——臭打游戏,竟能解决人类大肠便秘烦恼
一句话造GTA——全球首款A游戏引擎Mirage上线
AI女装换脸——FaceAPP应用和原理
AI捏脸技术——你想在游戏中捏谁的脸?
Epic虚幻引擎——“元人类生成器”游戏开发(附教程)
脑机接口——特斯拉、米哈游的“魔幻未来技术”
白话科普——Bit到底是如何诞生的?
永劫无间——肌肉金轮,AI如何帮助玩家捏脸?
Adobe之父——发明PDF格式,助乔布斯封神
FPS游戏之父——谁是最伟大的游戏程序员?
《巫师3》MOD——制作教程,从零开始!
#gd的ai&游戏杂谈#
更多游戏资讯请关注:电玩帮游戏资讯专区
电玩帮图文攻略 www.vgover.com