要搞清楚cuda是什么,先要明白cpu和gpu的区別。
cpu架构有复杂的控制单元和巨大缓存。
这种设计是为了处理复杂逻辑运算。这要求cpu必须有很强的单核性能。
但cpu物理核心数量有限,就算最高端的伺服器cpu,面对海量简单计算时,也会因为线程数量限制而排队。
快看网的推荐算法,本质是海量矩阵乘法。
这些计算本身不复杂,不需要多强逻辑推理,但数量极其庞大。
让cpu去算矩阵,是高射炮打蚊子,效率极低,而且容易把伺服器撑爆。
gpu架构完全不同。
gpu没有复杂控制单元,內部塞满了成百上千个简单的流处理器。
这些流处理器只能做基础运算。
但因为数量庞大,它们可以同时並行处理海量数据。
这完美契合了ai算法和推荐系统需要的大规模並行计算。
可是,硬体再强,也需要软体驱动。
在cuda出现前,程式设计师想用显卡算力做非图形渲染的通用计算,简直是噩梦。
他们必须把非图形数据,强行偽装成图形像素数据,通过复杂图形api通道传给显卡。
等显卡算完,还要把输出像素数据反向解析回通用数据。
这种操作极其繁琐,写错一行代码,就会导致程序崩溃。
所以,空有强大並行算力,却没人能轻易用在非游戏领域。
直到黄仁勛做出大胆决定,推出cuda。
cuda全称是计算统一设备架构。
它本质是一个软体开发平台和编程模型。
英伟达在每张显卡底层嵌入了cuda硬体指令集,同时在软体层面推出一整套编译器、库文件和开发工具。
cuda最伟大也最可怕的地方在於,它允许程式设计师直接用最普及的c语言,调用显卡底层算力。
程式设计师不再需要学晦涩的图形api,也不需要偽装数据。
只要会写c语言,只要装了cuda开发包,就能轻鬆把一段並行计算代码跑在英伟达显卡上。
这极大降低了gpu通用计算门槛。
华尔街投资人不理解,为什么一家卖硬体的公司,要养几千软体工程师维护一个免费给开发者用的平台。
但黄仁勛顶住压力,强行推广cuda。
他甚至跑到各大学计算机系,免费发支持cuda的显卡,鼓励学生用cuda做科研计算。
这是一个极度长远的阳谋。
隨时间推移,越来越多程式设计师习惯用cuda。
各种基於cuda的科学计算库、深度学习框架开始在开源社区生长。
当2025年大模型时代爆发,全球科技公司都需要海量算力训练ai时,他们发现一个绝望的现实。
所有成熟ai算法,所有好用的深度学习框架,底层代码都是基於cuda写的。
而cuda,是英伟达的私有闭源技术。
它只支持英伟达自家显卡。
如果买一批amd显卡,会发现根本无法运行主流ai算法,因为amd硬体解析不了cuda指令。
想在amd显卡上跑通大模型,必须把整个软体生態从底层重写。
这个工作量,大到没有公司愿意承担。
这就是为什么,到了ai时代,所有人都只能捏著鼻子去抢购英伟达高价算力卡。
算力可以製造,但生態一旦形成,就是一道嘆息之墙。
夏冬放下手机,揉了揉眉心。
他现在处境很矛盾。
如果批准吴泽明的迁移方案,盛夏科技算力危机立刻就能解决。
凭藉cuda的並行计算能力,快看网推荐算法效率至少提升数十倍,伺服器压力彻底释放。
但这等於替英伟达测试他们还不成熟的早期生態。
盛夏科技作为国內目前数据量最大、算法最先进的网际网路公司,一旦全面拥抱cuda,在这个平台跑通所有推荐逻辑。
那就会形成路径依赖。
盛夏科技的程式设计师会越来越习惯调用cuda函数库。
等几年后,陆奇和国內团队把盛夏科技自己的通用gpu流片成功。
夏冬总不能指望自家硬体去支持对手的私有协议。
到那时,盛夏科技自己开发的gpu,会面临完全没有软体可跑的尷尬。
要让手下这批习惯了cuda的程式设计师,重新学一套新指令集,把快看网庞大的底层代码全部重写。
那將是一场灾难。
时间成本和试错成本,都会拖垮整个公司。
夏冬在办公室里踱步。
不能因噎废食,伺服器必须救,现阶段只有英伟达显卡加cuda能解决燃眉之急。
但这口毒奶,不能毫无防备地咽下去。
一旦底层的代码全部基於cuda编写,盛夏科技的整个软体生態就会被牢牢绑死在英伟达的战车上。
將来盛夏科技自己研发的通用gpu造出来了,难道还要去恳求老黄开放接口授权吗?
老黄绝对不会同意。
到时候自己花上百亿造出来的晶片,就会变成一堆没有软体適配的废硅片。
重写底层代码?
这个体量的代码重构,必定是个大工程,伤筋动骨。
夏冬站起身,在宽敞的办公室里来回踱步。
他陷入了一个思维的死胡同。
硬体打不过,软体又被绑定。
似乎是个无解的死局。
突然,他的动作停住了。
一个极其大胆,甚至有些疯狂的想法,在他的脑海中成型。
他猛地拍了一下大腿。
暗骂自己愚蠢。
干嘛非要去跟老黄在底层硬体框架上死磕?
未来的假想敌英伟达,真正的护城河根本不是那块硅板,而是cuda这个闭源软体生態。
全球的程式设计师都习惯了用cuda写代码,这才是最可怕的路径依赖。
夏冬咧开嘴,思路瞬间全打开了。
既然cuda是护城河,那自己就不需要在起步阶段死磕硬体。
打败魔法的最好方式,就是创造一种新的魔法。
他完全可以做一个跨平台的类似cuda的底层框架。
把复杂的底层指令集全部封装起来,给程式设计师提供一套极其简单好用的高级api接口。
现阶段,这个框架的底层完美兼容英伟达的显卡,利用老黄的算力来培养自己的开发者生態。
等到几年后,盛夏科技自己的通用gpu流片成功。
开发者们根本不需要去学什么新指令集,也不用重写代码。
只需要在开发框架的后台,把运行环境从“英伟达”切换成“盛夏”就行了。
这样一来,英伟达现在卖给他的每一块显卡,都是在给盛夏科技未来的软体生態打工。
第566章 破局奇招
同类推荐:
这些书总想操我_御书屋、
堕落的安妮塔(西幻 人外 nph)、
将军的毛真好摸[星际] 完结+番外、
上门姐夫、
畸骨 完结+番外、
每天都在羞耻中(直播)、
希腊带恶人、
魔王的子宫、

