姜森被桑伯元巧夺天工的构思给惊呆了。
首先是“数据流的去中心化”。
传统像英伟达A100芯片的设计逻辑是有一个强大的中央计算核心,数据从内存搬进核心,算完再搬出去。
搬来搬去的过程,消耗了60%以上的功耗和延迟。
但桑伯元的设计架构做的是“分布式近存计算”,没有中央核心。
整个芯片由几百个微小的计算单元组成,每个单元旁边就贴着它专属的存储区块。
数据不需要搬运。
计算发生就在数据所在的地方。
其次是计算精度的“动态配速”。
在AI训练中并不是所有计算都需要同样的精度,人脸识别需要高精度,但背景噪点可以用低精度处理。
传统芯片的计算精度是固定的,要么全高精度(算得慢、功耗高),要么全低精度(算得快但不准)。
但是桑伯元的调度器可以实时监测每一帧数据、每一个矩阵的“信息熵”和“权重敏感性”。
自动判断这个部分需要FP16高精度,还是可以用INT8低精度甚至更低的二进制运算?
精度不是全局设置,而是逐层逐点动态分配。
他在华芯存储的尽调报告里读到过。
这种“动态精度”在理论上可以节省30%到50%的功耗。
但是实现的难度非常高,因为调度器本身的逻辑复杂度会吃掉省下来的功耗。
但是桑伯元做的调度器功耗却非常低。
因为他用了一种叫“随机稀疏采样”的算法。
不需要完整计算每个值,只需要从数据流中抽取足够代表的总体样本,就能推断全局精度需求。
姜森心里面惊叹不已。
“这是用统计学替换了计算啊。不是算得更快,是判断得更聪明。”
“妈的,真是鬼才啊!”
“怪不得硅谷搞AI的大半都是夏国人,这脑子真是绝了~”
不过真正让他叹为观止是最后的三层堆叠中的“热层”。
众所周不知,传统3D芯片的死穴是热,叠得越高,中间层越热,性能反而下降了。
桑伯元的解决方案是把散热层做成“主动热层”。
散热层不仅仅是导热片,它本身包含微流控通道,是在芯片内部流动的冷却液。
但更绝的是,这些尾流控通道的分布不是均匀的,而是根据计算层的热量分布图来定制的,哪块热哪里的通道就密。
就像一个城市的排水系统,不是统一建水管,而是根据每个区域的降雨量定制管径和密度。
这意味着,在相同功耗下,他的芯片可以跑得更久而不降频了。
很多高性能芯片在实验室里的数据好看,但放到真实数据中心跑两三个小时就开始降频了,实际性能远低于峰值。
姜森缓缓放下技术方案书,直勾勾的看着桑伯元。
桑伯元则是一脸忐忑的看着姜森。
姜森问道:“你们这个核心技术方案书给很多VC看过吧?”
桑伯元点头,“对。”
姜森:“人家怎么说?”
“哎!”
桑伯元深深叹息了一声。
“他们理解不了。”
姜森闻言忍不住哈哈大笑了起来。
“他们理解不了就对了!”
“投资人看得懂市场报告,看得懂猜财务模型,也看得懂工艺参数以及对标数据。”
“但是他们理解不了你背后的那一整套设计思路!”
“传统思路里面更快的马车等于更大的发动机、更粗的轮子、更快的马。”
“但是你直接换了一种交通工具。”
“英伟达走的是堆核心路线,你也堆核心,那我理解。但你走的是什么路线?我没见过,所以我没法判断风险。”
听到姜森的话,桑伯元激动的浑身颤抖不已。
他原本以为姜森和其他的VC一样,会对他的技术方案提出一大堆的小白问题。
然后婉拒他。
可是万万没想到,他是真懂啊!
“你……你真得看懂了?”
桑伯元真得不敢相信,姜森随便翻翻技术方案书,居然理解了他的核心设计思想。
这根本不可能!
要知道,哪怕是第一家本身就是资深工程师出身的VC,拿到他的技术方案书,研究了足足两三天才理解。
首先眼看懂他在说什么?
光一点就足以pass掉99%的人。
然后要理解他为什么这么做?
以及自己再去推演一遍,在芯片内部实现“分布式近存计算”到底可不可能?
有没有他没提到的隐藏问题?
但是姜森,据他所知,不过是临海市某大专院校的工科生,而且一点芯片相关知识都没有。
他真得不相信对方随便翻翻就能看懂他的技术方案书。
姜森看着桑伯元那一脸震惊难以自信的模样,内心也是得意非凡。
他虽然不是芯片工程师,但是这几年因为投资原因,接触了大量相关电子行业。
实际上他投资的实体产业主要就分两大块,一个新能源,一个微电子相关。
他有相当扎实的基础知识,有大量的研报阅读量,跟几十个顶级芯片设计师的聊天记忆。
再加上预见能力升级后的“回放式重读”能力。
毫不夸张的说,这个世界上没有多少人比他更懂芯片!
“你那个状态寄存器的共享总线,是所有计算单元共享同一条状态总线对吧?”
“是!”
“那在推理阶段,如果你的几百个计算单元同时在做不同类型的精度计算,有的在FP16,有的在INT8,有的在做二进制运算…状态总线上会同时刷新几百次状态位,你打算怎么处理总线上的状态冲突?或者说,你的调度器在分配任务的时候,有没有办法让状态位的刷新时序错开呢?”
桑伯元:“……”