亚图小说网
首页 > 都市言情 > 来财 >

第446章 有人欢喜有人骂

章节目录

  姜森被桑伯元巧夺天工的构思给惊呆了。

  首先是“数据流的去中心化”。

  传统像英伟达A100芯片的设计逻辑是有一个强大的中央计算核心,数据从内存搬进核心,算完再搬出去。

  搬来搬去的过程,消耗了60%以上的功耗和延迟。

  但桑伯元的设计架构做的是“分布式近存计算”,没有中央核心。

  整个芯片由几百个微小的计算单元组成,每个单元旁边就贴着它专属的存储区块。

  数据不需要搬运。

  计算发生就在数据所在的地方。

  其次是计算精度的“动态配速”。

  在AI训练中并不是所有计算都需要同样的精度,人脸识别需要高精度,但背景噪点可以用低精度处理。

  传统芯片的计算精度是固定的,要么全高精度(算得慢、功耗高),要么全低精度(算得快但不准)。

  但是桑伯元的调度器可以实时监测每一帧数据、每一个矩阵的“信息熵”和“权重敏感性”。

  自动判断这个部分需要FP16高精度,还是可以用INT8低精度甚至更低的二进制运算?

  精度不是全局设置,而是逐层逐点动态分配。

  他在华芯存储的尽调报告里读到过。

  这种“动态精度”在理论上可以节省30%到50%的功耗。

  但是实现的难度非常高,因为调度器本身的逻辑复杂度会吃掉省下来的功耗。

  但是桑伯元做的调度器功耗却非常低。

  因为他用了一种叫“随机稀疏采样”的算法。

  不需要完整计算每个值,只需要从数据流中抽取足够代表的总体样本,就能推断全局精度需求。

  姜森心里面惊叹不已。

  “这是用统计学替换了计算啊。不是算得更快,是判断得更聪明。”

  “妈的,真是鬼才啊!”

  “怪不得硅谷搞AI的大半都是夏国人,这脑子真是绝了~”

  不过真正让他叹为观止是最后的三层堆叠中的“热层”。

  众所周不知,传统3D芯片的死穴是热,叠得越高,中间层越热,性能反而下降了。

  桑伯元的解决方案是把散热层做成“主动热层”。

  散热层不仅仅是导热片,它本身包含微流控通道,是在芯片内部流动的冷却液。

  但更绝的是,这些尾流控通道的分布不是均匀的,而是根据计算层的热量分布图来定制的,哪块热哪里的通道就密。

  就像一个城市的排水系统,不是统一建水管,而是根据每个区域的降雨量定制管径和密度。

  这意味着,在相同功耗下,他的芯片可以跑得更久而不降频了。

  很多高性能芯片在实验室里的数据好看,但放到真实数据中心跑两三个小时就开始降频了,实际性能远低于峰值。

  姜森缓缓放下技术方案书,直勾勾的看着桑伯元。

  桑伯元则是一脸忐忑的看着姜森。

  姜森问道:“你们这个核心技术方案书给很多VC看过吧?”

  桑伯元点头,“对。”

  姜森:“人家怎么说?”

  “哎!”

  桑伯元深深叹息了一声。

  “他们理解不了。”

  姜森闻言忍不住哈哈大笑了起来。

  “他们理解不了就对了!”

  “投资人看得懂市场报告,看得懂猜财务模型,也看得懂工艺参数以及对标数据。”

  “但是他们理解不了你背后的那一整套设计思路!”

  “传统思路里面更快的马车等于更大的发动机、更粗的轮子、更快的马。”

  “但是你直接换了一种交通工具。”

  “英伟达走的是堆核心路线,你也堆核心,那我理解。但你走的是什么路线?我没见过,所以我没法判断风险。”

  听到姜森的话,桑伯元激动的浑身颤抖不已。

  他原本以为姜森和其他的VC一样,会对他的技术方案提出一大堆的小白问题。

  然后婉拒他。

  可是万万没想到,他是真懂啊!

  “你……你真得看懂了?”

  桑伯元真得不敢相信,姜森随便翻翻技术方案书,居然理解了他的核心设计思想。

  这根本不可能!

  要知道,哪怕是第一家本身就是资深工程师出身的VC,拿到他的技术方案书,研究了足足两三天才理解。

  首先眼看懂他在说什么?

  光一点就足以pass掉99%的人。

  然后要理解他为什么这么做?

  以及自己再去推演一遍,在芯片内部实现“分布式近存计算”到底可不可能?

  有没有他没提到的隐藏问题?

  但是姜森,据他所知,不过是临海市某大专院校的工科生,而且一点芯片相关知识都没有。

  他真得不相信对方随便翻翻就能看懂他的技术方案书。

  姜森看着桑伯元那一脸震惊难以自信的模样,内心也是得意非凡。

  他虽然不是芯片工程师,但是这几年因为投资原因,接触了大量相关电子行业。

  实际上他投资的实体产业主要就分两大块,一个新能源,一个微电子相关。

  他有相当扎实的基础知识,有大量的研报阅读量,跟几十个顶级芯片设计师的聊天记忆。

  再加上预见能力升级后的“回放式重读”能力。

  毫不夸张的说,这个世界上没有多少人比他更懂芯片!

  “你那个状态寄存器的共享总线,是所有计算单元共享同一条状态总线对吧?”

  “是!”

  “那在推理阶段,如果你的几百个计算单元同时在做不同类型的精度计算,有的在FP16,有的在INT8,有的在做二进制运算…状态总线上会同时刷新几百次状态位,你打算怎么处理总线上的状态冲突?或者说,你的调度器在分配任务的时候,有没有办法让状态位的刷新时序错开呢?”

  桑伯元:“……”

章节目录
书友推荐: 掌出笑傲,睥睨诸天 从采珠疍户开始无限就职 贞观六年,世民亦未寝 宝可梦:关于饲育屋那些事 废土边境检查官 活人深处 我的姐姐是恶役千金大小姐 全球帝国从明末开始 同时穿越:我在诸天证大道 军工科技 1977:从恢复高考到大国工匠 狗头人的巫师日志 腐化求生 武动:我林琅天,不做配角 副本0容错,满地遗言替我错完了 国宝竟是我自己 斗罗:重生雨浩,她们眼神不对劲 为武道狂,拳压诸天 星际破烂女王 娱乐大亨:从培养天仙开始