亚图小说网
首页 > 都市言情 > 谈什么恋爱,组一辈子科研组吧! >

第294章 在小小的谷歌里挖呀挖呀挖

章节目录

  其实整个AI圈子,都没有人知道最前沿最先进的是什么。

  或者说,AI的发展不像科技树。

  它根本就不是一个单方向稳定发展的领域,而像是一个圆圈,每个人都在尝试往着这个圆圈的边界去突破。

  最先找到突破口的人就最容易破坏这个结构,然后引发更多的人顺着这个缺口往外冲,所以整个AI的发展就会变得畸形。

  畸形的AI发展最终会落在应用层面。

  当然,这也是后话了。

  三人站在岑言面前左思右想、抓耳挠腮,想了半天都没想到有什么人脉在谷歌。

  岑言也只能摆了摆手,让他们继续去忙。

  自己则是研究其他的门路。

  还是得先看看论文原文标注的分工里,负责工程落地、代码实现、模型训练、系统优化的核心工程师们主要是谁?

  靠在椅子上闭目养神。

  实则进入了久违的记忆图书馆中,翻阅起了《Attention is all you need》的原文。

  这篇论文的8位作者里,有六位都是核心工程师。

  按照论文标注的分工来看。

  来自Google Brain团队的阿西什·瓦斯瓦尼和来自Google Research的伊利亚·波洛苏欣共同设计并且实现了首个Transformer原型。

  阿西什深度参与全流程工程与实验,伊利亚则是负责核心代码和训练稳定性。

  阿西什是印度裔,南加大计算机博士。

  伊利亚则是乌克兰人,工程师出身。

  尼基·帕尔马则是负责在原始代码库和T2T中实现、调参、评估无数样本变体,做工程验证的主力。

  也是南加大的计算机硕士,之后更是和阿西什一同创办了Adept AI。

  曾当过YouTube工程师,毕业于英国伯明翰大学的利昂·琼斯则是负责初始代码库、高效推理实现、可视化工具等。

  也是之后一直留在谷歌,负责Transformer工程化的核心工程师。

  卢卡斯·凯泽、艾丹·戈麦斯则是负责共同设计实现T2T框架,重构代码库,支撑大规模GPU训练和实验流水线的核心成员。

  前者是分布式系统和ML框架专家,后者则是Brian团队的实习生,之前是多伦多大学的本科生,在辛顿实验室实习过。

  别看最后一位是实习生。

  但他的背景可一点都不差。

  辛顿实验室是深度学习教父、神经网络之父杰弗里·辛顿的科研团队。

  全称是神经计算与自适应感知实验室。

  可以说是深度学习革命的核心发源地。

  人家虽然年纪小,人家虽然是实习生,可人家根正苗红啊。

  这六个人。

  那可一点都不好挖。

  看似关系不是特别大,实则他们之间都是盘根错节的小团体。

  阿西什和尼基是校友,虽然两人不在同一个研究团队,可一直关系密切。

  之后,在Transformer框架落地后,他们俩也联手离开谷歌,自主创业。

  而伊利亚和艾丹,严格来算,是师兄弟。

  因为伊利亚可是辛顿的博士生。

  之后更是成为OpenAI的联合创始人、首席科学家,参与了AlexNet、GPT系列的核心研发。

  像他们这种关系很硬的。

  岑言是连想都不用想。

  人家根本就不可能放弃现有的资源和背景,以及谷歌那不可计数的投入。

  跨过大洋彼岸,跑来他这边干活的。

  岑言唯二可以考虑的。

  就是身为波兰裔的卢卡斯·凯泽,和勤勤恳恳的老黄牛利昂·琼斯。

  难。

  实在是难。

  因为岑言也去看了这两位的背景。

  如果说中华科研界目前冉冉升起的新星是岑言的话。

  那卢卡斯·凯泽也应该能算是波兰学术界的顶尖天赋型新星。

  他并不是传统的纯NLP出身,而是主攻数学出身的。

  本科和硕士在波兰就读,博士在德国亚琛工业大学就读。

  他原本是研究符号逻辑和自动定理证明的,后来才跨界深度学习,开始做算法转化工程化的工作。

  他极其擅长把算法做成可工业化的框架。

  在某种程度上来说,也是目前岑言能看到最适配自己的人。

  而另一位,利昂·琼斯。

  利昂哥还是长得挺帅的,还是威尔士人,纯工程出身,自学机器学习的利昂哥,根本就和传统学术路径不沾边。

  他是纯纯的野路子实战派。

  曾经是软件工程师,主攻CAD、CAM系统开发。

  又去YouTube当了三年后端工程师,负责大规模视频系统和数据管道。

  更重要的是。

  他距离岑言很近,物理意义上的近。

  或许是和从小接触的文化有关,利昂哥很喜欢东方文化。

  当然了,他现在待在的东京。

  虽然是Transformer核心工程的负责人,但他一直以来都不在美国本土工作,而是待在谷歌东京团队。

  虽然他在转化方面不一定有比卢卡斯强。

  但岑言觉得这老哥好挖的原因是他的个性。

  利昂哥在之后曾经公开表态过“我正在努力取代Transformer”。

  一个在职期间兢兢业业,认认真真的老黄牛。

  甚至是打造出Transformer框架的八人中最晚离开谷歌的那个。

  在大家都以为他对谷歌充满了热忱的挚爱时。

  他跳出来,开始批判创新,主动想要去探索下一代的架构。

  这样的人是最容易被撬动的。

  倒不是因为他天生脑后有反骨。

  而是他同时具备了实干主义和创新精神。

  说实话,把算法转化成框架这件事,岑言自己咬咬牙跟周志云努努力也是能干。

  但是能写高性能底层,能扛大规模训练的实干型工程师,可没那么好找。

  琼斯哥是最能看见的。

  他也是八人中最偏实战的那位。

  真要挖,其实应该先挖他。

  岑言挠头思索。

  人选是锁定了,卢卡斯·凯泽和利昂·琼斯。

  但问题是。

  怎么联系上这两个老哥?

  直接去谷歌的官网搜索这两位老哥的个人信息,给他们邮箱里面发邮件吗?

  那万一他们俩要是不看邮箱的话,等到回复,估计Transformer都出来了。

  而且,其实关键的是。

  Transformer的研究脱离不了T2T的帮助,岑言还得考虑考虑T2T怎么办。

  T2T,即Tensor2Tensor,是Google Bryon团队在明年才会开源的一个深度学习架构。

  其核心作用是在简化复杂模型的训练和实验,尤其以支持Transformer架构和Seq2Seq任务著称。

  拥有统一框架、模块化设计、开箱即用、高效训练等特点。

  要是没有这类型的框架,那在Transformer原理的复现和研究,或者是要进行快速原型验证时,都会很费力。

  不过这一点岑言倒是有新的解法。

  也不一定非要用T2T,提前用上后续才出现的Tarx,或者Hugging Face Transformers之类的主流框架也行。

  在他记忆图书馆里,那些的相关资料要比T2T的多。

  最重要的还是要先把人接过来。

  岑言坐在办公桌前发呆。

  不知道什么时候,窗外的天空已经变得暗淡下来。

  实验室的大家也开始有条不紊地收拾好自己的东西离开。

  没有人打扰在沉思的主任。

  毕竟岑主任的想法,凡人是很难懂的。

  白棠和梁晓鸥没走,她们俩耐心的陪伴岑言,等待他一起下班,一起吃饭。

  岑言缓过神来,才看到她们俩,一个趴在桌上打盹,一个在看手机。

  看起来无精打采的。

  这段时间的工作压力不小,看样子是真累着了。

  看了眼时钟,都已经快9点了。

  大家都还没有吃饭,难怪没精打采。

  “不好意思,我……”

  岑言有些歉意地开口道。

  “你终于好了?那走吧,你拖了我们这么久,今天晚上可要请我们吃好吃的。”

  没让岑言把歉意的话说出口,梁晓鸥果断地打断了他的发言。

  主动要求他赔礼,只不过梁晓鸥说的时候却在朝岑言使眼色,示意他看白棠。

  白棠此时有些披头散发地趴在桌上,整个人像是被抽干了灵魂的幽灵。

  一听到吃好吃的,又像回光返照一样,猛然起身。

  “吃!”

  岑言一愣,扑哧一笑,原本的歉意瞬间消弭,他动作迅速地收拾起桌上的东西。

  “好,走,想吃什么都行。”

章节目录
书友推荐: 同时穿越:我真是一点苦都不吃 50年代:从一枚储物戒开始 地球电影院 强制平仓:从炒黄金外汇开始暴富 在恐怖电影里力大无穷 权游:我有一个星露谷面板 我在北海道教吹奏 帝皇在上 青葫剑仙 模拟成真,我曾俯视万古岁月? 直播鉴宝:你这精灵可不兴育啊! 洪荒:重生一气仙,稳健修行 登神:从双职业开始 洪荒:卷出一个混元大罗 我在现代留过学 时空救援 重生在电影的世界 绑定打卡系统,我成了悠闲旅行家 美漫之手术果实 综武:那一夜,黄蓉从天而降