最近，英特尔和AMD相继推出了面向数据中心和高性能计算的新一代处理器，科技巨头Google和Meta也开始自研芯片，瞄准数据中心和AI计算市场。算力需求激增的背景下，芯片行业正在进入一个新的“盛世”。

英伟达作为领先的芯片制造商，更是率先提出了"芯片即系统，系统即芯片"的前沿理念。黄仁勋眼中的“芯片”是什么？英伟达CEO黄仁勋在GTC 2024大会上称，未来数据中心将取代单个芯片，成为计算系统的基本单元。

4月初，半导体领域知名分析师道格拉斯·奥劳克林(Douglas O’laughlin)发表了一篇名为《The Data Center is the New Compute Unit:Nvidia's Vision for System-Level Scaling》的分析报告系统阐述了黄仁勋眼中的“芯片”。

随着先进封装工艺将芯片内的晶体管延伸到系统级互连,随着软件定义硬件的理念将灵活性注入刚性的硅基电路,芯片、封装、系统的边界正变得愈发模糊。一个全新的计算世界,正在芯片的微观尺度上徐徐展开......

以下是这份报告中与芯片相关的几个核心观点：

1.黄仁勋眼中的“芯片”

在黄仁勋的多次演讲中,他反复强调一个重要观点:数据中心正在成为新的"算力单元"（芯片）。传统的计算系统以单个CPU或GPU芯片为核心,而未来的数据中心将犹如一个巨型芯片,通过先进的互连、冷却、封装等技术,在系统层面实现性能和效率的持续提升。

英伟达正是以这一愿景为指引,开创了计算系统发展的崭新道路。在当前摩尔定律日趋放缓的大背景下,通过软硬件协同、异构计算、芯片堆叠等创新手段,全面挖掘系统层面的优化潜力,或许是实现算力指数增长的最佳路径。英伟达先人一步,正积极引领计算行业从芯片微缩走向系统融合的巨大变革。

2.摩尔定律的跨尺度自相似性

在过去数十年间,摩尔定律描绘了集成电路进化的宏伟蓝图,而其背后的深层原理其实贯穿了从纳米级晶体管到系统级数据中心的方方面面。简而言之,摩尔定律揭示的"小即是美"的真谛,本质上是一种跨尺度的自相似性。无论是芯片内部还是机架内部,我们所面临的问题和所遵循的优化策略都是一脉相承的。

具体来说,缩小晶体管栅极、将CPU和GPU封装于同一芯片,以及将CPU、GPU、内存集成于同一机架,其驱动力和优化目标并无本质差异。它们无一例外地以"缩短物理距离、降低功耗、提高集成度、增加带宽"为目标函数。正如晶体管小型化使芯片性能获得飞跃,异构芯片互连、高密度集成也将使数据中心性能和能效获得新的突破。由此,摩尔定律所揭示的内在哲理,正在被英伟达巧妙地应用于数据中心的顶层设计。

3.芯片封装与数据中心架构的相似性

芯片封装和数据中心架构看似风马牛不相及,实则有着惊人的相似性。以英伟达的类比,机架如同一个巨型芯片,各个GPU子板犹如在先进封装中紧密堆叠的裸片,高速铜互连则扮演着封装中硅穿孔的角色。由此我们可以看到,无论是芯片级的CoWoS封装,还是机架级的NVLink互连,它们的终极目标高度一致,即实现高度异构化、模块化的集成。

这种架构相似性的意义重大。它揭示了两个不同尺度系统背后的共同逻辑和统一规律。更重要的是,它为我们在数据中心这个宏观系统中复用和放大芯片微观设计的成果智慧,提供了一把金钥匙。譬如,复杂芯片中的yield wafer、known good die测试,完全可以移植到由多个GPU子板构成的机架系统,形成一套新颖的可靠性保障机制。由此可见,充分理解和把握两个迥异系统间的相似性,对于加速数据中心的跨代进化,具有不可估量的价值。

4.先进封装基板技术的发展前景

当前,先进封装领域正酝酿一场从量变到质变的技术革命。随着硅中介、嵌入桥接等创新工艺的成熟,未来的封装基板尺寸有望较当前水平扩大十倍以上,集成度更是可期千倍增长。这使得单个封装内部的互连带宽将飙升至前所未有的新高度。以太比特级的带宽,足以在单个封装内实现CPU、内存、高速IO等的异构融合,真正做到将一个完整的计算系统"塞入"一个芯片级封装之中。

先进封装技术的突飞猛进,正悄然改变计算系统的设计范式。传统的设计需要在不同芯片之间苦心经营,以寻求性能、功耗、成本的平衡,而先进封装大大拓展了设计自由度,并将关键资源整合进一个紧凑的异构体系。面向未来的计算系统,其创新重心将从晶体管密度转移到芯片内外的互连拓扑,更加追求不同功能单元间的无缝协同。

由此,未来的计算系统无论在性能、能效还是灵活性上,都将被彻底重塑。这正是英伟达所展望的,后摩尔时代的系统新范式。

5.摩尔定律在数据中心领域的新内涵

英伟达正试图将摩尔定律的内涵,从芯片制程的演进平移到机架系统的跃迁,由此开创数据中心发展的全新路径。在当前,受物理极限和成本收益的双重制约,芯片微缩的步伐正日渐放缓。但这并非摩尔定律终结的讯号,而是其在数据中心领域焕发新生的契机。正如英伟达所倡导的,未来数据中心将成为"新的算力单元",通过顶层的系统优化继续推进性能和能效的指数增长。

在这一全新语境下,摩尔定律将不再局限于晶体管数量的增加,而是转向对机架内芯片数量和集成度的不懈追求。伴随着液冷技术拓展散热边界,铜互连技术催生高带宽革命,先进封装工艺重塑芯片形态,数据中心有望在单位体积内获得数量级的算力提升。由此,通过系统级创新延续摩尔定律的精神内核,正是英伟达构建数据中心新台阶的核心法宝。

6.计算系统设计正迎来一个崭新的时代

随着先进制程演进的边际效应递减,硬件设计的聚焦点正从晶体管微缩转向系统融合。在新的范式下,设计师需要从更高的维度俯瞰计算系统,充分发掘不同功能单元的协同增益。这对传统的硬件设计方法提出了革命性的挑战,却也开启了创新的无限可能。