日月光用于AI和HPC的异质整合先进封装解决方案

作者：Yin Chang -日月光销售与行销资深副总

世界正迅速从网络经济转向人工智能经济。在网络时代，我们通过手机、个人电脑和物联网设备等，可以一天24小时不间断地保持网络连接；在AI时代，我们所做的一切都将与人工智能相关联。您可能已经听说过像 ChatGPT 或 Google Gemini 这样的AI工具，它们可以回答问题并创建非常类人的(human-like)文字、图像、甚至视频文件。未来，多模态人工智能(multimodal AI)甚至可以模仿人类的生物感官，使其能够看到、听到、甚至闻到所需事物。此外，主动式人工智能(agentic AI)将能够理解其周遭环境，自主设定目标，并在几乎没有直接人为监督的情况下，采取行动以实现这些目标。这仅仅只是人工智能给我们生活带来变革的几个例子。要实现AI变革还需要更多创新和更先进的半导体及封装解决方案。

人工智能带来哪些影响？

回顾历史上由科技驱动的成长机会，我们可以看到每个科技转折点都增加了对半导体元器件的需求。50 年前，一台航天器仅需数千个半导体元件，但随着用户手机需求的剧增，这个数字已增加到 20 亿，而智能物联网需求量更是高达 100 亿。

我们相信，AI的需求量将在短时间上升至300 亿。因为我们预期PMMP（People-Machine-Machine-People）通讯模式将成为新常态，每个用户的手机都将运行各式各样的AI应用程序并连通多个云端服务器以提供大家所需的资讯和功能。这些机器与机器间的相互协作将大幅增加，推动半导体产值冲破1万亿美元。

迈向AI时代：通过异质整合克服挑战

进入人工智能(AI)时代，规模扩展(scaling)面临许多重大挑战。过去两年（2021~2022），对于AI/ML 的市场需求增加至将近 6.8倍~11倍，远超摩尔定律晶体管数量每 18 个月翻一番的增幅。

能耗是另一个挑战，在未来十年内，AI产业将建置达千兆位(zettabyte)级别的数据中心，需要 500 兆瓦(MW)电力驱动，约相当于半个核电厂的输出。从长远而言，这是非常之不具备可持续性的，我们需要找到更节能的方式来满足人工智能经济算力（Computing Power）需求。

成本也是考虑重点之一，尽管半导体制程新节点导入速度正在减缓，但生产成本仍在不断增加。5 纳米(5 nm)先进 IC 设计的开发成本可能高达 5 亿美元，大部分用户都无法负担。

我们需要寻找新的突破点，日月光认为异质整合是关键，它提供了一种可减少能耗、超越“摩尔定律”并降低整体开发成本的方法。

用于AI & HPC的异质整合先进封装

日月光先进封装技术可以将各种单一元件整合到小芯片(Chiplets)、系统级封装(SiP) 或模块中，即使这些组件的材料、制程节点和制造技术完全不同。异质整合不仅可以增加功能密度，降低每个功能的成本，还为系统架构师提供了设计灵活性，用以创建增强系统性能和效率的创新解决方案，以满足人工智能(AI)和高性能计算(HPC)的需求。

我们的次世代 3D 异质整合架构 VIPack 设计旨在扩展设计规则，实现以下目标：

通过顶尖的硅供应商实现最大化的频率速度与性能

优化共同设计、产品开发和上市时程

与我们的晶圆厂/供应链协同合作的开放式硅生态系统

VIPack 由六大核心封装技术组成，包括: 基于高密度重布线( RDL)技术的 FOPoP、 FOCoS、FOCoS-Bridge和FOSiP，以及基于硅通孔(TSV)技术的 2.5D/3D IC 和Integrated Optics。通过利用我们的数据库及与 EDA 供应商（如 Cadence、Synopsys、Xilinx 等）合作，我们导入整合设计生态系统 (Integrated Design Ecosystem，简称IDE)，旨在帮助客户更快、更有效率地设计封装解决方案。

请参考下图，了解日月光为用于训练的 GPU 和AI 加速器提供的先进封装解决方案。

人工智能和数据将持续推动半导体创新呈指数级增长，以我们想象不到的方式重塑世界生活方式。异质整合先进封装在AI经济改变世界的过程中扮演关键角色，为 AI 芯片架构师提供创新解决方案，优化芯片布局提升性能与功耗效率。

我们坚信，人工智能经济的增长潜力是无限的。预期的1万亿美元半导体市场只是我们通过先进封装解决方案和创新所能实现的开端。日月光很高兴与客户携手合作，突破极限，共同塑造人工智能经济的未来。