Chiplet&互联要闻分享 「奇说芯语 Kiwi talks」

Chiplet&互联要闻

  1、英特尔预计在“Clearwater Forest”采用独立IO

英特尔计划推出一款名为“Clearwater Forest”的高核心数服务器CPU，采用18A工艺、PowerVIA以提高性能和能效。该CPU将采用多种封装技术，如Foveros Direct 3D直接铜键合和EMIB 3.5D技术，以优化SRAM和I/O的封装。

Intel Foveros Direct 3D

Intel EMIB 3.5D

值得一提的是，在封装方面，英特尔表示将使用其他工艺节点来封装 SRAM 和 I/O，因为它们在较新的工艺上扩展性不佳。

若18A工艺可以按时交付，与 2024 年第一季度的 Xeon 相比，Clearwater Forest 通过大量的 E 核、更大的缓存和更多的 I/O ，将有机会改变游戏规则。

2、Meta 基于RDMA和 RoCE构建 GenAI 基础设施

为确保每天处理数百万亿个AI模型执行的数据中心可以高效运行，Meta正建立强大的AI基础设施，包括两个装有24k GPU的集群，以支持开放计算和AI模型，如Llama 3的开发。

其中，Meta基于Arista 7800以及Wedge400和Minipack2 OCP 机架交换机构建了一个具有融合了 RDMA和 RoCE的网络结构解决方案的集群。另一个集群采用NVIDIA Quantum2 InfiniBand fabric。这两种解决方案的互联均为400 Gbps endpoint。

通过对网络、软件和模型架构的仔细协同设计，Meta 成功的将 RoCE 和 InfiniBand 集群用于大型 GenAI 工作负载（包括在 RoCE 集群上持续训练 Llama 3）。Meta计划到2024年底，扩展其GPU数量至350,000，推动人工通用智能（AGI）的进展。

3、TSMC推出新技术以增强高性能计算芯片互联

近日，台积电推出了一个新的封装平台，旨在通过使用硅光子学改善高性能计算和人工智能芯片的互连带宽。

该技术通过硅光子传输数据和异构芯片堆叠，以提升AI加速器的性能，并支持增加更多高带宽内存和芯粒。为了解决添加更多HBM和芯粒带来的互连和电源问题，这项技术采用了混合键合、集成稳压器，以及可能的本地硅中介层。据TSMC称，此技术有望将今日最先进芯片的晶体管数量从1000亿提升至1万亿，对AI领域造成重大影响。

高性能计算应用探索

1、英特尔拓展代工业务，寻求与NVIDIA、AMD合作

英特尔正努力扩大其代工业务，以寻求将高通、谷歌、微软，甚至NVIDIA、AMD纳为自家客户，并通过分离其设计和代工部门的名称（可能还包括结构）来进行战略转型。

Pat Gelsinger近期宣布，将很快发布设计和代工部门的独立财务报告，并计划创建一个专注于最大化制造能力的独立法人实体。此外，Gelsinger提到，采用英特尔20A/18A工艺节点设计的基于Arm的Neoverse处理器即将开始生产。

不过也有评论认为，台积电之所以能成为领先的晶圆厂，是因为它做到了完全中立，以及具有实现其路线图的悠久历史。“如果英特尔想要为 AMD、Arm 和 NVIDIA 生产芯片，它可能不得不砍掉一只手臂以示善意。”

2、AGI 原型即将正式运行

SingularityNET创始人Ben Goertzel表示，人工通用智能（AGI）的早期原型框架可能会在2025年运行。在Goertzel 所发表的AGI新书《意识爆炸》中，他表示，AGI将带来巨大的好处，可能会把人类从重复性劳动中解放出来，终结所有身心疾病，治愈衰老，并有可能防止非自愿死亡。不过他表示AIG仍然可能在很多方面出现问题。“我们正在进入完全未知的领域”他说。

就此，Goertzel提出了一项蓝图，旨在确保AGI不受公司或政府控制，且将利于而非害人类。他提倡使用开源代码、去中心化的基础设施和治理、开放式认知架构、多样化的AGI算法，以及伦理来源和管理的数据。