沐曦股份开源TileLang-Metax并入驻TileAI社区

描述

4月27日,沐曦股份面向沐曦GPU的TileLang适配支持与优化项目TileLang-Metax正式成为TileAI社区官方主线版本,代码已开源并托管于TileAI组织之下,与TileLang生态中的相关项目协同向开发者全面开放。

大模型时代呼唤芯片、编译器、框架与算子库的全栈协同创新。高性能算子(Kernel)是连接模型算法与底层硬件能力的重要桥梁,也是释放GPU算力价值的核心环节。

TileLang-Metax作为TileAI社区生态的重要组成部分,将持续面向更广泛的开发者、研究者和生态伙伴演进迭代;沐曦GPU对TileLang生态的适配支持,也由此正式进入持续迭代、社区共建的全新阶段。

面向沐曦GPU的TileLang深度优化

随着大模型技术高速发展,训练与推理场景对底层算子的性能、开发效率和跨平台适配能力提出了更高要求。如何让开发者更便捷地在不同AI加速硬件上编写、迁移和优化高性能算子,已成为AI基础软件生态建设的关键课题。

TileLang是专为高性能算子开发设计的编程语言与工具体系,旨在帮助开发者以更高层、更易用的方式描述底层计算逻辑,同时兼顾高性能算子的优化需求。在大模型训练与推理中,算子性能直接影响端到端效率;而算子开发往往要求开发者深入理解硬件架构、内存层级、并行策略和编译优化,门槛较高。

围绕这一目标,沐曦股份持续推进沐曦GPU在编译器、算子库、AI框架、推理引擎和开源工具链中的适配与优化。

TileLang-Metax在沐曦GPU上的支持已覆盖多个关键方向,包括编译适配、运行时支持、示例适配、优化特性与高性能算子实现。通过该项目,沐曦股份希望进一步降低开发者在沐曦GPU上进行底层算子开发的门槛。无论是模型开发者、框架开发者,还是专注底层性能优化的系统工程师,均可借助TileLang-Metax探索沐曦GPU上的更多优化可能。

目前,TileLang-Metax已对多个重要开源项目和算子场景提供支持,具体包括:

TileLang examples: 覆盖开发者学习、验证和扩展TileLang 算子的典型示例场景,是了解TileLang编程模型、算子实现方式与性能优化路径的重要入口。

TileOPs: 面向大模型训练与推理的TileLang算子生态项目。借助TileLang-Metax,沐曦GPU可更深度地参与TileOPs中相关算子的开发、验证与优化。

TileKernels: 由DeepSeek开源的高性能算子项目。TileLang-Metax对相关TileLang 算子的适配支持,将有力推动高性能算子在国产GPU平台上的进一步验证与优化。

SGLang/vLLM等主流推理框架中的相关TileLang kernel: 面向大模型推理框架中的关键算子场景,TileLang-Metax已提供相应支持,为沐曦GPU在主流大模型推理生态中的适配与性能优化奠定基础。

上述支持不仅标志着沐曦GPU在TileLang生态中的适配范围持续扩大,也代表着国产GPU正在以更深入的方式参与开源AI基础软件生态建设。

开源共建,推动国产AI算力生态繁荣

开源项目的生命力,不仅来自一次性适配,更源于长期维护、持续演进以及与社区主线的紧密协同。TileLang生态正处于快速发展阶段,社区主线代码持续迭代,新功能、新接口、新优化策略与算子实践不断涌现。

为确保沐曦GPU对TileLang生态的支持始终保持最新状态,沐曦股份在TileLang-Metax中建立了与社区主线代码的持续同步机制,实现与TileLang社区主线的周级同步。这意味着开发者可以更及时地获取上游社区的新特性、新优化和新算子能力,并在沐曦GPU上快速验证和适配社区最新进展。

此次将TileLang-Metax开源并入驻TileAI社区,是沐曦股份践行开放协作理念的重要一步。沐曦股份将以社区共建的方式,携手TileAI、DeepSeek、SGLang、vLLM等开源生态伙伴及广大开发者,持续完善沐曦GPU在TileLang生态中的支持能力。

相关开源项目链接

TileAI TileLang官方仓库:

https://github.com/tile-ai/tilelang

TileLang-Metax:

https://github.com/tile-ai/tilelang-metax

TileAI TileOPs官方仓库:

https://github.com/tile-ai/TileOPs

TileOPs-Metax:

https://github.com/MetaX-MACA/TileOps-Metax

DeepSeek TileKernels官方仓库:

https://github.com/deepseek-ai/TileKernels

TileKernels-Metax:

https://github.com/MetaX-MACA/TileKernels-Metax

关于沐曦股份

沐曦股份致力于自主研发全栈高性能GPU芯片及计算平台,为智算、通用计算、云渲染等前沿领域提供高能效、高通用性的算力支撑,助力数字经济发展。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分