NVIDIA CUDA工具包的概念及主要功能

NVIDIA CUDA 工具包提供了开发环境，可供开发、优化和部署经 GPU 加速的高性能应用。

什么是 CUDA 工具包

NVIDIA CUDA 工具包提供了开发环境，可供创建经 GPU 加速的高性能应用。借助 CUDA 工具包，您可以在经 GPU 加速的嵌入式系统、台式工作站、企业数据中心、基于云的平台和 HPC 超级计算机中开发、优化和部署应用。此工具包中包含多个 GPU 加速库、多种调试和优化工具、一个 C/C++ 编译器以及一个用于部署应用的运行环境库。

借助多 GPU 配置中用于分布式计算的多项内置功能，科学家和研究人员能够开发出可从单个 GPU 工作站扩展到配置数千个 GPU 云端设施的应用。

CUDA 11 主要功能

CUDA 11 可为 NVIDIAAmpere 架构、ARM 服务器处理器、性能优化库以及多种开发者工具新功能提供支持。对 NVIDIA Ampere 架构的支持包括新一代 Tensor Core、混合精度模式、多实例 GPU (MIG)、高级内存管理以及标准 C++/Fortran 并行语言结构。

支持 NVIDIA Ampere GPU 架构，包括新的 NVIDIA A100 GPU，用于加速 AI 和 HPC 数据中心的扩展；采用 NVSwitch 结构的多 GPU 系统，如 DGX A100 和 HGX A100。

多实例 GPU（MIG） 分区功能，对云服务提供商（csp）提高 GPU 利用率非常有利。

全新第三代 Tensor Cores 加速不同数据类型的混合精度，包括 TF32 和 Bfloat16。

用于任务图、异步数据移动、细粒度同步和二级缓存驻留控制的编程和 API。

CUDA 库中用于线性代数、FFT 和矩阵乘法进行性能优化。

Nsight 产品系列的更新，用于跟踪、剖析和调试 CUDA 应用程序。

全面支持所有主要 CPU 体系结构，跨 x86 _ 64、Arm64 服务器和 POWER 结构。

原文标题：DevZone | CUDA 工具包

文章出处：【微信公众号：NVIDIA英伟达企业解决方案】欢迎添加关注！文章转载请注明出处。

　　审核编辑：汤梓红