英伟达近日宣布,其DeepSeek R1 671b版本已正式上线英伟达NIM(NVIDIA Inference Microservices)平台,并以预览版的形式在build.nvidia.com网站上发布。
据悉,DeepSeek R1 NIM微服务是英伟达在人工智能领域的一项重要创新,旨在为用户提供高效、精准的推理服务。在单个英伟达HGX H200系统上,该微服务每秒最多可处理3872个token,展现出强大的处理能力和高效性。
此次上线的DeepSeek R1 NIM微服务预览版,允许开发人员对其进行测试和实验,以更好地了解其性能和功能。英伟达表示,未来该API将作为英伟达AI Enterprise软件平台的一部分,以可下载的NIM微服务形式正式推出,为用户提供更加便捷、高效的使用体验。
英伟达一直致力于推动人工智能技术的发展和应用,此次发布的DeepSeek R1 NIM微服务预览版,不仅展示了英伟达在人工智能领域的强大技术实力,也为用户提供了更加高效、精准的推理服务。
全部0条评论
快来发表一下你的评论吧 !