近日,由创业邦主办的2023AIGC技术应用大会在深圳举行。本届大会以“元载万物·智启新界”为主题,旨在聚焦AIGC技术的创新应用,打造深入探索AIGC产业落地的交流平台。
会上,无界AI联合创始人马千里、生数科技首席执行官唐家渝、登临科技联合创始人兼首席架构师王平进行了一场名为《应对策略—AIGC重塑百业千行,企业升级如何借势》的圆桌对话,圆桌对话由BV百度风投AI应用赛道负责人温永腾主持。
我们都知道整个生成式大模型底座的核心还是算力,登临在国内是非常领先的通用GPU的玩家。我们想听听,从您的角度,登临是如何看待这样一个机会,以及如何发挥自己的产品和技术的优势,为这些上游的公司赋能的。
目前行业进入了算力热潮的时代,算力非常紧张,企业对算力的需求非常迫切。那从登临的角度,我们看到这是一个很大的机遇,即大算力、通用性强的算力产品将迎来更广阔的市场空间。具体体现在:
对产品通用性的需求:对于AIGC的客户来说,他们不仅仅是做一个文本生成图片或者是其他解决方案,而是用户能够真正用起来的产品。这个产品可能会有一些传统的模型(传统的算法)集成进来,进而作为一个完整的方案,这个时候去移植其他的架构方案会非常痛苦,移植成本也非常高。
我们的客户希望得到更好的、更具性价比的算力(这本身也是登临希望自身能够带给客户的价值)。我们在AI这方面有特别的优化,可以有一个更高的性价比,这体现在登临新一代产品对比国际主流通用GPU产品有3倍以上的能耗比优势。
其次我们产品的一个很大优势是训推一体的架构,有些客户他对自己的数据比较敏感,需要做单机大模型的训练并在本地完成应用部署。登临新一代Goldwasser™ (高凛™)采用先进的生产工艺,内存最高可到128GB,训推一体的产品能力可助力客户打造更具性价比的单机大模型解决方案。
现在芯片缺货还是比较严重的。那对未来比如说2到3年内芯片供应情况,或者说芯片格局,您有一些看法可以跟我们分享一下吗?
如果从供应情况的基本面来讲就牵扯到一个国际关系—中美关系了。咱们国内的企业越来越难拿到美国的高端芯片,坦白地说,我个人认为国内没有哪家企业生产的芯片能够真正替代美国高端芯片。
但也是在这样的大背景下,我相信国产的算力肯定是会越来越多。芯片是一定会迭代,大家使用国产算力越多,客户前场的问题才能够反馈,我们在后续迭代中才能够改进,提升使用体验。
我们看到无论是底层模型,还是上层的Rola,还有各种工具链,都有很快的进展。那是否可以在各自的领域去展望一下未来技术的发展方向。
从技术路线上来说,我们更多地是在这个潮流下去优化我们的微架构,使用更新的工具或者是通过互联之类的来提升我们的能力,从而更好地服务客户。
另外一点刚才唐总也提到,我们还要有合作。在底层上,在不丢失精度的情况下,大家做一些合作,可以有效地降低延迟,或者是提高吞吐率,解决客户的真实问题。就像一开始神经网络的模型出来的时候,它对算力要求也很高,但很多都是无用算力。经过几年的演变以后,它的精度和之前是一样的,甚至更好,但它的算力需求降低了很多,这其实是应用侧大家共同合作的结果。
我相信未来在算法层上会有很多很多这样一个往下走的过程,在这个过程中我也希望大家能够合作,为客户创造更大的价值。
会上,登临科技凭借在大模型算力方案上的优势,入选创业邦“ 2023最值得关注的AIGC公司 ”榜单。
本次评选以专业的视角发掘现阶段积极探索AIGC技术和应用的企业,评估投资价值、技术成熟度、市场营销、生态合作、创新潜力等维度的综合表现。最终登临从参评的500余家企业中脱颖而出,成功入选。
审核编辑:刘清
全部0条评论
快来发表一下你的评论吧 !