成本降低12倍英伟达升级版大模型芯片明年投产

在2024年英伟达将会发布Grace Hopper投资了800万美元的GPU芯片，这款芯片采用的是x86的GPU支撑这将在成本方面降低12倍，能耗降低20倍。在8月8日英伟达CEO黄仁勋就参加了计算机图形学会的新品发布会，新一代的gh200是专门为人工智能大模型所涉及的一款GPU，主要是用于扩展全球的数据中心。 Gh200超级芯片将会在2024年实现量产，这款芯片采用的是HB m 3e高带宽的内存，设计英伟达目前最为高端的AI芯片h100相比配备了141G的内存和72核的AR m中央处理器每秒的带宽能够达到5TB。 这和目前的产品相比能够提供3.5倍以上的内存容量和三倍以上的带宽对于人工智能的发展将会起到至关重要的作用。全新一代的gh200将会在2024年的第二季度开始量产，黄仁勋在此次的发布会上表示，如果一台服务器能够同时装载两个gh200超级芯片，那么大型语言模型的推理成本，就会大幅度的降低。新的产品不仅在内存的运算能力和速度方面得到了大幅度的提升，而且gh200超级芯片采用的是NV l ink技术。这项技术可以让GPU有能力去访问全部的CPU内存，能够帮助客户在减少设备数量的情况下，更高效的去完成各项运算。

标签： 伟达升级版大模型芯片，明年投产

版权声明：本文由用户上传，如有侵权请联系删除！