​最强AI芯片升级英伟达H200登场推理速度翻倍明年二季度交付

AI芯片h100的热度至今还没有过，芯片巨头英伟达就推出了h100的升级版本，在当地时间的11月13日，英伟达正式宣布在目前最强AI人工智能芯片h100的基础上进行一次大的升级。发布全新一代的h200芯片h200，拥有141GB的内存，4.8tb每秒的带宽，并且还将与h100相似兼容。在推理速度方面能够达到 H100的两倍，h200将会在2024年的第2季度开始正式交付客户，不过因为他目前还没有公布这款升级芯片的价格。 与之前的a100和h100相比，h200最大的变化就是内存。这款芯片搭载的是全球最快的内存hbm3e技术， A级200在性能上也得到了直接的提升，141GB的内存几乎和a100和h100最高80GB内存的两倍，而且拥有4.8tb每秒的带宽也达到了a100的2.4倍。英伟达方面表示，根据meta的70b大模型进行的测试，h200的输出速度是h100的两倍。根据英伟达官方发布的图片显示h200大模型的GPT3.5输出速度分别是h100的1.9倍和1.6倍。在高性能计算的HPC方面的速度能能够达到双核x86CPU的110倍。

标签： AI芯片，英伟达H200

版权声明：本文由用户上传，如有侵权请联系删除！