英伟达推出史上最强AI芯片H200!141GB超大显存Llama2推理性能翻倍

  新闻资讯     |      2024-01-07 21:41

  英伟达推出史上最强AI芯片H200!141GB超大显存Llama2推理性能翻倍下面是H200和H100以及A100显卡的各参数对比图,可以清晰帮助大家看出H200各方面带来的提升。

  当用H200与英伟达GraceCPU搭配使用时,就能组成性能更强的GH200 Grace Hopper超级芯片,专为应用于大型HPC和AI应用!

  NVIDIA还宣布与 Jupiter 合作赢得了一项新的超级计算机设计。根据 EuroHPC 联合组织的订购,Jupiter 将成为由 23,762 个 GH200 节点构建的新型超级计算机。

  一旦上线,Jupiter 将成为迄今为止最大的基于 Hopper 的超级计算机,并且是第一台明确(且公开)针对标准 HPC 工作负载以及已经出现的低精度张量驱动的 AI 工作负载的超级计算机。

  美国前阵子命令英伟达立即停止对华销售高性能AI芯片,国内多家大厂提前下单的超50亿美元芯片订单不知道还能不能收到货。

  众所周知,搞大模型是离不开高性能显卡的CQ9电子平台网站,国内百模大战相比OpenAI最新发布的GPT-4 turbo没有一个能打的。