英伟达因AI芯片设计缺陷,推迟产品上市时间

添加书签

专注AIGC领域的专业社区,关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型(LLM)的发展和应用落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注!

The Information消息,英伟达新的AI芯片,可能因设计缺陷而延迟Blackwell B200产品上市时间。

英伟达的Blackwell B200 AI芯片是H100芯片的后续产品性能非常强,原计划于2024年夏季开始大量提供,因为产品延迟预计要到2024年底或2025年第一季度才会大量出货。

GB200是一款专门面向万亿参数大模型训练、推理的产品,例如,在训练MoE(专家混合模型)时,需要多个子模型之间分配计算负载,并在数千个GPU上进行训练。这需要超高的并行计算、快速存储和高性能通信以及在大规模GPU集群下才能完成。

与上一代的H100相比,GB200 NVL72可以将训练效率提升4倍,数据处理提升6倍,实时推理效率提升30倍。

目前,微软、谷歌、OpenAI、Meta等大客户已经订购了数十亿美元的产品,可能会受到影响。

本文素材来源The Information,如有侵权请联系删除

END

本篇文章来源于微信公众号: AIGC开放社区