英伟达发布NVIDIA NIM,颠覆大模型部署和开发
添加书签![](https://static-img-job.rpa-cn.com/www.open-cx.com/2024/06/20240606110314569.jpeg)
专注AIGC领域的专业社区,关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型(LLM)的发展和应用落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注!
全球AI领导者英伟达在官网正式发布了NVIDIA NIM,为超过2800万开发者提供大模型的部署、开发和推理等服务,只需要几分钟就能完成,快速开发类ChatGPT等产品。
试用地址:https://www.nvidia.com/en-us/ai/
NIM主要技术优势
极大提高开发效率:NIM 提供了一种简单标准的方式,将生成式AI 集成到应用中,使开发时间从数周缩短到几分钟。
基础设施优化:NIM针对不同类型的大模型进行了大幅度优化,例如,Meta的Llama 3-8B 模型可在加速基础设施上生成多达3倍的tokens。
适配范围广:NIM可应用在文本、图片、视频、音频和数字人等主流大模型产品,适配范围非常广,例如,用于开发介绍产品的数字人AI应用。
广泛的合作伙伴支持:Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和 Synopsys 在内的将近 200 家技术合作伙伴正在其平台中集成 NIM,以加速生成式 AI 部署。
英伟达创始人兼首席执行官黄仁勋表示,每家企业都希望在其运营中加入生成式AI,但并非每家企业都拥有专业的研究团队。NIM可以大幅度简化开发、部署流程,帮助企业将生成式AI应用在多个业务流程中。
END
本篇文章来源于微信公众号: AIGC开放社区