英伟达发布NVIDIA NIM，颠覆大模型部署和开发
添加书签
专注AIGC领域的专业社区，关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型（LLM）的发展和应用落地，聚焦LLM的市场研究和AIGC开发者生态，欢迎关注！
全球AI领导者英伟达在官网正式发布了NVIDIA NIM，为超过2800万开发者提供大模型的部署、开发和推理等服务，只需要几分钟就能完成，快速开发类ChatGPT等产品。
试用地址：https://www.nvidia.com/en-us/ai/
NIM主要技术优势
极大提高开发效率：NIM 提供了一种简单标准的方式，将生成式AI 集成到应用中，使开发时间从数周缩短到几分钟。
基础设施优化：NIM针对不同类型的大模型进行了大幅度优化，例如，Meta的Llama 3-8B 模型可在加速基础设施上生成多达3倍的tokens。
适配范围广：NIM可应用在文本、图片、视频、音频和数字人等主流大模型产品，适配范围非常广，例如，用于开发介绍产品的数字人AI应用。
广泛的合作伙伴支持：Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和 Synopsys 在内的将近 200 家技术合作伙伴正在其平台中集成 NIM，以加速生成式 AI 部署。
英伟达创始人兼首席执行官黄仁勋表示，每家企业都希望在其运营中加入生成式AI，但并非每家企业都拥有专业的研究团队。NIM可以大幅度简化开发、部署流程，帮助企业将生成式AI应用在多个业务流程中。
END
本篇文章来源于微信公众号: AIGC开放社区
