英伟达发布微型大模型计算机，每秒计算67万亿次
添加书签
英伟达（NVIDIA）发布了一款价格仅为249美元的微型生成式AI、大模型开发计算机平台——Jetson Orin Nano Super（简称“JONS”）。
JONS是NVIDIA推出的最新一代AI开发平台，继承了前代产品的优点，并在此基础上进行了显著改进。新设备配备了NVIDIA Ampere架构GPU，拥有1024个CUDA核心和32个张量核心，以及6核Arm CPU。
这些硬件配置使其能够在7W—25W的低功耗范围内高效运行，同时提供高达每秒67万亿次运算能力，较其前身提升了70%，并增加了50%的内存带宽至102 GB/s。
为了确保开发人员能够充分利用JONS的强大功能，NVIDIA为其提供了全面的软件支持和开发资源。现有的JONS用户可以通过软件更新获得最高1.7倍的生成式AI推理性能提升，保护了用户的现有投资。此外，NVIDIA还推出了Python SDK和其他开发工具，简化了API集成过程，使开发者更容易构建和部署AI应用程序。
更重要的是，JONS深度集成了NVIDIA整个AI生态系统，包括Isaac用于机器人技术和Metropolis用于视觉AI的工具包。这些工具包为开发者提供了一个完整的开发环境，涵盖了从模型训练到部署的各个环节，有助于加速AI项目的开发周期。
随着AI应用越来越依赖于大模型，小巧且经济实惠的硬件设备对于推广AI开发至关重要。JONS正是这样一款产品，它将强大的AI计算能力带到了边缘端，让更多人有机会参与到AI创新中来。
本文素材来源英伟达，如有侵权请联系删除
END
本篇文章来源于微信公众号: AIGC开放社区
