Trustwise获400万美元融资，专注生成式AI安全

专注AIGC领域的专业社区，关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型（LLM）的发展和应用落地，聚焦LLM的市场研究和AIGC开发者生态，欢迎关注！

Trustwise宣布获得400万美元种子轮融资，本次由日立风投、Firestreak Ventures和Grit Ventures等参与。

同时Trustwise发布了首款专注于生成式AI安全的产品Optimize:ai。可为开发者提供API，来消除风险并减少在高风险企业环境中部署大模式所带来的高成本和降低幻觉问题。

ChatGPT等生成式AI经常产生不准确的结果，不遵守内部和外部政策和法规，且成本高昂、能源效率低下，许多公司因此面临法律后果。

根据GitHub的“幻觉排行榜”，流行的大模式如GPT-4、Llama、Gemini和Claude在总结文本时幻觉发生率在3%到8.5%之间。企业对这项技术的潜力有很高的期望，但也对成本保持谨慎。

据Lucidworks的一项研究，AI成本问题在过去一年中激增了14倍。企业、开发者通过其API、数据集以及AI安全和对齐控制，Trustwise严格进行红队测试和优化生成式AI工作负载，保护企业免受潜在的AI失败和过高的成本。

Optimize:ai符合主要的AI标准和法规，包括欧盟AI法案、NIST AI RMF 1.0、负责AI研究所RAISE安全和对齐基准以及SCI ISO软件碳强度标准。

Trustwise CEO兼创始人Manoj Saxena表示，我们理解企业在使用生成式AI时面临的挑战，包括安全风险、高成本和环境影响。例如，与传统的谷歌搜索相比，一次ChatGPT查询的成本大约是前者的36倍，使用的算力是前者的1000倍，同时还存在幻觉和数据泄漏等安全问题。

经过近两年与高度监管行业客户的共同开发，Optimize:ai的推出可以帮助企业以安全、节省成本的方式来使用生成式AI和大模式。

日立风投的合伙人Gayathri Radhakrishnan表示，企业领导者在生成式AI战略中面临双重挑战：虽然生成式AI能带来下一代创新生产力，但同时也带来了显著的安全风险、成本负担和环境影响。Trustwise经验丰富且世界级的团队将提供急需的生成式AI优化能力，使开发者能够创建安全、高效且高性能的AI。

本文素材来源Trustwise官网，如有侵权请联系删除

END

本篇文章来源于微信公众号: AIGC开放社区