重磅监管！OpenAI新大模型，需要美国政府审查才能发布

专注AIGC领域的专业社区，关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型（LLM）的发展和应用落地，聚焦LLM的市场研究和AIGC开发者生态，欢迎关注！

OpenAI联合创始人兼首席执行官Sam Altman在社交平台宣布，与美国AI安全研究所达成合作协议，对于OpenAI未来的模型进行预发布测试。

这也就是说，只有通过美国政府的各种安全测试，OpenAI才能发布领先的大模型。已经无法自行发布产品，无形之中会限制其技术的发挥。例如，OpenAI正在测试的“草莓”和“猎户座”在功能方面可能会受到影响。

其实当前美国网络司令部司令、前国家安全局局长-中增根加入董事会时，就已经盯上了OpenAI，现在只是把枷锁正式套在了头上。

Altman还无奈的加了一句，出于各种原因，在国家层面上进行监管是很重要的，美国需要继续领先！

多数网友对这个消息持悲观态度，OpenAI再也不是那个拥有无尽想象力和创造力的生成式AI领导者，就像一颗璀璨的星辰被笼罩上一层迷雾。

OpenAI的发展，可能受到了美国政府的阻碍。

我的天，美国政府过早的干预，只会对OpenAI的创新能力带来致命打击。

中国大模型会因为美国政府这个愚蠢的决定，快速崛起吗？

自由市场就是香，有各种手段确保企业不会出现垄断的情况。

如果你生了一个非常聪明的宝宝，你原意把他交给别人来养吗？

这是一个令人遗憾的消息，以后OpenAI发布的产品，只是美国政府希望我们拥有的功能。

这不是一个好消息。只会确保腐败，因为与美国政府有内线关系的公司会得到优待，而其他的 AI 则会被严格审查，秘密也会被泄露。除非美国政府能证明发布某类模型会造成明显的独特危害，否则他们没有管辖权。

太爽了！这种合作在欧洲几乎是不可能的。你们在美国的前瞻性思维显然是一个明显的竞争优势！

我同意这可能会对国家安全产生影响，但美国政府对任何事情的控制很少会带来任何好处。我很好奇对 Meta 开源模型的影响有什么看法，因为很多外国竞争对手也可以很容易地使用他们的模型。

你真要这么做了，马斯克的Grok会赢得竞争。

美国官方网站已经公布了该消息，同时OpenAI主要竞争对手，全球知名大模型平台Anthropic也被签署了合作协议。

两家公司都与美国AI安全研究所建立了合作关系，在新模型公开发布之前和之后，为其提供前沿模型的框架。通过合作协议，将合作研究如何评估AI能力和安全风险，以及减轻这些风险的方法。

此外，美国AI安全研究所还计划与英国AI安全研究所的合作伙伴进行合作，就潜在的安全改进向Anthropic和OpenAI提供意见反馈。

美国AI安全研究所所长- Elizabeth Kelly表示，安全对于推动突破性技术创新至关重要。我们期待与OpenAI和Anthropic的安全技术合作，以推进人工智能安全科学。这些合作协议只是一个开始，但它们是我们努力负责任地管理AI未来的重要里程碑。

本文素材来源OpenAI、美国官网，如有侵权请联系删除

END

本篇文章来源于微信公众号: AIGC开放社区