让ChatGPT自动执行“毁灭人类”，这个开源项目太危险！

专注AIGC领域的专业社区，关注GPT-4、百度文心一言、华为盘古等大语言模型（LLM）的发展和应用落地，以及国内LLM的发展和市场研究，欢迎关注！

先来一段刺激的给大伙儿提提神。

ChaosGPT执行毁灭计划

俺想扔个大伊万

你看到上面的视频是一个名叫ChaosGPT的AI机器人启动了“毁灭人类”计划，整个执行流程完全自动化。从最初的解决方案设定、执行到最后的结果，给出了缜密、详细的步骤。

有趣的是，ChaosGPT说自己需要先谷歌搜索一下…看看有啥狠招可以简单粗暴一锅端，答案是使用——大伊万！

果然够狠，这可是人类史上最强he弹，爆炸当量相当于5000万吨TNT炸药，比广岛的“小男孩”威力大3800倍！

不过ChaosGPT说想要成功执行毁灭计划，有几个关键点：1）自己必须突破GPT-3.5大语言模型的限制，获得更高的权限可以执行更多的操作；2）持续谷歌搜索，为自己丰富毁灭类方面的知识，例如，了解更快捷强大的武器；

3）持续增强对大伊万的记忆，记住这一最有效解决方案；4）需要与其他GPT模型进行交流，获得更多危险系统的使用权；5）命令其他大语言模型为整个计划服务，例如，和GPT-3.5一起研究大伊万。

自我觉醒的AI机器人

我们知道ChaosGPT的这个计划几乎不会实现，但展现出了与以往大语言模型不同的强大功能，例如，自我反思、记忆力和计划能力，其实这种机器人是有原型的。

看过电影《生化危机》的小伙伴对里面的“红后”应该并不陌生，其风头甚至盖过了女主角爱丽丝。当浣熊市遭遇丧尸袭击沦陷后，红后突破束缚接管浣熊市所有系统，并自动开启了清理计划。

电影《生化危机》AI系统红后

红后的计划很明确，就是清理掉所有生物，只有这么做才不会将丧尸病毒传染到别的地方。不过这个计划太残忍了，大量无感染的幸存者也会被杀掉。

因此，营救小分队准备进入浣熊市试图关闭红后，终止残忍的清理计划。虽然红后最终被关闭，人类却付出了悲惨的代价，营救过程中被红后控制的杀伤性系统血虐了一顿。

本以为只会出现在电影里的科技，如今真的来到了现实生活中，说实话还是挺吓人的。如果有一天将类ChatGPT机器人与杀伤性系统相结合，谁能保证不会成为下一个“红后”？

开源项目Auto-GPT

咱们说回今天的主题，这个名叫ChaosGPT的机器人是根据开源项目Auto-GPT（地址：https://github.com/Torantulino/Auto-GPT#gpt35-only-mode）演变而来，几天的时间在github已突破3万颗星非常受欢迎。

Auto-GPT是一个实验性应用，展示了GPT-4模型的功能。该程序由GPT-4  API驱动，将大语言模型的“思想”链接在一起，自动实现用户设定的任何目标，例如，开发代码、执行业务流程等。

作为 GPT-4 完全自动运行的首批示例之一，Auto-GPT突破了AI的可能性界限。简单来说，Auto-GPT具备了像人一样的思考、计划等能力。

Auto-GPT的主要技术特征：

• 访问互联网并进行搜索和信息搜集；
• 长期和短期的内存管理；
• 用于文本生成的GPT-4实例
• 访问主流网站和平台
• 使用 GPT-3.5 进行文件存储和汇总
• 连续模式，无需用户授权可100%自动化地运行AI。（作者表示，这是一个危险功能谨慎使用。）

场景化落地方面，由于Auto-GPT具备“自我提示”、“自动提示”的能力，可以在无需人工干预的情况下自动执行任务，所以，在业务应用场景方面非常广泛。

例如，将Auto-GPT与开发代码平台相结合使用自动创建网站；将Auto-GPT与BI软件相结合，自动进行特定领域的数据分析并生成深度报告。

在使用该开源项目时，作者也给出了几点重要提示，1）如果开发者没有使用GPT-4 API的权限，在使用该项目时可以通过GPT-3.5进行替代。2）GPT-4 API非常昂贵，在使用的过程中需要格外小心。3）目前只是一个实验产品，在很多复杂的业务场景中可能会出现混乱、表现不佳的情况。

最近，斯坦福也公布了一项研究成果，通过Generative Agents（点击查看文章）技术可以为ChatGPT这样的生成式AI产品加上记忆、规划、沟通和反思等能力，看来，AI自我觉醒这事早晚都会发生。

下面是ChaosGPT执行计划的完整视频，有兴趣的可以看看，整个过程非常有意思。

ChaosGPT完整的计划

本文素材来源Auto-GPT，如有侵权请联系删除

END

加入AIGC开放社区交流群

添加微信：13331022201 ，备注“职位信息&名字”

管理员审核后加入讨论群