Sam Altman太保守了！Dario万字雄文：AGI能治愈癌症，让人类活到150岁！

专注AIGC领域的专业社区，关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型（LLM）的发展和应用落地，聚焦LLM的市场研究和AIGC开发者生态，欢迎关注！

前不久OpenAI首席执行官SamAltman刚发布了对AGI通用智能的畅想，可以将很多中高端的工作流程实现自动化，人类只需要做决策就行。

但看了全球著名大模型平台之一，也是OpenAI的主要竞争对手Anthropic首席执行官Dario Amodei最新发布的数万字AGI预测之后，SamAltman还是太保守了，格局太小。

Dario认为，通过AGI实现降本增效只是比较基础的需求，与生物、医药相结合才是造福全人类的关键。尤其是AI在研发治愈癌症、延缓衰老等高端药物方面发挥重要作用，会使癌症死亡率和发病率大幅降低95%或完全治愈。从而大幅度增加人类的寿命，150岁会成为常态。

由于原内容非常非常太多，「AIGC开放社区」先为大家解读Dario的主要AGI观点。

能治愈癌症：Dario认为AI将极大加速生物学的进步，可能在5-10年内实现本世纪预期50-100年的技术突破。

包括几乎所有自然传染病的可靠预防和治疗，大多数癌症将消除，遗传疾病会得到有效预防和治疗，能很好预防阿尔茨海默病以及其他疾病的改善治疗。（今年获得诺贝尔化学奖的AlphaFold大模型已经验证了他的说法。）

人类寿命超过150岁：在20世纪人类寿命已经从约40岁增加到约75岁，这种增长趋势可能延续，AI能显著加速的生物学可能会起到关键作用。

例如，AI通过分析、不断试错能快速找到可靠、不受Goodhart法则影响的人类衰老药物，以此实现对衰老过程的有效干预，从而使人类寿命翻倍达到150岁。（长寿是个好事情，最怕人还在，钱没了~）

促进经济发展解决贫困：AI可在粮食安全、教育、法律、气候变化缓解和经济增长等方面，帮助很多发展中的国家，合理利用AI可以快速赶超。（说真的，普通人受惠AI最大的就是在教育、法律领域获取知识更自由，不再是特殊群体的专属。）

心理健康：除了物理健康外，AI对于心理健康同样有很大的影响。在未来，每个人都能通过专属的AI心理助手，从而拥有更令人满意的日常生活体验。

此外，还让更多的人经历非凡的情感体验，例如，创造力的灵感、同情心、满足感、超越感、爱情、美感或是冥想的宁静。（多数人都是孤独的，AI伴侣是个不错的选择）

AGI的主要特征：强大的AI不仅聪明过人，在多数相关领域如生物学、编程、数学、工程学等方面超过诺贝尔奖获得者，还可以通过文本、音频、视频、鼠标键盘控制及互联网访问等方式与人类互动。它能自主完成耗时数小时、数天乃至数周的任务。

可能这个AI没有实体形态，但它可以通过计算机控制现有的物理工具、机器人或实验室设备，理论上甚至可以为自己设计所需的机器人或设备。训练该模型的资源可以用来运行数百万个它的实例，并且每个副本可以独立处理不相关的任务，或者在必要时共同协作工作。（威尔斯密斯主演的《我，机器人》要成为现实了。）

前言

我经常思考强大的AI带来的风险。我担任首席执行官的Anthropic公司，在如何降低这些风险方面做了大量研究。因此，人们有时会得出结论，认为我是一个悲观主义者或“末日论者”，觉得我认为AI大多是有害或危险的。但我完全不这么想。

事实上，我关注风险的一个主要原因是，它们是与我所认为的根本积极的未来之间唯一的阻碍。我认为大多数人都低估了AI可能带来的积极影响，就像认为大多数人也低估了风险可能有多糟糕一样。

在这篇文章中，我试图勾勒出这种积极影响可能的样子——如果一切顺利，一个拥有强大AI的世界会是什么样。当然，没有人能够确定或精确地知道未来，而且强大AI的影响可能比过去的技术变革更难以预测，所以这一切不可避免地会包含一些猜测。

但我的目标是至少做出有根据且有用的猜测，即使大多数细节最终是错误的，也要捕捉到将会发生的事情的大致情况。我包含了很多细节，主要是因为我认为一个具体的愿景比一个高度保守和抽象的愿景更有助于推动讨论。

然而，首先我想简要解释一下为什么我和Anthropic没有过多谈论强大AI的积极方面，以及为什么我们可能总体上还是会继续大量谈论风险。特别是，我做出这个选择是出于以下愿望：

最大化影响力：AI技术的基本发展以及它的许多益处似乎是不可避免的，并且从根本上是由强大的市场力量驱动的。另一方面，风险不是预先确定的，我们的行动可以极大地改变它们发生的可能性。

避免被视为宣传：AI公司谈论AI所有惊人的好处，可能会让人觉得是在宣传，或者好像是在试图转移对负面影响的注意力。我也认为，从原则上讲，花太多时间“自卖自夸”对灵魂有害。

避免浮夸：许多AI风险公众人物谈论后通用AI世界的方式常常令我反感，好像他们的使命是像先知带领他们的人民走向救赎一样单枪匹马地实现它。我认为将公司视为单方面塑造世界是危险的，将实际的技术目标从本质上用宗教术语来看待也是危险的。

避免“科幻”包袱：虽然我认为大多数人低估了强大AI的积极面，但那些确实讨论激进AI未来的小群体往往用一种过于“科幻”的语气。

我认为这会导致人们不太认真对待这些说法，并赋予它们一种不真实感。需要明确的是，问题不在于所描述的技术是否可能或可行——更多的是“氛围”暗示性地夹带了一堆关于什么样的未来是可取的、各种社会问题将如何发展等文化包袱和未说明的假设。结果往往读起来像是一个小众亚文化的幻想，而令大多数人反感。

然而，尽管有上述所有担忧，我真的认为讨论一个拥有强大AI的美好世界可能是什么样是很重要的，同时要尽我们所能避免上述陷阱。事实上，我认为拥有一个真正鼓舞人心的未来愿景是至关重要的，而不仅仅是一个应对危机的计划。

强大AI的许多影响是对抗性的或危险的，但最终，我们必须有为之奋斗的目标，一个让每个人都更好的正和结果，一些能激励人们超越争吵并面对未来挑战的东西。恐惧是一种激励因素，但还不够：我们还需要希望。

强大AI的积极应用清单非常长，包括机器人技术、制造业、能源等，但我将关注在我看来最有潜力直接提高人类生活质量的少数几个领域。我最感兴趣的五个类别是：

• 生物学与身体健康
• 神经科学与心理健康
• 经济发展与贫困
• 和平与治理
• 工作与意义

我的预测按照大多数标准（除了科幻“奇点”愿景）来看是激进的，但我是真诚地这样认为。我所说的一切都很容易是错误的，但我至少试图根据对各个领域可能加速多少进步以及这在实践中可能意味着什么的半分析性评估来形成我的观点。

我很幸运在生物学和神经科学方面都有专业经验，在经济发展领域我是一个有见识的业余爱好者，但我肯定会犯很多错误。写这篇文章让我意识到，召集一组领域专家（生物学、经济学、国际关系和其他领域）来撰写一个比我这里所写的更好、更有见识的版本是很有价值的。也许最好把我在这里的努力看作是那个小组的一个起始提示。

以下是根据原文内容，总结的生物学与健康、神经科学与心智、经济发展与贫困、和平与治理以及工作与意义5大块。已经优化了很多无意义、冗长的内容，方便大家更好的阅读。如果有兴趣的小伙伴可以直接看原文，Dario都进行了非常详细的解读。

原文地址：https://darioamodei.com/machines-of-loving-grace

1）生物学和身体健康

在生物学和身体健康领域，AI的快速发展预示着一场革命，有望在疾病治疗、健康维护以及人类寿命的延长上取得突破性进展。AI的应用不仅限于数据分析，而是作为一个虚拟的生物学家，参与到生物学研究的各个方面，包括实验设计、执行、新方法的发明，以及对生物学过程的深入理解。

AI在生物学中的应用，特别是在提高研究效率和发现新疗法方面，具有巨大的潜力。例如，AI可以通过分析大量的生物医学数据，识别出疾病发生的模式和机制，从而加速新药的发现和开发。此外，AI还可以通过模拟生物过程，预测药物的效果和副作用，减少临床试验的时间和成本。

在疾病治疗方面，AI有望实现对多种疾病的有效预防和治疗。这包括通过基因编辑技术如CRISPR，精确地修复导致疾病的基因突变；通过开发个性化的治疗方案，提高癌症治疗的成功率；以及通过疫苗和免疫疗法，预防和治疗传染病。

此外，AI还有望在延长人类健康寿命方面发挥关键作用。通过深入研究衰老的生物学机制，AI可能有助于开发出延缓衰老过程的治疗方法，从而提高人类的生活质量和预期寿命。

2）神经科学和心理健康

神经科学和心理健康是AI应用的另一个重要领域。AI在这一领域的潜力在于其能够处理和分析大量的神经科学数据，从而更好地理解大脑的工作机制和疾病的发生。

AI可以帮助开发新的神经科学技术，如改进的脑成像技术，以及用于精确测量和操纵神经活动的新型工具。这些技术的进步将使我们能够更深入地了解神经退行性疾病、精神疾病以及其他影响大脑功能的疾病的复杂性。

在治疗方面，AI可以辅助开发个性化的治疗方案，包括药物疗法、心理治疗以及神经调节技术。通过分析患者的神经生物学数据和行为模式，AI可以预测不同治疗方法的效果，从而为患者提供最适合的治疗方案。

此外，AI还有望在提高心理健康服务的可及性和效率方面发挥重要作用。例如，通过开发智能诊断工具和在线治疗平台，AI可以使更多的人能够获得高质量的心理健康支持。

3）经济发展和贫困

在经济发展和贫困领域，AI有潜力通过提高生产效率、优化资源分配以及创造新的经济增长点来减少贫困和不平等。

AI可以在农业、制造业和服务业等多个行业中提高生产效率，通过自动化和智能化的生产流程，降低成本并提高产出。此外，AI还可以通过数据分析和预测模型，帮助企业和政府更有效地规划和分配资源，从而减少浪费和提高经济效益。

在创造新的经济增长点方面，AI可以推动创新和技术进步，为经济发展提供新的动力。例如，AI在可再生能源、智能交通和生物技术等领域的应用，将催生新的产业和商业模式，为经济增长提供新的机会。

同时，AI还可以在教育和培训领域发挥作用，通过个性化的学习方案和在线教育资源，提高人们的技能和知识水平，从而增加他们摆脱贫困的可能性。

然而，AI在经济发展和贫困领域的应用也面临挑战，包括技术失业、数字鸿沟以及对现有社会结构的冲击。因此，需要政策制定者、企业和社会各界共同努力，确保AI技术的发展能够惠及所有人，而不是加剧不平等。

4）和平与治理

在和平与治理领域，AI的应用可以提高政府的决策质量，增强公共安全，并促进国际合作。

AI可以帮助政府通过分析大量的数据，更好地理解社会问题和民众需求，从而制定更加科学和有效的政策。例如，AI可以用于预测经济趋势、评估政策影响以及监测环境变化，为政府决策提供有力支持。

在公共安全方面，AI可以通过监控和分析大量的信息，帮助预防和打击犯罪活动。同时，AI还可以在灾害预警和应急管理中发挥作用，减少自然灾害和人为事故造成的损失。

在国际合作方面，AI可以促进不同国家和地区之间的信息共享和协作，共同应对全球性挑战，如气候变化、疫情和恐怖主义。

然而，AI在和平与治理领域的应用也引发了一些担忧，包括隐私保护、数据安全以及AI技术的滥用问题。因此，需要建立相应的法律和伦理规范，确保AI技术的安全和负责任的使用。

5）工作与意义

在工作与意义领域，AI的发展可能会改变工作的性质和人类的职业结构，但同时也为人类提供了新的自我实现和创造意义的机会。

随着AI在多个行业中的广泛应用，许多重复性和低技能的工作可能会被自动化，这要求劳动力进行技能升级和职业转型。AI可以在这个过程中提供帮助，例如通过提供在线培训和职业指导服务，帮助人们适应新的工作环境。

同时，AI的发展也将创造新的工作机会，特别是在AI设计、开发和维护等领域。这些工作往往需要更高的创造力和批判性思维能力，为人类提供了新的职业发展路径。

在个人层面，AI可以作为个人助理和生活顾问，帮助人们更有效地管理时间和资源，从而有更多的机会追求个人兴趣和激情，实现自我价值和生活意义。

然而，AI在工作与意义领域的应用也引发了关于人类角色和价值的深刻思考。在一个高度自动化和智能化的社会中，人类如何找到自己的位置，如何定义成功和幸福，这些问题需要我们共同探索和回答。

总的来说，AI在工作与意义领域的应用将推动社会向更加人性化和有意义的方向发展，但也需要我们对工作、生活和社会价值有更深入的理解和反思。

本文素材来源Anthropic，如有侵权请联系删除

END

本篇文章来源于微信公众号: AIGC开放社区