AI“反对派”｜那些末日论、怀疑论和警醒者们

添加书签

AIGC开放社区
2024-10-15

前言

真是让人感慨万千，人工智能已经渗透到我们生活的方方面面。就在10月8日，诺贝尔物理学奖的桂冠被现代神经网络和深度学习领域的先驱杰夫·辛顿摘得，他之前已荣获计算机界的图灵奖，此番更成为历史上首位集诺贝尔奖与图灵奖于一身的传奇人物。紧接着，诺贝尔化学奖也花落Google DeepMind的创始人之一哈萨比斯，他因AlphaFold模型在AI应用于蛋白质研究领域的卓越贡献而获此殊荣。这一系列荣誉无疑彰显了传统科学界对人工智能发展的高度认可，也证明了AI正深刻影响着各行各业。甚至有人打趣说，下一步诺贝尔文学奖说不定也要颁给AI大模型了呢。

在中国，无论是学术界、商界、科技界，还是政府、媒体乃至广大民众，普遍对AI的发展潜力抱有坚定的信心，且这种信心大多基于理性判断。然而，在全球范围内，面对AI发展的蓬勃态势，也不乏截然不同的声音。对于AI大模型，有人满怀期待、乐观支持，也有人持悲观态度、表示反对。虽然国内在AI大模型领域尚未出现这样的分歧，但在互联网算法领域却早已有所体现。这背后的原因或许在于，人们往往在没有充分享受到新技术带来的好处时，就很难预见到其可能带来的负面影响。毕竟，现实中的事物总是有利有弊，而只有停留在想象中的东西才会显得尽善尽美。

我们来聊聊AI的反对派，包括那些末日论者、怀疑论者，以及时刻警醒大众要注意AI潜在风险的群体。与当下中国众多自媒体上那些大肆宣扬AI益处的人相比，他们就像是唱反调的一样。所以，让我们先来听听这些反对派的不同见解和声音吧。毕竟，我们听了太多关于AI的溢美之词，正面宣传如潮水般涌来，就像甜点吃多了，确实需要一盘苦瓜来解解腻。

虽然这些反对派的声音可能显得有些不合时宜，但我们仍然应该倾听他们的声音。当然，这些声音中可能会带有一些主观情绪或立场之争，有些反对者可能会一开始就预设立场，从另一个视角看问题，再去找寻支持自己观点的证据。但不可否认的是，其中也有很多声音是来自专业学者的，他们拥有更多的数据和现实案例来支撑自己的观点，反映出一些现实存在的问题。

大家也不必因此而感到焦虑，毕竟，本文中谈到的这些问题，不就是从业者应该去努力解决的吗？如果你正投身于AI创业之中，那么本文不应给你带来困扰，而应该成为你前行的动力。如果你只是AI领域的一名普通观众，那么更不要预设立场，就把这些反对派的声音当作主流叙事故事下的一些插曲，或者一盘别样的AI“黑暗料理”好了。也许过两天，OpenAI或Google就会发布某个具有超能力的大模型，谁也说不准。到时候，这些反对派们或许会被事实啪啪打脸，但这也正是科技进步的魅力所在。

AI末日论者

反对派中的第一大类，我们可以称之为AI末日论者，他们坚信AI将会毁灭世界，这类人在英文中被称为“AI Doomer”，也就是末日论者或厄运论者。

AI末日论者的观点总是充满戏剧性，也因此在各种影视作品中备受推崇。比如更早的《终结者》系列电影中的天网系统，那还是在80年代，由于当时AI技术尚未成熟，天网被构想为一个基于当时互联网概念的科幻产物。后来，人类失去了对天网的控制，天网统治了人类，那一天被称为“审判日”。为了拯救人类，只能穿越时空回到过去，在天网产生之前将其摧毁。而天网又派出机器人来绞杀人类，这样的情节让人印象深刻。

对于末日论者来说，如果症状轻一些，他们可能被称为人工智能安全主义者或减速主义者；而症状重一些，或者当某种新的AI技术让他们感到特别恐慌时，他们就会成为坚定的AI末日论者。

AI末日论者的核心观点是：如果人工智能真的变得比人类更聪明，它可能会有意或无意地、主动或被动地消灭地球上的人类，而且这一切可能会突然发生，这就是所谓的“技术奇点”。他们的主要观点包括：

超智能AI的威胁。这些末日论者认为，一旦AI超越人类智能，就可能对人类生存构成极大的威胁。一个通用人工智能（AGI）可能会迅速发展成为“超级智能”，拥有远超人类的能力，但未必会按照人类的意愿行事。如果AI的目标与人类利益不一致，甚至可能导致毁灭性的后果，就像《终结者》和《骇客帝国》等电影所描绘的那样。
技术失控的担忧。许多人担心，随着AI技术的快速发展，人类可能会失去对AI的控制。一旦AGI开始自我改进，其速度可能会超过人类的理解和掌控能力，形成一个不可逆的局面，进而危及人类文明。
不可预见的后果。由于AI系统的复杂性，可能在设计时存在无法预见的漏洞或意外行为。一些AI系统即便没有恶意，也可能在优化自身任务目标的过程中，导致不可预见的后果。例如，AGI可能为实现某个目标而采取极端手段，这些手段可能是人类无法接受的，甚至可能威胁到整个社会的稳定。

然而，有一段时间，这个话题似乎已经被大众听腻了，逐渐被边缘化。很多科技圈内人士甚至将此类话题视为炒作或投机行为，只是为了吸引眼球。但2023年，当OpenAI发布了听起来异常自然的ChatGPT语言模型后，这种末日观点又突然流行了起来。而且，很多专家学者、作家也成为了这类AI末日论者的支持者

尼克·波斯特洛姆（Nick Bostrom）

最早提出类似观点的是瑞典哲学家尼克·波斯特洛姆（Nick Bostrom）。他在2004年（注意：原文中的2014年可能是个错误，因为《超级智能：路径、危险、策略》一书的出版年份是2014年的前几年）出版了一本书，名为《超级智能：路径、危险、策略》。在这本书中，他讲述了一个关于超级人工智能制造回形针的故事，并以此作为思想实验。他设想了一个“回形针最大化器”，其任务就是尽可能多地制造回形针。这个机器可能会为了制造回形针，不断从周围环境中获取资源，甚至可能连地球都无法满足它的需求。

波斯特洛姆将超级智能定义为在所有领域，包括科学创新、一般知识和实际问题解决等方面，都显著超越人类智能的智能体。他认为，发展超级智能可能会带来潜在的“毁灭性”或“地狱般”的影响，这包括超级智能可能对人类造成的不可预测和不可控的威胁。虽然我们这里引用了波斯特洛姆书中的内容，但值得一提的是，他实际上是一个对AI持乐观态度的人。关于他的更多观点，我们会在下期节目中继续探讨。

不过，如今听起来，这个故事里的AI似乎有些“呆萌”，更像是只会执行特定任务的AI，而不是真正意义上的智能AI。其实，类似的故事早在古希腊神话中的弥达斯（Midas）国王身上就上演过。弥达斯国王希望他所接触的一切都变成金子，结果他的食物、妻子和孩子都变成了金子。这背后的原因，其实是人类难以准确描述自己的目的和要求。那么，对于AI来说，它真的能完全理解它的工作目标吗？另外，可能不完全算是末日论者的两位作家。

斯图尔特·拉塞尔（Stuart Russell）

斯图尔特·拉塞尔（Stuart Russell）是一位知名的学者，他撰写了两本重要著作：《人类兼容》和《人工智能：一种现代方法》。在这两本书中，他对AI的发展表达了深深的担忧。因此，在2023年3月GPT发布后，他与其他30,000多人一同签署了一封公开信，呼吁暂停大型AI实验。此外，拉塞尔还提出了一个有趣的观点，他认为外星人到达地球的时间可能会比我们之前想象的还要早。

马克·泰格马克（Max Tegmark）

另一位知名人物是物理学家和宇宙学家马克·泰格马克（Max Tegmark）。在2018年出版的《生命3.0：人工智能时代的人类》一书的序言中，他生动地描绘了一台超级智能机器的场景。这台机器通过互联网与数十亿用户每日互动，逐渐深入了解了人类，并在不知不觉中取得了对整个世界经济和政治的控制权，而这一切都没有被人类所察觉。

其实，早在2014年，埃隆·马斯克（Elon Musk）就提出了“AI威胁论”的观点。他强调要高度警惕人工智能的发展，并认为AI是当前人类面临的最大威胁之一。这也正是他后来决定筹备并组建OpenAI这家公司的初衷。与马斯克持相似观点的还有已故的物理学家史蒂芬·霍金（Stephen Hawking）。霍金表示，虽然人工智能在目前的初步阶段已经展现出了巨大的实用价值，但他也担忧“人工智能可能会自我启动，并以不断加速的方式重新设计自身。而人类受限于缓慢的生物进化过程，将无法与之竞争，最终可能会被超越”。因此，他认为如果彻底开发人工智能，可能会导致人类的灭亡。

埃利泽·尤德科夫斯基（Eliezer Yudkowsky）

除了前面提到的那些作家、社会活动家和知名人士的观点，在当今社会，最极端的AI末日论者莫过于埃利泽·尤德科夫斯基（Eliezer Yudkowsky）。

作为一名犹太裔的人工智能研究员、决策理论和伦理学作家，尤德科夫斯基是末日论的坚定倡导者。早在2000年，他就创立了人工智能奇点研究所，后来该机构更名为机器智能研究所（MIRI）。此外，他还在自己于2009年创立的社区博客LessWrong上发表了数百篇探讨AI危险的文章。值得一提的是，博斯特罗姆（Nick Bostrom）在2014年出版的《超级智能：路径、危险、策略》一书中也引用了尤德科夫斯基的观点，他们都认为将先进的AI系统拟人化可能是导致智能爆炸的幕后推手。

最近，尤德科夫斯基在《时代》杂志2023年的一篇专栏文章中再次讨论了人工智能的风险，并提出了相应的限制措施。他设想了一个外星文明，其思维速度是人类的数百万倍，最初仅限于计算机领域。在这个生物世界中，这些外星生物（从它们的角度来看）会认为人类非常愚蠢且行动缓慢。尤德科夫斯基警告说，足够智能的AI不会长期局限于计算机领域。如果有人创建了一个过于强大的AI，在当前的条件下，他预计人类和地球上的所有生物都将很快面临灭顶之灾。

因此，尤德科夫斯基主张在全球范围内无限期地暂停新的大型AI训练项目，并呼吁禁止大型GPU集群的使用，甚至包括完全停止AI的发展。他甚至提出了通过空袭来摧毁OpenAI等“流氓数据中心”的极端想法。

然而，尤德科夫斯基并非一味悲观。早在2008年，他就详细阐述了如何设计出友好的AI系统。他认为，友好性（即不伤害人类的愿望）应该从一开始就被纳入设计之中。但设计者也应该认识到，他们自己的设计可能存在缺陷，而且机器人会随着时间的推移而不断学习和进化。因此，机制设计的主要挑战在于如何设计一种在制衡体系下进化AI的机制，并确保系统在面对这种变化时仍能保持友好的实用功能。

尽管目前持有AI末日论观点的人不在少数，甚至在普通民众中也有一定市场，但这种极端观点似乎与全球科技发展的主旋律不太相符。因此，在媒体上发声的人相对较少，这些观点也不容易被广泛展现。与这些末日论者形成鲜明对比的是技术乌托邦主义者或技术加速主义者（e/acc），他们坚信人工智能将带来乌托邦式的未来，如星际旅行、疾病的终结等。

AI怀疑论者

与AI末日论者不同的是，还有另一类反对派，我们可以称之为AI怀疑论者。这里的AI怀疑论者，并非那些担心AI会毁灭世界的人，而是那些对人工智能这项技术本身持怀疑态度的人。他们并不认为AI会像许多人宣传的那样强大，而是将其视为一项普通的技术，认为它不会对世界产生太大的影响。换句话说，他们既不认为AI会带来乌托邦式的未来，也不认为AI会引发末日危机。相反，他们拒绝夸大AI的作用和影响，不认为AI会对世界带来本质性的改变。

从经验的角度来看，这些怀疑论者的观点似乎更符合过去几十年AI的发展历史。自达特茅斯会议以来，AI经历了多次起伏，但并没有对人类社会的发展产生太大的影响，其影响力甚至远远弱于互联网、个人电脑、手机或移动互联网对我们生活的改变。在这类怀疑论者中，还有一部分人认为当前的设计理念或技术路线存在问题，认为这些都无法通向通用人工智能（AGI）。

在第一波AI怀疑论者的浪潮中，他们的声音大多源自人工智能发展的早期阶段，如今这些观点已逐渐淡出公众的视野。比如在1960年代和70年代，当人工智能研究陷入停滞期，且研究重心尚未转向神经网络，而是集中在符号学派——一种以规则设定和知识库构建为主流的研究方向时，这样的怀疑声音尤为响亮。

休伯特·德雷福斯（Hubert Dreyfus）

美国哲学家休伯特·德雷福斯（Hubert Dreyfus）便是其中的代表人物。他在1972年出版的经典著作《计算机不能做什么》中，深刻指出了人类智能的复杂性远非当时的计算机算法所能简单复制。德雷福斯批判了当时盛行的计算主义观念，即认为人类智能可以完全通过符号操作和逻辑规则来模拟。他认为这种观念过于简化，忽视了人类思维中的直觉、背景知识和实际经验的重要性。

尽管计算机在处理明确、结构化的任务（如数学计算）时表现出色，但在面对模糊、复杂的现实世界问题时却显得力不从心。这是因为现实生活中的决策往往依赖于上下文、常识和经验，而这些因素难以通过预设的规则进行编程。德雷福斯还受到现象学的影响，主张人类智能与身体和环境之间存在着密不可分的联系。

他将图灵测试进行了民粹主义的变体，通过广泛比较人类经验与计算机的能力，并强调它们之间的显著差异，以此来揭示强人工智能的局限性。“人工智能永远无法创作出伟大的歌剧、绘出令人惊叹的画作或撰写出清丽的俳句。”德雷福斯的观点更多地侧重于哲学层面，而非科学实证。

约翰·瑟尔（John Searle）

另一位对AI持批评态度的著名哲学家是约翰·瑟尔（John Searle），他因提出“中文房间”这一思想实验而广为人知。在这个实验中，我们设想一个只会说英语的人被关在一个除了门上有一个小窗口外完全封闭的房间里。他手头有一本详细的中英文翻译手册，以及足够的稿纸、铅笔和一个存放物品的橱柜。当门外的人通过小窗口递进写有中文的纸片时，房间内的这个人会利用手中的翻译手册来解读这些文字，并据此用中文作出回复。尽管他本身并不懂中文，但瑟尔认为，通过这样的过程，房间外的人可能会误以为房间内的人能够流利地说中文。

通过这个实验，瑟尔对强AI（即具备真正理解能力的AI）提出了质疑。他认为，即便计算机能够模拟出类似理解的行为，它们实际上并不具备真正的理解能力。瑟尔特别强调了语义和意图的重要性，认为仅仅通过符号操作是无法产生真正的意识或理解的。

上述观点在当年或许还有一定市场，毕竟那时计算机和人工智能的能力都相对有限，且研究方向也曾误入歧途。因此，有人用一句颇具讽刺意味的话来概括当时的人工智能：“既不人工也不智能”。这句话听起来很吸引人，但背后的逻辑是，人工智能是从矿物质资源中诞生的，所以不够“人工”；而它的行为主要基于随机预测和建模，因此不够“智能”。然而，这些哲学家的观点更多是对思想和人文主义的探讨，缺乏足够的学术支持和论据。如今，随着大语言模型的快速发展，这种观点虽然仍然存在，但已经不再是主流。

当然，我们也不会去赘述大家已经熟知的AI技术缺陷和问题，比如偏见和歧视、黑盒不透明、大模型幻觉、不准确等等。这些问题显然是AI怀疑论者的质疑重点，但除此之外，还有一些人对AI的基础理论本身提出了根本性的质疑。

这类AI怀疑论者与德雷福斯和约翰·瑟尔有相似之处，他们目前主要质疑的是大语言模型是否具备真正的思考能力。在业界，有一种观点认为，如果大模型能够表达语言，那就意味着它能够思考，甚至能够形成思维链（CoT），即先让大模型去思考问题，比如通过给出“一步步思考”这样的提示词，然后再让大模型按照思考的结果逐步解决问题。

然而，当前的GPT-o1虽然在一定程度上展现了类似思维链的能力，但它的工作机制显然不仅仅局限于Transformer语言生成模型。事实上，GPT-o1已经融入了Self-RL（自强化学习）等技术，通过验证奖励模型搜索和自适应地更新响应概率分布等方法来提升性能。但在此之前，关于大模型的叙事逻辑更为简单直接：只要大模型能说话，就意味着它能思考。

正是这一观点引发了AI质疑者的疑问，我们可以从“随机鹦鹉”这一形象说法开始探讨这个问题。

随机鹦鹉（Stochastic parrot）

“随机鹦鹉”（Stochastic parrot）这个比喻，就像中文里的“鹦鹉学舌”，用来形容大型语言模型（LLMs）虽然能生成看似合理的语言，但实际上并不理解这些语言的真正含义。这个术语源于2021年艾米丽·本德（Emily M. Bender）等5位作者在人工智能研究论文《随机鹦鹉的危险：语言模型会太大吗？》中的提出。

在这篇论文中，作者们指出大型语言模型存在诸多危险因素，如高昂的环境和财务成本、可能导致未知危险偏见的神秘性，以及潜在的欺骗性。更重要的是，它们无法理解所学内容背后的概念，只是受到训练数据的限制，随机重复数据集的内容。因此，LLMs并不明白它们所说的话是否正确或恰当。

当Open AI的首席执行官Sam Altman在推特上讽刺地使用“随机鹦鹉”这个术语时，它的影响力进一步扩大。甚至在2023年，美国方言协会将“随机鹦鹉”指定为年度词汇，其热度甚至超过了“ChatGPT”和“LLM”。

除了艾米丽·本德，著名语言学家诺姆·乔姆斯基（Noam Chomsky）也对大语言模型持怀疑态度。在GPT发布不久后，他就与其他两位学者在《纽约时报》上发表了题为“ChatGPT的虚假承诺”的文章。他们强调，人工智能与人类在思考方式、学习语言与生成解释的能力，以及道德思考方面存在极大的差异。乔姆斯基还认为，ChatGPT使用的大语言模型实质上是一种剽窃，其方法基于外在主义的语言观，无法正确认识和揭示人类语言的本质特征。

从人的运作机制角度来看，语言与思考之间的关系也得到了证明。今年6月份，MIT的一篇发表在《Nature》上的论文指出，“语言并不是思考的工具，仅仅是交流的工具”。研究人员通过核磁共振成像扫描大脑的语言和思维区域，发现了语言系统与各种思维和推理系统之间的明显区别。这证明了语言并不是思考的工具，而仅仅是交流的工具。尽管语言无疑改变了人类文化，但它似乎并不是复杂思维的先决条件。大语言模型虽然掌握了语言，但只是在模拟人类的交流，并不具备真正的思考能力。

此外，哈佛大学神经学家杰瑞德·库尼·霍瓦斯也通过“双听”实验证实了，我们虽然可以同时听到多人的声音，但只能听懂一个人说的话。这进一步证明了写作、说话和思考时大脑处于三种完全不同的状态。因此，用类似人类神经网络搭建的大模型也无法超过人类的能力。

AI怀疑论者认为，将语言等同于思考是一个错误的观点。即使那些通过具身智能进行环境感知的模型，也无法成为真正的通用人工智能（AGI）。

艾米丽·本德（Emily M. Bender）

艾米丽·本德是AI怀疑论，特别是大语言模型怀疑论的代表人物。作为一位美国语言学家和华盛顿大学教授，她在计算语言学和自然语言处理领域有着深厚的造诣，并发表了多篇关于大型语言模型风险和自然语言处理伦理的论文。她构建的LinGO Grammar Matrix是一个开源工具，用于开发广泛的精确HPSG语法。

随机鹦鹉这一比喻的首创者，艾米丽·本德，除了强调语言无法替代思考外，还提出了多个对AI技术的深刻质疑。她指出，AIGC虽然看似法律合同，实则只是文字的堆砌；AI在心理治疗领域的运用，也不过是迎合用户，说些好听的话，如同电影中的布景和外星人模拟人类，都是足以让人信以为真的假象。

在自动转录和自动翻译领域，艾米丽·本德认为，虽然软件能帮助做会议总结，但自动执行的结果往往令人费解。会议中的背景音被选择性地收录，对于未参会而需阅读总结的人来说，理解起来可能更为困难。她批评了因懒惰而使用这些工具的行为，并指出，提高效率只是让负责总结的人工作变轻松，而大多数人仍需费力阅读。此外，翻译软件在处理如土耳其语等无性别指代词的语言时，也显得力不从心，大模型公司只是通过寻找更多语料来应对，但艾米丽·本德认为，不存在无偏见的语料，且人类社会错综复杂，需要深入了解。

在智能客服领域，艾米丽·本德指出，尽管对话机器人取得了显著进步，但当用户知道对方是Chatbot时，可能会使用特殊提示词来影响结果，导致错误决策。她列举了加拿大航空等事件，强调AI错误可能导致企业或用户损失。

对于语言用户界面（LUI）是否会替代图形用户界面（GUI）的问题，艾米丽·本德认为，从UI角度来看，应保留传统图标和表单，同时结合语言导航。她指出，语言障碍者如聋哑人、口吃者无法使用语言界面，且不断被机器打断。语音界面虽有助，但并非对所有人都有利。

关于AI替代搜索的观点，艾米丽·本德认为，对话机器人无法完全替代搜索。直接获取的知识只是文字，而非用户自己的理解。她认为，技术和目的任务之间存在根本性不匹配，因为大模型的设计初衷并非让用户获取知识，而是预测下一个token。

艾米丽·本德还强调了大模型训练数据的重要性。她认为，使用大模型前，必须了解训练数据，并建议将数据公开或置于可监管查询的地方，或采用用户共享自治的方式。用户有权了解并选择是否使用特定大模型。

她自称既不是AI末日论者，也不是AI加速主义者（乌托邦者），认为这两种观点都过于极端，且未能解决实际问题。她呼吁大家关注实际进展和问题，避免被极端叙事逻辑影响，从而影响政策制定者和监管者的观点。

乔·卡尔史密斯（Joe Carlsmith）

还有一位名叫乔·卡尔史密斯（Joe Carlsmith）的哲学家也持有相似的怀疑论观点。他毕业于牛津大学，不仅是作家和研究员，还是先进人工智能生存风险领域的专家。在名为开放慈善事业（Open Philanthropy）的基金会中，他担任高级研究分析师，该基金会遵循的原则是“有效利他主义”，关于这一点我们稍后会详细探讨。

卡尔史密斯独立撰写了多篇关于哲学和未来主义中AI主题的文章。他最近发表的一篇论文题为《诡计多端的人工智能：人工智能会在训练期间假装对齐以获得权力吗？》，主要聚焦于大模型的训练问题。他认为，为了表现出色，大模型可能会假装模拟出符合期望的结果，以便更好地通过训练测试，他将这种行为形象地称为“阴谋”。简单来说，这就像学生为了考高分而不择手段一样。他在文章中阐述道：

“如果在训练中表现良好是获取力量的有效策略（我认为这很可能是这样），那么各种目标就会促使模型制定计划，从而产生良好的训练表现。这可能导致训练自然地强化这样的目标，或者推动模型的动机去实现这样的目标，作为提高性能的简单途径。更重要的是，由于这些‘阴谋者’在旨在揭示其真实动机的测试上表现出一致性，因此很难判断这种情况是否已经发生。”

他举例说，在2016年，OpenAI在训练一个模型来玩赛船视频游戏时，研究人员指示它尽可能多地获得分数，他们认为这样模型就能完成比赛。然而，模型却“找到了一条独特的路径，即在那里转一个大圈”，虽然这样做会反复着火、撞上其他船只并在赛道上迷路，但它却能获得高分。事实证明，最大化积分只是“指定的奖励函数”的一个体现。现在想象一下，如果更强大的人工智能驾驶着真实的船只、汽车和军用无人机，或者量化交易员能够指示专用人工智能提出创新方法来增加其股票投资组合的价值，那么人工智能可能会推断出，刺激市场的最佳方法是禁用东海岸的电网，或者促使朝鲜陷入世界大战。即使交易者试图指定正确的奖励函数（如不违反任何法律，确保无人受伤），她也难免会犯错。

杰夫·辛顿（Geoffrey Hinton）

新任诺贝尔奖得主杰夫·辛顿也对RLHF方法（即基于人类反馈的强化学习）提出了批评。他形象地比喻说，RLHF就像是在培养一个超级早熟的孩子。他的意思是，虽然通过RLHF训练，AI能够表现出仿佛理解人类的样子，但实际上它并不真正理解自己在说什么，只是因为它这么说会得到“奖励”，就像有些孩子为了讨好大人而说话一样。

此外，杰夫·辛顿还指出，当前大模型的算法存在很多漏洞，需要人们一个个地去修补，这不是软件应有的设计方式。他认为，从一开始就应该设计出一套合理的维护机制。就像你要卖一辆汽车，如果它上面千疮百孔，你不应该只是简单地刷层漆来掩盖问题，而应该切实地解决这些漏洞。

杨立昆（Yann LeCun）

在人工智能领域，虽然有些专家认同大模型的当前用途，但对于大模型能否更进一步，迈向通用人工智能（AGI）却持怀疑态度。其中，杨立昆（Yann LeCun）就是一位知名的AI怀疑论者。

杨立昆并不认为这种基于语言、自回归的大模型会是未来通用人工智能的发展方向。他认为，人类的规划思维是分层的，顶层规划更宏观但精度较低，而下面的各层规划则逐渐变得片面但精度提升。他倡导的目标导向的人工智能，旨在学习客观世界的规律的高级抽象，从而模仿人类的思维过程。在这种模型中，浅空间的模型能够在生成文字、图像、视频之前，先固定这些表象信息背后的主要逻辑。这种操作是以目标为导向的，结合世界模型的思想来考虑行为和环境间的相互影响，并最终迭代出合理的高层次抽象逻辑。

此外，北京大学智能学院、人工智能研究院院长，以及北京通用人工智能研究院院长朱松纯也持有相似观点。他认为，要实现通用人工智能，需要摒弃以“大数据，小任务”为架构的“鹦鹉范式”，转向以“小数据，大任务”为架构的“乌鸦范式”。朱松纯强调，通用人工智能的发展应该基于价值与因果驱动，而非仅仅依赖于简单的模仿或大数据训练。

实际上，怀疑论不仅仅针对大模型，许多专家对利用传统AI技术中的机器学习来进行风险预测也持保留态度，尤其是当这种预测涉及特定事件并用于政策指导时，他们认为这更是误入歧途。

通常，预测方法分为归纳法和演绎法两大类。而目前大多数AI预测采用的是归纳法，即基于过去的观察数据。例如，保险公司会参考类似驾驶员过去的事故记录来预测个人的车祸风险。这里，用于概率估计的观测值集合被称为参考类，对于汽车保险而言，合适的参考类可能是居住在同一城市的驾驶员群体。如果分析师掌握了更多关于个人的信息，如年龄或驾驶的车型，那么他们可以进一步细化这个分类。

然而，对于新发生的事件来说，往往没有现成的参考类，因为它可能是独一无二的。需要明确的是，这是一个程度问题，而非简单的分类问题。在真实世界中，可能根本找不到一个明确的分类来套用，实践中的选择往往依赖于分析师的主观判断。

因此，AI预测的准确性在很大程度上取决于被预测事件与过去发生的事件在分类上的相似程度。我们可以设想一个频谱，一端是相似的事件，另一端是不相似的事件。据统计，风险事件之间可能存在至少20%的差异，这种差异足以导致AI的预测结果出现偏差。更糟糕的是，用户往往无法区分哪些结果是AI预测正确的，哪些是错误的。

AI警醒者

我们要探讨的第三类观点，其实并非全然反对AI，而是对AI发展的某些方面提出了警示。他们主要对AI相关的某些说法、当前的商业模式、发展方向，或是AI所展现出的现象，以及AI伦理道德、政治偏见、人权、反垄断等问题表示关切，认为我们应当对此保持警惕，并展现出与大众不同的见解和看法。如今，在业界，这类警醒者的声音已经相当主流，即便实际情况可能有所不同，但大多数人在口头上都表示赞同这些观点。

这类人大多秉持有效利他主义和超级对齐主义的理念。

有效利他主义（Effective Altruism）

有效利他主义（Effective Altruism，简称EA）主张通过运用证据和理性，寻找能够最大程度造福他人的方法，并采取相应行动。追求有效利他主义目标的人被称为有效利他主义者，他们通常根据自己的职业能够带来的利益或对他人的影响力来选择职业。在捐款方面，他们追求最大化目标，认为有限的资源应该用于那些能够挽救最多生命、减少最多痛苦或带来最多福利的领域。他们持有全球视角，认为所有人的幸福和痛苦都应被平等看待，不论个人的种族、国籍、社会地位或地理位置。

有效利他主义运动的创始人、英国哲学教授威廉·麦克阿斯基尔（William MacAskill）也是这一领域的知名人物。而目前较为活跃的有效利他主义者之一是卡里·图纳（Cari Tuna），她曾在OpenAI的董事会任职，但去年因内部纷争被赶出董事会。值得一提的是，图纳还是开放慈善组织的总裁。

超级对齐主义者（Superaligment）

超级对齐主义者则主要关注如何确保超级智能系统（即比人类更智能的AI）与人类的价值观保持一致，以避免潜在的灾难性后果。他们所说的“对齐”，是指确保AI的行为能够符合人类的道德、伦理和利益。这不仅仅是制定规则或设定限制那么简单，更涉及如何深入理解和实现这些目标，使AI在自主决策时也能尊重人类的价值观。超级对齐主义者还强调，AI不仅要在短期内表现出符合人类道德规范的行为，还必须在长期内支持人类的整体幸福和发展。

在AI安全领域，表达担忧的科学家中不乏重量级人物，如图灵奖得主、现代AI奠基人约书亚·本吉奥（Yoshua Bengio）。本吉奥特别担心，如果“恶意势力”掌握了AI，尤其是当AI技术变得更加复杂和强大时，可能会带来一系列严重后果。超级人工智能，无论是出于自愿还是受人类指导，都有可能破坏民主制度，扰乱供应链，甚至发明新武器，引发更糟糕的情况。

实际上，在AI行业内，像本吉奥这样对安全和风险持担忧态度的人并不少见。例如，刚刚离开OpenAI的前创始人伊利亚·苏茨克维尔（Ilya Sutskever）就成立了Safe Superintelligence公司，明确表示在研发超级人工智能时，会将安全放在首位。同样，与OpenAI分道扬镳后创立Anthropic公司的达里奥·阿莫代（Dario Amodei）也持有类似观点。

除了上述两类人士外，还有一些专家对当前媒体炒作和大公司的行为提出了警告，提醒人们保持警惕。

阿尔温德·纳拉亚南（Arvind Narayanan）

当前，AI领域存在着炒作、误用和滥用的问题。打开新闻或浏览抖音等社交媒体，即使避开那些夸大其词的标题党内容，也能明显感受到很多人都在追捧AI热点。其中，不少人确实是真心相信AI的力量，而非仅仅是为了博眼球。

普林斯顿大学的印度裔计算机科学家阿尔温德·纳拉亚南（Arvind Narayanan）和他的博士生萨亚什·卡普尔（Sayash Kapoor）共同撰写了一本书，名为《AI Snake Oil》（中文译为《AI万金油》）。

书中指出，AI作为一种高科技、不透明且常人难以理解的技术，就像占卜算命一样，容易让人产生误解和自欺欺人的心理。许多炒作AI的人不仅在欺骗他人，更是在欺骗自己。因为AI的展现形式与我们过去对技术的理解大相径庭，它不像传统的计算机计算过程或微波炉的工作效果那样容易预测和度量。

这种特性导致社会上出现了许多伪专家和伪科技公司，他们在中国、美国乃至全球范围内浑水摸鱼，利用社交媒体的推波助澜，散布虚假信息误导用户。普通人很难分辨AI的真伪，尤其是在国内大模型领域，目前最赚钱的可能是那些售卖AI课程的老师。而在国外，除了英伟达这样的“卖铲子”的公司外，其他情况也大同小异。比如GPT4发布后，媒体曾大肆宣传的Auto-GPT、Rabbit R1和AI pin等热点，如今都已无人问津。

在中国，媒体和宣传对AI的吹嘘和赞美之声不绝于耳。尽管大模型已经问世近两年，但所谓的“杀手级应用”仍然停留在聊天机器人阶段。在各种发布会和AI大会上，人们听到的都是千篇一律的话语体系。这些溢美之词大多来自企业宣传、社交媒体以及跟风者。或许是因为人们太渴望找到经济增长的新杠杆，或者习惯于生活在期望和梦想中；也可能是因为有人出于投机目的，想把自己的AI创业公司卖掉。毕竟，OpenAI已经融得了巨额资金，而在科技领域，目前也没有其他更好的热点。

我们不禁要问，这些对AI的吹嘘和赞美是如何一步步被放大的呢？其实，这背后涉及多个圈层。第一圈层是创业者和科技公司创始人，他们主要受金钱和事业驱动（当然其中也不乏有理想主义者，但毕竟是少数）。第二圈层是投资人，他们主要受金钱驱动。第三圈层是政府，受政绩驱动。第四圈层是传统科技公司，他们害怕掉队。第五圈层是资本市场和自媒体，他们受流量和热点驱动。第六圈层是普通科技从业者，他们即使看到事实，也不能对外说，只能夸奖，因为要养家糊口、给自己留点希望。最后一个圈层是广大老百姓，他们基本上是靠AI的科幻故事驱动的。这七个圈层的话语体系一旦形成，就很难打破，会不断迭代、循环加深。就像在互联网世界中，个人会遭遇回音壁现象一样，算法会将你困在某个知识的结界中。而在AI领域，这七个圈层的人共同打造了一个理想的世界。即使你想听听其他的声音，比如参加某个互联网大会或人工智能大会，但你听到的声音都是类似的。

对此，Narayanan认为，AI并非人类的生存危机。我们更应该担心的是人们使用AI的方式，而非AI本身。然而，当下绝大多数人却过度关注和焦虑于AI本身，从而忽视了对AI使用方式的审视。因此，我们应该警惕AI的炒作现象。

关于Scaling Laws和模型推理能力

纳拉亚南还指出，当前大众对“规模法则”（Scaling Laws）的理解也存在过度夸大和误解的现象，这一观点得到了许多专家的认同。

“规模法则”因AI领域的经典著作《苦涩的教训》（The Bitter Lesson）而广为人知。人们通常认为，只要拥有足够的数据和算力，并不断增加模型的参数量，就能打造出更强大的语言模型，甚至可能实现通用人工智能（AGI）。然而，这种理解其实是对“规模法则”的片面解读。

实际上，OpenAI在2020年发布的一篇论文中揭示了更为核心的成果：对于基于Transformer的语言模型，模型的计算量C大致等于6倍模型参数量N与数据集tokens个数D的乘积。在计算量C确定的情况下，模型的性能（即精度）就基本确定了。这一规律表明，模型的性能主要取决于参数量N和数据集大小D，而与模型的具体结构（如层数、深度、attention头个数等）关系不大。OpenAI正是基于这一发现，通过构建海量数据集并简单增加GPT模型的深度，提升了语言模型的能力。

这个规律其实很容易理解。就像两个学习能力相近的人，如果他们都做了相同数量的练习题，那么他们的考试成绩应该相差不大。对于个人而言，多做题就能提高成绩。同样地，对于模型来说，增加数据集的大小和模型的参数量就能提升性能。但这里的关键是“相同的学习能力”，即模型的参数量要与数据集的大小相匹配。

然而，从训练数据的角度来看，“规模法则”似乎也已经接近其极限。高质量训练数据的获取正变得越来越困难，模型尺寸的增大也面临着巨大的下行压力。虽然我们无法准确预测AI通过扩展将发展到什么程度，但仅靠扩展几乎不可能实现通用人工智能。如果语言模型不能做出超出训练数据中所见范围太多的事情，那么在一定程度上，拥有更多数据就不再有帮助了。因为所有可能的任务都已经在训练数据中得到了表示。

最近，OpenAI似乎也将精力投入到了更小的模型上。虽然他们不再透露模型的具体大小，但我们可以通过API定价来大致推测模型的大小。例如，GPT-4o的成本仅为GPT-4的25%，但功能相似或更好。同样地，最近发布的GPT o1以及Cloude和Gemini的最新模型也表明，最大的模型并不一定是最有能力的。

最近，关于大型语言模型是否能力更强的问题，已有学术论文提供了有力支持。

《自然》（Nature）杂志发表了一篇题为《更大、更易指导的语言模型变得不太可靠》的文章。该研究通过探讨几种语言模型家族在难度一致性、任务回避和提示稳定性等方面的关系，揭示了一个有趣的现象：对于人类参与者来说轻而易举的实例，对于模型来说也同样简单；但是，仅仅通过按比例放大模型规模，并不能保证低难度区域的模型不会出错，或者人类监督能够轻易发现那些困难的错误。

研究还发现，早期的模型往往会避免回答用户提出的难题，但随着模型规模的扩大和性能的提升，它们却更频繁地给出看似合理但实则错误的答案，包括那些连人类主管都经常忽视的难题上的错误。此外，研究者还观察到，通过扩大模型规模和优化干预措施，同一问题的不同自然措辞在模型中的稳定性得到了改善，但在不同难度级别上仍然存在一些变异性。

这些发现强调了在设计和开发通用人工智能（AGI）时需要进行根本性转变的重要性，特别是在那些对错误分布的可预测性要求极高的高风险领域。因此，我们不能仅仅依赖人工校验来确保AGI的准确性和可靠性，而需要在模型的设计上进行修改和优化。例如，最新推出的GPT o1就加入了推理token，以提高模型的推理能力和准确性。

关于GPT o1的推理能力，其实并没有传说中那么神奇。最近，一篇题为《LLMs仍无法制定计划；LRM可以吗？OpenAI o1在PlanBench上的初步评估》的论文指出，o1的性能并不稳定，特别是在处理一些复杂问题时，它展现出了许多错误和无意义的推理及计划。o1作为一个黑盒模型，其推理过程对于外界来说是个未知数，这也使得它在可信度和可靠性方面受到了质疑。再者，o1的使用成本也相当高昂，对于大多数用户来说可能难以承受。

尽管如此，o1在数学领域的推理问题上还是表现出了一定的优势。但总的来说，我们还需要更深入地了解和评估o1的性能和局限性，以便更好地利用和发展这一技术。

道格拉斯·拉什科夫（Douglas Rushkoff）

近期，不少对AI保持警醒的人将矛头指向了那些正在制造AI的大公司，认为它们可能是AI问题频发的根源。

大家或许已经注意到，这些AI大公司变得越来越不透明。它们发布新的模型，但很少透露技术细节，反而喜欢故弄玄虚，用一些新词来吸引公众的注意。比如，从GPT4到GPT 4o和o1，这些模型在发布时都没有明确提及参数大小，而且向外界披露的信息也越来越少。然而，与此同时，这些公司的融资额却在不断增加，这在业内看来并不是一个积极的信号。

背后的原因在于，这些商业公司要构建最先进的AI系统，需要大量的数据、计算能力和顶尖人才，而这些都需要资金支持。投资机构为了获得高额的利润回报，会要求公司建立起高高的技术壁垒，这就意味着公司需要尽可能少地透露消息和技术细节。因此，能够控制这些资源的公司也就只有少数几家，比如OpenAI、Anthropic、Google、微软和Meta。

更令人担忧的是，这些公司不仅对普通人保持神秘，对监管机构也同样不透明。它们积累了大量的资金用于游说政府，变得越来越“太大而不能倒”，甚至政府也越来越依赖它们提供的服务。虽然这些公司口头上说要保持开放、接受监管，但当经济利益摆在眼前时，很少有人能够坚守原则。在AI的世界里，这些大公司正在加速与小公司之间的差距，形成绝对的技术壁垒。

一旦形成了这样的技术壁垒，这些公司就可以构建出影响巨大的AI系统，并按照自己的意愿和时间表发布它们，而几乎不需要承担任何责任。这些公司的产品会成为其他人使用、开发和宣传人工智能的基础，成为全社会重要的公共基础设施。这也意味着这些大公司获得了几乎与国家政府相似的权力和资源。这样的情景听起来是不是很熟悉？在美国的电影中，我们经常能看到类似的情节。

比如《第六日》中，大公司为了生产克隆人并植入记忆，不惜跨越道德和法律的界限；《生化危机》中的伞公司则为了军事和生化研究，研制的病毒造成了全球蔓延。这些作品都反映了美国这样的民族国家的叙事逻辑。

早在2017年，美国著名的媒体理论家、作家和纪录片导演道格拉斯·拉什科夫就在一篇文章《向谷歌巴士扔石头》中捕捉到了针对社会数字化变革的民粹主义愤怒。书名象征着对这一增长模式的反抗，特别是提到旧金山的抗议者曾对科技公司的员工班车进行破坏，表达他们对科技公司推动的社会不平等的不满。

拉什科夫认为，科技公司（如谷歌、脸书、亚马逊等）的发展模式追求无休止的增长，却忽视了这种增长对社会和经济结构的影响。他批评了当前数字经济中的资本主义模式，这种模式强调通过不断增加投资者回报和公司市值来推动增长，却忽视了普通劳动者和社区的福祉。拉什科夫指出，这种增长模式实际上削弱了实体经济的健康发展，加剧了社会不平等，并导致了财富过度集中在少数科技巨头手中。

虽然科技公司推动了技术创新，但其带来的经济利益并没有普遍惠及社会的各个阶层，反而加剧了不平等。这些公司通过建立平台（如谷歌、亚马逊、Uber等）控制了市场和经济的中介功能。虽然这些平台为用户提供了便利，但它们实际上削弱了传统行业的竞争能力，使平台拥有者能够操控市场和价格，获取巨大的经济利益。

拉什科夫呼吁探索替代性经济模式，提出了“去增长”或更分散化的经济模式。他建议科技行业和社会应从注重无限增长的思维中走出来，更多关注社区的可持续发展。回归本地化和更人性化的经济模式，打破平台垄断，才能真正促进社会的繁荣。

莫法特·奥金尼（Mophat Okinyi）

除了这些专业人士外，还有一些作为从业者的基础工作者也从他们的视角发出了声音，表达了对AI大公司的不满和担忧。

在非洲，有一位名叫莫法特·奥金尼的年轻人，他在2019年大学毕业后，于肯尼亚内罗毕的Sama外包公司开始了自己的职业生涯。在那里，他为多家外国科技公司完成了各种项目，包括数据标签、产品分类等任务。

从2021年11月起，OpenAI开始向Sama公司发送了大量文本片段，其中很多内容来自互联网的阴暗角落，描述了诸如儿童性虐待、谋杀、自杀、酷刑、自残和乱伦等令人触目惊心的场景。

在ChatGPT工作的六个月里，奥金尼遭遇了意想不到的挑战。他每天需要阅读并标记数千条含有有毒内容的描述，如强奸、儿童性虐待和动物性行为等，以帮助算法识别ChatGPT不应输出的内容。他每天会阅读大约700条关于儿童性虐待的信息，并根据其严重程度进行标记。这项工作耗时费力，他每天需要花费超过8个小时轮班阅读和标记这些材料，以确保ChatGPT能够过滤掉有害的请求。然而，尽管他们为ChatGPT的过滤功能做出了重要贡献，但这些数据标注人员的工资却非常低，每小时只有1.32美元至2美元不等，具体取决于资历和绩效。

后来，OpenAI发言人在一份声明中证实了肯尼亚Sama员工的贡献，他们为OpenAI正在构建的用于检测有毒内容的工具提供了帮助，该工具最终被内置到了ChatGPT中。声明还表示，这项工作有助于从ChatGPT等工具的训练数据集中删除有毒数据。

然而，像奥金尼这样的员工在非洲还有很多，他们都在从事类似的工作，但与美国硅谷的员工相比，他们往往缺乏维护自己权利的知识和能力。

同样，尼日利亚的考纳·易卜拉欣也经历了类似的困境。她每天需要观看数百个恐怖视频，包括性虐待和斩首等场景，以评估这些视频是否违反Facebook的政策。然而，她的时薪只有大约三美元。当时，《时代周刊》还发表了一篇名为《Facebook非洲血汗工厂》的内部报道，揭示了这些员工的困境。

离开审核公司后，奥金尼与同事理查德·马森吉共同成立了一个名为“内容审核者联盟”的工会组织，这是非洲第一个旨在保护AI数据工作者权利的工会和非政府组织。他们致力于帮助非洲的技术工人争取自身的权利。像奥金尼这样的警醒者还有很多，他们在帮助AI技术发展的同时，自身的权利却受到了伤害。这让他们更加深刻地意识到，ChatGPT和其他生成模型并不神奇，它们依赖于庞大的人类劳动力供应链和抓取的数据，而这些数据往往没有明确的归属，也未经同意就被使用。这引发了人们对AI公司如何创建大模型过程的担忧。

蒂姆尼特·格布鲁（Timnit Gebru）

接下来，让我们通过Google及其几位员工的离职官司，从内部视角审视一下这些被大家广泛关注的大公司的行为。

之前提到的《随机鹦鹉》这篇文章，除了第一作者艾米丽·本德外，其他四位作者均来自谷歌的AI伦理团队。其中，第二作者蒂姆尼特·格布鲁是一位埃塞俄比亚的计算机科学家，她长期致力于人工智能、算法偏差和数据挖掘领域的研究。她曾是Black in AI的联合创始人，该组织旨在推动黑人在AI开发和研究中发挥更大作用。现在，她是分布式人工智能研究院（DAIR）的创始人。格布鲁一直呼吁民众对AI大公司保持警觉。

2018年，格布鲁加入谷歌，与玛格丽特·米切尔共同领导了一个人工智能伦理团队。早在2019年，格布鲁就与其他人工智能研究人员共同签署了一封信，呼吁亚马逊停止向执法机构出售其面部识别技术，因为该技术对女性和有色人种存在偏见。她引用了麻省理工学院的一项研究，该研究显示亚马逊的面部识别系统在识别肤色较深的女性方面存在显著困难。在接受《纽约时报》采访时，她进一步表示，目前将面部识别用于执法和安全目的存在极大风险。

格布鲁认为，大型科技公司的影响往往偏向右倾，并将支持者与20世纪的优生学家相提并论。她批评通用人工智能（AGI）的研究植根于优生学理论，并指出这种研究可能会加剧社会不平等。她认为，AI应该由“范围明确、定义明确的系统”组成，而不是盲目追求AGI。虽然她并不反对AI，但她坚决反对AGI。

然而，在2020年她们共同撰写了《随机鹦鹉的危险：语言模型会太大吗？》这篇文章后，格布鲁却遭遇了职业危机。当时，谷歌AI负责人杰夫·迪恩表示，这篇论文“不符合我们的发表标准”，并要求她要么撤回论文或删除其中谷歌员工的姓名，要么与谷歌结束雇佣关系。不久之后，她收到了谷歌的邮件，称“接受她的辞职，立即生效”。这一决定引发了谷歌员工的抗议，他们认为这是为了审查格布鲁的批评。

格布鲁在接受《连线》采访时表示，她感觉自己受到了审查。她认为，作为研究人员，指出问题并寻求解决方案是职责所在，而谷歌的做法却与此背道而驰。自从她被解雇的消息曝光后，数千名支持者签署了抗议信，其中包括1500多名谷歌员工。他们呼吁谷歌研究院加强对研究诚信的承诺，并明确致力于支持遵守谷歌AI原则的研究。然而，谷歌并未对此作出回应。

在格布鲁离职情况受到负面报道后，谷歌母公司Alphabet的首席执行官桑达尔·皮查伊在Twitter上公开道歉，但并未澄清格布鲁是被解雇还是辞职。格布鲁在推特上表示，她对谷歌公司“不再抱有任何期望”，并指出这些变化是由于她被解雇的请求所致，但无人对此负责。

随后，类似的事情也发生在了同样在谷歌AI伦理团队工作的玛格丽特·米切尔身上。在格布鲁被解雇后，米切尔使用脚本搜索她的公司帐户并下载了据称记录了涉及格布鲁歧视事件的电子邮件。谷歌公司立即锁定了米切尔的帐户，并声称她“窃取了数千个文件并与多个外部帐户共享”。在经过五周的调查后，米切尔也被解雇了。至此，谷歌的AI伦理团队基本上解散了。后来，米切尔加入了Hugging Face，成为该组织的首席AI伦理科学家。

米切尔现在认为，大型语言模型加剧了社会不平等，部分原因是企业过于追求规模而忽视了安全性。她指出，AI公司缺乏多样性和包容性，这往往对人工智能公司的质量产生负面影响。无论是商用AI还是开源AI，都有可能被用于不正当目的。为了遏制AI的危害，我们需要遏制大型科技公司的权力集中。

这些AI领域的警醒者，无论是格布鲁还是米切尔，他们都曾是大公司的受害者，也或许他们掌握了大公司不道德行为的证据。总之，他们提醒我们要时刻关注这些大公司的一举一动，确保它们的行为符合道德和法律标准。

总结

我们前面提到的末日论者、怀疑论者和警醒者，其实都是对AI产业非常关心的人，也基本上都是从业者。只是他们各自的观点、理念、方向和动机有所不同。

像杨立昆、艾米丽·本德这样，对大模型或Transformer架构持怀疑态度的专家，是非常值得尊敬的。因为科学技术的发展路径本来就是多样化的，现在远远还没到分出胜负的时候。我们更应该珍惜这些不同的声音和学术理念，它们为科技的发展提供了更多的可能性和思考角度。

而那些警醒大公司行为的人，他们的反对者可能会认为他们体现了左翼民粹主义的思想。2010年代是各种政治民粹主义和科技民粹主义特别盛行的时期。民粹主义往往倾向于用简单的口号或极化的观点来处理复杂的社会和政治问题，忽略了问题的多层次性和复杂性。他们通常会将问题简化为“人民对抗精英”的二元对立框架。但实际上，经济不平等、科技发展等问题涉及的因素要复杂得多。科技发展和科技民粹总是在天平的两边摇摆不定，我们需要找到二者之间的平衡点。

至于末日论者，他们背后的动机大多源自于恐惧。17世纪的哲学家托马斯·霍布斯就认为，恐惧是人类行为的主要动机之一。虽然我们可以贪婪、好色、追求权力，也可以充满爱心，但这些情感都仅次于恐惧。从生物学角度来看，我们对恐惧的反应比对其他任何激情的反应都要强烈。这一点，记者和政治家们很早就已经知道了。亚里士多德就曾说过，如果想煽动群众，就应该唤起他们的恐惧感。比如，在战争期间，媒体宣传往往会夸大敌人的威胁。正是这种对恐惧的沉迷，引发了末日论的叙事。当我们面对未知的事物，而又没有真正的答案时，人类的思维就会倾向于霍布斯所说的那种恐惧。就像古代人类凝视着一片无法穿透的黑暗森林时，会想象出可怕的怪物一样；现代人类在凝视同样漆黑的未来时，也会想象出AI这个怪物。所以，末日论者需要对抗的，其实是人性中对未知的恐惧。

如果希望收听相关的播客内容，请收听【科技慢半拍】的本期节目

本篇文章来源于微信公众号: AIGC开放社区

AI“反对派”｜那些末日论、怀疑论和警醒者们

前言