Anthropic 联合创始人：人类留给 A.I. 立规矩的时间不足十年

曼谷 · 人类只剩“寥寥数年，轻松算来不到十年”的时间，为人工智能制定严肃的规则。Anthropic 联合创始人 Jack Clark 周六在国际货币基金组织年会上如此表示。

Clark 说，这些规则必须管到他自己所在的行业。他说，世界需要“针对这项技术及开发它的公司，制定不同寻常且严肃的规则”，同时还需要克制，他称之为人类最难得也最高贵的品质。他说，基础设施要建，但技术本身的开发要放慢脚步、审慎推进。

“寥寥数年，轻松算来不到十年。”

Jack Clark，Anthropic 联合创始人

他认为，时间之所以紧迫，是因为 A.I. 已开始加速科学进步，进而加速一切建立在科学之上的事物。“奇点已经到来，”他说。这个词是科幻作家长期用来形容机器推动进步的速度超过人类所能跟上之时刻的说法。

随后发言的几位经济学家关注的是另外几个问题：谁来为这些机器买单，谁会被雇来与它们并肩工作，它们出了问题时又由谁负责。

Clark 在讲座开头先列举了自己的资历。他说，他是个人类，世上只有一个他，花了将近 40 年才积累起做这场演讲所需的经验。半小时后，他回到这句话，把它变成了一个论点。他请在场听众设想同时运行数百乃至数千个自己的副本，并且可以即刻创建新的副本，而不必等上四十年。他说，未来几年，经济的很大一部分领域将是这番景象。

这场讲座安排在 I.M.F. 与世界银行年会倒数第二天，年会于 10 月 12 日至 18 日在曼谷诗丽吉王后国家会议中心举行，这是泰国自 1991 年以来首次主办。会议开幕前，基金组织总裁 Kristalina Georgieva 点出了笼罩全球经济的三大风险：A.I. 的快速扩张、持续高企的能源价格以及创纪录的公共债务。议程包括 A.I. 与就业、A.I. 与网络风险等场次，以及世界银行一场题为“Small AI: More and Better Jobs”的讨论。基金组织副总裁 Nigel Clarke 说，A.I. 在会议、研讨会、走廊交谈乃至回到酒店后都被谈及。“就算没人提，它也是潜台词，”他说。

此次演讲是 Per Jacobsson Foundation 讲座，这是年会上的固定节目，以瑞典经济学家 Per Jacobsson 命名，他自 1956 年起执掌基金组织，直至 1963 年去世。Jacobsson 曾在国际联盟任职，1931 年加入国际清算银行。该基金会主席 Raghuram Rajan 称他是一位国际主义者，亲眼看到大萧条中贸易与合作土崩瓦解，并在二战后帮助重建二者，“那个时代与今天非常相似，国际合作被大打折扣。”

Clarke 说，六十多年来的演讲嘉宾一直是央行行长、财政部长、经济学家和总统，从未有过一家成立尚不满五年的公司的联合创始人。基金会理事会在 1 月把主题定为 A.I.，然后问自己，Clarke 说，“这到底该怎么办？”他说，几周前他在加州偶然遇到 Clark，“没有讲台，没有名牌，只有一个背包和一条牛仔裤。”

Clark 的职业生涯始于采访数据中心的记者。他在 2016 年离开新闻业，加入 OpenAI，几年后参与创办 Anthropic。他对在座官员说，过去十年里，他一直在拜访各国政府，说 A.I. 终有一天会强大到足以改变国家安全、改变经济的走向，甚至自己构建自己。他现在说，那一天已经到来。

芝加哥大学经济学家 Rajan 教授担任主持。2005 年，他以基金组织首席经济学家的身份在怀俄明州杰克逊霍尔的一场研讨会上说，金融创新可能正在让世界变得更加危险。他向 Clark 提出了许多年轻人都在问的问题：他们能找到工作吗，又能保住吗？

Clark 承认，他自己的经济模型无法预测新兴产业可能创造哪些工作岗位。他说，模型确实预测，对就业可能造成极具破坏性的影响。

“奇点已经到来”

Clark 用来形容即将发生之事的这个词，比他所在的行业还要古老。他说，科幻作家 Vernor Vinge 在 1993 年预言过奇点，并描述了这样一个时点：“超越人类的智能推动进步”，并且“进步将快得多”。越过这一点，用 Vinge 的话说，“我们的模型必须抛弃，新的现实将主宰一切”。Clark 对官员们说，他相信今年“我们已经获得令人信服的证据，表明它现在已经开始”。

证据是以一连串论断的形式给出的，没有一条容易在讲台上核实。首先是软件。他说，A.I. 系统如今比全球绝大多数软件工程师更有能力、更高效，Anthropic 自己的研究人员产出的代码量，已接近公司最初四年的 10 倍。他说，同样的进步也让这些系统在网络攻击和网络防御上都更加强大，而且两者无法分开。

接着是科学。他说，A.I. 系统已被用来为纳维-斯托克斯方程这一千禧年大奖难题、雅可比猜想以及若干悬而未决的 Erdős 问题提出解法，很多情况下核心洞见由系统给出。他说，研究人员已用 A.I. 从零设计出病毒，一些正在进行临床试验的药物在很大程度上也是由 A.I. 设计的。在实验室里，模型越来越多地自主操作设备。他没有点出任何论文和试验。

Clark 发表上述言论之际，据 SF Chronicle 报道，Palantir 首席技术官 Shyam Sankar 曾批评硅谷存在一种他称为“集体精神错乱”或“社会性妄想”的现象，一些科技从业者对人工智能抱有近乎宗教式的信仰。Sankar 部分援引了他的一种说法，即一些 A.I. 研究人员开始吸烟，以表明他们坚信这项技术有朝一日会治愈癌症。Sankar 没有为这一说法提供任何证据。

Clark 说，令他感到意味深长的是，其中大部分是由同一个底层模型完成的。“我们有了虚拟的博学者。”

他描述的基准测试也指向同一方向。Humanity's Last Exam 是一项涵盖化学、数学、古典文学和生态学的测试，2025 年 1 月推出时最好的系统得分为 8%。他说，本周最高分为 67.7%，由 Anthropic 的模型 Claude Opus 5.5 保持。FrontierMath 是一套由专业数学家精心编制的题目，2024 年 11 月推出时最好的系统只能解出 2%，现在能解出 94%。他说，他保存着 100 张这样的图表，当天早上刚刚更新过，它们朝着同一个方向弯曲，即向上，起点是过去两年，有时是过去一年。

图 1

Jack Clark 引用的基准测试得分

发布时解出的题目占比或得分，以及 Clark 本周给出的数字

发布时本周，据 Clark

Humanity's Last Exam

8

67.7

FrontierMath

2

94

查看数据

Jack Clark 引用的基准测试得分

基准测试	发布时（%）	本周，据 Clark（%）
Humanity's Last Exam（2025 年 1 月发布）	8	67.7
FrontierMath（2024 年 11 月发布）	2	94

他用一个故事结束了举证。前一周，一篇论文用 50 道未发表的理论物理题测试了 A.I.，这些题由物理学家根据自己的研究编写，因此任何模型都不可能读到答案。作者之一、印度物理学家 Suvrat Raju 发了一条 Facebook 帖子，Clark 当场朗读了出来。“据我所知，没有哪个人能在没有 AI 助手的情况下解出我们最终题集中的任何相当比例，”Raju 写道。

一个名为 Astra 的模型第一轮得分在 80 分代后段。随后，作者检查它的错误时，它坚称自己是对的，专家的答案是错的。作者回头核查，在若干题目上，专家发现自己的计算中埋着细微的错误。更正之后，Astra 的得分升至 98%，即 50 题中的 49 题。

“据我所知，没有哪个人能在没有 A.I. 助手的情况下解出我们最终题集中的任何相当比例。”

物理学家 Suvrat Raju，帖子由 Clark 朗读

Clark 把这比作许多电影接近尾声时的一幕：徒弟向师父证明自己已经可以独当一面。“上周发生的就是这样的事，”他说。

他讲这件事的原因是创造力。他认为，开辟新天地检验的是 A.I. 能力的最后几道边界之一，一个能在物理学中做到这一点的系统，也可能在 A.I. 研究中做到，“这可能对创新产生爆炸性的效应”。

从 1000 万名科学家到 10 亿名

随后他转向经济学。据 Asian Value Investor 了解，在 I.M.F. 和世界银行年会上，听众大多是专业经济学家，这个话题让许多人颇为在意。几十年来，创意越来越难找。Nicholas Bloom、Charles I. Jones、John Van Reenen 和 Michael Webb 2020 年在 The American Economic Review 上发表的一篇论文发现，尽管研究投入在增加，各行业的研究生产率却在急剧下降。例如，要让摩尔定律继续成立，所需的研究人员是 20 世纪 70 年代初的 18 倍以上。Clark 没有引用这篇论文，但他描述了其中的问题：各国不断增加研究人员，而每个人带来的产出却越来越少。

他的主张是改变供给。他说，培养一批新科学家需要 10 到 15 年和数百万美元。A.I. 系统只要有算力运行，就可以立即创建，数量不限。按他的说法，每一位人类科学家都将成为数百乃至数千名虚拟科学家的监督者。

Anthropic 的经济学家已经对随后的情形做了建模。在 Clark 所说的奇点条件下，一个模型显示美国国内生产总值到 2030 年将达到 44 万亿美元。“我知道这听起来非常离谱，”他说，但这种规模的增长需要新产业，而自主的科学探究正是新产业出现的途径。

他说，10 年来他一直敦促各国政府建设电力产能和数据中心空间。“没有多少决策者听进去，”他说。“我想现在我们要面对后果了。”数据中心主要位于美国、中国以及越来越多的中东地区，供应链紧张到足以推高价格。

现在他想要实验室。他说，下一阶段是让 A.I. 进入物理世界，开展实验并操作机器人。联合国教科文组织估计，全球约有 1000 万名科学家，他称这个数字不足以监督当今的工作，材料分析实验室太少，检验药物的生物实验室太少，地面和太空中的大型设备也太少。他设想由这 1000 万名人类科学家指挥 10 亿名虚拟科学家。他没有说谁来为额外的实验室买单。

他说，较贫穷的国家有一个机会：提供原材料的发展中国家可以建设测试设施，培育科学群体，实现跨越式发展。“这是一种选择。”但有个问题对所有人都适用。“如果只有寥寥几种药物能够被测试，那么大量涌现的候选新药用处不大，”他说。他说，把发现从实验室转移到诊所、工厂和田间，是眼前这些决策者的任务。

账本

第一位回应 Clark 的经济学家带来的是另一种证据。北京大学教授、该校数字金融研究中心主任 Yan Shen 描述了她所说的一个悖论：中国在 A.I. 上投入巨大，采用速度也很快，利润却迟迟没有跟上。

她列出了从投资到持久增长之间的一条环节链。A.I. 必须被广泛采用，采用必须提高生产率，生产率必须带来实际收益，收益必须得到分享，分享必须创造需求。她说，在中国，前面的环节很强，后面的环节很弱。今年上半年，生成式 A.I. 用户达到 7 亿，达到一定规模门槛的大型企业中约 30% 已采用。算力需求同比增长约 170%。

图 2

中国 A.I. 链条在哪里断裂

Yan Shen 提出的 A.I. 投资与持久增长之间的五个环节

1. 环节 1 · 强广泛采用。今年上半年生成式 A.I. 用户达到 7 亿，约 30% 的大型企业已采用，算力需求增长约 170%。
2. 环节 2 · 强生产率提高。北京大学的一项研究发现，更多使用 A.I. 平均而言会提高生产率，已接近行业顶端的企业收益最大。
3. 环节 3 · 弱实际收益。在中国上市公司中，尚无迹象表明更多使用 A.I. 会提高资产回报率或股本回报率。
4. 环节 4 · 弱收益分享。A.I. 暴露度更高的职业中，工人的户主劳动收入更低，负债的可能性更高。
5. 环节 5 · 弱需求。更廉价的供给遇上持平的需求，因为收入并未随技术一同增长，她说这可能加剧通缩压力。

北京大学国家发展研究院的一项研究发现，更多使用 A.I. 平均而言会提高生产率，但已接近行业顶端的企业获益最多。在中国上市公司中，研究尚未发现更多使用 A.I. 会提高资产回报率或股本回报率的迹象。她说，她团队的实地研究找到了三种解释。企业往往不知道哪种技术适合自己。它们采用 A.I. 是因为竞争对手采用了，用她的话说是一种“剧场效应”，它们输不起这场竞争。而且技术发展太快，一项投资可能在还没产生任何回报之前就已过时。家庭层面的情形更严酷：A.I. 暴露度更高的职业中，工人的户主劳动收入更低，负债的可能性更高。

实地走访也发现了亮点。她说，一家成立不到三年的奶茶连锁品牌运营着 15,000 家门店，今年目标是 20,000 家，在两天内实现生鲜原料的标准化，她说没有 A.I. 系统很难做到。一位年轻女性在社交媒体上发帖抱怨男友从不把袜子和其他衣物分开洗，这条帖子传到了一家洗衣机制造商那里，对方造出了一台一次可分三个独立洗程的洗衣机。一款针对中国医生短缺问题的应用将患者、医院、医生和制药端连接起来，扩大了覆盖面，降低了成本。

在全国层面，她看到的是分化。她估计，今年上半年中国的私营 A.I. 投资约为 2500 亿元人民币，而她援引 The Wall Street Journal 汇总的美国数字是已花费 6000 亿美元、已承诺 3 万亿美元。3 月之后，在模型市场 OpenRouter 上，源自中国的模型在 token 消耗份额上超过了美国模型。DeepSeek 问世后，中国 A.I. 应用的全球下载量激增，此后有所放缓。她说，中国应用在图像和视频领域领先，在生产力工具方面则已失去阵地。她补充说，中国面临通缩压力，A.I. 可能使之加剧，因为更廉价的供给遇上持平的需求，收入并未随技术一同增长。她的结论是：中国并不处于前沿。

印度政府首席经济顾问 V. Anantha Nageswaran 回溯到 2005 年 8 月的杰克逊霍尔，当时 Rajan 教授问金融创新是否让世界变得更危险，一位听众中的知名人士说这一前提有点像卢德分子。Nageswaran 博士说，三年后答案出现了。他说他也可能得到同样的标签，并且在一个条件下愿意接受。“我反对剥夺人类能动性的技术，也反对隐藏自身风险的金融。”

Nageswaran 博士说，Clark 讲的是建造者的视角。他要讲的是承受方的视角。他说，财政部门、央行和家庭将为此买单。

按他逐项列出的账单，首先是债务。他说，美国数据中心的建设到 2032 年可能需要超过 10 万亿美元，约占国内生产总值的 3.6%，每年如此。今年，大型云计算公司的资本支出将首次超过它们产生的现金。

阅读： AI's Inflationary Footprint Arrives First

缺口靠借款填补，而且越来越多是表外借款：Meta 的 Hyperion 数据中心约 90% 是债务，通过一家合资企业筹集，其债券不计入 Meta 的资产负债表。资金还在循环流转。超大规模云厂商投资 A.I. 实验室，实验室再与同一批厂商签下大额算力合同；他说，第一季度五大公司约三分之一的收益来自对这类股权的重新估值上调。此外，还有集中投资于 A.I. 股票的杠杆型交易所交易基金，以及对冲基金向主经纪商的借款，他说后者自 2023 年以来已翻了一番。

图 3

Nageswaran 所描述的 A.I. 融资结构

V. Anantha Nageswaran 在发言中引用的数字

10 万亿美元以上美国数据中心建设到 2032 年可能需要的资金，约占 GDP 的 3.6%，每年如此

~90%Meta 的 Hyperion 数据中心以债务融资的比例，债务在 Meta 资产负债表之外筹集

~1/3五大公司第一季度收益中来自对 A.I. 实验室股权重新估值上调的比例

2 倍自 2023 年以来对冲基金向主经纪商借款的增长

阅读： Goldman's bet on the software short

账单也会波及公共预算，在这一点上，他把 Anthropic 自己的建模结果转而用来质疑它的乐观。他说，在该公司运行过的一个极端情景中，美国经济到 2030 年会扩大三分之一，但劳动收入占比将从约 60% 降至 45%，知识工作者的工资将比原本水平低 10% 以上。他说，最能支撑如今超大规模云厂商和实验室估值的结果，恰恰是会缩小所得税税基的那一种。他说，如果 A.I. 反而令人失望，英格兰银行已警告，建立在更高生产率之上的财政预测将受损，政府债务也将受损。“无论哪种情形，政府都面临风险。”

“无论哪种情形，政府都面临风险。”

V. Anantha Nageswaran，印度政府首席经济顾问

阅读： If you build it, will they come? Inside a $30 billion bet.

他给财政部门的建议与当天下午的基调背道而驰。他说，在 A.I. 的生产率红利出现在数据中之前，不要把它写进你们的预测。Clark 刚刚花了半小时描述一个到 2030 年规模达 44 万亿美元的美国经济。

第一级台阶

Nageswaran 博士提出的第一个风险是职业阶梯的底部，他还给出了数字。他说，在一项涵盖 41 个国家的研究中，在可测量的 31 个国家里，有 23 个国家的初级员工在劳动力中的占比下降。在美国，A.I. 暴露度最高的岗位上，22 至 25 岁人群的就业比同岗位年长员工的就业低了约 19%。

他说，原因是激励问题。过去，企业可以从初级员工所做的日常工作中收回培训成本。如今 A.I. 能便宜地完成这些工作，培训就成了纯粹的成本，每家企业理性行事的结果，就是少招初级员工。合在一起，未来专家的输送管道就会枯竭。他说，明天检查 A.I. 工作的人，今天正是在那第一级台阶上成长起来的。

“明天检查 A.I. 工作的人，今天正是在那第一级台阶上成长起来的。”

V. Anantha Nageswaran

他的第二个风险是对思考习惯本身的冲击。M.I.T. Media Lab 的研究人员追踪了人们在四个月里使用和不使用 A.I. 模型写作文的情况，并记录了他们的大脑活动。他说，随着依赖加深，神经连接减弱，在第一次实验中，83% 的 ChatGPT 用户无法引述自己几分钟前写下的文章中的一句话。作者称之为认知债务。他说，这项研究规模不大，但与教师的反映相吻合。

Rajan 教授把这个问题抛给 Clark，Clark 给出三点回答。他说，职业生涯早期的招聘需要支持，Anthropic 已资助一项他称为 Claude Core 的计划，目标是在美国各地的非营利组织和援助团体安置 1,000 名应届毕业生，薪资由公司支付。他说，有些职业会失去工作岗位，他点名了呼叫中心和客户服务，而另一些职业，包括某些科学领域，看起来是中性或正面的，Anthropic 与各国政府分享其平台数据，以便它们分辨哪些属于哪一类。第三点回答则是承认他的模型无法预测新兴产业可能增加哪些工作。

“我说这话并非轻率，”Clark 说。他说，改变科学和技术的运作方式，可能会改变劳动力市场运行方式中的“一些相当根本的东西”。

他还接过了 Nageswaran 博士的建议，即大型企业应披露其入门级招聘情况。他说，Anthropic 当天发布了一篇关于自身招聘和培训的文章，包括按资历划分的趋势，企业应当被要求公布这样的数字。“这才是能让你做出决策的遥测数据。”

被问及中国年轻人是否像其他地方的年轻人一样担忧时，Shen 教授以一个来自实地的观察作答。她说，被挤出信息技术岗位的工程师，对服务类企业来说雇用成本变得更低，奶茶连锁品牌的老板就是这样告诉她的。今年中国将有 500 万名 STEM 专业毕业生。

Nageswaran 博士对劳动力众多的国家给出的回答则相反，指向机器不擅长的工作。他说，需要人的在场、双手和判断力的职业，工资最终会高出约三分之一：护理、养老服务、教学、咨询、烹饪，电工、焊工和水管工的工作，以及维持数据中心运转的技术人员。老龄化社会将需要他们。仅印度就还需要约 180 万名医生、护士和助产士才能达到最低标准。阻碍年轻人的是地位观念。在他引用的一项近期调查中，71% 的美国年轻人表示，职业学校比学位带有更多污名。他希望职业资格获得与学位正式对等的地位，如同德国的 Meister 体系，让学徒制在学生仍在校时就开始，并开展一项全国技能使命，他说印度值得拥有，其他新兴经济体也可以效仿。

被问及处于前沿之外是否令人受伤时，他称这是因祸得福。他说，前沿是资本密集型的，为其提供资金的杠杆模式正开始瓦解，因此当第二梯队或第三梯队的跟进者也许不错。他指出，印度的初创公司正在开发更便宜的“边缘”A.I.，Aravind 眼科医疗系统有一项及早检测糖尿病相关失明的试点，还有教师不愿前往的偏远地区的课堂。他说，印度每年需要创造约 800 万个生计机会。用他的话说，不在前沿，“大概会让人把心思集中到我们真正应该集中的地方”。

缰绳在谁手中

Clark 曾要求各国政府加快建设。而在技术本身上，他的要求恰恰相反。他说，A.I. 将成为一名能干的科学家，“并不意味着我们应该把它用于一切事情”。

他提出了两个选择。第一个是把它指向哪里。他说，生物学应该得到最严格的人类监督和透明度。A.I. 研究则更难，这是他自己所在行业的问题：当 A.I. 在做改进 A.I. 的工作时，像 Anthropic 这样的实验室必须决定施加多大程度的监督。这可能加快进展，也会增加对技术失去控制的风险。他本周早些时候遇到东京一所大学物理系的一名学生，该学生告诉他，A.I. 已经能做他所做的许多实验，想知道哪些该亲自做，哪些该留给机器。“我没有答案，”Clark 说。他说，每一个科学领域都将不得不迅速找到答案。

第二个选择是人类需要理解多少。他说，今年在数学领域，A.I. 取得的进展极具创造性，以至于人们要花时间去解读。几年之内，这些系统可能会发明围绕 A.I. 运作方式而非人类心智运作方式构建的科学设备。“我们需要理解那种设备吗？”他问。“我们应该吗。”

接着他转向个人经历。十几岁时，他读到有关人口增长、气候变化和资源开采的内容，预期会发生马尔萨斯式的崩溃。太阳能电池板便宜的速度超出所有人预料。医学为曾夺去人命的疾病找到了疗法，其中包括他自己家人患过的一些疾病。公司学会了让火箭着陆，研究人员开始用 A.I. 破译动物语言。他说，他从事 A.I. 工作，是因为它能带来更多这样的成果，而它是否做到，取决于我们的选择。他还说，这同时是一项“暗含危险”的技术。

他以 Carl Sagan 收尾，Sagan 设想抵达星辰的人类将与我们相似，有更多我们的长处，更少我们的弱点。Sagan 假定要花数十万年才能到达那里。Clark 说，世界只有“寥寥数年，轻松算来不到十年”。

Nageswaran 博士用银行家的话说了同样的意思。他说，OpenAI 的首席科学家上个月写道，没有任何实验室把对齐问题解决到足以以最高速度负责任地继续扩张。放慢脚步的实验室会输掉竞赛，也会输掉估值。“没有人会为克制向实验室付费，”他说，“而我们以前见过这种结构。2008 年之前，它叫银行业。”他希望监管者把已签订的租约、残值担保和合资企业债务当作它们本来的样子，即债务，并希望金融稳定委员会绘制这些风险敞口的跨境分布图。他说，安全测试不能交给实验室来做，发展中世界也应该在制定标准的会议室里有一席之地。

“没有人会为克制向实验室付费。”

V. Anantha Nageswaran

Rajan 教授提出了笼罩这类提议的问题。他说，Anthropic 一直走在谈论生存风险的最前列，而各国却因担心对手领先而拒绝监管。人类是否注定失败，因为它怕别的人类甚于怕灭绝？

“不，”Clark 说。“人类没有注定失败。”他说，人们会尝试一切，唯独不做那件难事，直到危机降临，而 Anthropic 希望跳过危机。他觉得很奇怪，监管 A.I. 竟被说得像是需要发明广义相对论。人们在受监管的办公室里工作，驾驶受监管的汽车，吃受监管的食品。基本的安全测试、透明度和信息披露标准，以及为风险定价的方法，会是一个开端。

Shen 教授建议从金融开始。她说，金融市场中的 A.I. 智能体带来的市场风险和操作风险，是任何一个国家都无法单独管理的，而在这方面的合作是政治色彩最淡的选项之一。“嗯，谢天谢地，金融是非政治的，”Clark 说，“所以应该很容易。”

Nageswaran 博士就没那么乐观了。他说，核技术掌握在少数人手中，所以保障措施是可行的。“这匹马也许已经脱缰了。”他希望出现一场严重到足以唤醒所有人、但又不至于酿成灾难的事故，让各国政府考虑在保障措施之后停用某些功能，或者重新审视那些因成本超过收益而被封存的技术。“如果一场不至于灾难性、但严重到足以让我们所有人思考开展这场对话的事故发生，”他说，“我会把那算作进步。”

他自己的发言以《奥义书》中的一个意象收尾，该书将人比作一辆战车，心智握着缰绳，理智是驾车人。他说，A.I. 增添了一匹非常强大的马，而没有驾车人的马不会把我们带到想去的地方。“真正的风险不是机器将开始思考，”他说。“而是我们将停止思考。”

Rajan 教授在结尾回到了缰绳的话题。他问，如果机器的能力远远超过人类，到什么时候我们该说：拿起缰绳？

Clark 说，这个选择是真实的，而且正在逼近。他说，Anthropic 首席执行官 Dario Amodei 曾在一篇公开文章中表示，限制这些系统被允许达到的智能上限或许是合理的，Clark 称这一想法有点处于奥弗顿之窗的边缘，却恰恰是这个问题所隐含的意思。他说，现在人们控制着这项技术，而它变得更强大的速度超过了任何人的直觉。采取行动的窗口只有寥寥数年。他回忆起哲学家 David Chalmers 说过，哲学现在有了一个截止日期。“我认为政策讨论现在有了一个截止日期，”Clark 说。

台下提了两个问题。Sandeep Mehta 指出，Rajan 教授曾预警过 2008 年危机，并援引一份报告称全球债务为 365 万亿美元，相当于全球产出的 311%。是否又一场危机即将到来？Clark 说这不是他的领域。Nageswaran 博士说：“我相信我们很快就会知道答案。”

最后一个问题来自伦敦 ICBC Standard Bank 的首席经济学家 Jenny Young：如果你有孩子，你希望他们学什么？Clark 说，建立在死记硬背知识之上的学位将面临极大压力，而创造力会保值。他说自己也许是在替自己的立场说话，但他预计文科、历史、哲学和伦理学会变得更重要。他的孩子分别是 3 岁和 1 岁。Shen 教授说，她的女儿已经在读博士，父母的主要任务是保护好奇心，并让孩子对未来有信心。她说，中国教育需要从儒家模式，即老师讲、学生背，转向问与答。

Nageswaran 博士最后一个发言。他说，要教学生如何提出正确的问题，并让他们回到阅读和用手书写这些基本技能上。