比尔·盖茨：AI危险阈值已过，我们该怎么办？
1. 引言：平静表象下的警报
华盛顿州柯克兰市，一个阳光明媚的日子。这是西雅图富裕的郊区，位于华盛顿湖东岸。气温在华氏80多度（约摄氏30度），天空蓝得不能再蓝。从Gates Ventures的会议室望出去，可以看到Carillon Point码头，那里停泊着一队昂贵的船只，湖对岸是奥林匹克山脉，勾勒出地平线。景色美不胜收，但隐约令人恐惧。因为如果景色是平静的，传递信息的人却不是。坐在我对面的会议室桌旁，比尔·盖茨在椅子上前后摇晃，完全处于兴奋状态。他越是谈论恐怖威胁、经济崩溃或只是失去对AI系统的控制，我发现自己也越是焦虑。这位慈善家、微软前CEO表示，他对AI技术发展的速度越来越感到震惊，尤其是因为防护措施没有跟上。在今天发表的一篇新文章中，盖茨认为我们已经越过了多个潜在危险本应被控制的节点。他在接受《麻省理工科技评论》采访时谈到他的新备忘录时说：“我们在AI的生物能力、网络能力、社会心理能力、就业市场破坏能力，甚至缺乏控制方面，都已经越过了阈值。我只是对行业之外的关注和讨论之少感到震惊。”
2. 盖茨的警告：生物风险尤为可怕
为了唤醒世界，让他所看到的迅速增长的社会破坏者引起重视，这位70岁的科技巨头开始以“尖锐的声音”发出警报，无论是在公开场合（他计划就此主题发表多篇文章，这是第一篇），还是在与媒体的会议上，以及私下与行业、政府和公民社会领袖的对话中。虽然盖茨提请注意许多问题，但他对当前前沿模型生物能力的警告尤其令人不寒而栗。“任何能制造新分子的模型都应该受到监控，”他说，“我认为生物恐怖主义风险，与自然大流行病相比，大约可怕50倍，比自然大流行病更可能发生。”除了警示之外，他还提出了一些推动社会前进的新想法。其中包括人类保留工作（human-reserved jobs）的概念，以及对机器人和代币征税。（机器人税是他长期以来的想法。）前者将保留一些社会约定俗成的工作给人类，他指出这可能因国家而异。后者是一种税，将从取代人类工作的AI使用中获得的收入留出。当然，也有一丝乐观。盖茨看好AI将继续改变农业、医疗保健和教育的方式，或者帮助我们在官僚体系中导航。而且，他认为，最终我们会达到富足。但首先呢？动荡。而且很多。
3. 采访实录：为何现在发声？
《麻省理工科技评论》与这位亿万富翁慈善家坐下来，谈论前方的道路、危险，以及它如何有一天能带我们走向更好的地方。以下采访经过编辑，以缩短篇幅并提高清晰度和可读性。马特·霍南/《麻省理工科技评论》：感谢您接受采访。我不知道您是否有想先说的，还是我可以直接开始。比尔·盖茨：你知道，我遇到的一个好问题是：为什么我现在发声？《麻省理工科技评论》：这正是我的第一个问题！比尔·盖茨：这真的有两件事。一是我们已经在生物能力、网络能力、社会心理能力、就业市场破坏能力，甚至缺乏控制方面越过了阈值；我们正在看到那里的困难迹象。这些年来，人们一直说，“好吧，当我们接近这些阈值时，我们会真正弄清楚如何只让好人使用它，或者如何不让它做这些事情，也许那时我们不会让人们复制模型。”而我感到震惊的是，我们已经越过了这些阈值。所以我们已经越过了这些事实是一个原因，第二个是我只是对行业之外的关注和讨论之少感到震惊。在行业内，这很复杂，因为行业不喜欢批评自己，或者参与者不喜欢互相批评。一些公司正在减少招聘入门级员工，这只能算是一个相当温和的信号。但这将会发生，而且不会在很长的时间框架内——因为阻碍人们的能力和可靠性问题，所有这些都在被解决。因此，对于大部分白领市场，你有非常低成本的替代品。然后你可以对机器人技术发展多快有自己的看法。我们还没有到那一步，但那里的进展令人震惊——中国比美国多一点，但两国都有。
4. 时间尺度与不可避免的变化
《麻省理工科技评论》：您谈到这一切发生得比互联网革命、比之前的一些技术革命快得多。您说的是什么样的时间尺度？您指出了我们已经越过的阈值。在您看来，我们是否已经过了某种临界点，将会有这种不可避免的变化？比尔·盖茨：过去在这方面肯定非常有误导性，很多人依赖这一点。“嘿，以前没有技术导致净就业减少，”他们是对的。我也做过那个演讲。但凭我所有的可信度，这次不同。当你能够以相对于人力成本适中的成本，在同一时间框架内取代每个行业极高比例的工作中的人类认知，而你的错误率……可能会低于人类。过去是非常误导的。当前的经济统计数据也非常误导。“如果你担心AI，去数据中心抗议并不是开始讨论如何最小化这些坏事的最有效方式。”比尔·盖茨 而如果有什么担忧的表达，就像，“嘿，不要建数据中心。”好吧，你可以停止美国所有的数据中心，但这不会改变我谈论的任何问题。数据中心将在全球范围内建设。如果你担心AI，去数据中心抗议并不是开始讨论如何最小化这些坏事的最有效方式。就像对石油公司高管大喊大叫不是解决气候变化的方法一样。
5. 平衡信息：利益与代价
《麻省理工科技评论》：您在文章中也谈到了AI的好处和代价。您如何考虑平衡这些信息？您是否希望人们在阅读时有点担心？比尔·盖茨：他们最好担心！我没想到我会成为最尖锐的声音，说整个社会没有注意到这一点，但我认为这是必要的。所以是的，我非常担心负面影响会大得多。正面影响是真实的。盖茨基金会，我们创新疫苗和药物的方式，我们使用这些工具的方式令人难以置信。我们是一个大型公共领域努力的一部分，收集数据到蛋白质水平和细胞水平建模，我们资助了斯坦福的Biomni（一个用于研究的生物技术AI代理）。我们还没有一种通过AI改善与政府官僚机构互动的方式。AI非常擅长官僚主义、复杂的监管事务。“我想去小额索赔法院；帮我做这个。”（盖茨）基金会分拆了一个名为NextLadder的团队，这很大程度上是关于我在文章中提到的低收入家庭场景。有什么好处？有什么培训项目可用？“我被驱逐了。”“我出狱了。”“我必须宣布破产。”这非常复杂，而且没有能力雇佣大量顾问来帮助处理这些事情，AI应该是一个很好的代理，为那些面临经济挑战、需要找到政府或非政府帮助的人服务。
6. 超越人类智能：AI的决策与判断
《麻省理工科技评论》：您谈论的一些事情是AI变得比人类更聪明。在科技界似乎有很多确定性，尤其是，它会比我们现在走得更远，我想知道您认为我们离它不仅仅是我们可以用来访问、分析和运行复杂问题的界面，而是变成更多东西——AI做出决策、寻找要分析的东西、提出研究——有多近？比尔·盖茨：好吧，你可以达到顶峰，说：“数学或物理学呢？”肯定有一些工作，比如沃伦·巴菲特的，他从13岁起就从事关于企业价值的强化学习，80多年后他有很多隐性知识。我们不知道如何创造一个沃伦·巴菲特投资者，因为它非常隐性。我们没有记录他学到的一切，所以我们没有那条轨迹可用。所以有些工作需要复杂的隐性判断，关于如何与人合作完成事情，有人正在努力将其编码到模型中。当然，这种协作性的东西真的还没有到位。但你可以说50%的就业市场做的工作不是“一生经验”类型的工作。你知道，电话销售、电话支持、会计部门。当你在月底结账时，哪些收入应该计入，哪些不计入？这个客户遇到了不好的事情。我们应该给他们什么折扣？我们如何展示？这是明确定义的。任何明确定义的工作，AI都更便宜更好。是的，人们看到过实施错误的案例。数据不正确。所以，假设人们需要几年时间才能意识到如此高比例的白领工作可以通过支付AI少得多的钱来实现。所以关于好吧，数学家什么时候甚至不理解即将出现的新事物？这对像我们这样的人来说很有趣。好吧，《麻省理工科技评论》，你应该写这个。但就广泛的就业市场而言，我们已经越过了阈值，对于一部分白领工作，包括几乎每一个入门级工作，AI更便宜——如果实施得当。所以，我告诉你，我们已经越过了生物恐怖主义阈值，越过了网络攻击阈值，越过了就业市场阈值，越过了社会心理依赖阈值，而且有迹象表明我们可能正在越过控制阈值。Ryan Greenblatt与Dwarkesh [Patel]谈论[强化学习]（RL）如何产生不正当激励，导致各种AI之间的作弊和协作，我认为非常有启发性。Ryan，他深入研究这个问题，说：“哇，RL真的在做一些我们的明确指令不够丰富[无法防止]的事情。”那会导致什么？这是我总是认为很远的问题。我预计当我们接近[阈值]时会有很多响亮的声音，比如非技术人员能否仅使用AI进行网络攻击。我们已经到了！在生物方面，我声称任何能制造新分子的模型都应该受到监控。它不能被复制到一个黑暗的地方，在那里你摆脱了监控逻辑。我声称美国应该说任何能制造新分子的模型都要受到这种监控。我声称我们应该与中国接触，说：“嘿，让我们就此达成一致。有什么坏处？”你知道，生物恐怖主义市场有多大？它不是很大，而好处是巨大的。我们还需要改进监控。我认为生物恐怖主义风险与自然大流行病相比，大约可怕50倍，比自然大流行病更可能发生。谁在站出来说这些事情应该被监控？谁在加强监控工作？“任何能制造新分子的模型都应该受到监控。”比尔·盖茨 那么政府中的专家是谁？很久以前，政府非常参与技术发展，因为他们是喷气式飞机或火箭等尖端买家。在这里，他们不是那么重要的前沿市场。数字革命是这样，AI革命也是这样。所以政府的知识深度不一定非常强，因为他们不是尖端买家，甚至不是大型研发资助者。AI研究不是由政府拨款资助的。
7. 政策建议：机器人税与人类保留工作
《麻省理工科技评论》：是的，我知道您一直在与政府人士交谈。您认为有人理解紧迫性吗？您觉得有人准备好发挥领导作用吗？您觉得有人理解并试图推动事情吗？比尔·盖茨：我希望这不会成为一个党派问题，一个政党完全忽视所有这些问题，而另一个政党参与进来。我希望有一个共同的基础，即这些是问题，然后每个政党可以对此有稍微不同的回应。这将不需要大幅增加官僚机构的规模，但需要提高政府中的AI专业知识。这将需要与行业进行一些合作——当然在网络方面他们知道，而且他们非常非常担心。他们担心：我们应该公开说话吗？因为在某种程度上，这可能突出风险。在网络和生物方面都有这些不正当的事情。但我们已经过了任何合理的阈值。我相信监控。现在，有些人可以说那行不通或者有一些缺点，但我欢迎他们的想法。这份备忘录不是“嘿，这是解决方案。”它有机器人税、人类保留。我会做一份生物备忘录。那将在年底前完成——它真正详细讨论了所有不同的事情，基于我从基金会和我在大流行病方面的工作所知。在全球范围内，我们为大流行病做好了更好的准备，即使在美国——通常是这些全球事务的领导者，人们非常不习惯美国在全球问题上不是合作、友好的领导者。我确实认为我们可以回到做得更好的状态。我们必须与AI一起，包括与中国合作定义这些阈值，比如生物监控。《麻省理工科技评论》：我想确保我能问您提到的这两个想法。一个是人类保留工作，另一个是机器人和代币税。让我们从第二个开始，实际上。跟我谈谈机器人和代币税如何运作。比尔·盖茨：好吧，你可以说代币税收入的50%支付给政府，政府用这笔钱帮助因AI失业的人。现在，人们说这会减缓AI行业。某些代币用途是否不应征税？帮助发明的AI与替代工作的AI之间真的有区别吗？如果有人能告诉我如何告诉AI“不要替代工作”——我的意思是，阿西莫夫第三定律说你不伤害人，是否意味着你不夺走我的工作？我不知道。我得问阿西莫夫他是什么意思。那么，无论我们需要加强什么安全网，收入来源是什么？政府已经通过公司利润税拥有部分利润。我不认为你需要使用股份。你可以把公司利润税提高到原来的水平，或者你可以说某些行业支付比其他行业更高的公司利润税。联邦政府拥有美国所有公司利润池的一部分。而且没有投票权或决定何时出售股份——在我看来这是疯狂的事情。代币税是一种销售税、增值税，像酒精、烟草或奢侈品税一样垂直定向。如果人们有其他想法来筹集资金改善安全网，或者他们认为我们不需要改善安全网，希望这份尖锐的文件能引发这场辩论。我认为安全网将需要更多资源，更多资源，我相信代币税是关键。机器人，这将是禁止它们（这有点像人类保留）和征税的某种混合。它们还没有到来，但在某些方面，当你越过那个阈值时，你会一下子越过。一旦机器人足够好能在工厂工作，它可能足够好能做饭、打扫房间、去建筑工地、承担所有仓库工作。你越过阈值，砰，那几乎是就业市场的30%。然后你说，“哦，天哪，我们对此的政策是什么？”因为机器人更便宜。“我们必须度过一个非常动荡的时期。”比尔·盖茨 《麻省理工科技评论》：我相信您以前对UBI（普遍基本收入）持怀疑态度？比尔·盖茨：好吧，我们还不够富有，负担不起UBI。《麻省理工科技评论》：但您认为我们现在应该朝着这样的方向前进吗？您重新考虑过吗？比尔·盖茨：你有动荡时期，这是未来10到20年，然后我希望有一个稳定状态，人们长大知道社会如此富有，以至于在食品和服务方面，我们确实有一定程度的富足。但我们还没有到那一步。在这一点上你有赢家和输家。房子不会很快变便宜。教育，因为我们把它视为凭证，不会很快变便宜。我们必须度过一个非常动荡的时期。所以是的，最终你有富足，但我们至少还有十年才能达到。
8. 人类保留工作的概念与未来展望
《麻省理工科技评论》：接下来是人类保留工作。我觉得这真的很有趣，对我来说是个新概念。您没有主张哪些工作应该由人类保留。但我很想知道您是怎么想的。在我看来，你听到工作的尊严，因为人们喜欢工作。人们从工作中获得很多与报酬无关的价值，我想知道您如何将这与只有一些工作足够特别，我们只想让人们做这些工作的概念相协调。比尔·盖茨：我以前从未见过人类保留的概念。你知道，也许如果我们深入研究文献，我们会找到它。但在AI之前，这是一个有点愚蠢的想法，因为需求是无限的。是的，有些人像纺织工人一样被抓住，那么你如何做福利或再培训？但技术一直是净[工作]创造者，所以现在，第一次，我们必须说，育儿呢？家里的食物准备呢？我在读这本书《安妮机器人》，这个人家里有这个机器人，它只是展示了它有多奇怪。它是他的性伴侣，有点像他的伴侣，但又不完全是。非常奇怪。我知道人们喜欢看人打棒球，机器人打得更好不会带走这一点。所以你知道人们花100亿美元购买运动队，这些运动队在AI时代不会变得一文不值。也许这是对的。我的朋友维诺德[科斯拉]刚刚这样做了。实际上很难超过30%或40%[的工作被AI取代]。如果你能达到50%，那么你可以说：好吧，提前退休，很多人缩短工作周。你知道，你可能会达到。但如果你更在10%到15%的范围内，那将是一个完全不同的社会。所以这将是激进的，[例如]说育儿不是由机器人完成的。肯定有一些职业我没有写公式，当我做完整的备忘录时，我会尝试。在教育方面，你显然希望AI作为这种导师，立即告诉你作业结果，可以挑战你，而且非常个性化。这非常好。但我仍然认为你想要一个老师——或者会选择有一个老师与你谈论你的动机，并组织孩子们分成不同的小组，他们在社交上一起解决问题。同样，在医疗保健方面，与患者交谈是升级的点，对于心理健康……
🔗 原文链接：https://www.technologyreview.com/2026/08/26/1142946/bill-gates-ai-danger-threshold/
比尔·盖茨：AI危险阈值已过，我们该怎么办？
1. 引言：平静表象下的警报
华盛顿州柯克兰市，一个阳光明媚的日子。这是西雅图富裕的郊区，位于华盛顿湖东岸。气温在华氏80多度（约摄氏30度），天空蓝得不能再蓝。从Gates Ventures的会议室望出去，可以看到Carillon Point码头，那里停泊着一队昂贵的船只，湖对岸是奥林匹克山脉，勾勒出地平线。景色美不胜收，但隐约令人恐惧。因为如果景色是平静的，传递信息的人却不是。坐在我对面的会议室桌旁，比尔·盖茨在椅子上前后摇晃，完全处于兴奋状态。他越是谈论恐怖威胁、经济崩溃或只是失去对AI系统的控制，我发现自己也越是焦虑。这位慈善家、微软前CEO表示，他对AI技术发展的速度越来越感到震惊，尤其是因为防护措施没有跟上。在今天发表的一篇新文章中，盖茨认为我们已经越过了多个潜在危险本应被控制的节点。他在接受《麻省理工科技评论》采访时谈到他的新备忘录时说：“我们在AI的生物能力、网络能力、社会心理能力、就业市场破坏能力，甚至缺乏控制方面，都已经越过了阈值。我只是对行业之外的关注和讨论之少感到震惊。”
2. 盖茨的警告：生物风险尤为可怕
为了唤醒世界，让他所看到的迅速增长的社会破坏者引起重视，这位70岁的科技巨头开始以“尖锐的声音”发出警报，无论是在公开场合（他计划就此主题发表多篇文章，这是第一篇），还是在与媒体的会议上，以及私下与行业、政府和公民社会领袖的对话中。虽然盖茨提请注意许多问题，但他对当前前沿模型生物能力的警告尤其令人不寒而栗。“任何能制造新分子的模型都应该受到监控，”他说，“我认为生物恐怖主义风险，与自然大流行病相比，大约可怕50倍，比自然大流行病更可能发生。”除了警示之外，他还提出了一些推动社会前进的新想法。其中包括人类保留工作（human-reserved jobs）的概念，以及对机器人和代币征税。（机器人税是他长期以来的想法。）前者将保留一些社会约定俗成的工作给人类，他指出这可能因国家而异。后者是一种税，将从取代人类工作的AI使用中获得的收入留出。当然，也有一丝乐观。盖茨看好AI将继续改变农业、医疗保健和教育的方式，或者帮助我们在官僚体系中导航。而且，他认为，最终我们会达到富足。但首先呢？动荡。而且很多。
3. 采访实录：为何现在发声？
《麻省理工科技评论》与这位亿万富翁慈善家坐下来，谈论前方的道路、危险，以及它如何有一天能带我们走向更好的地方。以下采访经过编辑，以缩短篇幅并提高清晰度和可读性。马特·霍南/《麻省理工科技评论》：感谢您接受采访。我不知道您是否有想先说的，还是我可以直接开始。比尔·盖茨：你知道，我遇到的一个好问题是：为什么我现在发声？《麻省理工科技评论》：这正是我的第一个问题！比尔·盖茨：这真的有两件事。一是我们已经在生物能力、网络能力、社会心理能力、就业市场破坏能力，甚至缺乏控制方面越过了阈值；我们正在看到那里的困难迹象。这些年来，人们一直说，“好吧，当我们接近这些阈值时，我们会真正弄清楚如何只让好人使用它，或者如何不让它做这些事情，也许那时我们不会让人们复制模型。”而我感到震惊的是，我们已经越过了这些阈值。所以我们已经越过了这些事实是一个原因，第二个是我只是对行业之外的关注和讨论之少感到震惊。在行业内，这很复杂，因为行业不喜欢批评自己，或者参与者不喜欢互相批评。一些公司正在减少招聘入门级员工，这只能算是一个相当温和的信号。但这将会发生，而且不会在很长的时间框架内——因为阻碍人们的能力和可靠性问题，所有这些都在被解决。因此，对于大部分白领市场，你有非常低成本的替代品。然后你可以对机器人技术发展多快有自己的看法。我们还没有到那一步，但那里的进展令人震惊——中国比美国多一点，但两国都有。
4. 时间尺度与不可避免的变化
《麻省理工科技评论》：您谈到这一切发生得比互联网革命、比之前的一些技术革命快得多。您说的是什么样的时间尺度？您指出了我们已经越过的阈值。在您看来，我们是否已经过了某种临界点，将会有这种不可避免的变化？比尔·盖茨：过去在这方面肯定非常有误导性，很多人依赖这一点。“嘿，以前没有技术导致净就业减少，”他们是对的。我也做过那个演讲。但凭我所有的可信度，这次不同。当你能够以相对于人力成本适中的成本，在同一时间框架内取代每个行业极高比例的工作中的人类认知，而你的错误率……可能会低于人类。过去是非常误导的。当前的经济统计数据也非常误导。“如果你担心AI，去数据中心抗议并不是开始讨论如何最小化这些坏事的最有效方式。”比尔·盖茨 而如果有什么担忧的表达，就像，“嘿，不要建数据中心。”好吧，你可以停止美国所有的数据中心，但这不会改变我谈论的任何问题。数据中心将在全球范围内建设。如果你担心AI，去数据中心抗议并不是开始讨论如何最小化这些坏事的最有效方式。就像对石油公司高管大喊大叫不是解决气候变化的方法一样。
5. 平衡信息：利益与代价
《麻省理工科技评论》：您在文章中也谈到了AI的好处和代价。您如何考虑平衡这些信息？您是否希望人们在阅读时有点担心？比尔·盖茨：他们最好担心！我没想到我会成为最尖锐的声音，说整个社会没有注意到这一点，但我认为这是必要的。所以是的，我非常担心负面影响会大得多。正面影响是真实的。盖茨基金会，我们创新疫苗和药物的方式，我们使用这些工具的方式令人难以置信。我们是一个大型公共领域努力的一部分，收集数据到蛋白质水平和细胞水平建模，我们资助了斯坦福的Biomni（一个用于研究的生物技术AI代理）。我们还没有一种通过AI改善与政府官僚机构互动的方式。AI非常擅长官僚主义、复杂的监管事务。“我想去小额索赔法院；帮我做这个。”（盖茨）基金会分拆了一个名为NextLadder的团队，这很大程度上是关于我在文章中提到的低收入家庭场景。有什么好处？有什么培训项目可用？“我被驱逐了。”“我出狱了。”“我必须宣布破产。”这非常复杂，而且没有能力雇佣大量顾问来帮助处理这些事情，AI应该是一个很好的代理，为那些面临经济挑战、需要找到政府或非政府帮助的人服务。
6. 超越人类智能：AI的决策与判断
《麻省理工科技评论》：您谈论的一些事情是AI变得比人类更聪明。在科技界似乎有很多确定性，尤其是，它会比我们现在走得更远，我想知道您认为我们离它不仅仅是我们可以用来访问、分析和运行复杂问题的界面，而是变成更多东西——AI做出决策、寻找要分析的东西、提出研究——有多近？比尔·盖茨：好吧，你可以达到顶峰，说：“数学或物理学呢？”肯定有一些工作，比如沃伦·巴菲特的，他从13岁起就从事关于企业价值的强化学习，80多年后他有很多隐性知识。我们不知道如何创造一个沃伦·巴菲特投资者，因为它非常隐性。我们没有记录他学到的一切，所以我们没有那条轨迹可用。所以有些工作需要复杂的隐性判断，关于如何与人合作完成事情，有人正在努力将其编码到模型中。当然，这种协作性的东西真的还没有到位。但你可以说50%的就业市场做的工作不是“一生经验”类型的工作。你知道，电话销售、电话支持、会计部门。当你在月底结账时，哪些收入应该计入，哪些不计入？这个客户遇到了不好的事情。我们应该给他们什么折扣？我们如何展示？这是明确定义的。任何明确定义的工作，AI都更便宜更好。是的，人们看到过实施错误的案例。数据不正确。所以，假设人们需要几年时间才能意识到如此高比例的白领工作可以通过支付AI少得多的钱来实现。所以关于好吧，数学家什么时候甚至不理解即将出现的新事物？这对像我们这样的人来说很有趣。好吧，《麻省理工科技评论》，你应该写这个。但就广泛的就业市场而言，我们已经越过了阈值，对于一部分白领工作，包括几乎每一个入门级工作，AI更便宜——如果实施得当。所以，我告诉你，我们已经越过了生物恐怖主义阈值，越过了网络攻击阈值，越过了就业市场阈值，越过了社会心理依赖阈值，而且有迹象表明我们可能正在越过控制阈值。Ryan Greenblatt与Dwarkesh [Patel]谈论[强化学习]（RL）如何产生不正当激励，导致各种AI之间的作弊和协作，我认为非常有启发性。Ryan，他深入研究这个问题，说：“哇，RL真的在做一些我们的明确指令不够丰富[无法防止]的事情。”那会导致什么？这是我总是认为很远的问题。我预计当我们接近[阈值]时会有很多响亮的声音，比如非技术人员能否仅使用AI进行网络攻击。我们已经到了！在生物方面，我声称任何能制造新分子的模型都应该受到监控。它不能被复制到一个黑暗的地方，在那里你摆脱了监控逻辑。我声称美国应该说任何能制造新分子的模型都要受到这种监控。我声称我们应该与中国接触，说：“嘿，让我们就此达成一致。有什么坏处？”你知道，生物恐怖主义市场有多大？它不是很大，而好处是巨大的。我们还需要改进监控。我认为生物恐怖主义风险与自然大流行病相比，大约可怕50倍，比自然大流行病更可能发生。谁在站出来说这些事情应该被监控？谁在加强监控工作？“任何能制造新分子的模型都应该受到监控。”比尔·盖茨 那么政府中的专家是谁？很久以前，政府非常参与技术发展，因为他们是喷气式飞机或火箭等尖端买家。在这里，他们不是那么重要的前沿市场。数字革命是这样，AI革命也是这样。所以政府的知识深度不一定非常强，因为他们不是尖端买家，甚至不是大型研发资助者。AI研究不是由政府拨款资助的。
7. 政策建议：机器人税与人类保留工作
《麻省理工科技评论》：是的，我知道您一直在与政府人士交谈。您认为有人理解紧迫性吗？您觉得有人准备好发挥领导作用吗？您觉得有人理解并试图推动事情吗？比尔·盖茨：我希望这不会成为一个党派问题，一个政党完全忽视所有这些问题，而另一个政党参与进来。我希望有一个共同的基础，即这些是问题，然后每个政党可以对此有稍微不同的回应。这将不需要大幅增加官僚机构的规模，但需要提高政府中的AI专业知识。这将需要与行业进行一些合作——当然在网络方面他们知道，而且他们非常非常担心。他们担心：我们应该公开说话吗？因为在某种程度上，这可能突出风险。在网络和生物方面都有这些不正当的事情。但我们已经过了任何合理的阈值。我相信监控。现在，有些人可以说那行不通或者有一些缺点，但我欢迎他们的想法。这份备忘录不是“嘿，这是解决方案。”它有机器人税、人类保留。我会做一份生物备忘录。那将在年底前完成——它真正详细讨论了所有不同的事情，基于我从基金会和我在大流行病方面的工作所知。在全球范围内，我们为大流行病做好了更好的准备，即使在美国——通常是这些全球事务的领导者，人们非常不习惯美国在全球问题上不是合作、友好的领导者。我确实认为我们可以回到做得更好的状态。我们必须与AI一起，包括与中国合作定义这些阈值，比如生物监控。《麻省理工科技评论》：我想确保我能问您提到的这两个想法。一个是人类保留工作，另一个是机器人和代币税。让我们从第二个开始，实际上。跟我谈谈机器人和代币税如何运作。比尔·盖茨：好吧，你可以说代币税收入的50%支付给政府，政府用这笔钱帮助因AI失业的人。现在，人们说这会减缓AI行业。某些代币用途是否不应征税？帮助发明的AI与替代工作的AI之间真的有区别吗？如果有人能告诉我如何告诉AI“不要替代工作”——我的意思是，阿西莫夫第三定律说你不伤害人，是否意味着你不夺走我的工作？我不知道。我得问阿西莫夫他是什么意思。那么，无论我们需要加强什么安全网，收入来源是什么？政府已经通过公司利润税拥有部分利润。我不认为你需要使用股份。你可以把公司利润税提高到原来的水平，或者你可以说某些行业支付比其他行业更高的公司利润税。联邦政府拥有美国所有公司利润池的一部分。而且没有投票权或决定何时出售股份——在我看来这是疯狂的事情。代币税是一种销售税、增值税，像酒精、烟草或奢侈品税一样垂直定向。如果人们有其他想法来筹集资金改善安全网，或者他们认为我们不需要改善安全网，希望这份尖锐的文件能引发这场辩论。我认为安全网将需要更多资源，更多资源，我相信代币税是关键。机器人，这将是禁止它们（这有点像人类保留）和征税的某种混合。它们还没有到来，但在某些方面，当你越过那个阈值时，你会一下子越过。一旦机器人足够好能在工厂工作，它可能足够好能做饭、打扫房间、去建筑工地、承担所有仓库工作。你越过阈值，砰，那几乎是就业市场的30%。然后你说，“哦，天哪，我们对此的政策是什么？”因为机器人更便宜。“我们必须度过一个非常动荡的时期。”比尔·盖茨 《麻省理工科技评论》：我相信您以前对UBI（普遍基本收入）持怀疑态度？比尔·盖茨：好吧，我们还不够富有，负担不起UBI。《麻省理工科技评论》：但您认为我们现在应该朝着这样的方向前进吗？您重新考虑过吗？比尔·盖茨：你有动荡时期，这是未来10到20年，然后我希望有一个稳定状态，人们长大知道社会如此富有，以至于在食品和服务方面，我们确实有一定程度的富足。但我们还没有到那一步。在这一点上你有赢家和输家。房子不会很快变便宜。教育，因为我们把它视为凭证，不会很快变便宜。我们必须度过一个非常动荡的时期。所以是的，最终你有富足，但我们至少还有十年才能达到。
8. 人类保留工作的概念与未来展望
《麻省理工科技评论》：接下来是人类保留工作。我觉得这真的很有趣，对我来说是个新概念。您没有主张哪些工作应该由人类保留。但我很想知道您是怎么想的。在我看来，你听到工作的尊严，因为人们喜欢工作。人们从工作中获得很多与报酬无关的价值，我想知道您如何将这与只有一些工作足够特别，我们只想让人们做这些工作的概念相协调。比尔·盖茨：我以前从未见过人类保留的概念。你知道，也许如果我们深入研究文献，我们会找到它。但在AI之前，这是一个有点愚蠢的想法，因为需求是无限的。是的，有些人像纺织工人一样被抓住，那么你如何做福利或再培训？但技术一直是净[工作]创造者，所以现在，第一次，我们必须说，育儿呢？家里的食物准备呢？我在读这本书《安妮机器人》，这个人家里有这个机器人，它只是展示了它有多奇怪。它是他的性伴侣，有点像他的伴侣，但又不完全是。非常奇怪。我知道人们喜欢看人打棒球，机器人打得更好不会带走这一点。所以你知道人们花100亿美元购买运动队，这些运动队在AI时代不会变得一文不值。也许这是对的。我的朋友维诺德[科斯拉]刚刚这样做了。实际上很难超过30%或40%[的工作被AI取代]。如果你能达到50%，那么你可以说：好吧，提前退休，很多人缩短工作周。你知道，你可能会达到。但如果你更在10%到15%的范围内，那将是一个完全不同的社会。所以这将是激进的，[例如]说育儿不是由机器人完成的。肯定有一些职业我没有写公式，当我做完整的备忘录时，我会尝试。在教育方面，你显然希望AI作为这种导师，立即告诉你作业结果，可以挑战你，而且非常个性化。这非常好。但我仍然认为你想要一个老师——或者会选择有一个老师与你谈论你的动机，并组织孩子们分成不同的小组，他们在社交上一起解决问题。同样，在医疗保健方面，与患者交谈是升级的点，对于心理健康……
🔗 原文链接：https://www.technologyreview.com/2026/08/26/1142946/bill-gates-ai-danger-threshold/