比尔·盖茨：现在对 AI 的选择将决定未来

芝士内参

比尔·盖茨：现在对 AI 的选择将决定未来 | 芝士内参

向人工智能时代的过渡将是人类历史上最动荡的时代之一。目前，我们还没有为这一转变做好充分的准备。如果世界采取正确的步骤，人工智能将成为一股向善的力量，让每个人都过得更好。
在我的一生中，我只做过两份工作。在第一个项目中，我在开发软件方面发挥了作用，通过我在微软的工作为人们提供支持。
我于 2008 年开始全职工作，在第二个工作中，我将回馈我在微软赚到的财富，目标是让世界变得更健康、教育更好、更公平。这是我余生都会从事的工作。
这两种经历都影响了我对人工智能的看法。当我 13 岁时第一次了解计算机时，我对如何让计算机变得更加智能并能够执行当时只有人类才能完成的事情的想法着迷。尽管“我”这个词从我出生时起就被使用了，但这项技术直到最近十年才取得了重大进展。现在它的能力令人难以置信，并且正在以令人惊叹的速度继续改进。人工智能第一次可以取代甚至超越人类认知。
人工智能要么是有史以来最伟大的均衡器，要么是最严重的不公正根源。
就公平而言，人工智能要么是有史以来最伟大的均衡器，要么是最严重的不公正根源。挑战是巨大的。即使在最好的情况下，向新人工智能时代的过渡也将是人类历史上最动荡的时期之一。我们将如何利用这项技术让世界变得更加公平，并防止贫富差距扩大？我们将如何保护最容易受到人工智能伤害的人们，包括那些失去生计和感觉自己掌控自己未来的人们？
我认为，回答这些问题并根据答案采取行动应该是世界的首要任务。如果世界采取正确的步骤，人工智能将成为一股向善的力量，让每个人都过得更好。
不幸的是，目前我们还没有为此做好准备。我没有看到任何证据表明领导人、专家和社区正在充分应对这些挑战。目前还没有计划让进入人工智能时代变得容易。
造成这种情况的部分原因是许多评论者低估了人工智能的影响程度。我认为有几个原因。
一是人工智能模型仍然会犯错误。不久前，当他们无法解决一个简单的数独难题或弄清楚“草莓”这个词中有多少个 R 时，很难想象它们会取代人类的认知。
但随着研究人员创建可以检查自己的工作并自我改进的模型，可靠性问题正在迅速得到解决。很快他们将在许多任务上比人类表现得更好。
人们低估人工智能的另一个原因是，与过去创新效果的类比具有误导性。我们没有可以快速采用或可以像人类一样思考和移动的技术的经验。当个人电脑出现时，我们花了二十年的时间才显着改变了我们的工作方式，因为必须开发软件，必须降低价格，人们必须学习如何使用这些工具并将其纳入业务流程。另一方面，人工智能在我们已有的设备上运行，并且使用自然语言。我们不必适应它，因为它可以适应我们。它可以观看用于培训人类工人的相同培训视频并从现有数据中学习。
我想承认潜在的偏见。我从科技行业受益匪浅。尽管我的投资组合已经相当多元化，但我仍然与其有财务联系。作为盖茨基金会主席，我正在与微软和其他人工智能公司合作，努力确保人工智能的部署能够真正造福世界各地的人们。
然而，我对人工智能的看法并不是出于为自己赚钱的潜力。我的投资产生的任何利润，包括与技术相关的利润，都将捐献给盖茨基金会，以解决全球不平等问题。当然，读者必须自己决定这是否会影响我的观点。

1933 年大萧条时期，美国失业率约为 25%。在接下来的十年的大部分时间里，它都保持在两位数。随着需求、投资和增长的恢复，它最终得以复苏。
人工智能可能达不到这个水平，但它的影响不会随着经济周期而消失。风险最大的工作是初级和中级工作，而新创造的工作大多需要需要多年才能学习的技能。
白领工作已经受到了一定程度的打击。在生成式人工智能广泛采用后，从事特别容易被替代的工作的年轻工人的就业率大幅下降，但年长同事的就业率却没有大幅下降。
我认为这种趋势将会持续下去，但不会仅限于少数行业或职业。销售和客户支持（在线和电话）、软件工程和律师助理工作可能是最先受到影响的工作，但随着人工智能承担当今仍然需要训练有素的工作人员的任务，这种破坏将进一步扩大：例如评估贷款申请、进行数据分析，甚至对患者进行分类。随着成本下降，软件工程等一些领域将产生新的需求，因此只要某些任务（例如设计）更好地由人类完成，这些领域的净失业人数就会少于其他领域。
蓝领工作也会受到影响。尽管机器人的发展不如人工智能，但最终它们的成本也会大大降低。与我交谈的许多美国人并没有意识到灵巧机器人的发展速度有多快，因为许多先进工作是在其他国家（主要是中国）完成的。或者，他们可能会对最近疯传的机器人跳舞糟糕的视频感到困惑。我认为“智能”机器人将在本世纪末开始在建筑和酒店业等一些体力任务上与人类竞争。
机器人和人工智能的结合会造成恶性循环。当一家公司采用这些措施并利用节省下来的费用来降低价格后，其竞争对手将感受到巨大的压力，要求他们采取同样的做法。如果现有公司不采用它们，那么初创企业就会采用。许多人会转向其他工作，但失业、接受再培训和寻找其他工作的混乱将是巨大的。市场力量将使采用速度越来越快，除非我们进行干预，否则好工作机会将会减少，而受益的将是一小部分人。
我尤其担心年轻人，他们将进入入门级职位空缺较少的劳动力市场。他们理解这一挑战，因为他们是人工智能最活跃的用户，并且看到了人工智能的功能和改进速度。难怪他们中的许多人对人工智能持负面态度。
当人工智能提供几乎无错误的工作时，工人将发生最大的转变。到那时，它将能够在没有人工检查的情况下自行运行，并且公司将有充分的经济动力让它运行。
这将导致我们对工作、收入和经济安全的看法发生根本性变化。如果工作的人更少，或者很多人的工作时间更少，那么以就业为基础的经济将如何运作？
在资本主义社会中，就业是大多数人获得基本生活所需资金的方式，也是尊严和社会联系的关键来源。
当一个社区失业率很高时，连锁反应可能会普遍存在。研究表明，在美国某些地区，工厂关闭导致阿片类药物过量死亡人数上升。现在想象一下全国白领和蓝领工人也面临着类似的压力。
我们现在必须考虑如何减少失业，让每个人都能分享人工智能创造的繁荣。等到人们已经流离失所或就业不足时再采取行动就为时已晚。人工智能对我们的经济组织方式提出了结构性挑战，现在需要思考和行动。

早在人工智能进入主流之前，网上就有关于如何制造炸弹、生物武器甚至计算机病毒等武器的信息。人工智能将使获取这些信息和采取行动变得更加容易。即使犯罪分子的技能非常有限，也能够针对各种规模的受害者：个人、公司和政府。
人工智能驱动的欺诈、虚假信息、深度造假和监控是许多人在日常生活中最切身感受到的危害。
人工智能能力开始用于网络攻击。我认识的最聪明的网络安全专家对未来几年感到害怕，因为攻击者获得强大新功能的速度比防御者修复所有弱点的速度要快。毕竟，同样的人工智能模型可以发现软件中的缺陷，以便公司修复它，也可以帮助犯罪分子利用它。发起攻击所需的资源正在显着减少，我们无法将这些能力与良性使用区分开来。
想想容易受到影响的基础设施：医院、金融机构、供水系统、电网、政府福利管理系统。当这些机构受到攻击时，遭受损失的将是患者、客户和福利接受者。
生物恐怖主义也是如此。尽管人工智能将带来药物和疫苗方面拯救生命的进步，但它也将使设计致命的新疾病变得更容易。同样，积极的能力与危险的能力很难分开。这是一个全球性问题。
我刚才提到的风险都是关于人工智能如何赋予目前权力相对较小的不良行为者的风险。同样的工具也将把权力集中到已经存在的地方。例如，自主武器将使政府更有能力使用致命武力，而无需人类参与决策。监控和操纵舆论将变得更容易、成本更低，也更有效。
最终，利用人工智能伤害人类的权力将不仅限于个人或机构。人工智能系统本身偶尔会以设计者没有预料到的方式行事。这项技术的进步速度超出了任何人的预期，并且以令人惊讶的方式发展，随着模型变得更加强大，它们可能会开始违背我们的利益，我们可能会失去控制。以后我会对此有更多的说法。

当我在西雅图长大时，除了几个像我一样的男孩之外，我没有那么多朋友。我花了很多努力和妈妈的帮助才培养了我的社交技能，这样我才能与不同类型的人打交道。时至今日，我已经 70 岁了，仍然在吸取这些教训。
我怀疑如果当时我有一个人工智能伴侣，我是否会投入同样的工作。他们以您已经习惯的方式与您交谈。他们不会把你推到舒适区之外。他们随时待命，并且永远不会生你的气。这使得它们有可能变得高度上瘾，并剥夺我们从与他人交往中学到的教训。
关于这个问题的证据仍然很少，而且有点混杂，但有迹象表明我们应该非常关注。例如，斯坦福大学和卡内基梅隆大学的研究人员在一项针对 1,100 多名使用人工智能伴侣的人的研究中发现，那些社交网络较小的人最有可能转向聊天机器人寻求陪伴。而且这种使用越重、情感上越个人化，他们的感觉就越糟糕。
年轻人可能一生都会受到影响。乔纳森·海特（Jonathan Haidt）在他的《焦虑的一代》一书中对社交媒体的影响进行了观察，这对人工智能来说更是如此：“就像暴露在风中的小树一样，经常暴露在小风险中的孩子长大后能够在不惊慌的情况下应对更大的风险。”相反，在受保护的温室中长大的孩子有时在成熟之前就会因焦虑而丧失行为能力。 ”
一个人工智能伴侣的设计永远不会让你感到不安，它是一个受保护的大温室。
我们才刚刚开始了解互联网（尤其是社交媒体）可能对年轻人的发展造成的危险。我们看到强迫性使用、睡眠中断、网络欺凌和接触有害内容。人工智能可以使许多风险变得更有说服力、更难以逃避，从而放大这些风险，我们不应该等到下一代才开始认真对待它们。澳大利亚、英国和挪威等国家正在采取对儿童上网的保护措施。中国走得最远。它的规则广泛限制人工智能伴侣应用程序、助长情感依赖的酒吧设计，并禁止未成年人使用虚拟亲戚和浪漫伴侣。
我还担心人工智能对教育的影响。具有讽刺意味的是，同一个工具可以让人们比以往学到更多，但也可能导致许多人学得更少。一项初步调查表明，人工智能的大量使用与批判性思维的减少有关。对于年轻人来说，这种影响更为明显。
对于人类失去批判性思维能力来说，这可能是最糟糕的时期。在一个可以为您量身定制的深度造假和错误信息的时代，辨别真假的能力已成为一项基本的生活技能。
目前还不清楚这些社会心理问题的界限在哪里。在某些情况下，人工智能可以帮助人们了解如何更好地处理人际关系。对于与世隔绝的老人和行动不便的人来说，这可能是唯一与外界的接触，也聊胜于无。无论我们最终在哪里划定界限，都应该是我们有意做出的决定。

人们常说，我们高估了短期变化的程度，却低估了长期变化的程度。
对于人工智能，我看到了一些不同的事情正在发生。有些人只看到人工智能的优点，而没有足够关注人工智能的缺点。其他人则犯了相反的错误，即只关注真实存在的危险，而代价是错过了潜在的好处。
我们两者都需要：对我们需要最小化的人工智能危害的深切关注，以及对我们最大限度地为每个人带来好处的积极乐观。
最大化利益与最小化危害同样重要。如果人们看到人工智能如何让他们的生活变得更轻松，这将有助于建立公众信任，这是管理转型中最困难部分所必需的。如果人工智能在大多数人的生活中做的第一件事就是夺走他们的工作，那么那些已经对此持怀疑态度的人将彻底拒绝它。这将使实现效益变得更加困难，这也是政府、包括医疗行业在内的行业和人工智能公司现在应该合作的另一个原因。
凭借综合各个科学领域知识的能力，人工智能可以加速应对世界上最严峻的技术挑战的创新：为每个人提供可靠的清洁能源、应对气候变化、种植足够的粮食、消除疾病等等。研究癌症治疗或核能的研究人员可以使用人工智能来搜索大量科学文献。它可以帮助他们识别人类可能错过的模式，并确定哪些实验最有希望。当情报不再像今天一样成为限制因素时，较小的公司将能够与拥有更多研究预算的组织竞争。研发和创新将得到加强。
医疗保健是人工智能可以帮助解决现实问题的领域之一。美国许多小型医院缺乏能够在危及生命的紧急情况下快速诊断患者的现场专家。在这些地方，人工智能可以确保及时发现心脏病，并帮助家庭避免因医疗紧急情况而造成的巨额费用。即。艾就是一个例子。它分析扫描结果以检测中风和其他紧急情况，并帮助医疗团队协调患者的护理。美国近 2,000 家医院正在使用它。
人工智能还将帮助初级保健医生做出更好的诊断，并在患者不在诊所时与患者保持联系。它将帮助患者了解测试结果和复杂的服药时间表。
当我告诉很多人，第二个领域——农业——是人工智能对低收入国家影响最快的领域时，我感到惊讶。在大多数低收入国家，农民无法获得可靠的天气预报或关于种植什么种子、如何保护农作物和牲畜免受疾病或如何改善土壤的建议。随着这些国家的人口增长和气候变化的挑战，这些农民比以往任何时候都需要更多的帮助。使用人工智能，低收入农民很快就能获得比现在最富有的农民更好的建议，并大幅提高产量。
政府服务是人工智能让人们生活更轻松的第三个领域。在美国，我遇到过一些家庭，他们在申请健康保险、学生援助或食品援助的过程中不知所措，这是可以理解的。面对一大堆复杂的官僚表格，许多人都想放弃。人工智能可以极大地简化事情，让他们更快地获得所需的帮助，政府也可以更有效地运作。政府可以从最需要安全网服务的人开始，改善公民的体验。
尽管我担心它对我们的心理健康的影响，但我认为人工智能也可以在这方面提供很大帮助。大多数社区的咨询师、精神科医生和成瘾专家太少。有了正确的隐私保护措施，人工智能工具可以帮助人们识别警告信号。然后，如果需要，他们可以提供基于证据的应对策略，并与人类合作提供更具反应性的治疗。
尽管存在我之前提到的担忧，人工智能也可以为教育带来福音。它可以让教师腾出更多时间与学生一对一或小组合作，让他们更清楚地了解整个班级的困境。对于学生来说，保留研究人员所说的“富有成效的斗争”（建立理解的认知工作）的人工智能工具可以加强学习。当学生第一次遇到新想法时，人工智能会给出实质性解释并提供问题和答案。后来，当它检查他们的理解能力时，它会保留答案并帮助他们自己得出答案。
总而言之，所有这些领域的进步可以使日常生活变得更轻松、更实惠，并且更少受到个人收入或关系的限制。
人工智能可以让个人和小型企业获得当今需要昂贵的专业帮助或大量员工的能力，同时使产品和服务变得更好、更便宜。它可以帮助残疾人更加独立地生活，并使拥有好创意的工人和企业家能够取得比今天更多的成就。
最重要的是，它可以让人们重新投入一些时间和注意力，这些时间和注意力现在被文书工作、官僚主义、寻找可靠信息以及他们无力支付费用给别人处理的任务所消耗。这些好处可能看起来微不足道，但如果在数百万人的生活中成倍增加，它们将是意义深远的：更多的人在需要时得到好的建议，并有更大的自由来专注于他们想要建设的生活。
在所有这些领域，关键词是“可以”——人工智能可以改善各个收入水平的人们的生活。但它不会自动执行此操作。与任何新技术一样，我们必须深思熟虑，确保它惠及所有人，而不仅仅是少数富人。这需要政府和慈善机构发挥强有力的作用，使较不富裕的公民和低收入国家成为充分受益者。
盖茨基金会还剩 19 年将花掉剩余的 2000 亿美元。人工智能将加速开发针对艾滋病毒、结核病、疟疾和营养不良的疫苗和药物，并帮助医疗保健人员和患者了解如何使用这些工具，从而帮助其实现雄心勃勃的目标。该基金会的目标包括将每年的儿童死亡人数再次减少一半，就像 2000 年至 2024 年所做的那样。我们的所有工作，不仅是健康领域，还有农业和教育领域，都将充分利用人工智能。
下个月，我将在基金会的年度守门员报告中详细介绍这些努力，包括我们重点确保人工智能模型以我们支持工作的所有国家/地区的人们所使用的语言提供，而不仅仅是富裕和中等收入国家/地区常见的语言。许多领先的人工智能公司，包括 OpenAI、Anthropic、谷歌和微软，都在所有这些举措上与基金会合作，这产生了巨大的影响。

当务之急是一项艰巨的任务：创建处理人工智能的国内和国际框架。
我们目前的机构都不是为了处理传播如此之快并触及我们生活如此多方面的技术而设计的。所以我们需要制作新的。
很难夸大这将是一项多么艰巨的任务。 9/11袭击后，美国政府进行了二战以来最大规模的重组，目的只是改善一项职能：国家安全。
人工智能将需要更多、更多的东西。它将影响国家安全以及就业、教育、税收、能源、选举、空气和水、公共卫生、金融体系、执法、交通、公共土地和信息技术系统。
这些部门的重叠是我们现有的官僚机构无法管理的。劳工部门可能了解劳动力中断，但不了解安全风险。商业监管机构可能了解市场集中度，但不了解人工智能对儿童和青少年的影响。如果放任不管，机构只能看到系统的一部分，而人工智能的后果将波及整个系统。
在国家层面，各国需要能够确定政府机构优先事项的机构。目标是确保考虑到所有风险。否则，人工智能攻击可能会成功，因为没有人认为他们的工作是阻止它。
但即使一个国家内部秩序井然，仍将面临跨境风险。这就是为什么需要同时建立一个国际组织。
尽管它可以遵循一些现有系统的模型，但它与我们曾经创建的任何其他机构都不同。有核武器检查制度、国际航空法规以及保护臭氧层的协议。一个新的人工智能全球组织将需要这三个甚至更多的元素。
人们有理由怀疑世界各地的机构是否能够胜任设计和实施这一新架构的任务。政府在行动时行动缓慢，国家内部和国家之间的两极分化使事情变得比以往任何时候都更加困难。美国和中国之间需要进行一些合作。
我们没有能力缓慢行动。首先是在破坏迫使政府陷入危机模式之前建立正确的机构。国家领导人应定期召集经济学家、技术专家、劳工专家、商界领袖和工人本人，以找出现有机构的失败之处以及可能需要哪些新的权威。各国需要互相学习。
拥有领先人工智能开发商并控制供应链关键部分的国家现在应该开始开会，制定共同规范，以免竞争压力使他们更难合作。
构建我所说的框架需要数年时间，这就是我们需要现在就开始的原因。

我的父亲于 2020 年因阿尔茨海默氏症去世。在他病情的后期，他得到了付费护理人员日夜的照顾，即使在他难以表达自己的时候，他们也理解他。他不能总是告诉他们他饿了，但他们总是知道。
我和我的家人将永远感谢这群出色的专业人士。他们给予我父亲的照顾中有些东西是无可替代的人性化。没有机器人能够或应该做到这一点。
当出现哪些工作将消失、哪些工作将保留的问题时，我会想到这个团队。我相信，随着人工智能和机器人的进步，我们将把某些事情留给只有人类去做的事情。我开始将这个领域称为“人类保留”，这是我们需要考虑的各种想法的一个例子。
我喜欢“人类保留地”这个词，因为它让我想到自然保护区——我们可以在其中建造建筑物和道路，但我们选择不这样做，因为损失太大。
出于经济原因，我们可能会将某些东西划为人类保留地。例如，我们这样做可能是因为让机器接管某个角色会取代大量无法轻易跳槽的人。你不能告诉一个整个职业生涯都在建筑业工作的 55 岁老人，他们需要去老年护理机构工作，并期望他们能从中找到满足感。
有时，做出“人类保留”的决定会受到其他因素的驱动。例如，在健康方面，想象一个机器人给你一个可怕的消息：你患有不治之症。没有任何技术原因可以解释为什么它不能。但它不应该。
人类保留领域将随着时间的推移而发展——例如，我们应该考虑现在搁置一些工作，并在几年或几十年内慢慢逐步采用人工智能，并承诺保留一些工作。有些领域，如教育和心理健康保健，将是一个混合领域，由一名负责人使用该技术来扩展他们的能力。
不同地方的线路也会有所不同。一些国家可能坚持让人类照顾老年人。但像日本这样的国家，劳动力不断减少，没有足够的年轻人来照顾老人，因此可能会欢迎护理机器人。
“人类保留”的想法提出了一系列我无法回答的问题。谁来决定我们为人类保留什么？我们应该使用什么标准？无论如何，如何防止公司作弊和使用机器人？当一个国家允许机器人制造某些东西而另一个国家不允许时，国际贸易会发生什么？这些需要作为过渡计划的一部分公开制定。

比尔·盖茨：现在对 AI 的选择将决定未来

我的笔记

登录后可记笔记

1. 人工智能可能成为最大均衡器，也可能制造最严重的不公

2. 这次技术转型会更快、更广，也更难靠旧经验缓冲

3. 过渡期的三大风险：失业、伤害能力与人的发展

3.1 许多工作将永远消失

3.2 人工智能将使人们（或许还有人工智能）能够造成更多伤害

3.3 人工智能可能会阻碍我们孩子的发展并取代人际关系

4. 巨大的收益同样真实，但不会自动公平分配

5. 世界需要主动管理过渡，而不是等待市场自行解决

6. 建立能持续试验和纠偏的过渡管理系统

7. 为人的尊严与意义保留一部分工作

8. 重新平衡劳动与资本税制，为转型筹资

9. 盖茨基金会将把 AI 用于健康、教育与公平

思想框架