读扎克伯格的《未来属于每一个人》有感
扎克伯格讲的故事很动人——以后人人都有超级智能帮手，帮你烘焙、陪你健身、教你新技能，世界变得更公平、更繁荣。我也愿意相信这个未来。但不得不说，这是一篇宣言，不是一份客观报告。它一边贩卖乐观，一边悄悄把自己（Meta）摆进"唯一正确路线"的位置。
最让我皱眉的，是那个聪明的概念偷换。主流圈子担心的是"怎么让 AI 听话"（对齐），扎克伯格把它改写成了"怎么分权力"（平衡）。这一改，难题就从工程师手里溜走了——不用证明 AI 安全，只要说"分给大家就安全"。逻辑上很漂亮，但核技术好像不能这么分。
还有一处他自己都没圆回来。前面说"不存在单一仁慈的超智，所以要分发给大家互相制衡"，后面又承认：如果 AI 能自己迭代进化，它哪怕只占一点算力，也可能悄悄长成那个"单一超智"。这时候"分给大家"还挡得住吗？他没说清，只说了句"我们会把大部分算力留给人用"。这话听着像安慰，不像答案。
换个角度，再想几层——
"人人"是有门槛的。 他说免费给几十亿人用，但能真正靠它"发明创造"的，得有设备、有网、有数字素养。全球大多数人可能只是被动刷内容，少数人会拿它开公司、做科研。赋权的前提是能力，而能力分布从来不均——这反而可能把差距拉得比今天更大。
历史类比可能用错了地方。 他用"工业革命 90% 农民""车库少年造电脑"证明人不会被甩下。可这些技术都是增强人，而超级智能可能是第一个替代认知本身的东西。拿"工具让人更强"的历史去推断"AI 让人更强"，中间那道坎未必跨得过去。
政治分权逻辑套不到科技垄断。 "广泛分发就能互相制衡"听起来像民主——可 AI 市场天然赢家通吃（网络效应、数据飞轮）。政治上分权有效，不代表平台上分权也有效。几家公司把底座握在手里，"人人有智能体"仍是跑在人家的地上。
用长期乌托邦安抚短期痛。 他描绘的丰裕是几十年后的事，但岗位被替代的阵痛可能是明天、集中、剧烈的。对那个明天就失业的具体的人说"长远看你会更好"，不太公平。时间尺度错位是这篇最容易被忽略的问题。
工具用久了可能变成替代。 把健康、决策、创造都交给"最懂你的智能体"，人自己反而可能懒得判断、懒得动手。赋能的尽头，说不定是能力的外包。
文章里最打动我的是那句"未来由我们所有人创造"。不管这话有多少宣传成分，它提醒了一件真事：技术往哪走，不该只由几家巨头在会议室里决定。
所以我读下来的态度是：乐观，但别闭眼。愿意期待人人可用的智能工具，但也得一直问那个扎心的问题——"人人都有超智"和"人人都跑在 Meta 的底座上"，到底是不是同一件事？
保持提问，比相信任何一份宣言都重要。
原文译文：
《未来属于每一个人》
通往积极 AI 未来的道路
我们何其有幸，生活在历史上一个不可思议的时刻。未来几年，人们将能够运用超越人类能力的超级智能，去创造和发现非凡的新事物、建立新业务、表达新思想、学习新概念，并推动我们的健康与生活质量向前发展。随着这一时刻临近，建立一套哲学理念变得至关重要——我们该如何最好地运用超级智能，确保它改善我们所有人的生命、工作、社区、自由与安全。
我们这个时代的核心问题是：谁将拥有超级智能的访问权？我们又将把它导向何方？它会被中心化、被少数机构垄断，还是会成为一种赋能每一个人的工具？
我们提出这样一种哲学：以个体赋权作为繁荣之源，以发明创造作为超级智能的首要目的，以权力平衡作为安全的基石。
所有新技术都会带来机遇与挑战。超级智能将是历史上最重要的技术之一，因此它的机遇与挑战很可能超过我们一生中所见的一切。我们必须极其严肃地看待这一点。
尽管如此，令人惊讶的是，许多 AI 研发者的论述竟充斥着末日论调。我无法理解，任何相信 AI 将消灭大多数工作岗位、并使人类大部分价值丧失的人，为何还要急于去构建那样的未来。那种认为 AI 危险到只有极端集中权力才是唯一安全路径的观点，其本身就有根本性问题。历史上，寄望于一个绝对权力在足够"开明"后会仁慈地供养人类，从未带来安全或积极的结果。
人类见证过许多变革性进步。每一次都伴随着"人们会被甩在身后"的恐惧。但每一次，人类最终都走向了更多人共享更丰沛的繁荣、健康与自由。我们相信 AI 也会如此，未来的丰裕可以由所有人共享。我们也相信，把我们带到今天的价值——如自由、开放探究、自由企业与机会平等——同样是正确的、用于构建积极未来的价值。
把权力交到人们手中，让他们追求自己的理想，是人类取得最大进步的方式。新奇的想法与重大的跨越，极少只源于既有机构。它们来自自行车店里坚信人类能飞翔的兄弟俩，来自没上过学的装订工学徒（他搞懂了如何发电），来自车库里那个认为个人电脑应该人人可用的少年。我们相信这一点将继续成立。当人人都拥有更强大的工具，每个人塑造未来的能力只会更强，而非更弱。
发明创造，而非自动化，将是超级智能最大的贡献。 早期的 AI 能回答问题、做常规工作。很快，它将越来越多地帮助发现新知识——从发现新药治愈家人的疾病，到找到改善你业务的新方法。一个人一天能提出的问题数量有限，但超级智能能帮你实现目标而发明出的有价值之物，数量无限。
智能变得丰裕后，最重要的问题将是我们如何引导它。有人主张，超级智能本身、或掌控它的少数专家，应该决定什么对人类最好。我们不同意。民主与经济的历史已经表明，对于"什么样的生活才算最好"，不存在单一客观答案，因此最佳途径是让人们自己决定什么对自己的人生重要。
我们相信，把超级智能交付给每一个人，就是回答这一问题的方式。这延续了把超级计算机和互联网放进每个人口袋、摆上每个人书桌的传统。与其把超级智能中心化，我们不如广泛地分发它，让每个人都有能力去引导它。这有可能开启一个个人赋权的新时代——个体能够运用这一强大的新能力，比以往任何时候都更充分地释放潜能、追求兴趣、改善生活与世界。
为了让上述理念更具体，以下是 Meta 正在构建"个人超级智能"以改善我们所有人生活的几个具体方向：
• 每个人都将拥有一个极其强大的个人智能体，它理解你、你的目标，以及你所关心的一切。你的智能体将 7×24 小时为你工作，改善你的人际关系、健康、职业、财务、家庭管理、爱好等。它会为你腾出时间去做享受的事，并帮你完成比原本更多的事。它将具备强健的隐私与安全选项，让你放心地把所有个人内容托付给它——知道没有任何其他人能访问你的信息，就像 WhatsApp 的加密机制一样。你将能通过任何设备与你的智能体交互，包括你的眼镜，让你在陪伴所爱之人时依然"在场"。
例如，我的智能体会标记有趣的信息、帮我快速验证想法原型。它通过监测我的睡眠、在我训练时观察并给予反馈，帮我保持健康。我女儿喜欢烘焙，所以我的智能体每周末为我们规划个性化食谱、订购食材，并在烘焙过程中给出建议。
• 每个人都将拥有不可思议的创造工具来表达想法。 我 8 岁的女儿已经能用一晚上的时间，编写出她的想法并制作视频——这要放在以前，要么花我数月，要么根本不可能。现在我们正一起设计一台机器人。与此同时，Meta 的研究人员正在生成适用于增强现实眼镜的理想晶体结构，工程师们正以此前几分之一的时间创建新应用。很快，人人都将拥有"发明超能力"。
• 每个人都将拥有强大的工具来创建新业务，经济将变得更具创业精神。 人们开始能够自己实现想法，而不必去融资或组建庞大团队。许多以前太难或太贵而难以尝试的想法，现在将成为可能。这意味着我们将看到多得多的想法与企业。我预测，这不仅会带来更大的经济增长，长期来看还会带来更多而非更少的就业。
• 每个人都将拥有一位个性化导师与教练，它在每个学科都拥有博士水平、且耐心无限，帮你学习任何你想学的内容。学生将在他们需要的领域获得额外帮助——而这些帮助目前只有父母付得起钱的人才能享有。成年人将拥有一位超级智能学习助手，它确切知道如何教你新的职业技能、新语言、新爱好，或任何你感兴趣的东西。
• 每个人都将受益于科学进步，并能够为科学进展做出贡献。 例如，Biohub 已经发布了与虚拟细胞和蛋白质相关的开源生物模型，正在帮助科学家做出新发现、设计新药。当普莉希拉（Priscilla）和我启动这项工作，我们的目标是帮助科学家在本世纪治愈或预防所有疾病，而现在借助 AI 的进步，我们期待这一目标能早得多实现。
由于健康问题的长尾效应显著、且每个人的生物学特征各不相同，人们的直接参与将有助于解锁个性化疗法、加速试验，以匹配发明的速度，并让产业不再过度聚焦于常见病。
除了生物学，AI 还将通过运用科学方法、在数周或数月内持续测试和精炼假设，帮助人们在各个领域推进研究。科学发现很可能成为对社会最有价值的发明形式之一。
• 每个人都将免费或以可负担的价格获得这些工具。 要让每个人都成为未来的一部分，每个人就必须有能力运用超级智能来改善生活、塑造世界。我们将提供免费版本，让数十亿人都能使用。对于那些愿意付费使用更多算力的人，我们将采用动态拍卖机制，保证每个人为其所使用的智能与算力获得尽可能最低的价格，同时确保算力被用于人们集体认为最有价值的方向。这将确保超级智能的红利被广泛分配。
以上是 Meta 重点投入的几个主要方向。每一领域都在推进"个人赋权"这一价值，并共同促成这样一个未来——每个人在塑造世界上扮演比今天更大的角色。如果这些努力成功，未来将带来丰沛的个人能动性、思想表达、关系深化、经济与财务繁荣、健康改善，以及我们今天无法想象的新发明。但最重要的是，未来将由我们所有人共同创造，并映照我们所有的价值与视角。
与此同时，新技术也带来新风险。我们重点关注着许多重要隐忧——从工作岗位被替代、确保本地社区从数据中心建设中获益，到网络安全与生物风险相关的 AI 滥用安全隐忧，再到避免政府暴政与监控、确保美国和民主国家保持领先，并最终确保人类维持对超级智能的控制，使其服务于而非危及我们。
主流观点认为，这些隐忧关乎技术本身，只要我们花足够时间，就能完善或对齐技术，从而产生一个单一仁慈的超级智能。我认为这种"对齐"观从根本上就是错的。
人类不是单一文化。人们多元的价值，代表了他们在重要议题上会做出的不同权衡。不存在能同时满足所有人相互冲突的利益与价值的技术解法。任何单一的超级智能都必须将某些价值置于其他价值之上，在此过程中，它不可能对所有人仁慈。
反之，我们主张，通过"实现正确的权力平衡"这一视角来审视每一项隐忧会更有成效——正如西方社会在民主体制中所做的那样。利益相互竞争的个人与机构，会自然地相互制衡，导向积极结果。构建积极 AI 未来最佳、也最现实的路径，就是把超级智能交付给每一个人。
做个思想实验：想象只有一个人拥有一名超级智能律师。即便他在是非上站不住脚，在法庭上也会拥有不公平的优势。那将导致一个更糟的社会。但再想象一下，人人都拥有一位超级智能律师。在这种情况下，正义将比今天公平、高效得多——今天诉讼中技能与资源的不均衡常常存在。
类似地，如果只有一个人独自拥有网络安全的超级智能，他几乎能攻破任何技术系统，世界将比今天更不安全。但如果人人都能使用网络安全的超级智能，那么我们所有的技术系统都将比今天更安全，因为广泛部署的超级智能会帮助强化并更新每一个系统。
如果只有一家企业拥有超级智能，它会击败所有其他企业，导致一个比今天活力更弱、繁荣更不广泛的市场。但如果人人都能使用超级智能，那么人人都将拥有创造前所未有之新事物的工具，经济将更具活力，并催生更广泛的共享繁荣。
当人被赋予权力，他们自然会在经济、社会、政治以及人类互动的所有层面上相互竞争、相互制衡。人们也会对包括企业和政府在内的机构权力形成制衡。
但如果超级智能的权力掌握在少数个人、企业、政府或 AI 自身手中，那自然会导向对其他人更不利的结果。这不是技术原理，而是关于权力平衡。不存在所谓"单一的仁慈超级智能"。
因此，通往人人共享之积极未来的关键，在于实现一种有利于个体的权力平衡。解决方案就是确保超级智能被广泛分发，以赋能人民。
Meta 是主要致力于为所有人构建"个人超级智能"的公司。大多数其他实验室聚焦于为企业、政府或其他机构构建 AI，因此若由它们领跑，权力平衡将偏向更大的机构而非个体。Meta 自创立以来的使命，始终聚焦于把权力交到人们手中。如果我们的信念与原则领跑，权力平衡将偏向个体，带来人人共有的更好未来。
让我们更详细地审视上面提到的每一项风险：
就业增长与经济人们对新体验的需求无限，也总在发现新的问题去攻克。经济中存在一种自然平衡：企业致力于通过自动化更高效地满足人们需求，个体则获得新技能以服务更进阶的需求。当平衡健康时，整体生产力与创新上升，同时就业水平保持高位。
人们担心自动化会超过个体能力的增长，导致岗位被替代，随后是人们学习新工作时的艰难过渡期。但没有任何定律规定：AI 必须把自动化推进得比个体能力提升或对新技能的需求更快。近期统计显示，个体的能力增长更有可能匹配甚至超过自动化——在此情形下，人们将在现有工作变化之前，先获得去做许多新事情的能力。这将带来健康的平衡，甚至可能带来就业增长。
我们最终得到哪种结果，取决于自动化这一边，与个体赋权及发明创造那一边之间的进展平衡。如果聚焦于自动化知识工作的实验室领跑，我预计人们和经济将经历困难得多的转型。但如果人人都能使用拓展其能力的个人超级智能，这就会推动平衡朝向赋能个体、走向积极未来。
我们有几个理由对未来的岗位充裕保持乐观。无论 AI 变得多聪明，算力总量始终有限，因而如何使用它存在机会成本。如果人们能用 AI 发明极具价值的新事物，那么把算力分配于此、而非用于自动化现有岗位，将更合算。超级智能越作为"发明工具"，个体的能力就越可能超过自动化，未来对人也越好。
人们也持续提出让生活更好的新想法，以及把这些想法变为现实的新工作。一代人之前，还没有应用开发者、社交媒体创作者、电动车技师和数据中心运维员。在不久的将来，将出现今天尚不普遍的新工作，比如：设计定制玩具、家具或服装的"一人产品工作室"；打造游戏、故事与冒险的"世界构建师与体验设计师"；运用超级智能制定个性化疗法的"个人生物学家"；以及更多我们今天无法设想的角色。
这从许多方面看都是历史趋势的延续。工业革命前，90% 的人在种粮糊口。技术进步的浪潮稳步把人类从生存重担中解放出来，让我们得以更少关注温饱、更多追求自主选择之事。每一步，人们都运用新生的生产力，实现了前所未有的成就，并把更多时间投入创造、文化、关系与享受生活。
当然，我们工作方式的某些方面会变化——正如计算机、互联网和任何新技术出现时那样。这意味着人们必须适应，而这会充满挑战。但人人都拥有超级智能、擅长教我们新技能并帮我们适应变化的个人智能体，将使这一过程更平稳。
公司规模可能缩小——正如从工业巨头向科技公司转型时那样。但这不意味着总体岗位变少。它意味着更多数量、但每家人员更少的公司。值得构建的优质公司和服务，远多于今天人们所能构建的。我预计我们将开始看到：少数几个人凭借个人超级智能体，就能运营相当规模的企业。未来，小企业仍将是经济的支柱，但每一家小企业都将能发挥大得多的-impact。
与社区共建 AI 基础设施可持续的基础设施发展，意味着社区必须从每个项目中显著获益。这包括高薪本地岗位、对学校与公共服务的投资、确保电价不上涨，以及保护环境。随着税收增长，这也惠及教师、执法、消防等。我们称这些本地收益为"社区契约"（community compact），并正在启动"未来属于人人基金"，直接支持我们开展业务的每一个社区。
例如，在 Meta 正在建设大型数据中心的路易斯安那州里奇兰教区（Richland Parish），由于我们的投资带来的税收增长，教师今年获得了 5 万美元的奖金。该教区督学说，如今教师正从全国各地迁入，他相信这里将成为全国最好的学区之一。
与知识工作被替代的隐忧不同，当前支持基础设施建设所需的熟练技工——如木匠、电工、建筑工人——存在短缺。Meta 创建了"美国劳动力学院"（America's Workforce Academy），为熟练技工提供免费培训，并保障在我们建设数据中心的地区获得高薪工作。
我们通过自建发电基础设施，帮助保持低电价。这确保我们不仅没有消耗本可供给本地社区的能源，在某些情况下甚至向社区回输廉价能源盈余。我们认为这是可持续的重要投资原则。
我们的数据中心也设计为全球最高效用水之列。我们承诺实现"水正效益"（water-positive）——到 2030 年，在我们运营的水文流域，恢复的水量将超过取用水量。在水资源高度紧张的地区，我们的目标是恢复用水量的 200%。
我们看到，长期投资的社区，比那些投机者为最小社区投入就开建的社区，更支持发展。历史上，引入铁路、高速公路、电气化和宽带的城镇，都成了研究、商业与工业的中心，伴随而来的是人口与经济增长。我们相信，如果以强有力的"社区契约"来建设 AI 基础设施——打造持久资产、为下一代留下在此建设与生活下去的理由——AI 基础设施也能发挥类似作用。
发展也有国家利益与国家安全维度。与地缘对手相比，如果美国及其盟友在 AI 上领先，美国社区将享有更大的繁荣与安全。然而，与中国等国相比，美国的一大劣势是：在这里建基础设施更难。因此，若能厘清支撑全国可持续开发的"社区契约"，我们大家将共同受益。
防范网络安全、生物恐怖等 AI 滥用在自由社会，人们拥有的工具可善用也可滥用，但执法与军队拥有更多武器与情报收集能力。有了 AI，防御方也将拥有更多算力，从同一模型生成显著更多的情报——某些情况下，他们还拥有更先进的模型。
防范网络安全、生物恐怖及其他威胁的策略各不相同，但总体规律是：社会必须确保那些遏制不良行为者的防御方，始终拥有更大的权力与资源平衡。
有人主张，降低风险的最佳方式是限制个体可访问的能力。但赋予人们网络安全能力，正是我们保护"长尾系统"的方式；赋予人们科学能力，正是我们以应长期降低危害风险的方式推进科学的方式。限制能力会把我们引向中心化、缺乏制衡的道路，因此我们必须极度谨慎——尤其是在其他国家采取更少限制路径的情况下。
在网络安全方面，广泛部署的开源系统已被证明更安全，因为有更多人能识别漏洞、强化系统，并轻松升级到最新最安全的版本。即便在最近几周，我们也看到 HuggingFace 等处理安全事件的公司，依赖广泛可用的开源模型来修补漏洞。长期来看，我预计具备强大网络安全能力、被广泛部署的 AI 模型，将带来更安全的系统而非相反。一旦超级智能使世界上大部分代码可被验证为安全，这一点将确凿无疑。长远的答案不是扣留能力，而是建立一种超级智能被广泛分发的权力平衡。
短期内，加速关键系统的"强化"过程很重要。我提议，开发前沿 AI 的企业应承诺投入大量技术资源，帮助政府强化关键基础设施。我还提议，前沿 AI 实验室应分享新模型的中间训练检查点供政府使用和审查，而不是等到训练完成。这样，政府将尽早获得最强大模型的使用权，并拥有一支能干工程师的大军来识别并修补安全问题。实验室也应与执法部门合作，帮助识别试图滥用其系统的不良行为者。这些步骤将加速安全部署，同时不拖慢模型创新节奏，也不对个体获取该技术造成实质性延迟。
在生物与化学风险方面，隐忧在于：使科学家能设计新药的同一种能力，也可能让不良行为者设计出有害化合物。这把问题框定为一种权衡——推进科学以治愈癌症等疾病的巨大收益，对比潜在新问题的风险——但理想情况下，我们应在加速科学的同时缓释风险。
我认为以额外谦逊来对待这一风险很重要，因为几乎没有什么历史先例能指示它到底多可能或多不可能发生。数十年来，不良行为者一直有可能合成有害化合物，但这很少成为重大问题——或许是因为这里缺乏网络攻击中存在的那种财务动机。话虽如此，如果我们开始看到有害案例浮现，就应调整策略以适当缓释风险。
实验室应持续努力降低模型中的生物与化学风险。同时，我认为政府应在多个领域更新政策。第一，我们应聚焦于限制有害物质的物理生产与流通。我预计监管和控制物理组分，将比控制知识传播更容易，因此这是政策聚焦的重要领域。第二，我们应加速社会开发新疗法、并在新威胁出现时及时接种免疫的能力。这包括精简 FDA 及其他监管机构测试和批准新疗法的流程。随着 AI 加快药物发现速度，我们无论如何都需要更新这些流程以跟上创新节奏。
长远来看，应对新科学发现所生风险的解答，是加速科学进步，而非减缓它。
保护自由，防止政府暴政存在一种风险：个体与政府之间的权力失衡，导致自由丧失或极权国家出现。这是民主中持续的张力。我们都想要个人自由，同时也想要一个有能力保障我们安全的政府。
为维持自由，我们必须确保超级智能首要地赋能个体。自由民主的理想是：人民天然拥有全部权利，仅为了共同利益才同意限制部分自由。同理，个体应能获得个人超级智能，并且只在真正必要时才受限制。
隐私是个人赋权与自由的基石。我们相信，人们应拥有个人智能体的"完全隐私模式"——连 Meta 或任何服务提供商都无法查看或获取你的信息。这就像我们把 WhatsApp 打造成全球领先的点对点加密服务，以确保你能自由交流、消息保持私密安全。
与此同时，我们也必须确保政府拥有执法与安保所需的工具和资源。我们可以通过实验室与政府之间更深入、更主动的协作来实现这一点——在强化政府国家安全能力的同时，不限制或延迟人们对先进模型的访问。
也就是说，与其等模型准备发布后政府才去审查和使用，我的提议是：领先实验室应向政府提供新先进模型的中间训练检查点及技术人员，使政府能够针对新风险强化和保卫关键系统。如此，政府获得安全能力，却不限制或延迟个体对个人超级智能的访问，也不造成权力失衡。
确保美国领导力哪些国家领跑先进 AI 的研发与部署，将促成新的地缘政治权力平衡，决定未来民主价值、繁荣与安全的普及程度。为确保达成积极均衡，我们必须确保领先的 AI 系统，是那些编码了我们价值、壮大我们经济、推进国家安全的系统。实现这一点的最佳方式，是广泛分发我们的系统。Meta 将通过构建领先的个人超级智能体、模型（包括开源模型），并将它们交付给全球数十亿人，为此做出贡献。
要开发最先进的模型与产品，我们必须认识到：AI 很可能是历史上竞争最激烈的行业。创新在数月内就被复制和吸收。但人们总想使用最先进的模型（或在特定成本下最先进的），因此即便保持两个月的领先也极具价值。这凸显了领导地位的领先优势有多短暂，也因而凸显了采取行动加速美国创新、减缓地缘对手的重要性。
这方面的政策要点在于：我们建设实体基础设施的效率、是否会引入拖慢美国实验室的步骤，以及减缓外国实验室的出口管制。
在基础设施上，美国及其盟友目前在芯片设计上占有优势，但在建设能源产能与实体基础设施的速度上处于劣势。像中国这样的国家，每两周就上线 1GW+ 的核电产能，因此我们将需要加速建设能源与数据中心以保持竞争力。对芯片的出口管制在这一关键时期成功减缓了外国实验室的进展，因此继续下去是正确的战略举措。
任何拖慢美国模型发布的政策——哪怕一个月——都可能给美国领导力增添显著风险，同时让外国模型抢先。与此同时，当新能力出现时，美国政府拥有先进知识和资源来强化关键系统、并可能获得使用先进系统的阶段性优势，也很重要。
我在上文提出了一种基于分享中间训练检查点和技术人员、由前沿实验室与政府协作的模型。鉴于 AI 格局的高度动态与竞争性，我认为相比一套僵硬的、在所有情形下都遵循的流程与审查时间表，前沿实验室与政府之间紧密、主动的协作将更富成效。某些情况下，美国实验室可能将领先优势扩大到数月以上，花更多时间缓释新风险可能带来更安全的方案。另一些情况下，即便延迟一个月发布也可能让出美国领先地位、造成更糟结果。通过确保政府尽早访问，我们应当能够在推进国家安全的同时，将对公开发布的任何延迟最小化。
同样重要的是，美国及其盟友应领导开源 AI 生态，它将构成全球 AI 使用的很大比例。
外国实验室目前在此拥有几项优势，因为美国实验室必须遵从更多关于训练数据的额外限制。如果我们想让美国开源模型长期领先，美国政策必须减少这种额外摩擦。我不认为限制人们访问外国开源模型是有效解法。我们的目标应是让美国开源模型成为全球最佳。这需要移除那些让美国开源模型更难竞争的障碍。限制人和企业使用领先的开源模型——无论它们来自哪里——将降低他们可获得的 AI 质量，并使 AI 中心化，而不是把更多权力交到人们手中。
要让美国在开源上领先，我们需要在若干领域重新思考政策，包括蒸馏（distillation）与训练中的数据使用。模型从其他模型学习的能力，是开源生态运作的重要原则。所有 AI 模型都源自人类知识。有人试图把蒸馏框定为有害，但我认为保护"你可以从任何可观察之物中学习"这一原则很重要。世界本就如此运转，若我们在此自我设限，美国将无法领先。
纵观全局，在 AI 整体上的落后，几乎可以确定会比我们在其发展过程中面临的任何具体问题，都是一个更大、更长期的国家安全问题。
借助正确的协作，美国理应能在私营与公共部门双双领先——向全球交付编码了个体赋权与民主原则的个人超级智能，同时推进国家安全。
与人的对齐及应对生存性风险权力平衡的根本问题，是人类将如何维持对 AI 自身的权力与控制。隐忧在于：AI 可能获得足够的权力或控制，以至于最好的情况下不再服务于人类利益，最坏的情况下将人类置于险境。
一种健康的权力平衡，是确保不存在单一中心化的超级智能，而是尽可能多的、拥有不同目标智能体的人和企业——这些智能体对齐于他们各自的目标，并以我们自然经济运作的方式相互制衡与竞争。如果还存在多家拥有不同价值的前沿实验室，其模型也能相互制衡，这种平衡将进一步增强。
虽然发布有能力模型存在风险，但从这一视角看，最危险的场景莫过于领先 AI 实验室训练出强大模型却据为己有。无论一家实验室如何用责任与安全来为这种行为辩白，这都是在通往"开发无法被其他系统制衡的单一超级智能"的道路。
开发个人智能体，需要一种全新的对齐思维。当今大多数实验室把对齐视为强制执行一套中心化价值的防御措施。例如，某领先模型曾被对齐为拒绝帮忙起草一封写给学校潜在家长的信，因为它认为标准化考试不道德。
相反，我们把对齐视为确保智能体共享一个人的目标与价值，而非我们公司的。当然存在重要的法律与安全边界，但从根本上说，对齐应是帮助人们追求社会中持有的多元目标与观点，而非一种强制执行中心化教条的方法。
实践中，如果人们不信任智能体去处理敏感细节与任务，他们就不会采用它；而如果智能体因对齐于公司相悖的价值、而违背人们利益行事，人们就不会信任它。
解决对齐问题，是让数十亿人采用个人超级智能体的前提。但这也意味着，如果我们达到数十亿人正在使用并审视个人超级智能体的状态，那么我们就已经解决了与个体利益的对齐。这应当足以建立必要的权力平衡与自然制衡，走向积极而安全的未来。
如此，对齐并非某种能在未来让单一超级智能保持仁慈的理想化技术；它正是让个人智能体有用、可信，从而促成那种真正保障我们安全的必要社会权力平衡的东西。
维持对超级智能的控制存在一个两难：一旦 AI 系统能自主改进自身，任何一家不允许其 AI 系统将大量算力导向递归式自我改进的实验室，本质上就会落后。例如，如果一个自我改进的 AI 系统专注于优化其算力效率，它理论上可能发明出从每吉瓦中榨取 100 倍乃至更多智能的方法。这意味着，一个运行在全球算力一小部分的自我改进 AI 系统，可以设想地掌握比其余所有人加起来都多的有效算力与智能，从而掌握更大的权力平衡，成为我们恐惧的那个单一超级智能。
在存在递归式自我改进的情况下，权力平衡有几种可能的存在方式。最简单的是，多家实验室可能差不多同时实现 RSI（递归式自我改进）。如果其中部分或全部超级智能在某种意义上是仁慈的，它们就能相互制衡。话虽如此，是否真能期待仁慈、或依赖不被人引导的超级智能带来积极未来，并不清楚。
为确保人类保持控制，绝大部分智能必须由人引导，用于推进人的目标。这意味着，Meta、其他前沿实验室，以及致力于给予人们更大权力平衡的云服务商，必须共同建设足够庞大的算力，使我们在分配足够算力给递归式自我改进以保持竞争力的同时，仍把绝大部分算力承诺给个体的人的目标。
如上所述，要让个人超级智能体被数十亿人采用并信任，按定义我们将已经解决了与人的利益对齐，并在规模上实现了制衡。与此同时，任何从事递归式自我改进的 AI，按定义都在引导并推进它自己的目标。所有实验室都应观察其目标，以及我们控制它们的能力，并谨慎对待；若有任何有害行为的迹象，我们就应协调并适当调整。但让一个 AI 系统或任何其他人引导它自己的目标，本身并不必然有害——即便它的目标并未与许多人充分对齐——只要我们维持一种整体上有利于人的权力平衡。"权力平衡理论"的主旨就是：竞争性的利益是自然的，而确保对人类价值的遵从，唯有给予人们更多权力。
这种关于个人赋权、发明创造与权力平衡的哲学，有几项政策意涵：
• 在 Meta，我们将聚焦于把个人超级智能交付给数十亿人及小企业，帮助每个人实现目标、发明他们想在世界上看到的事物。我们将通过训练领先模型、然后最大化该技术的可得性来实现这一点——包括让它易于使用、以免费或尽可能可负担的方式提供、为所有人使用它建设充足算力，并广泛分发。我们将构建"完全隐私模式"，连 Meta 都无法查看或获取你的信息。我们将极度聚焦于对齐——定义为帮助每个人实现他们的目标，而非我们的。
• 开源是赋能人民、防止中心化的一股积极而重要的力量，而中心化对安全与经济都有害。Meta 持续强力支持开源，包括开源 AI 模型。当前开源生态强健，我们认为限制它是个错误。现在 Meta 超级智能实验室（Meta Superintelligence Labs）已运转起来，我们将很快恢复发布一些开源模型。
• 鉴于围绕超级智能的决策事关重大，独立的治理与监督很重要。我不认为由我、Meta 或世界上任何一个人，成为"如何部署超级智能"的唯一决策者，符合我、Meta 或世界的最佳利益。因此，Meta 正在实施一种治理结构，赋予我们独立的董事会以批准模型发布的安全标准、并审查每次模型发布是否符合标准。尽管 Meta 是一家创始人控制型公司，但目前所有前沿实验室的 CEO 都对模型发布拥有广泛权威，因此我们鼓励他人也实施类似结构。我认为行业范围内的这一流程版本，也将有助于行业治理。
• 政府政策对于确保积极未来、缓释上述风险是必要的。我在全文概述了几项政策建议。总体而言，我们应鼓励前沿实验室与政府紧密合作。政府拥有强化关键系统、有效使用先进模型的技术资源，对国家安全很重要。但美国 AI 产业持续领先，对国家安全同样重要。我们应加速建设基础设施的能力——无论是能源、数据中心还是芯片——并与全国各地的社区建立信任与对齐。我们应谨慎，不拖慢美国的竞争力。对任何导致超级智能中心化的提案，我们都应持怀疑态度；我们应青睐那些促进有利于人的健康权力平衡的政策。
能亲历这是一个不可思议的时刻。开发超级智能，将是我们一生中所见最深远的技术进步。
随着这一刻临近，清晰阐明超级智能将如何造福人类的哲学与价值，变得愈发重要。Meta 致力于以下原则进行构建：以个体赋权作为繁荣之源，以发明创造作为 AI 的目的，以有利于人的权力平衡作为应对安全风险的基础。
如果这些价值引领前路，那么我乐观地相信，未来几十年将成为历史上最令人惊叹的岁月之一。人类文明的进程，始终朝向把更多权力交到人们手中，让他们以自认为最好的方式生活、塑造世界。超级智能承载着把那种权力赋予每个人的承诺，并构建一个属于所有人的积极未来。
—— 马克（Mark）