https://www.digitalistpapers.com/vol2/bostrom
作者：Nick Bostrom
牛津大学教授，并曾长期担任牛津大学人类未来研究所的创始主任。该研究所是研究人工智能风险、全球性灾难和人类长期未来的权威机构。他因提出“模拟假说”而广为人知。他与哲学家大卫·查默斯等人共同推动了关于人类是否生活在计算机模拟中的严肃哲学辩论。
我们应如何治理变革性人工智能？在这篇文章中，Nick Bostrom[1] 认为，与曼哈顿计划、欧洲核子研究中心或国际通信卫星组织等蓝图相比，开放全球投资方法——即向国际持股开放、在政府定义的框架内运营的私营企业——具有优势，尤其是在时间紧迫的情况下。虽然没有一种模式是完美的，但开放全球投资似乎更具包容性、激励相容性和实用性，并且在可行的情况下，它也与进一步的国际协议兼容。
引言
针对旨在开发和部署变革性人工智能[2] 的项目，人们已经提出了多种治理模式。一些人支持美国主导的“人工智能曼哈顿计划”——一种美国与中国类似项目竞争、争夺永恒宇宙霸权的愿景。[3] 另一些人则提议建立一个位于美国的非营利组织或公益公司的所有权和治理结构。[4] 还有一些人探索了更具国际协作性的模式，例如“人工智能领域的欧洲核子研究中心”或“人工智能领域的国际通信卫星组织”。[5]
治理模式可能强调不同的目标，例如民主监督、国家安全、国际合作、合法性、经济效率和活力、公平的利益分享、人工智能安全、自由企业、明智的管理、科学进步、运营安全或负责任的部署。没有一种治理结构能够完全实现所有这些目标。此外，变革性人工智能还将带来大多数其他政策背景下不存在的特殊挑战——包括人工智能失调或被滥用导致存在性灾难的风险，以及权力极端集中的可能性。因此，任何治理设计都会因在某些合理的期望上有所欠缺而受到批评。选择将在不完美的选项之间进行。
“仅仅一个特定的结构在治理变革性人工智能发展方面令人满意是不够的：还需要该结构在整个过程中足够稳健以保持其完整性，并且具有足够的激励相容性以保持相关参与者的支持——并且首先能够被采纳。”
此外，随着我们接近潜在的智能爆炸，治理结构将承受巨大的压力。这部分是因为利害关系变得异常之高，部分是因为它们运作的环境将发生快速而深刻的变化。[6] 因此，仅仅一个特定的结构在治理变革性人工智能发展方面令人满意是不够的：还需要该结构在整个过程中足够稳健以保持其完整性，并且具有足够的激励相容性以保持相关参与者的支持——并且首先能够被采纳。
本文概述了我们称之为“开放全球投资”模式的范式。然后，我们评估了与其他模式相比，开放全球投资如何满足各种治理期望，并初步得出结论，它似乎相对有吸引力。
开放全球投资模式
核心特征与变体
在开放全球投资模式中，变革性人工智能的发展由一个或多个广泛对国际投资开放、并在政府定义的监管框架内运营的企业主导，并辅以加强的政府保证和援助。现状已经大致接近这一模式，尽管我们可以更接近理想状态。如果我们支持开放全球投资模式，这可能意味着我们应该努力更接近其理想形式；也许更重要的是，这意味着我们应该抵制那些会使我们远离它的提议。
这一核心理念可以根据是有一个领先的通用人工智能公司还是多个公司，公司是否注册在美国，以及建立了哪些支持性特征和结构，而采取不同的形式。
以下分析采取了一种有点以美国为中心的视角，反映了人工智能发展的当前现实和周围的西方话语。然而，开放全球投资模式本身在地理上是中性的——原则上，它可以由任何技术上有能力的国家作为东道国实施，或者由多个不同的国家作为不同通用人工智能项目的东道国。
示例
一个相当成熟的版本可能看起来像这样：
- 一家上市公司要么已经存在，要么被组建，注册在美国。它可以是标准公司或特拉华州公益公司。
- 许多人购买股票，包括美国和世界各地的个人。主权财富基金和其他投资工具也购买大量股份。如果进行首次公开募股，其结构应使初始所有权广泛分布。
- 可能存在具有不同投票权的多种股票类别。
- 这些数字仅供说明。关键点是利润分享和投票权可以部分分离——尽管理想情况下两者都应广泛分布。例如，世界各地的每个人可能都能购买 A 类股，而 B 类和 C 类股可能仅限于同意负责任人工智能框架的国家的公民。
外国政府及其公民，包括可能被视为战略竞争对手的大国，被允许甚至鼓励购买通用人工智能公司的股票。
- 为了帮助通用人工智能公司率先开发通用人工智能并取得巨大领先，合作政府可以采取各种行动。
- 通用人工智能公司也可以收购竞争对手并将其合并到自己的努力中。
- 公司的章程可能被创建或修改，以加强比典型的财富500强公司更严格的治理程序。
- 理想情况下，公司股票的很大一部分由独立组织和非营利组织收购，其职责是造福全人类并履行其他道德使命。
- 通用人工智能公司受其注册地所在国的法律约束。因此，假设采用美国-开放全球投资模式，美国政府保留通过法律或采取监管行动来阻止通用人工智能公司部署被认为不安全的产品的能力。它甚至可以在达到某些安全和安保标准之前停止更先进模型的开发。
- 采用各种机制，在合法上尽可能使美国政府或任何其他政府没收通用人工智能公司变得困难和昂贵——利用其他跨国公司为此目的采用的各种法律和结构性手段。
- 此外，美国政府领导人应在通用人工智能公司成立之初并在此后定期表示对该公司的支持，并重申尊重其财产权和独立性的承诺。理想情况下，这些承诺应嵌入法律和条约中，但非正式的承诺或支持表达总比没有好。
- 在安全视角切实可行的范围内，通用人工智能公司数据中心的很大一部分可以分布在多个国家和司法管辖区，以进一步增加没收的难度。
在有多个通用人工智能公司的版本中，情况将更接近今天的现状。本文对单一公司模式与多公司模式的相对优劣保持开放态度。
运营的监管背景
上述情景只给出了治理图景的一半：它概述了通用人工智能项目的所有权和控制权。另一半是政府强加给人工智能行业运营方式的一系列规则。
随着通用人工智能技术渗透到经济和社会中，将出现无数的治理挑战——保护消费者、维护政治完整性、帮助失业工人、防止滥用等等。这些挑战将主要落在政府身上。在美国-开放全球投资情景中，美国政府将承担监督的主要责任——为先进模型的开发和部署制定安全标准，建立监控程序等等。其他国家将对人工智能产品在国内的使用方式施加自己的规则。这种监管格局的细节并非开放全球投资模式独有，也不在本文的范围内。在理想情况下，各国可能会就安全和负责任的人工智能国际框架达成一致，从而实现合作并提供基本的全球保障措施，在此框架内，每个国家都可以实施自己更具体的法规。
“特拉华州公益公司章程将增加为道德价值观、利益相关者利益或公共利益而牺牲利润的范围。”
通用人工智能公司也可以在解决这些问题中发挥作用。例如，它可以选择不提供它认为会损害其股东长期利益或违反其更广泛使命的产品或服务。特拉华州公益公司章程将增加为道德价值观、利益相关者利益或公共利益而牺牲利润的范围。即使没有这一点，美国公司法在实践中也给予普通营利性董事会相当大的自由度来考虑除即时利润最大化之外的因素。
动机
开放全球投资模式背后的基本原理有三点：
- 利用与产权保护相关的根深蒂固的规范、法律和制度。这些可能比专门为变革性人工智能 concocted 的一些新颖的临时治理方案更 robust 和可靠。
- 广泛分配所有权和控制权，包括在强大的参与者之间。这服务于重要的功能： a. 它给予强大的参与者个人激励来维护公司的产权，而不是追求激进的没收或国有化，后者有可能破坏保护其利益的产权框架。 b. 它为国际竞争对手提供了怨恨和公开敌意的替代方案：欢迎他们投资并参与第一个通用人工智能的利润和控制。 c. 与所有权和控制权更加狭窄集中的模式相比，它促进了更广泛和全球更公平的利益和影响力分配。
- 鉴于当前参与者的动机、政治和地缘政治限制、短暂的人工智能时间线等，提出了一条有现实实施机会的路径。
各参与者的角色和权力
我们现在考虑开放全球投资情景中的主要参与者——通用人工智能公司、美国政府、其他政府和公民——以及每个参与者将拥有的角色和权力。
通用人工智能公司
除了管理其内部事务和研究流程外，通用人工智能公司还可以选择开发哪些产品、向谁销售这些产品、以什么价格销售，以及对其使用施加什么限制。
“与典型公司相比，该公司可能会受到股东非货币利益的更大影响。”
假设该公司在做出这些决策时将在很大程度上受利润动机驱动。然而，其产品可能如此深刻地影响世界，以至于以超出直接利润的方式影响其股东。因此，与典型公司相比，该公司可能会受到股东非货币利益的更大影响。如果通用人工智能公司被特许为公益公司，其法律定义的公共使命也可能显著影响其选择。
请注意，在多公司版本中，由于竞争压力，任何一家公司塑造变革性人工智能影响的能力都会降低。一家公司可能不会开发它认为对社会有害的产品，但如果这意味着放弃利润，那么另一家公司可能会填补这个空缺。因此，如果有人认为政府和领先的人工智能开发商都应对变革性人工智能的影响如何展开具有实质性影响力，那么这将支持单一公司模式——或者至少将顶尖通用人工智能公司的数量保持在非常少的水平。
美国政府
美国政府可以阻止通用人工智能公司进行某些开发或部署或销售某些产品，例如，为了保护公众免受可预见的伤害。它还可以坚持采取程序以降低针对公司的间谍活动或其知识产权 loss 的风险。
东道国政府还可以选择是否采取行动帮助通用人工智能公司，例如购买其部分股票、消除监管障碍、提供税收减免和补贴，或阻碍其竞争对手。
在一个完全实现的开放全球投资模式中，美国政府还将放弃其目前拥有的一些征用或没收公司的选择。例如，它可以承诺不将人工智能公司国有化，不对其征收特殊的惩罚性税收，并且不强制外国股东撤资。
其他政府
其他政府可以通过多种渠道施加影响。
- 他们可以购买通用人工智能公司的股份，这赋予他们投票权和利润分享。
- 他们可以在自己的管辖范围内监管人工智能产品和服务，并且可能阻止一家公司在其境内开展业务，除非它遵守所有当地法律。
- 如果该公司是一家公益公司，他们可以在美国法院起诉该公司未能充分推进其公益使命。
- 他们可以通过正常的外交和经济渠道对美国政府和美国通用人工智能公司施加影响。
- 如果已经达成正式或非正式的多国协议，他们可能拥有这些协议提供的制度或法律追索权。
- 如果数据中心或其他公司资产位于其领土上，他们可能作为最后手段，在美国违反协议的情况下能够没收这些资产。
公民
公民可以通过所有通常的方式影响他们的政府，从而间接影响通用人工智能公司：通过向官员呼吁、投票、抗议、游说等。他们还可以使用熟悉的方法影响公司：通过他们的购买行为、是否选择为公司工作、采取影响公司品牌形象的行动等。
“公民可以通过所有通常的方式影响他们的政府，从而间接影响通用人工智能公司：通过向官员呼吁、投票、抗议、游说等。”
在开放全球投资模式中，公民还可以选择购买通用人工智能公司的股份，这将让他们直接参与公司的治理。当然，由于国家内部和国家之间的财富差距，这种能力分配不均。特别是，低收入国家的人口每人拥有的影响力非常小。虽然这种不公平令人遗憾，但我们必须问：与什么相比？在大多数现实的可选模式下，同样这些人拥有更少的影响结果的能力。此外，国家政府、主权财富基金、宗教组织、慈善机构或其他非政府组织可以代表那些太穷而无法直接参与的人购买股份；然后这些机构可以利用内部民主进程来决定如何代表其选民行使股东权力。
代表性与公平性
人们很容易假设政府控制的倡议会比私人控制的倡议更具代表性和包容性。在当前情况下，这种假设是可疑的。即使像美国这样的大国，也仅拥有世界人口的约4.2%和名义GDP的26%。[9] 在一个美国国有化项目中，95.8%的世界人口被排除在所有权和影响力之外。即使这些数字乐观地假设曼哈顿计划式的项目在美国仍将受到有效的民主控制，这在某些情景下远非确定。[11] 相比之下，在开放全球投资模式理想类型的实例化中，每个拥有足够金融资产购买股票的人都有机会参与；世界人口的很大一部分实际上可能会参与，无论是直接通过私人投资还是间接通过主权财富基金、养老基金、指数基金等。
全球财富非常不平等。全球近一半的财富由最富有的1%的个人拥有。[12] 但全球财富和股票的很大一部分也由大量中等富裕的个人拥有。我们可以对此做一些粗略的数字。全球财富的基尼系数约为0.89。[13] 全球股票所有权的基尼系数虽未在标准数据中精确衡量，但可能更高。一个美国国有化的项目——即使我们假设所有美国公民在其中拥有完全平等的股份和影响力，而美国以外的公民没有股份或影响力——产生的全球分布的基尼系数约为0.96。[15] 也就是说，至少根据一个常见的不平等衡量标准，就金融收益和影响力的分配而言，美国国有化模式似乎比开放全球投资模式更不平等。[16]
当我们考虑到人工智能行业利润的一部分将由美国和通用人工智能公司注册地所在国以及股东报告其外国来源股息和资本收益的国家征税时，这种有利于开放全球投资模式的初始差距会大大扩大：税收收入将用于向全世界 vast 数量的公民提供服务或支付款项。如果我们考虑多公司版本的开放全球投资模式，差距可能会进一步扩大，在这种模式下，利润的很大一部分可能会被竞争掉，而不是被单一的垄断者捕获。此外，就我们对利益地理分散的重视程度而言，开放全球投资模式在这方面做得更好。
因此，可以说，一个开放且国际参与的投资结构比任何由单一国家完全拥有和控制的结构更公平，更具全球代表性。
“达成建立完全全球包容性努力的协议的时间线可能很长——特别是如果嵌入国际条约——并且与开放全球投资提议所依据的国际公司产权制度相比，由此产生的组织结构相对未经检验。”
可以设想出比开放全球投资更具包容性的组织安排。例如，可以想象一个由联合国运营的变革性人工智能项目，或者为此目的而设立的一个新的理想化版本的联合国。这种更理想主义的结构的一个主要问题是它们可能对当前的权力持有者和潜在资助者不具有激励相容性，因此几乎没有实施的机会。许多国际治理组织也往往行动迟缓，可能无法运营一个具有全球竞争力的变革性人工智能项目。目前没有任何前沿人工智能工作是由任何国际治理组织运营的，也没有任何由国家政府运营的。达成建立完全全球包容性努力的协议的时间线可能很长——特别是如果嵌入国际条约——并且与开放全球投资提议所依据的国际公司产权制度相比，由此产生的组织结构相对未经检验。一个国际化项目将面临的另一个困难是如何实现运营和信息安全，特别是如果设想其研究人员和管理人员将来自近200个国家。[17]
军事应用与外国竞争对手
民用技术与军事技术之间的区别往往已经难以区分。通用人工智能可能使情况进一步复杂化，并在先例对分类提供的指导有限的情况下引入新的应用领域。高水平的通用人工智能能力，即使并非专门为军事应用设计，也可能为军事成功做出巨大贡献。此外，极其快速的经济增长潜力本身就可能对一个国家的安全和地缘战略地位产生不稳定影响，因为任何足够大的经济发展差距都可能导致军事力量的分化。[18]
出于这个原因，东道国政府可能会寻求限制人工智能产品和服务的销售，从而阻止其他国家充分参与塑造新兴的机器智能时代。此外，东道国政府可能会以双重用途担忧为由，寻求限制向本国公民销售顶级人工智能能力。
担心这种情况发生的有资源与美国在人工智能发展上竞争的大国可能会追求自己独立的国家和/或商业通用人工智能项目。即使他们大量投资于美国通用人工智能公司，并且即使他们有理由相信美国会信守尊重公司自治和产权的承诺，他们也可能这样做。这些动态反映了各方对技术依赖和国家安全的可理解担忧。
在考虑这是否构成对开放全球投资模式的反对时，重要的是要记住，最相关的比较是针对那些有现实实施前景的替代模式，而不是针对一个所有人类自愿聚集在一起，为了所有人的共同利益而明智地共同努力的理想化世界秩序。
“重要的是要记住，最相关的比较是针对那些有现实实施前景的替代模式，而不是针对一个所有人类自愿聚集在一起，为了所有人的共同利益而明智地共同努力的理想化世界秩序。”
因此，如果我们将开放全球投资模式与“美国主导的人工智能曼哈顿计划”模式或通用人工智能由私有公司开发的模式进行比较，我们可以观察到，在这些情况下，竞争对手也都有激励去追求自己的变革性人工智能项目。事实上，在这些替代模式中，他们追求独立项目的激励会更强。在基本的美国-开放全球投资模式中，尽管它不能保证在美国限制先进通用人工智能能力出口的情景下维持其地缘战略地位，但他们——以及他们经济和政治精英中的个人——至少比在替代模式中有更强的机会参与变革性人工智能发展的经济上行。他们还将通过股东投票权对技术如何开发以及哪些产品可供销售至少有一定发言权。
目前，这种参与程度当然不足以让美国竞争对手放弃自己的变革性人工智能努力。但或许在边际上，它可以降低他们的紧迫感或规模。此外，可以想象，从通用人工智能公司成功中获得股份收益的前景可能会使竞争对手退缩的平衡倾斜。
如果对非东道国提供更强有力的保证既是可取的也是可能的，那么基本的开放全球投资模型可以通过额外的机制来增强。开放全球投资模型应该像私人开发模型或曼哈顿计划模型一样适合这种国际保证。可以想象，那些专注于将通用人工智能发展集中在一个联合运营的国际项目中的模型在这方面会有优势。但它们有其他困难；并且它们仍然会面临如何处理竞争性商业或国家项目的问题。
与国家相关的私人控制
当人工智能成为国家安全的关键因素时，东道国政府，即我们主要例子中的美国政府，可能会希望确保其能够完全访问人工智能公司可以生产的最有能力的技术。
今天，大多数先进的美国国防物资是由私营公司开发和生产的。尽管美国政府通常不直接拥有这些公司的股份，但它仍然对他们的活动施加很大程度的控制——比对大多数其他私营部门企业更多。这在一定程度上是因为美国政府是其产品的主要买家，因此拥有买方垄断权力，部分是因为它通过发放安全许可、控制哪些技术和信息可以共享、将政府雇员安置在承包商设施中以监控生产、质量和合规性、援引《国防生产法》等方式严格监管国防部门。允许外国投资，但通过美国外国投资委员会审查程序进行控制，该程序可以阻止外国收购控股权，或施加缓解措施。
鉴于政府拥有 formidable 的工具，投资者可能有理由担心他们面临被事实上的没收的风险。国防承包商在减轻这种风险方面相当成功，他们大力投资游说、“旋转门”招聘，并在关键政治选区分布工厂。人工智能公司可能尝试类似的策略，但它们可能变得比国防公司更容易受到国有化或没收的影响——特别是如果它们从智能爆炸中产生惊人的意外利润或变得对国家安全极为核心。这种集中的财富和权力将是一个诱人的政治目标。此外，与国防承包商不同，人工智能公司可能不会创造 vast 数量的就业机会；事实上，他们可能因自动化导致的大量失业而受到指责。人工智能公司可能会通过战略性地援引中国竞争的幽灵来抵御彻底 shutdown，但如果想长期保护其自主权和利润，它可能需要更广泛的 buy-in，特别是在政治和经济精英中。开放全球投资模型通过让更广泛的人群在人工智能公司的成功中拥有经济利益来帮助实现这一点。
技术与监管流程之间的速度差距
变革性人工智能发展的一个独特特征是它可能展开的速度，以及它将迫使政策制定者面对的范围和新颖性。特别是在“快速起飞”情景中，任何完全依赖传统监管流程的治理模式都将无法跟上技术。制定、审查和制定新法规需要时间。在许多情况下，监管无论如何都不是合适的工具来治理一个快速发展的、呈现独特的、推测性的或高度技术性判断的情境。正如军事行动不能通过发布监管法规来管理，而必须依靠现场指挥官根据快速变化的环境做出判断一样，先进通用人工智能发展和部署的许多方面也将需要有能力决策者的执行裁量权。事物发展越快，情况就越如此——结果就越取决于在相关时间占据关键职位的特定个人的价值观和能力。
“因此，如果希望实现有效的政府监督，开放全球投资模式可能要求公司与政府之间异常紧密的结合。”
因此，如果希望实现有效的政府监督，开放全球投资模式可能要求公司与政府之间异常紧密的结合。除了彻底国有化，这可以通过多种方式实现。例如，人工智能公司可以自愿同意与一个专门的政府工作组定期会面。更正式的措施可以包括在公司内部安置政府代表或建立一个监督委员会来持续监控其行动。在极端情况下，可以创建一个公私合作伙伴关系结构。值得注意的是，如果政府深度介入，开放全球投资模式可能需要额外的保障措施来让股东相信他们的利益仍将受到保护。
向后变革性人工智能治理的过渡
很难具体想象一个完全后变革性人工智能世界的良好治理体系会是什么样子——一个也许生物人类和动物与数字心智共存，跨越 vast 的能力水平、架构、功能、目标、组织形式和道德地位的世界。开放全球投资模式主要旨在作为发展阶段中间的治理选项。在这一点之后，可能需要对我们的治理方式进行根本性改变；但到那时，希望更容易看清形势需要什么，决策者可能能够获得超级智能人工智能顾问来指导他们进行进一步的改革。
开放全球投资模式在长期内仍然相关，因为它可能有助于我们以最小负和冲突到达那里，并塑造之后的初始条件。如果成功，开放全球投资可以鼓励一条通过合作经济结构部分化解敌对关系的轨迹，以及影响力和利润比在最现实的替代模式下更广泛地共享。
讨论与结论
人们可以将开放全球投资模型构想为一种“理想类型”，现实可能或多或少地接近它。
当前的局势已经提供了更完全实现的开放全球投资模型会提供的一些好处。Alphabet 和 Meta 虽然是控股权 closely held，但它们是公开交易的。至于像 OpenAI、Anthropic、xAI 和 SSI Inc. 这样的私人人工智能公司，对美国友好的国家中的大型机构投资者很可能能够与这些公司谈判股票购买。甚至不被视为对美国友好的个人和国家也可以通过投资于投资了这些私人股权的上市公司的股份来获得 dilute 的风险敞口。
如果一个人关注的是导致天文数字般的人工智能意外之财的情景，人们可能会认为，即使是高度稀释的上行空间敞口也足以满足任何合理的资源可饱和的个人或国家优先事项。无论你最终拥有1000个星系还是可怜的10个太阳系，你仍然可以以多个数量级的余量来满足大多数非位置性的个人需求。这可能根本不需要你自己的任何投资：如果至少有一个略微慷慨的人最终拥有1000个星系，并愿意将其资源的0.1%用于对现有人口的慈善事业，那么每个人都可能得到10个太阳系。在当前对领先人工智能公司的重大投资者中，可能至少有一个略微慷慨的人。此外，一些私人人工智能公司部分由以造福人类为使命的非营利实体拥有或控制；在这些类型的情景中，这些慈善机构可能能够承担 massive 的拨款，广泛分配智能爆炸的收益。美国可以对其部分利润征税，然后通过对外援助计划资助同等的全球 handout。
“如果一个人关注的是导致天文数字般的人工智能意外之财的情景，人们可能会认为，即使是高度稀释的上行空间敞口也足以满足任何合理的资源可饱和的个人或国家优先事项。”
基于这些原因，有人可能会争辩说，从更接近开放全球投资模型的理想类型中几乎没有什么收获。然而，这种天文数字般的意外之财情景所依赖的假设可能不成立。在经历了如此深刻的转型之后，国家、慈善机构或目前慈善的个人的行为可能会如何变化，也可能存在不确定性。此外，许多参与者也有非资源可饱和的位置性偏好。而且，即使事实上某个参与者在这些情景中的长期偏好会得到很好的满足，它们可能看起来不够“现实”，无法在该参与者向超级智能冲刺的过程中提供多少安慰；而人工智能领域更清晰的股权头寸可能会提供更多的 reassurance。对产权将受到保护的更大保证也将是有益的。除此之外，还有参与引领变革性人工智能发展的实体的治理的问题。在一个完全实现的开放全球投资模型中，世界上任何地方的、对此认为重要的参与者，都将有一个和平合法的选择，通过购买通用人工智能公司的有投票权股份来获得某种程度的参与。
也许更重要的是，评估开放全球投资模型的优点不仅是因为它可以鼓励努力更接近其理想形式，还因为它可以激励避免那些会使我们更远离它的步骤。如果有人主张美国应以道德理由（如包容性、公平和民主合法性）将变革性人工智能发展国有化，那么指出此举将完全排除95.8%的世界人口和除美国外的所有国家是相关的。如果有人提倡国有化以避免安全标准的竞相逐底，那么开放全球投资模型将允许外国参与作为投资者，而不是被迫不惜一切代价与其竞争或诉诸绝望的破坏行为，这是相关的。如果有人担心政变、权力争夺或普遍的不稳定，那么围绕财产所有权、投资者权利和公司治理的规范和法规则相对完善并融入公民社会是相关的。如果有人提议创建一个新的国际组织来管理变革性人工智能的发展，那么在政治可行性、实现时间、信息和运营安全、资金前景以及可能的组织效率水平方面，将这种结构与开放全球投资模型进行比较是相关的。
最近的国际努力凸显了多边方法在人工智能治理中的吸引力和局限性。例如，联合国2024年的《为人类治理人工智能》报告提出了相对温和的初步步骤——一个国际科学小组、能力建设计划和协调机制。[23] 虽然这些可能服务于有用的功能，但它们说明了当前的国际提议距离一个能够有意义地治理变革性人工智能发展的全面框架还有多远。即使这些提议最终演变成更实质性的东西，国际组织的历史也表明这可能需要很多年或几十年，并且可能仍然面临执法、敏捷性和技术能力的挑战。与此同时，开放全球投资模型提供了一个务实的替代方案：它可以立即实施，同时保持与可能出现的各种形式的国际协调兼容——特别是那些侧重于标准制定、监控或规则执行，而不是所有权或直接运营控制的协调。
“开放全球投资模型提供了一个务实的替代方案：它可以立即实施，同时保持与可能出现的各种形式的国际协调兼容——特别是那些侧重于标准制定、监控或规则执行，而不是所有权或直接运营控制的协调。”
附录 A：公司结构与约束
有几个原因使得目前拥有最先进人工智能项目的几家公司迄今为止选择保持私有。通常，公司首次公开募股的最重要原因是为了获得更大的资本池和为其早期投资者提供流动性。迄今为止，这些公司从私人投资者那里筹集足够资本是可行的。这可能是因为目前长期导向的私人投资者对人工智能领域的机遇有巨大兴趣。随着前沿人工智能公司的资本需求飙升至数千亿美元或更多，能够获得足够资本的私人投资者数量将开始减少；但到目前为止，这尚未证明是一个决定性的限制。
从这些公司及其所有者和管理者的角度来看，首次公开募股的潜在收益必须与许多不利因素权衡。其中之一，合规负担的纯粹货币成本，在目前的背景下相对微不足道。但其他潜在的更严重的缺点包括披露要求、额外的审查和检举条款、从核心技术和业务发展中分心、创始人/VIP控制权可能被稀释、容易受到激进投资者的影响，以及可能更多地暴露于各种监管行动和诉讼。对于目前具有非标准治理结构的人工智能公司来说，情况可能格外复杂。向华尔街分析师展示清晰的产品路线图和商业模式可能也很困难。如果你的公司由经过精心挑选、理解并支持你愿景的价值对齐的投资者私有拥有，这些事情会更容易处理。
为了适应这些担忧，可以探索各种安排。这些措施可能包括采用特殊的治理规定和多类股份，以便即使在新的投资者加入时，原始使命和公司创始人或管理者也能继续拥有很大程度的控制权。组建特拉华州公益公司可以为董事会追求股东回报最大化以外的目标提供更多自由度。创建一个拥有原始公司相当一部分股份的上市控股公司或封闭式基金，可能使后者保持私有，同时为更广泛的投资者扩大参与机会。如果有监管机构的合作，可能性的空间会扩大。美国证券交易委员会可以发出不行动函或豁免令，以放弃执行一些原本会阻止或使可取解决方案复杂化的法规。如果国会决定促进沿着开放全球投资模型路线解决问题，则可能性的空间会更大。
如果美国首次公开募股的监管负担过于沉重，可以探索的另一个选项是在海外上市。这可以与发行美国存托凭证相结合，后者可以在纳斯达克交易。
附录 B：投资者保护与政府监督
虽然美国政府对美国公司的利润征税，但它通常尊重公司的产权和自主权。然而，考虑到干预一个成功的通用人工智能公司的潜在强大诱惑以及这样做的现成理由，额外的保证将有助于使开放全球投资模型对投资者具有可信度。可能还需要特殊的豁免或鼓励来解锁来自目前与美国关系紧张或受制裁的国家的投资，而该模型的纯粹形式会允许这些投资。
在美国政府试图将通用人工智能活动集中在一个公司内的版本中，美国政府的角色可能扩大到包括压制或合并竞争对手，以及保护选定的项目免受反垄断诉讼。正如文本中所讨论的，美国政府还将在定义变革性人工智能的监管框架、监督活动和保护公司免受各种威胁行为者的侵害方面发挥重要作用。在某些情况下，政府参与可能发展为公私合作伙伴关系或采取“软国有化”的形式。
为了获得开放全球投资模型的全部收益，不仅投资者的利益需要实际上得到保护，而且投资者——理想情况下包括竞争对手，他们可能因此不太绝望地竞争或破坏美国的努力——能够事先对这一事实有合理的信心水平。可以探索一些措施来帮助解决这个保证问题。其中一些可以由通用人工智能公司单方面实施，而另一些则需要美国政府的参与。
非正式信号和承诺：至少在最低程度上，公司领导人和/或政府官员可以表达对保护通用人工智能公司股东利益的支持或承诺。
政府关系、公关和游说：通用人工智能公司可以投资于加强其向立法者传达立场的能力，并抵制未来可能出现的国有化呼声。
法律和条约保护：可以探索可能使国家没收更加困难的法律构建，例如为一些知识产权使用海外控股公司。可以从石油巨头和矿业公司等跨国公司在治理薄弱或法治不稳定的地区运营时如何减轻政治风险中汲取灵感。一个有足够动力的政府也可以寻求将对美国通用人工智能公司国际投资的支持嵌入与其他国家的正式协议或条约中。
资产的地理分散：通用人工智能公司可以将一些资产，如数据中心和知识产权放在海外，以使其母国更难单方面没收其所有资产。如果美国政府知道直接没收的尝试将无法捕获重要的海外资产，它可能首先不太可能采取这样的政策。
技术措施：例如，可以在数据中心安装远程终止开关，使外国能够抵制美国政府将人工智能公司国有化或没收其投资者的企图。这可以被设置为避免赋予任何一个外国单方面阻止美国人工智能项目的能力。
利益对齐：这是开放全球投资模型的一个重要特征：允许政治和经济精英投资于通用人工智能公司，可以激励有影响力的选民反对 confiscatory 的政府干预和其他敌对行动。
附录 C：一个还是多个智能公司？
多公司模型比单一公司模型更接近当前的现实。
这种竞争性商业格局是否应被视为可取，取决于我们如何看待变革性人工智能的主要风险。如果我们将通用人工智能基本上视为另一种技术，我们的默认立场可能是竞争是有益的：如果存在一些竞争而不是单一的垄断者，我们往往会获得更快的进步和更大的消费者剩余。开放全球投资模型的全球包容性，及其在一定程度上缓解国家间在通用人工智能发展中的负和动态的能力，以及它阻止权力极端集中的潜力，无论有一家还是多家上市人工智能公司，这些优势都同样适用。(希望保护自己免受最终“获胜”并成为具有巨大意外利润的垄断者的影响的风险的投资者，可以在所有 plausible 的竞争者之间分散其持股。)
相反的观点是，通用人工智能是自成一类的，部分原因是它带来了特殊的风险，如失调的超级智能——这些风险可能需要为了缓解而进行密切协调的开发过程。[24] 例如，如果其他开发者紧随其后，并且显而易见地，花时间在安全措施上意味着将竞赛拱手让给一些不那么谨慎、不那么厌恶风险的竞争对手，那么这种预防措施的范围就会减少。如果我们以这种方式看待通用人工智能，我们可能不希望存在一个多家公司竞相开发和部署越来越强大的人工智能的竞争市场。
开放全球投资模型与这两种观点都兼容。如果竞争情况是可取的，就让许多人工智能公司存在。这可能是默认情况下会发生的事情。在这种情况下，多公司模型可以通过鼓励广泛分配股份所有权，以及采取措施加强保证，即这些公司的产权即使在极端价值增长的情景下也将受到保护，来进一步支持。
另一方面，如果竞争情况不可取，则可以将基本的开放全球投资模型与消除或阻碍除被 selected 项目之外的任何人工智能项目的措施相结合。同样，美国可以利用其影响力使竞争对手更难 thrive。假设需要这种方法，与替代模型一样，开放全球投资模型也可以使用相同的抑制竞争的选择。
可以想象一个情景，即在全球范围内只有一个通用人工智能项目是可取的，但在开放全球投资模型中更难实现这一结果。例如，也许中国或其他一些重要国家更愿意关闭国内人工智能努力，以支持某种联合的、类似国际通信卫星组织的政府间项目，而不是支持某个美国公司项目。然而，目前看来，美国和中國在人工智能领域的其他重要参与者都愿意为了一个单一的联合国际项目而关闭其国内努力的情景相当遥远。如果情况发生足够大的变化，使得那种安排变得可行，那么新的情况也可能使单边放弃以有利于一个基于美国的、领先的通用人工智能公司的模型变得可行。
附录 D：与其他一些模型的比较
本文提出了开放全球投资模型，以促进对其与变革性人工智能治理的其他方法相比的相对优缺点的更广泛讨论。本附录对开放全球投资模型的一些优点进行了一些简要和初步的评论。
“人工智能曼哈顿计划”
我们在正文的多个地方将开放全球投资与“人工智能曼哈顿计划”进行了比较。回顾一下：
- 开放全球投资可能更合许多现任者的心意，包括当前人工智能公司的领导层、员工和投资者。广泛的投资性可以增加美国和国际精英之间的激励相容性。
- 开放全球投资承诺比仅美国的国有化项目更广泛、更公平的利益和影响力分配。
- 开放全球投资避免了对 massive 政府资金的需求。
- 开放全球投资可以降低权力极端集中的概率，部分是通过创建一种公司和政府都拥有重大权力的双重否决或权力结构，部分是通过将项目嵌入公民社会，在那里有更多的透明度、社会规范和法制结构，而不是由安全国家运营的国有化项目。
- 开放全球投资可以通过给许多国家及其精英参与美国项目的机会来一定程度上缓解国际负和竞赛动态和冲突的可能性。
- 开放全球投资模型提供了一系列关于政府参与程度的选择——从不超过现状，到随着风险或社会影响增加而扩大对人工智能行业的监管，到非正式咨询和政府监控，到持续正式监督安排，到公私合作伙伴关系或其他形式的软国有化。
- 开放全球投资模型与为负责任的人工智能发展制定更广泛的合作性国际框架，和/或美国更单边地影响其他国家人工智能努力的尝试是一致的。
“人工智能领域的欧洲核子研究中心”
我们也可以将开放全球投资模型与类似“人工智能领域的欧洲核子研究中心”的东西进行比较——一个国际性的、联合运营和控制的、开发先进人工智能的项目。它可以是西方盟友之间共享的项目，也可以是更全面的全球合作。
“人工智能领域的欧洲核子研究中心”继承了“人工智能曼哈顿计划”的一些缺点。对这些共同的缺点，“人工智能领域的欧洲核子研究中心”又增加了一些自身的缺点。一个国际民用项目在信息安全方面将面临 formidable 的挑战。这在基础物理研究中不是问题，但在一些变革性人工智能情景中可能至关重要。另一个潜在的缺点是，尚不清楚“人工智能领域的欧洲核子研究中心”能否与企业环境或人工智能曼哈顿计划中可实现的飞速发展速度相竞争。
与“人工智能曼哈顿计划”相比，“人工智能领域的欧洲核子研究中心”也具有重要的优势。最值得注意的是，它可能在全球范围内更公平，也更合各大国的意。
人们可能会认为，在理想情况下全球只有一个领先的变革性人工智能努力的情景下，“人工智能领域的欧洲核子研究中心”会特别有吸引力。理论上，世界上所有的通用人工智能努力都可以集中在一个全球合作联合项目中。然而，我们必须注意，“人工智能领域的欧洲核子研究中心”的 mere 存在本身并不能消除竞争性的人工智能公司或削弱强国建立自己的国家通用人工智能项目的激励。所以，只有当我们想象“人工智能领域的欧洲核子研究中心”将与所有有能力的行为者之间达成一项具有约束力的国际协议相结合，不追求自己的国家项目时，我们才会有一个实现事实上的全球通用人工智能垄断的模型。目前，这种安排是否有政治意愿是非常可疑的。如果我们确实想象情况发生变化，使得这变得可行，那么我们也应该问一下——在这些规定的情况下——类似的安排是否也不可用于开放全球投资模型。
“人工智能领域的国际通信卫星组织”
我们也可以将开放全球投资与“人工智能领域的国际通信卫星组织”进行比较。国际通信卫星组织是一个政府间财团和条约组织，总部设在华盛顿特区，任务是建设全球卫星通信网络。它在一种治理结构下运作，其中成员国是股东，投票权与其投资和对系统的使用成正比。
与开放全球投资、曼哈顿计划和欧洲核子研究中心模型一样，国际通信卫星组织模型本身不会阻止竞争性项目的出现。这些模型中的任何一种都需要辅以额外的措施才能实现全球垄断，如果这种东西是可取的话。
国际通信卫星组织模型在某些方面比欧洲核子研究中心模型更接近开放全球投资模型，因为国际通信卫星组织有一个重要的商业组成部分。商业动机与地缘政治考虑一起发挥了作用，参与者期望并获得了投资回报。对项目决策的影响力也或多或少地根据每个成员的贡献进行分配。
开放全球投资和国际通信卫星组织模型之间的一个关键区别是，开放全球投资允许私人和公司进行投资和参与。这有几个优点：
- 拥有至少部分是私人的所有权可以给参与国带来更大的信心，即当利害关系变得很高时，美国不会没收项目的资产，因为个人投资于项目的政治和经济精英将有激励保护其自主权和财务利益。
- 开放全球投资模型允许利用根深蒂固的产权规范和现有的公司法律结构。这可能比新颖的临时法律结构更 robust 和值得信赖，并且 set up 更快。
- 为国际变革性人工智能项目达成条约安排会更慢、更困难。正式条约在某些方面可能比常规商业产权法更 robust 和值得信赖。无论如何，这两个选项并不相互排斥。一个通用人工智能公司最初可以在常规公司法制度下成立；随后可以得到政府官员之间的非正式或单方面承诺或协议的支持。如果许多国家之间的正式条约框架变得政治可行，它可以用于进一步巩固通用人工智能公司的地位，并明确负责任的人工智能部署的国际制度的进一步方面。
- 开放全球投资模型更接近人工智能行业当前的发展路径，并且 plausibly 会比涉及人工智能行业国有化或创建新的国际项目的替代方案更受人工智能现任者的青睐。
- 开放全球投资模型缓解了对政府资金的需求，因为部分或全部资金可能来自私人投资者和已经资金充足的国有账户。这一点很重要，因为建立一个明确占主导地位的全球人工智能领导者所需的资金将是相当大的，许多政府可能难以凑齐参与可行的“人工智能领域的国际通信卫星组织”所需的资金。
然而，我们也可以指出某些方面，在这些方面，“人工智能领域的国际通信卫星组织”可能对某些国家比开放全球投资模型更有吸引力。一个可能是更强的合法性的感觉。一个更切实的考虑是，在默认情景下，一家公司的税收收入主要归于其注册国。这可能会使美国-开放全球投资对美国特别有吸引力，但这将是其他国家更喜欢国际通信卫星组织安排的一个理由。理论上，美国可以同意为通用人工智能公司的外国投资者提供税收优惠；但在实践中，其他国家的政府可能更有可能在“人工智能领域的国际通信卫星组织”条件下获得有利的税收待遇。
附录 E：法律基础：商业产权 vs. 国际协议
为了进一步比较开放全球投资模型与像“人工智能领域的欧洲核子研究中心”或“人工智能领域的国际通信卫星组织”这样的国际替代方案，有必要审视其法律基础的相对稳健性。
历史记录显示，美国达成的国际协议有时经历了缩短的寿命。例如，曼哈顿计划是亲密盟友之间的合作，由罗斯福和丘吉尔之间的书面协议管理，其中包括一项承诺，即战后应继续在军事和商业目的开发核能方面进行“全面合作”，除非双方同意终止。尽管如此，一旦项目成功，美国单方面终止了该协议。英国随后启动了自己的核武器计划，以巨大的代价独立重建该技术。
已由美国参议院批准的正式条约给予对方一定更高水平的保证，即美国将信守其承诺。即便如此，也发生了一些违约行为。一个众所周知的例子是违反《拉勒米堡条约》。
国际承诺的这种结构性脆弱性与保护国内财产和商业合同的法律框架形成对比。虽然条约违反可以援引“后法优先”原则，但国内产权植根于宪法第五修正案，要求任何征收都必须经过正当程序并提供公正补偿。这种保护延伸到非美国人，例如持有美国公司股票的外国国家或个人。
这些保护的韧性体现在推翻的罕见性和争议性上。可争议的案例包括大萧条期间政府废除合同中的黄金条款，以及第二次世界大战期间根据9066号行政命令发生的日裔美国人拘禁期间的财产损失。这些案例的特殊性强调了美国法律体系中存在的相对较强的私有产权保护。对于外国所有者来说，国家紧急状态下的政治压力使得根据《与敌贸易法》或《国际紧急经济权力法》等法律冻结或没收资产成为可能，尽管这些往往受到司法审查、事后补偿或国际索赔程序。
总之，开放全球投资模型所利用的产权的宪法锚定，可能为广泛国际参与变革性人工智能发展提供比依赖条约的结构更稳定和可执行的法律基础。为了最大程度的保护，可以叠加多种机制，并可能与物理措施相结合。
转载请注明：《中国社会分红/基本收入研究网》 浏览量：22 views
