摘编自《AI帝国：OpenAI的权力冲突与人类的未来》作者手记

文 | [美] 郝珂灵

一场硅谷权力游戏，

谁在掌控我们的未来？

奥特曼被罢免的消息传来时，我正为本书展开一场采访。我把手机调成了静音，全然不知即将到来的混乱一周。20分钟后，我拿起手机想看时间，才发现屏幕上堆满了未读通知。就这样，我开始了一段在肾上腺素的驱使之下，一连数日马不停蹄地试图弄清究竟发生了什么的混沌时光。

萨姆·奥尔特曼（Sam Altman），美国企业家、投资人 、人工智能实验室OpenAI联合创始人、首席执行官 ，被媒体称为ChatGPT之父。

接下来的几周里，朋友、家人和媒体问了我几十遍同样的问题：这一切到底意味着什么？这场反复拉扯的闹剧只是一段有趣的插曲，还是会对我们所有人都带来影响？当时我已经跟踪报道OpenAI五年了。2019年，我成为第一位获得该公司广泛采访权限，并为其撰写首篇深度报道的记者。对我来说，这些事件绝非硅谷轻浮的权力游戏。这场闹剧凸显了我们这一代人最紧迫的问题之一：我们该如何治理AI？

AI是这个时代最具深远影响力的技术之一。在短短十多年里，它重塑了互联网的支柱，成为数字活动中无处不在的媒介。在更短的时间内，它正朝着重塑社会中许多其他关键领域的方向迈进，从医疗保健到教育，从法律到金融，从新闻业到政府治理。AI的未来——这项技术最终将呈现的形态——与我们自身的未来密不可分。因此，如何治理AI这一问题，实际上就是如何确保我们的未来会变得更好，而不是更糟的问题。

OpenAI骗了所有人：

所谓利他主义，不过是一块遮羞布

从一开始，OpenAI就将自己定位为回答这一问题的一场大胆实验。它由埃隆·马斯克（ElonMusk）和萨姆·奥特曼等人共同创立，并得到了彼得·蒂尔（PeterThiel）等其他亿万富翁的支持，其目标远不止于成为一个研究实验室或一家公司。创始人们宣称，他们将致力于开发所谓AGI——他们称之为人类有史以来最强大的人工智能形式，其目的不在于股东的经济利益，而是全人类的福祉。为此，马斯克和奥特曼将其设立为一家非营利组织，并承诺投入10亿美元用于运营。它不会开发商业产品，而是完全专注于研究，由唯一且最纯粹的动机驱动，即引领一个能够实现全球乌托邦而非其反面的AGI时代。马斯克和奥特曼还承诺，在此过程中将尽可能多地分享研究成果，并与其他机构广泛合作。如果目标是造福世界，那么开放性（OpenAI的名字也由此而来）和技术发展中的民主参与便是关键。几年后，领导层甚至更进一步，做出了必要时“自我牺牲”的承诺。“我们担心，AGI研发后期会演变成一场缺乏足够安全预防措施的竞赛。”他们写道，如果另一个旨在创造有益AGI的项目超越了OpenAI的进展，“我们承诺将停止竞争，并开始协助该项目。”

然而，当我开始撰写关于OpenAI的深度报道时，其对上述理想的承诺正迅速瓦解。仅仅一年半之后，OpenAI的高管们意识到，他们想要走的AI发展道路需要巨额资金。此前一直以联席主席身份采取放手管理方式的马斯克和奥特曼，都试图让自己成为CEO。最终，奥特曼胜出。马斯克于2018年初离开了该组织，并带走了他的资金。事后看来，这次分裂是第一个重要信号，表明OpenAI实际上并非一个利他项目，而是一个关乎个人野心的产物。

失去了主要资助者后，OpenAI陷入了财务不确定性的困境。为填补资金缺口，奥特曼重组了OpenAI的法律结构。他在非营利组织的框架内，创建了一个营利性实体——OpenAILP，以便筹集资本、将产品商业化，并为投资者提供回报，就像其他任何公司一样。四个月后，即2019年7月，OpenAI宣布了一个新的10亿美元投资方：软件巨头和云服务提供商——微软。

此后不久，我于2019年8月首次来到OpenAI的办公室。经过身处员工之中为期三天的沉浸式观察和数十次采访后，我清楚地看到，这个理想主义的治理实验正在分崩离析。OpenAI变得争强好胜、行事诡秘、封闭孤立，甚至在掌控如此关键的技术所带来的令人迷醉的力量之下，对外部世界充满戒惧。透明与民主、自我牺牲与合作的理念早已荡然无存。OpenAI的高管们只有一个执念：成为第一个实现AGI的公司，并将这一成就塑造成自己的形象。

OpenAI原总部大楼

接下来的四年里，OpenAI变成了它曾声称绝不会成为的样子。它成了一个名存实亡的非营利组织，积极地将ChatGPT等产品商业化，追逐前所未闻的高额估值。它变得更加隐秘，不仅切断了外界对其研究成果的访问途径，还改变了整个行业的规范，使得大部分AI的研发都无法受到公众监督。它引发了自己曾警告过的“逐底竞争”，大幅加速了技术的商业化和部署，却没有修复其有害的缺陷，也没有解决它可能加剧和利用社会裂痕的危险应用方式。在此过程中，公司内部领导层与员工之间的矛盾日益激烈，各方都试图夺取控制权，并按照自己的愿景重塑OpenAI。

2023年11月，奥特曼的被罢免与复职，最终证明了这场治理实验的失败。这不仅是因为OpenAI的非营利董事会在资本利益的压力下屈服，从而撕下了该组织所谓利他主义的最后一块遮羞布。它还以最清晰的方式表明，一小撮硅谷精英之间的权力斗争，正如何塑造着AI的未来。即使事件的走向有所不同，董事会成功地替换了奥特曼，也改变不了一则事实：这样一个影响深远的决定，是在密室中做出的。除了那一小群极度富有的技术乐观主义者、他们最激烈的意识形态对手，以及一家价值数万亿美元的科技巨头之外，就连OpenAI自己的员工也被蒙在鼓里，全然不知自己的命运将走向何方。

要么夺回AI的未来，

要么接受被“殖民”

早在OpenAI和ChatGPT成为AI技术的代名词之前，我就已经开始报道这一领域了。我见证了它在科学与创新之曲折过程中的演进——研究人员尝试新想法，在座无虚席的会议上展示他们最优秀的成果，并将这些成果带入谷歌、脸书、阿里巴巴、百度等世界顶级公司开发的商业产品中。我阅读了数百篇研究论文，采访了科学家、工程师和企业高管，以理解他们的世界观和决策，以及这些决策如何在技术设计与应用上留下印记。随着AI的足迹遍布全球，我追踪了它给人们生活和社区所带来的或微妙或剧烈的变化。我走访了五大洲，听取人们讲述自己的亲身经历。在哥伦比亚和肯尼亚，我遇到了一些在经济危机中转而投身AI产业数据标注工作，却发现自己身处近乎契约奴隶的工作环境的人们。在亚利桑那和智利，我同当地的政治家与活动家会面，而令他们忧心的是，数据中心这一日益扩张的“影子都市”正吞噬当地宝贵的水资源。

通过我的报道，我逐渐理解了两件事。首先，AI是一项形态多样的技术。它实际上是众多技术的集合体，其形态与演变不仅取决于技术本身的优劣，还受其创造者的意识形态驱动，以及炒作和商业化浪潮的影响。尽管ChatGPT及其他所谓“大语言模型”或“生成式AI”应用现已成为焦点，但它们只是AI的一种表现形式，这种形式体现了一种关于世界现状与其应有面貌的特定且极其狭隘的观点。这种形式的AI能够脱颖而出乃至其存在本身，都绝非必然；它是成千上万个主观选择的积累，而做出这些选择的，正是那些有权置身于决策室的人。同样，未来几代AI技术也并非命中注定。但治理问题再次浮现：谁将掌握塑造它们的权力？

unsplash

我理解到的另一件事是：当前这一形式的AI及其发展轨迹，正朝着一个令人担忧的方向前进。表面上看，生成式AI令人兴奋：它是一个创意助手，可以即时展开头脑风暴，生成文本；它是一个可以与之深夜长谈、帮用户抵御孤独的陪伴者；或许有朝一日，它还会以足够高效的方式提高生产力，从而提升整体经济活动水平。但正如我们一度认为脸书只是一个发布度假照片、联络失散多年的小学同学，或激发积极的变革性社会运动的平台一样，其光鲜亮丽、引人入胜的外表之下，隐藏着更多不为人知的东西。在表面之下，生成式AI模型堪称庞然巨怪，乃通过吞噬前所未有的海量数据、劳动力、算力和自然资源构建而成。据一项估算，作为初代ChatGPT后继者的GPT-4，其规模是五年前发布的初代GPT-1的1.5万倍以上。这爆炸式增长的人力与物力成本，正在广泛地落在社会的各个层面，尤其是最脆弱的人群身上。我在世界各地遇到的那些人们，无论是来自全球北方的工人和农村居民，还是来自全球南方的贫困社区，都在遭受着全新程度的不稳定。他们未能见到这场所谓技术革命的“涓滴效应”带来的任何收益；生成式AI的好处大多向上层汇集。

多年来，我只找到一个隐喻能够概括这些AI权力玩家的本质——帝国。在漫长的欧洲殖民主义时代，帝国掠夺和榨取不属于自己的资源，剥削被征服者的劳动力，为其开采、种植、提炼这些资源，为帝国自身的富强服务。他们宣扬种族主义的、非人化的思想，以证明自身的优越性和现代性，并以此将其侵犯主权、窃取与征服的行为合理化，甚至诱使被征服者接受这一切。他们以需要同其他帝国竞争为由，为自己对权力的追求正名：在军备竞赛中，一切规则都可以被打破。所有这一切，最终都服务于巩固每个帝国的权力，并推动其扩张和所谓“进步”。简而言之，帝国通过强加一种殖民世界秩序，在跨越时间与空间的范围内积累了惊人的财富，而代价则由其他所有人承担。

AI帝国并未犯下与这段历史相同的公然暴力与残忍行径。但是，它们同样在掠夺和榨取宝贵资源，以哺育它们对AI的愿景：艺术家的作品、作家的文字、无数人在互联网上分享的自身经验和观察所得的数据，以及建造和运营大规模数据中心与超级计算机所需的土地、能源和水。这些新帝国同样剥削着全球人民的劳动，将其用来清洗、整理并准备这些数据，以便将其转化为利润丰厚的AI技术。它们宣扬着诱人的现代性理念，并就击败其他帝国的必要性摆出咄咄逼人的姿态，以此来掩护并助长其侵犯隐私、窃取数据，以及对大量且有意义的经济机会进行灾难性自动化替代的行为。

如今，OpenAI正引领我们加速走向这一当代版的殖民世界秩序。在对一种模糊的“进步”愿景的追逐中，其对规模极限的猛烈推进，已经为新时代的AI发展定好了规则。现在，每个科技巨头都在竞相超越彼此的规模，投入的资金数额之巨，甚至连它们自己都不得不匆忙地重新分配并整合资源。微软向OpenAI投资100亿美元的同时，也裁掉了自己的1万名员工以削减成本。在目睹OpenAI超越自己后，谷歌将其AI实验室集中整合为谷歌DeepMind。当百度加速开发其ChatGPT对标产品时，致力于推进药物发现类AI技术的员工不得不暂停研究，让出计算芯片以优先开发聊天机器人。当前的AI范式也正在扼杀其他AI发展的替代路径。不隶属于科技行业或不受其资助的独立研究人员数量迅速减少，削弱了该领域内与短期商业利益无关的思想多样性。那些曾投资于广泛探索性研究的企业，如今在生成式AI开发成本的重压下，也已无力承担。年轻一代的科学家们正顺应新的现状，以提高自己的就业竞争力。曾经前所未有的事情，如今已成为常态。

unsplash

今天，这些帝国比以往任何时候都更加富有。当我于2025年1月完成本书的写作时，OpenAI的估值已超过1570亿美元。其竞争对手Anthropic即将达成一项使其估值来到600亿美元的交易。在与OpenAI建立合作关系后，微软的市值翻了三倍，超过3万亿美元。自ChatGPT问世以来，六大科技巨头a的市值总共增长了8万亿美元。与此同时，围绕生成式AI真实经济价值的质疑也越来越多。2024年6月，高盛（GoldmanSachs）的一份报告指出，对该技术的研发支出预计将在几年内达到1万亿美元，但迄今为止“鲜有可观成果”。次月，Upwork研究所对全球2500名劳动者展开的一项调查发现，尽管96%的首席管理者认为生成式AI能提高生产力，但77%实际使用这些工具的员工表示，这些工具反而增加了他们的工作量；部分原因是审阅AI生成内容耗费了大量时间，另一部分原因是上级不断增长的额外工作需求。在彭博社（Bloomberg）11月的一篇回顾生成式AI财务影响的文章中，记者帕米·奥尔森（ParmyOlson）和卡罗琳·西尔弗曼（CarolynSilverman）简洁地总结道，这些数据“提出了一个令人不安的前景：这项据称具有革命性的技术，可能永远无法兑现其推动广泛经济转型的承诺，反而只会进一步将财富集中到顶层”。

与此同时，在这一新时代爆炸性的人力与物力成本重压下，世界的其他地方正开始崩溃。肯尼亚的工人以勉强糊口的微薄工资，为OpenAI的技术（包括ChatGPT）过滤暴力与仇恨言论。艺术家正被那些未经他们同意或为其提供补偿，却以他们的作品训练出的AI模型取代。随着生成式AI技术催生出海量虚假信息，新闻行业正在萎缩。我们正目睹一个古老故事的重演，而这仅仅是个开始。

OpenAI并未放慢脚步。它正以无可比拟的资源继续追逐更大的规模，而整个行业的其他参与者也紧随其后。为了平息外界对生成式AI当前表现日益增长的担忧，奥特曼更加卖力地鼓吹AGI的未来效益。在2024年9月的一篇博客文章中，他宣称以“巨大繁荣”为特征的“智能时代”即将到来，超级智能甚至可能在“几千日内”降临。“我相信未来将是如此光明，以至于现在的任何人都无法通过文字来充分描述它，”他写道，“尽管它将渐进发生，但惊人的成就——比如解决气候变化、建立太空殖民地，乃至发现所有物理学定律——终将变得司空见惯。”在这一点上，AGI已很大程度上成为一种修辞、一个天马行空的万能借口，好让OpenAI可以继续追求更多财富和更大权力。几乎没有其他参与者拥有可比的资本来投资其他替代方案。OpenAI及其寥寥数家竞争对手将对他们向我们兜售的、作为未来之关键的技术形成寡头垄断；无论企业还是政府，任何参与者若想要分享这一愿景的成果，都将不得不依赖这些帝国来提供。

前进的道路并非只有一条。AI不必是今天这个样子。我们无须接受这种以空前规模的规模扩张与资源消耗来实现进步与发展的逻辑。我们社会真正需要的许多东西——更好的医疗和教育、清洁的空气和水、更快地摆脱化石燃料——都可以通过规模小得多的AI模型和多样化的其他方法来辅助推进，有时甚至必须如此。单靠AI也是不够的，我们还需要更强的社会凝聚力和全球合作，而这些恰恰是现有AI发展愿景正在挑战的事物。

但是，AI帝国不会轻易放弃它们的权力。我们其他人需要奋力夺回对这项技术之未来的控制权，而此刻正是仍有可能实现这一点的关键时刻。正如旧日的帝国终为更具包容性的治理形式所取代一样，我们也可以共同塑造AI的未来。政策制定者可以施行强有力的数据隐私和透明度规则，更新知识产权保护措施，让人们重新获得对自己的数据与作品的主导权。人权组织可以推动国际劳工规范和法律的颁布，为数据标注人员提供最低工资保障和人性化的工作条件，同时改善所有行业部门的劳工权利，保障人们获得有尊严的经济机会。资助机构可以重新培育AI研究的多样性，以开发出这项技术可能呈现的全新形态。最后，我们所有人都可以抵制OpenAI和AI行业向我们灌输的叙事——这些叙事试图用一个虚无缥缈的“进步”愿景，来掩盖这项技术日益增长的社会和环境成本。

《AI帝国：OpenAI的权力冲突与人类的未来》

作　者：[美]郝珂灵（Karen Hao） 著

译　者：王薇、旻宏

出版社：浙江人民出版社

团购价：58.8元（原价：98元）

点击图片，一键下单↓↓