怪兽时代

我先坦白一件事。以我名义发出的部分文字,其实是人工智能写的。邮件、回复、评论:我给出思路和语气,模型将它们组合成工整的段落,然后以我的名义发送出去。大多数时候我会校对一遍。但不总是这样。有时文字看起来如此得体恰当,目光扫过时毫不停留,手指就自动按下了"发送"。我怀疑对方那边也在发生同样的事。收到我邮件的不是人,而是他的模型,它会把邮件压缩成三行字,并提供一个回复方案。结果就是,两个人在通信,却可能一个字都没写过也没读过。通信的是我们的模型。我们只是给它们设定情绪基调。

要理解这意味着什么,我需要借用一个来自完全不同时代的隐喻。

怪兽从何而来

怪兽片(日语称"怪獣",意为"奇异野兽")的诞生并非源于儿童幻想,而是来自相当成人化的历史。1954年3月1日,美国在比基尼环礁试爆了氢弹"城堡布拉沃"。爆炸威力比预计强2.5倍,放射性尘埃覆盖了日本渔船"第五福龙丸",当时它正在宣布的危险区域外捕捞金枪鱼。全部23名船员都遭受辐射病,无线电员久保山爱吉半年后去世。

全国掀起了关于"原子金枪鱼"的恐慌,受污染的鱼类在日本各地市场被下架。媒体称这次事件为第三次原子弹轰炸。对于九年前刚经历过广岛和长崎的国家来说,这是一笔未了的账,如今再次被翻开。

同年,东宝电影公司制片人田中友幸构思、本多猪四郎导演拍摄了《哥斯拉》。被海洋核试验唤醒的远古巨兽登陆,焚毁东京。本多经历过战争,亲眼见过广岛的废墟。据创作者回忆,怪兽皮肤的质感影射的是轰炸幸存者的瘢痕疙瘩。这不是娱乐片,而是一部阴郁的安魂曲。第一只怪兽与其说是怪物,不如说是后果:是人类自己释放到世界上的力量的化身,其规模远超人类所能应对。哥斯拉无法被打败,无法与之谈判。只能承受它。

此后这一类型走上了颇具代表性的道路。怪兽变多了,它们开始互相搏斗。哥斯拉大战金刚、大战摩斯拉、大战基多拉。在这些电影中,人类从受害者变成了观众。屋顶上的渺小身影仰望着雾中交锋的巨兽,像体育场上为球队加油一样为它们呐喊。到2021年好莱坞拍摄《哥斯拉大战金刚》时,片方营销已经直接让观众选边站:哥斯拉队还是金刚队。人们有了"自己的"怪兽。一种参与强大力量的幻觉,尽管这力量根本不征求你的意见。

今天的巨兽们有名字,也有价目表。Anthropic在5月完成65亿美元融资后估值达到965亿美元,逼近万亿大关,首次超过主要竞争对手。OpenAI在3月完成122亿美元融资后估值为852亿美元,已提交IPO申请文件,而据媒体报道,其创始人认为低于万亿美元的估值不可接受。这些私营公司中的每一家,其价值都相当于一个不小的欧洲国家的经济体量。而我们站在屋顶上呐喊助威。"我的"Claude对阵"你的"GPT,关于基准测试的争论取代了体育战报,模型发布被包装得像怪兽从海洋中现身。选边站队成了身份认同的一部分,尽管严格来说,任何一方都不属于我们。

这一类型片中还有一个必不可少的角色:国家。在怪兽电影中,国家总是以参谋部、将军和战斗机的形式出现,徒劳地向怪兽倾泻火力。有时国家还会制造自己的怪兽——机械哥斯拉。今年夏天,现实几乎完全按照剧本上演。Anthropic早在春季就宣布,其新模型Mythos在发现漏洞方面过于强大,不宜公开发布,因此向公众提供了一个带有安全限制的精简版本。发布三天后,美国商务部下令禁止外国公民访问这两个模型。出口管制首次不是针对芯片,而是针对模型本身——也就是说,软件产品受到了过去只有武器才会受到的待遇。公司当晚就对所有用户完全关闭了这些模型,两周半后才在加强保护措施后恢复访问。值得注意的是,关于怪兽危险性的故事很大程度上是Anthropic自己讲述的:公司负责人在政府发函前两天就发表了一篇文章,称国家应该有权阻止部署过于危险的模型。创造者说太危险不能发布。国家回应说太危险不能允许。而且正是这个国家,同时要求OpenAI只向经批准的合作伙伴提供最新模型,并讨论持有其5%的股份。它在这里不是看台上的裁判。它同时在向怪兽开火、喂养它,并盘算着养一只自己的怪兽。

我认为,没有比这更贴切的隐喻来形容我们当下的处境了。

我们的怪兽

大语言模型完全符合怪兽的定义,毫不牵强。我们创造了它们,却不完全理解它们如何运作。神经网络没有蓝图可以追踪其"思维"过程,因此研究人员研究自己的创造物的方式,大致就像生物学家研究深海生物:通过观察和实验,而非阅读图纸。它们与人类不成比例。数万亿个参数,读完整个互联网,其规模已经超出了常规直觉的适用范围。而它们已经在互相搏斗,我们则在屋顶上观看。

看看商务沟通变成了什么样子。邮件由模型撰写。收件人的模型读取邮件并压缩成摘要。第三个模型撰写回复。人类在这个链条中只闪现两次:在输入端设定基调,在输出端查看摘要。谈判、索赔往来、职位申请及其筛选、商业提案及其回复——所有这些都在眼前变成了怪兽之间的交锋,而双方只是在旁观看。人类真诚地相信自己在控制怪兽,因为手里握着一个带情绪旋钮的遥控器。但情绪旋钮不是控制。那只是球迷的围巾。

这里很容易用讽刺一笔带过,但损失是真实的。书面语言曾是思维的技术。通过表述,我们思考。通过阅读,我们让他人的思想进入头脑。当这两项操作都被委托出去后,沟通并未消失,它变成了仪式。文本继续来回传递,越来越长、越来越完美,只是它们不再改变任何人,因为没有人真正阅读它们。怪兽之战在某个时刻不再是战斗,而变成了仪式。怪兽在彼此面前表演,因为观众需要一场表演。

喂养经济学

现在来谈钱,因为任何怪兽都有新陈代谢。

首要且最关键的一点是:文本生成的成本已降至几乎为零,而人类的注意力却分文未降。纵观文字史,文本向来生产成本高昂、消费成本低廉。如今却恰恰相反。经济学家深知,当生产者成本降至零时市场会发生什么:供给趋向无限。我们生产的文本量超过了人类此前全部历史的总和,却无人阅读。稀缺资源,也就是价值来源,不再是写作,而是阅读。是筛选、核查、理解这四十页中真正重要内容的能力。我毫不怀疑,真正阅读文件的人在未来几年将成为一个独立的高薪职业,就像当年的审计师一样。

第二点:怪兽食量惊人,只有少数玩家养得起。算力竞赛每年吞噬数千亿美元的资本支出:数据中心、芯片、能源。耗电量以吉瓦计,为AI需求建造核电站的讨论早已不再新鲜。进入怪兽俱乐部的门槛之高,使得前沿模型市场实际上呈寡头垄断格局,无论反垄断法如何规定。其他所有人,包括你我,也包括整个国家,面临的选择不是"养不养自己的怪兽",而是"租谁家的怪兽"。这是一张新的依赖关系图谱,其重要性已超越许多旧有格局。

第三点,也是最耐人寻味的:这个经济体系中相当一部分由无人看见的交锋构成。公司为其模型撰写邮件所消耗的token付费。对方公司为其模型压缩并回复该邮件的token付费。两笔交易都如实计入服务商的营收、投资演示文稿,最终计入GDP。但这些流转中,多少是真实沟通,多少只是形式主义?统计数据无法区分已读文本和未读文本。或许我们正在见证一个全新行业的崛起——机器对机器的信件生产,其规模尚待评估。这里还存在杰文斯悖论:每封信越便宜,信件总量就越多,每封也越长。效率提升反而增加了总消耗,而非减少。

第四点,关于信号。信任经济依赖于昂贵的信号。深思熟虑的信函、精心打磨的提案、得体的回应都需要付出努力,因而能传递关于发送者的信息。当努力成本归零,信号便失效了。市场已在寻找新的昂贵信号,讽刺的是,在前数字时代找到了答案。电话通话、当面会晤、握手。那些无法委托代理的事,重新成为了通行货币。

我们还剩下什么

我不是卢德分子,也无意假装。这篇文章出自一个正在开发AI工具并为之自豪的编辑部。怪兽已经登陆,不会再退回海洋,在许多战斗中我坦率地为自家阵营加油。但这个类型片的真正教益在别处。最好的怪兽电影根本不是关于怪兽的。它们讲的是屋顶上的人们,讲的是当巨兽在头顶交锋时他们在做什么。如果几乎一切都能委托给机器,那些无法委托的短清单就愈发珍贵。真正地阅读,用眼睛,慢慢地。表达,因为那就是思考本身。以及彼此面对面交谈。看来不久之后,这将是人类进行的唯一谈判。