“AI焚书”,其实是个误解

摘要:

在硅谷,“AI焚书”这件事,只能说是越闹越疯了。在最新的一篇报道中,媒体和二手书商合作,在一批被神秘买家订走的书里塞了一枚AirTag,一路追踪,最后追到了亚马逊位于拉斯维加斯的工厂。工厂员工表示,这是亚马逊一个名为VGT3的项目,专门干切书扫描那档子事。

一本二手书硬是走出了刑侦剧的路线。

这事发展到现在,多少有点魔幻。

过去一个月里,关于“AI焚书”的报道层出不穷,但其实并没有什么新的事实——AI公司正在大规模购买纸质旧书,切掉书脊、高速扫描,把内容数字化之后再处理掉原书。年初Anthropic的“巴拿马计划”曝光时,几百万本书、数千万美元采购、破坏性扫描这些最刺激的元素就已经摆上了桌。

后来全球二手书商发现异常订单、ISBNdb被曝专门给AI公司搜罗纸质书,再到如今AirTag一路追进亚马逊仓库,更多是在一次次确认:对,这事真的在发生,而且不止一家在这么干。

明显能看到,事实还是那些事实,但围绕“AI焚书”的舆论情绪愈发高涨。

“AI公司正在吞噬书籍”“人类文明被拿去喂机器”“它们连绝版书都不放过”,无数人类手指翻飞在社媒上留下惊恐的评论,切书的视频和照片尤其刺激人心。

但说句公道话,事情发展到今天,已知事实和外界赋予它的意义之间,已经出现了不小的错位。

AI公司确实在毁书,这一点不用替它们遮掩。

可它们到底毁了多少?毁掉实体书是不是等于毁掉知识?绝版书被买走又被切掉,责任真的全在AI公司吗?

是时候破除一些迷思了。

先把结论放在这。人们现在对“AI毁书”的愤怒,很大一部分指向的是这件事的象征意义,而非已经发生的实际伤害。

当然,两者很容易被混在一起。毕竟“AI公司正在购买并毁掉古董书”“AI公司扫描后粉碎数百万本书”这样的标题实在吓人,切书的过程也实在有视觉冲击力,很难找到比这更适合表现“AI正在吞噬人类文明”的画面了。

但把镜头稍微拉远一点,事情没有画面里那么末日。

目前已知规模最大的是Anthropic。2024年启动目标扫描世界上所有书籍的“巴拿马计划”后,它在大约一年时间里花了数千万美元,购买并破坏性扫描了数百万本实体书,有时一次就买几万本。

可“数百万本”放进整个二手书市场里,实际上没有想象中那么夸张。

仅大型二手书商World of Books一家,2024年一年就在全球卖出了3100万本书,长期库存大约700万本,网站上常年挂着约200万种书。

换句话说,Anthropic的处理量放到一家大型二手书商的正常流通规模里,也只是它几个月的生意。

所以“AI公司扫描后销毁了数百万本书”是真的,但从这里直接跳到“AI正在把二手书吃干抹净”,还差得很远。

而且这里还有一个更容易被情绪“上价值”的问题需要澄清——实体书的消失,不等于书里知识的消失。

Anthropic买这些书,本来就是为了把内容留下来。之前作家Andrea Bartz等人起诉Anthropic的版权案中,法院文件显示,每一本纸质书被拆开扫描以后,都会变成包含整页图像和机器可读文字的PDF,进入Anthropic自己的数字图书馆。

如果我们只讨论“买一本书,切开,扫描,再销毁原件”,那它和历史意义上的“焚书”几乎是相反的动作。

焚书是为了让内容消失,AI公司拆书,偏偏是为了把内容留下来,而且一旦用于模型训练,还将以新的方式变成活水。法官其实也表达过类似的观点,书里的内容被拿去训练模型,是在训练中被转化成了新的能力。

那些被切开的实体书固然看着令人心痛,人类知识却没有跟着一起被卖废纸。

有一个点确实值得注意,也是目前这波舆论讨伐里最有力度的一点。即AI公司采购的并不全是随处可以买到的普通旧书,其中确实包括一些稀有二手书,甚至绝版书。

这个问题不能简单用“实体书没了知识还在”来粉饰。因为有些书的价值本来就不只在文字里。特殊版本、特殊装帧、作者题签和批注,甚至一本书经历过谁的收藏、留下了什么痕迹,都可能让实体本身具有不可替代的价值。

但这里首先得分清一件事:稀缺不代表珍贵,绝版也不代表文化遗产。

你大学老师1994年自费印了300本《县级污水管网建设手册》,今天全世界可能只剩十几本,这当然很稀缺,甚至早就绝版了。至于它是不是人类文明必须誓死保护的瑰宝,恐怕不答自明。

二手书市场里有大量这样的东西。之所以难找,可能只是当年印得少,或者没有再版,并不意味着每少一本都意味着某种公共文化损失。

其次,就算我们真的把范围缩到那些实体本身很有价值的书,问题依然没那么简单。

一本书只要还在二手市场上作为商品自由流通,就有可能被一个“疯子”合法买走。

这个买家可以买回去供在恒温恒湿的玻璃柜里,也可以拿它垫桌脚。再疯一点,早餐撕两页泡牛奶吃,只要这本书没有受到特殊法律保护,别人顶多骂他暴殄天物,管是管不着的。

那为什么买家一换成AI公司,事情突然就变了?就好像Anthropic或者亚马逊付完钱以后,这本书虽然名义上归它,实际上还得替全人类保管。

这种争论在人类自己身上早就发生过。

2010年,佳士得拍卖过一本15世纪60年代在法国制作的《时祷书》。它有金箔装饰、精美书法和17幅整页插图,拍卖时基本完整,最后以2.5万英镑成交。

几年以后,斯坦福大学研究中世纪文学的学者Elaine Treharne买到了这本书的残骸。原来254页,只剩下7页。

她后来查出来,书在佳士得拍卖之后,被买家——一名德国古籍商——主动拆掉了。书页被一张张拿出去卖,普通页面卖几百美元,漂亮的插图卖得更贵。

但那个古籍商后来的辩解很有意思:

佳士得公开拍卖的时候,博物馆可以来买,大型收藏机构可以来买,有钱的收藏家也可以来买。大家都看见了,最后没人愿意出更高的价,是我付钱把它买下来了。凭什么交易结束以后,你们才突然告诉我,这东西其实属于全人类,我必须替你们好好保存?

怎么说呢,话糙理不糙,越想越妙。

今天面对AI公司也是一样。

如果某一本书真的珍贵到切掉一页都是不可挽回的文化损失,那博物馆呢?图书馆呢?公共收藏机构呢?那些更心系人类珍贵资产的人类呢?

怎么等AI公司真的掏钱买了,大家突然围上来说:你不许毁,这是全人类的。

你们不买,还要管我买来干什么,是不是多少有点过分?

当然,这不等于说AI公司毁掉珍贵旧书就值得鼓励。法律上“有权这么做”和我们认为“这么做很糟糕”,完全可以同时成立。

但如果一种书真的重要到不能任由所有者处置,那真正需要改变的恐怕不是AI公司的道德水平。

刚才为了把逻辑说清楚,话说得有些极端。

从人类共同利益的角度看,AI公司大规模采购二手书,尤其是把注意力集中在冷门、绝版、小语种书籍上,确实是一个值得警惕的问题。

前面说过,Anthropic一年买几百万本书,放在整个二手书市场里其实算不上什么。但放在整个市场里九牛一毛的采购量,如果大幅集中在稀少书籍,仍然会在这个范围里造成规模化的破坏。

所以,“AI正在买光二手书”是夸张的,“AI公司的采购可能集中消耗某些本来就很脆弱的书目”却不是无稽之谈。

但问题在于,别要求AI公司来当这个圣人。

它当然可以当。

但“它最好这么做”和“社会只能指望它这么做”,是两回事。

企业说到底还是企业。今天某家公司觉得保护珍稀书很重要,愿意多花钱做非破坏性扫描。明天换个负责人,发现这套流程贵30%,也完全可能砍掉。

指望商业公司长期靠良心替全社会守住文化遗产,多少有点像让孙悟空自己给自己戴紧箍、自己念紧箍咒——偶尔想通了当然皆大欢喜,但制度设计最好别指望这种奇迹。

如果AI公司的采购真的开始威胁某些具有公共价值的书,那么这就已经不是“企业品德好不好”的问题,而是一个公共利益问题。

既然涉及公共利益,解法也应该从公共规则里来。

比如,完全可以建立更完善的珍稀书目和版本登记制度。一本书如果已经确认存世极少,而且实体本身具有明确的历史、版本或者文物价值,就进入某种保护名单。AI公司可以买,但不能破坏性扫描。或者在购买以后,必须优先采用非破坏性数字化。

还可以给图书馆、博物馆和公共收藏机构某种优先权。商业采购系统发现疑似孤本、极少存世版本时,先把信息提交给公共机构,给它们一定时间决定是否收藏。人家不要,你再买去处理。

二手书平台也不是完全没有责任。既然今天算法可以精确发现“这本1987年的书网上只剩三本”,平台当然也可以在同一本书突然被多个大宗买家集中购买时触发提示。

甚至还可以要求大规模采购者承担一些信息义务。你一年破坏性扫描几百万本书,那么至少应该记录自己处理过什么版本,哪些书异常稀缺,把这套数据贡献给公共书目系统。

这些方案哪个最好值得商榷,甚至最后可能一个都不用。但至少得有个规则。

说到这里,可能还剩下最后一个问题。

当人们痛骂AI公司“毁了人类的书”“吞掉人类知识”的时候,到底在骂什么?看到一本本书被切掉书脊、送进扫描机时,那种强烈的不适和恐惧,又到底从哪里来?

人类现在对AI本身那种越来越拧巴的感情不容忽视。人们一边越来越依赖AI,一边越来越怕它,甚至越来越恨它。

Pew今年的调查显示,美国成年人使用ChatGPT的比例已从2023年的18%升到2026年的44%,38%的就业人群已经用AI处理工作。可与此同时,63%的美国人认为AI发展得太快,40%预计它未来会给社会带来负面影响。

年轻人身上的这种矛盾尤其明显。

Gallup今年调查14到29岁的美国年轻人,51%至少每周使用一次生成式AI,其中22%每天都用。但跟一年前相比,他们对AI的兴奋感下降了14个百分点,希望感下降9个百分点,愤怒则上升了9个百分点。

现在31%的人明确表示自己对AI感到愤怒,42%感到焦虑。

更有意思的是,即使是每天都用AI的人,对它的兴奋和希望也比去年明显下降。

也就是说,用得越多并没有自动带来喜欢。

今年美国大学毕业典礼上发生的事情,几乎就是这种情绪的现场演示。

5月,前谷歌CEO Eric Schmidt在亚利桑那大学毕业典礼上一谈到AI将进入各行各业,现场就响起嘘声。类似场景随后又出现在多所大学,有调查称,大约70%的大学生担心AI会威胁自己的就业前景。

这可能就是今天很多人面对AI的真实处境。不用它怕落后,但越是用就又越清楚它有可能造成什么后果。

由“切书”产生的负面联想几乎是不可避免的——机器正在靠吃掉人类过去创造的一切,把自己养大。

然后它还要回来抢你的工作。

于是版权焦虑、就业焦虑、对科技公司的不信任,甚至那种“人类是不是正在亲手制造替代自己的东西”的恐惧与恐惧,全部都在“切书”这个视觉符号面前被触发了。

这也解释了为什么围绕这件事的舆论情绪远远跑在了实际损失前面。

那哪里是一本书被切开,那分明是我自己被刀割,而后变成了无用的垃圾。

查看评论
created by ceallan