AI并没有读过所有东西,而我们也看不到它读了什么
有些模型读过整本书,有些只是间接了解,而闭源模型不会告诉你是哪一种。正因如此,能让我们检查和再训练的开放模型才重要。
我以前以为,大语言模型是靠读遍所有文字学出来的,它对一本书的了解也来自那本书本身。这两点都不完全对。更让我担心的是,我们没法核实到底是哪种情况。如果闭源模型的开发者能逐本公布训练用过哪些书,我会改变看法。但目前没有一家这样做。
先说“数据快用完了”这个说法。2024年12月的NeurIPS大会上,OpenAI联合创始人伊利亚·苏茨克维(Ilya Sutskever)表示,我们所熟悉的预训练终将结束,因为“我们只有一个互联网”,并把合成数据列为出路之一1。合成数据,就是用模型生成文字再去训练别的模型。换句话说,各家实验室自己承认,能拿到的数据已经用得差不多了。
那它们拿到了什么?我起初以为只有公开资料:网站、论文、论坛和新闻。法庭案件给出了不同的答案。2025年6月,美国联邦法官威廉·阿尔苏普(William Alsup)认定,Anthropic从盗版网站下载了700多万本书,同时也购买纸质书并扫描2。他裁定用书训练属于合理使用,但保留一个盗版书库不属于2。2026年7月,法院批准了15亿美元的和解,覆盖超过48.2万本书,每本约3,000美元3。在另一起案件中,法庭文件显示,Meta员工曾讨论用从盗版图书馆LibGen获取的受版权保护书籍来训练模型4。
所以,有些模型确实读过原书。斯坦福、康奈尔和西弗吉尼亚大学的研究人员测试了开放模型记住了多少原文。他们发现,Meta的Llama 3.1 70B把《哈利·波特与魔法石》记得极熟,只要给出开头几个词,就能提取出几乎整本书5。这是书架上最热门的那一端。同一个模型对理查德·卡德里(Richard Kadrey)2009年的小说《Sandman Slim》只记住了0.13%6,研究人员也发现,大多数模型并没有记住大多数书5。
记住不等于读过,但这是我们判断训练数据里有什么的最好证据。对于大量冷门书籍,我认为模型多半是间接了解的,来自书评、摘要和论坛帖子。这就像一位影评人,把别人的影评汇总一遍,写成自己的影评。这篇影评可能大体没错,但你看不出哪些地方缺了、哪些地方错了。而模型回答这两类问题时,语气一样笃定。
然后还有后训练。主训练完成后,开发者会用示例来调教模型:什么是好回答、什么该拒绝、话该怎么说。根据我的经验,这一步对最终回答的影响,不亚于原始数据。而对闭源模型,数据构成和调教过程我们都看不到。
这就是开放模型之争对我重要的原因。在我关于黄仁勋事件的文章里,我担心一位高管的丑闻会让限制开放模型的主张更容易被接受。黄仁勋一直是开放权重最有力的支持者之一。有了开放权重,我们就能测试模型、查出它记住了什么、对它做微调,再用我们信任的资料继续训练。原开发者的影响仍然存在,但我们可以按自己的需要去调整模型。上面那项哈利·波特研究之所以能做成,正是因为研究人员可以自己运行这些权重5。
合理的反对意见是:开放模型用的也是同样有争议的数据。Llama是开放模型,而那项研究测的正是Llama。开放权重不会让数据变干净。它让外界能够去衡量数据,这是闭源模型不允许的,而衡量是解决问题的第一步。
如果“政府认可”的模型成为常态,这一切都会失去。我们将无法用事实去纠正模型,用的时候还得默认:已经有人替它决定了该怎么想、想什么。我宁愿保留核实的权利。
本文不构成财务、法律或投资建议。文中每项数据均由其标注来源公开发布,并附有发布日期,之后可能已发生变化。
参考资料
-
The Decoder, OpenAI co-founder says AI is reaching "peak data" as it hits the limits of the internet (December 2024) ↑
-
NPR, In a first-of-its-kind decision, an AI company wins a copyright infringement lawsuit brought by authors (25 June 2025) ↑
-
Associated Press via Fortune, Anthropic to pay authors $1.5 billion over pirated books used to train Claude in first major AI copyright settlement (21 July 2026) ↑
-
TechCrunch, Court filings show Meta staffers discussed using copyrighted content for AI training (21 February 2025) ↑
-
Cooper, Lemley et al., Extracting memorized pieces of (copyrighted) books from open-weight language models (arXiv, first posted 18 May 2025, revised 20 July 2026) ↑
-
Understanding AI, Meta's Llama 3.1 can recall 42 percent of the first Harry Potter book (June 2025) ↑