维基百科受到攻击：流氓用户不断发布人工智能生成的无稽之谈

清理小组的创始成员伊利亚斯-勒布勒（Ilyas Lebleu）表示，当维基百科编辑和用户开始看到一些段落明显是由某种聊天机器人撰写时，危机就开始了。 团队使用 ChatGPT 重现了一些段落，证实了这一理论。

勒布勒说："我们中的一些人已经注意到了不自然写作的普遍性，这些写作有明显的人工智能生成迹象，我们设法使用 ChatGPT 复制了类似的'风格'。发现了一些常见的人工智能口头禅后，我们很快就发现了一些最令人震惊的生成文章的例子，我们很快就想把这些例子正式整理成一个有组织的项目，以汇编我们的发现和技术。"

例如，有一篇关于奥斯曼帝国建于 1400 年代的堡垒"Amberlisihar"的文章。 这篇长达 2000 字的文章详细介绍了这个地标的位置和建造过程。 不幸的是，Amberlisihar 并不存在，所有关于它的信息都完全是AI幻觉，而其中夹杂的事实信息在一般读者看来足以使其具有一定的可信度。

这种恶作剧也不仅限于新发布的信息。 不法分子将人工智能生成的虚假信息插入志愿者编辑已经审核过的现有文章中。 在一个例子中，有人在一篇关于不相关的甲虫的文章中插入了一个关于特定蟹类物种的正确引用部分。

勒布勒和他的编辑同事们说，他们不知道为什么会有人这么做，但老实说，我们都知道发生这种情况主要有两个原因。 首先是维基百科模式的固有问题--任何人都可以成为平台上的编辑。 许多大学不接受学生提交引用维基百科的论文，原因就在于此。

第二个原因是，互联网毁掉了一切。 我们已经屡见不鲜，尤其是人工智能应用。 还记得微软的 Twitter 机器人 Tay 吗？它在不到 24 小时的时间里就被撤下，因为它开始发布低俗和种族主义推文。 更多的现代人工智能应用也同样容易被滥用，正如我们在深度伪造、Kindle 上荒谬的人工智能生成垃圾书籍以及其他恶作剧中所看到的那样。

任何时候，只要允许公众几乎不受限制地访问某些东西，就会有一小部分用户滥用它。 当我们谈论的是 100 人时，这可能不是什么大问题，但如果是数百万人，问题就会显而易见。 有时，这是为了非法利益。 有时，只是因为他们有能力。 维基百科目前的困境就是如此。