1863年，一位英国牧羊人曾向我们发出过关于人工智能的警告

在我们努力应对人工智能和机器学习的影响时，一封写于 1863 年的信引起了令人不寒而栗的共鸣："然而，机器正在一天天地向我们逼近；我们正在一天天地成为机器的附庸"。

最近，这封信再次出现在社交媒体上，人工智能政策与战略研究所的彼得-维尔德福德（Peter Wildeford）把巴特勒富有预见性的警告带给了正在努力应对人工智能影响的新一代。

作者塞缪尔-巴特勒（Samuel Butler）以塞拉留斯（Cellarius）为笔名，将查尔斯-达尔文的进化论与机械的飞速发展直接相提并论。 巴特勒认为，机器可以进化出意识，并最终取代人类成为地球上的主要物种。

巴特勒在信中深入探讨了机器进化的分类学，讨论了机械的"属和亚属"，并指出了手表从"13 世纪的笨重钟表"进化而来等例子。 他甚至认为，就像一些早期的脊椎动物一样，机械物种可能会随着它们变得越来越复杂而变得越来越小。

巴特勒写道："我们正在创造自己的接班人。我们每天都在增加它们身体组织的美丽和精致；我们每天都在赋予它们更强大的力量，并通过各种巧妙的装置为它们提供自我调节、自我行动的力量，这种力量对它们来说就像智力对人类一样"。

巴特勒将人类描绘成机器的附属品，最初充当维护和帮助繁衍机械生命的看护者。 他将这种关系比作人类与家畜之间的关系，后来这种关系发生了逆转，机器接管了人类。

这些关于机器统治和人类服从的主题后来被写进了许多科幻小说中。 艾萨克-阿西莫夫的《不可避免的冲突》探讨了机器巧妙控制人类社会的概念。 弗兰克-赫伯特的《沙丘》小说中出现了"巴特勒圣战"，这是一场针对会思考的机器的十字军东征，可能是受到了巴特勒警告的启发。 《黑客帝国》电影进一步普及了机器征服人类世界的理念。

巴特勒在信的结尾并没有消极地接受这一命运，而是呼吁立即采取严厉的行动："应立即向他们宣战，决一死战。 每一种机器都应该被其物种的好心人摧毁。 不要有任何例外，不要有任何退让；让我们立即回到人类的原始状态。"

巴特勒的远见卓识尤为难能可贵的是，他是在一个大相径庭的技术背景下写作的。 1863 年最先进的计算设备不过是机械计算器和计算尺。 第一台工作的程序控制计算机要再过 70 年才会出现。

虽然在 19 世纪末还没有我们今天所认为的"计算机"，但机械计算设备和概念已经取得了重大进展。 查尔斯-巴贝奇的分析引擎（1837 年，从未完全制造）被认为是第一台通用计算机的设计。

巴特勒引发的争论一直持续到今天。 近年来，全世界都在努力应对所谓的"人工智能大接管恐慌"。 高级人工智能模型的发布激发了人工智能研究人员和技术高管签署公开信，警告高级人工智能带来的潜在灭绝级风险。

这些现代人的担忧与巴特勒在 19 世纪呼吁暂停机械进步有着惊人的相似之处。 即使机器永远不会变得真正智能，巴特勒关于我们依赖于它们以算法调节我们生活的方式的预言似乎也非常准确。