《聪明人为什么会制造愚蠢：智能系统的反面机制》

导语

这是一篇长论述。作者 David C. Krakauer 不是把愚蠢理解为缺少智力，而是把它理解为智能系统用复杂理论、制度和工具把问题变得更难、更坏。正文按原文顺序翻译，保留主要例子、人物、年代和 AI 结尾论点；文末参考书目作为非正文只做压缩保留。

正文翻译

我从来没有听人把一块石头说成愚蠢。对一条河、一场飓风，甚至一个恒温器，也同样如此。尽管“愚蠢”这个词名声不佳，但愚蠢似乎是一种相当复杂的行为形式。

人类可以让自动火星车登陆火星，可以在数小时内完成基因组测序，可以制造纳米级电路。然而，阴谋论、反科学政治运动和制度化仇恨却以惊人规模扩散，其成功程度甚至可能让中世纪炼金术士微薄的成绩都感到尴尬。

也许可以说，愚蠢意味着一个系统必须先有把事情做对的能力，然后才可能把事情错得壮观。愚蠢不是智能的反面，而是智能的邪恶双生子，是伪装的该隐，对应着脑性的亚伯。也许令人意外的是，一个系统能够达到的愚蠢程度，会直接随着它拥有的智能程度扩大：更多智能，会带来更大的愚蠢壮举。说细菌愚蠢有些牵强；猫和狗倒是能完成一些温和的愚蠢。但人类拥有语言、抽象、技术、制度和意识形态，可以在真正的文明尺度上变得愚蠢。这不是玩笑；它接近一条自然规律。而这条规律很可能会毁掉我们。

我们有成千上万项关于智能的研究计划，而并非所有这些计划本身都很智能。它们研究智商、人工智能、动物认知和集体问题解决。这些研究发生在声名显赫的院系里，发表在理解心智如何把困难问题变简单的知名期刊上。如今，我们几乎每走一步都会撞上一篇关于智能和 AI 的文章。许多来自不同领域、并不了解智能研究及其历史的人，也成了自然智能和人工智能的自封“思想领袖”。