美国专家：如果 AI 真的向人类宣战，我们可能毫无胜算

本文来自微信公众号：SF 中文 （ID：kexuejiaodian），作者：SF

把 AI 应用于战争将会带来可怕的、不可控的后果。如果 AI 真的向人类宣战，我们很可能毫无胜算。

文 | 斯蒂芬・凯利（Stephen Kelly）

译 | 礼世杰

编 | 陈强

原文刊载于《科学焦点》2023 年第 12 期

最新科幻电影《AI 创世者》（The Creator）讲述的是一场人类与人工智能（AI）之间的存亡之战。这种科幻主题其实不算新颖，但与经典科幻电影《终结者》（Terminator）的关键区别在于，这部电影描绘的未来已经不再是遥远的幻想，而是越来越接近科学事实。

比如说，最近几个月，我们看到了许多关于 AI 会对人类构成"生存威胁"的警告。AI 不仅有朝一日能写出比我这篇专栏更精彩的文章，还可能在战争领域中引发可怕的、不可控的后果。

如果 AI 能自主地操控武器

显然，最令人担忧的问题是，未来 AI 也许能自主地操控武器。《四个战场：人工智能时代的力量》（Four Battlegrounds: Power in the Age of Artificial Intelligence）一书的作者、新美国安全中心副总裁保罗・沙尔（Paul Scharre）引用了几年前美国国防部高级研究计划局举办的"阿尔法狗斗"（AlphaDogfight），来说明这一问题的严峻性。"阿尔法狗斗"是一场人机对决的空战模拟比赛，但在比赛中，AI 轻松击败了经验丰富的人类飞行员。

沙尔表示："AI 不仅以 15 比 0 的大比分战胜了人类飞行员，还展现出了人类难以企及的技能。比如说，它能以非常高的精度开火射击。"

然而，赋予 AI 做出生死抉择的权力也会引发诸多令人不安的问题。例如，如果 AI 犯了一个错误，意外地杀死了一个平民，这会怎样？"这将构成战争罪，"沙尔说，"而困难在于，可能根本没有人对此事负责。"

如果 AI 被用于战术制定和情报分析

不过，在不久的将来，AI 在战争领域中最可能被用于战术制定和情报分析。沙尔说："AI 可以更有效地处理信息，提高军队的作战效率。我相信，军队会越来越倾向于将决策权交给 AI，因为战场是一个残酷的竞争场所。如果未能抓住一个稍纵即逝的机会，那你将处于巨大的劣势之中。"

沙尔认为，这可能引发一场 AI 军备竞赛。"一些学者甚至还提出了'战场奇点'假说，"他说道，"也就是说，AI 的决策速度将会超过人类的理解速度，而人类实际上不得不将战场上的决策权全都交给 AI。"

当然，在这种情况下，人类就有可能失去对 AI 的控制，甚至被 AI 攻击。因此，美国制定了一项政策，规定任何与核武器有关的决定都必须有人类参与。

沙尔甚至认为，如果最坏的情况发生了，AI 真的向人类宣战，我们很可能毫无胜算。

"我的意思是，黑猩猩能在战争中战胜人类吗？"他又举例说，"AlphaGo 不仅战胜了世界围棋冠军，甚至从对弈过程来看，AlphaGo 的实力明显超过人类的顶尖棋手。而且这种变化发生得非常快，就在七八年前，这种情况还是不可想象的。"

"我们正在建造越来越强大的 AI 系统，将其应用到各个领域中，但它们也变得越来越难以理解和掌控。我认为，如果我们真能制造出比我们更聪明的机器，那么我们将会面临很多问题。"

结论

所以，按照目前的发展速度，如果 AI 失控，人类可能面临巨大的威胁。