万一 AI 发展出意识，我们能否察觉？科学家给出了判断标准

本文来自微信公众号：SF 中文 （ID：kexuejiaodian），作者：SF

看过电影《黑客帝国》的伙伴可能还记得，在影片中，人类都生活在一个由人工智能控制的世界中，从出生到死亡，都被 AI 安排得明明白白。男主角尼奥和其他觉醒的人类要做的就是推翻 AI 的统治。AI 获得意识，进而威胁人类，这是科幻作品中常见的桥段。在现实生活中，也有不少人担心 AI 会拥有意识。

文 | 梅林

今年年初，ChatGPT 的横空出世点爆了科学界和舆论，让 AI 这个此前人们还觉得比较科幻的话题真正走进了我们的生活。

5 月，中国启动了大模型标准化工作。8 月 31 日，百度、字节跳动、中国科学院等 8 家企业和机构的大模型产品成为首批通过《生成式人工智能服务管理暂行办法》备案的 AI 大模型，可以正式上线，向公众提供服务。

警报！拥有意识的 AI 会威胁人类

AI 的发展为我们带来了机遇，也造成了挑战。一时间，关于 AI，在舆论场引发了一场广泛的争论。

支持"AI 拥有意识会威胁人类"的一派对此持有悲观的态度。他们纷纷发出警告，声称像 GPT（基于转换器的生成式预训练模型，generative pre-trained transforme）这样的 AI 工具可能会对人类构成威胁。他们中的一些人认为，GPT 可 能 是 点 燃 通 用 人 工 智 能（artifificial general intelligence）诞生之势的第一个"火花"，而通用人工智能是一种能感知、有意识的机器，它们的智慧可以超越人类。与它们相比，我们人类将变得微不足道。

而反对者则认为，目前还没有任何科学依据可以证明，大型语言模型现在具有或者将来会具有主观体验、感知能力这样人类或智力较高的动物才拥有的能力。换句话说，AI 悲观者们似乎有些杞人忧天了。技术乐观者们觉得，AI 完全不具备我们的生命特征 -- 我们通过感官来感知周边的世界，进而形成意识，而 AI 只是机器，不能同世界产生类似的互动，因而完全不会形成意识。

正如"人工智能之父"、法国计算机科学家杨立昆（Yann LeCun）所说，现今的 AI 不太可能发展成通用 AI，所以它们对人类没有严重的威胁。不过，这些持有乐观观点的人也确实过于乐观了 --AI 对人类的威胁确实存在。

现在的 AI 即便不拥有意识，但也让一些人放弃了 AI 不擅长，但人类所特有的一部分能力，比如，创作小说。现在，一些 AI 经过训练，已经能够帮助人类创作小说。因此，有些作者把创作情节推进部分的工作交给了 AI，这样他们就能从费脑的创意性工作中解放出来。长此以往，人类引以为傲的"思考"就完全可由 AI 取代，而我们也将越来越缺乏思考能力。

双方都有各自的道理：悲观者的担心不是没有道理，比较 AI 如何处理数据和信息，做出决策，对于我们来说还是一个"黑盒"，我们现在也无法确认未来 AI 到底会不会拥有意识；而乐观者的观点更有现实意义，指出了 AI 与我们人类的本质差别，也指出了现阶段我们依赖 AI 存在的问题。

至于 AI 会不会像《黑客帝国》讲述的那样，成为统治我们人类的"主宰"，还需要科学家进一步的研究。

如何判断 AI？

未雨绸缪，一些科学家在应对拥有意识的 AI 方面已经走在了前列。近日，一个由 19 位计算机科学家、神经科学家和哲学家组成的研究团队发表文章（未经同行评议）指出，根据一些人类意识理论，他们提出了用于判断人工智能是否拥有意识的 14 项标准。

要判断 AI 是否拥有意识，首先要给意识下一个定义。科学家决定采用纽约大学的心理学家内德・布洛克（Ned Block）提出的"现象的意识"来定义意识，简单来说，意识就是主观感受的体验，比如你看到了红色的花，或是感觉到疼痛。

那么怎么去探究 AI 的意识呢？和人类不同，人类可以通过脑电图或是磁共振成像来检测大脑信号，进而探究人类的意识。科学家总不能给 AI 做磁共振成像吧？科学家反而选择从人类的意识理论出发，发掘出意识最基本的一些标准，然后再在 AI 的底层架构中寻找符合这些标准的特征，以此判断 AI 是否拥有意识。

利用这些标准，科学家对目前一些主流的 AI 工具，比如 ChatGPT、PaLM-E，进行了测试。他们发现，目前，没有任何一个 AI 可以同时满足多个标准，因此它们都没有拥有意识，至少现在是这样。

参考文献：

• https://doi.org/10.48550/arXiv.2308.08708