简而言之：自我意识 AI 是一种假设中的 AI 类型，它能够理解自身的存在、状态和情感。目前并不存在，只出现在科幻作品和理论研究中。
引言：
AI 的最高层级包括能够意识到自身、理解自己内部状态以及他人的情绪、行动和智慧的计算机。通过改进有限记忆 AI，AI 研究人员已经在构建心智理论 AI 方面取得进展。
什么是自我意识 AI？
自我意识是指衡量你改变自己的性情、想法、举止和行为的程度。具有自我意识还包括留意他人如何理解你。具有自我觉察的人了解自己的能力和缺点。
一种自身具有意识、极其聪明、有自我意识且有感知能力的 AI（一个完整的个体）。当然，这样的机器人并不存在，而一旦研制出来，将是 AI 领域的分水岭时刻。
这种类型的人工智能只存在于文学作品中，而正如虚构作品经常做的那样，它让观众既充满信心又心生恐惧。人们很可能不得不与由超越人类智能的自我意识智能所产生的个体进行交流。无论是好是坏，会发生什么谁也说不准。[1]
自我意识 AI 的特征是什么？
- 自我意识人工智能是未来。这些机器将非常聪明，拥有自己的思想、情感和自我意识。
- 这些机器将比人类更聪明。
- 自我意识 AI 仍然只是一个现实中并不存在的推测性概念。[2]
- Understanding the Four Types of Artificial Intelligence。2016 年 11 月 14 日；来源：https://www.govtech.com/computing/understanding-the-four-types-of-artificial-intelligence.html。
- 人工智能的类型：来源：https://www.javatpoint.com/types-of-artificial-intelligence。
自我意识 AI 有可能实现吗？
自我意识 AI 并不存在。当今的系统，包括先进的聊天机器人，处理的是数据中的模式并生成输出；它们没有体验、情感或自我意识。科学家们对机器意识究竟意味着什么，以及如何测试它都没有达成一致，因此关于它何时可能出现的预测只是猜测。
小说和影视作品中的自我意识 AI 示例
电影和书籍使这一概念广为流行，例如 2001: A Space Odyssey 中的 HAL 9000、Star Trek 中的 Data 以及 Ex Machina 中的 AI。这些都是虚构的，而非真实的产品。
人们为什么讨论它
- 安全：如果 AI 拥有自己的目标，使其与人类价值观保持一致将变得至关重要。
- 伦理：有意识的机器可能值得获得道德上的考量。
- 研究：研究自我模型有助于机器人了解自己的身体和局限。
四种 AI 类型一览
人工智能通常根据系统拥有多少记忆和理解能力，分为四种类型。
| 类型 | 记忆与理解 | 示例 | 目前存在吗？ |
|---|---|---|---|
| 反应式机器 | 没有记忆；只对当前输入作出反应 | IBM Deep Blue 国际象棋计算机 | 是 |
| 有限记忆 AI | 从过去的数据中学习，并在短时间内使用近期输入 | 自动驾驶汽车、聊天机器人、推荐系统 | 是的，如今大多数 AI 都属于此类 |
| 心智理论 AI | 能够理解人类的信念、情绪和意图 | 仅限研究原型 | 尚未 |
| 自我意识 AI | 将拥有自己的意识和自我意识 | 无；仅存在于科幻作品中 | 否 |
如需了解全部四种类型的完整说明，请阅读四种 AI 类型详解。
快速解答
自我意识 AI 与心智理论 AI 有什么区别？
心智理论 AI 能够理解他人的想法和情绪。自我意识 AI 还能意识到自身的存在。阅读心智理论 AI以及四种 AI 类型概述。
如今存在自我意识 AI 吗？
不会。目前所有的 AI 都是没有意识的狭义 AI。
ChatGPT 有自我意识吗？
没有。当前的聊天机器人和大语言模型是根据数据中的模式生成文本的。它们可以谈论自己，但没有证据表明它们具有意识或自我意识。
为什么一些专家担心自我意识 AI？
能够自行设定目标的系统，可能会以其创造者意想不到的方式行事，因此研究人员会讨论安全与控制问题。这仍然是一种理论上的担忧，而不是当前的风险。
