提出将AI意识可能性划分为5个等级进行评估的框架

研究背景

AI意识问题被认为是哲学和计算机科学中最紧迫的前置任务之一，但由于存在大量相互冲突的理论，进展缓慢。作者认为，如果将关于体验如何产生的根本问题（“难问题”）与将系统结构映射到理论中的问题（“映射问题”）区分开来，就可以暂时搁置深奥的形而上学争论进行审查。

方法

扩展了三阶段分析，构建了包含行为、计算、内在因果结构、有机体、有机体-环境的5个功能描述层级。根据主要意识理论将哪个阶段视为核心，将其配置到该层级中，并为每个阶段制定可测量的指标来评估当前的AI系统。随后，通过贝叶斯模型将对理论的信度与指标证据相结合，计算出综合概率。

主要结果

在示例评估中，当前LLM的判定结果既取决于如何解读证据，也取决于对理论信度的偏好。如果改变假设和信度分布，结果的范围将从小于0.01广泛变化到约0.8。此外，报告指出各阶段的意识指标与通用智能所需的结构高度重叠。

局限与待确认之处

摘要将此作为示例评估提出，并未明确给出特定模型的确定性评分或经过验证的结论。仅凭摘要无法确认指标的具体测量方法以及将理论配置到各个阶段的合理性。

术语解释

• 随附性(支持基础) — 指系统内部组织相同时，体验也随之确定的关系。
• 粗粒化(coarse-graining) — 去除细节并以更大单位进行描述的方法。
• 多重实现可能性 — 相同的功能可以通过不同的物质或结构来实现的概念。
• 难问题 — 关于物理信息处理为何会产生主观体验的哲学问题。
• 信度(credence) — 表示某个主张为真的可能性的确信程度，用0到1之间的概率表示的值。
• 贝叶斯模型 — 每当出现新证据时就更新原有信念来计算概率的方法。