AIの意識可能性を5段階に分けて評価する枠組みを提示

研究の背景

AIの意識の問題は、哲学とコンピュータ科学において最も急がれる事前課題の一つに数えられるが、食い違う理論が多く進展が遅い。著者らは、経験がどのように生じるのかという根本的な問い（「困難な問題」）と、システムの構造を理論に対応させる問題（「対応の問題」）を切り分ければ、深い形而上学の議論を一時脇に置いて検討できると考える。

手法

マの三段階分析を拡張し、行動、計算、内在的因果構造、有機体、有機体-環境の5段階の機能記述階層を作った。主要な意識理論をどの段階を核心とみるかに応じてこの階層に配置し、段階ごとに測定可能な指標を定めて現在のAIシステムを評価した。その後、ベイズモデルを用いて理論に対する信頼度と指標の証拠を合わせ、総合確率を算出した。

主な結果

事例評価において、現在のLLMの判定は、証拠をどう読み解くかと同じくらい、理論の信頼度をどこに置くかに左右された。仮定と信頼度の分布を異ならせると、結果が0.01未満から約0.8まで幅広く出た。また、各段階の意識指標が汎用知能に必要な構造と大きく重なると報告した。

限界・確認すべき点

抄録はこれを事例評価として提示しており、特定のモデルに対する確定的なスコアや検証された結論は明らかにしていない。指標の具体的な測定方法や、理論を段階に配置した妥当性は、抄録だけでは確認できない。

用語解説

• 随伴性(支持基盤) — システムの内部組織が同じであれば経験も一緒に決まるという関係を指す。
• 粗視化(coarse-graining) — 詳細な事項をそぎ落とし、より大きな単位で描写する方法である。
• 多重実現可能性 — 同じ機能が互いに異なる物質や構造によって実現されうるという概念である。
• 困難な問題 — 物理的な情報処理がなぜ主観的経験を生み出すのかに関する哲学的問いである。
• 信頼度(credence) — ある主張が真である可能性に対する確信の程度を0から1の間の確率で表した値である。
• ベイズモデル — 新しい証拠が出るたびに従来の信念を更新して確率を計算する方式である。