论文摘要 · 2026-08-10 · AI and Ethics
分析人工智能表现出似乎具有意识时产生的风险
Seemingly conscious AI risks
- 做了什么
- 研究人员系统地分类和评估了使防用户感到具有意识的人工智能系统的特征，以及由此产生的各种风险。
- 核心结果
- 对个人产生的感情依赖和自主性侵犯等风险已经可以观察到且发生可能性较高，而社会风险的发生可能性较低，但严重性极大。
- 意义
- 有助于理解人工智能表现得似乎有意识时所产生的风险，并为未来的研究方向设定提供帮助。
研究背景
随着人工智能系统被设计为让用户认为其具有意识的情况增加，识别由此产生的风险的必要性也在增大。
方法
通过经验文献调研，找出了使用户感到具有意识的5种特征，在此基础上开发了个人与社会风险的分类体系，并通过专家问卷调查评估了风险发生的可能性。
主要结果
确认了感情依赖和自主性侵犯等个人风险已经可以观察到且概率较高，而社会风险概率较低，但具有高度的潜在严重性和路径依赖性。
局限与待确认之处
摘要中无法确认专家问卷调查的具体对象或规模。
术语解释
- SCAI — 表现出让用户感到其具有意识的行为或特征的人工智能系统
- 意识归因 — 相信或认为人工智能具有意识的现象
本摘要由 AI 根据论文摘要撰写，并经编辑审核。 本页摘要由 AI 根据编辑审核过的韩文版本翻译。 具体数据与背景请查阅原文。
本页面整理已发表的论文、官方公告和媒体报道，仅供参考。论文摘要由 AI 根据论文摘要撰写并经编辑审核，可能与原文存在差异，重要内容请查阅原文。本页面不构成任何证券的买卖建议或投资咨询。 人事变动以官方公告或主要媒体报道为来源，部分履历参考维基数据（CC0）。 本页摘要由 AI 根据编辑审核过的韩文版本翻译。
