论文
公开解释人工智能不确定性原因的技术
pce-uncertainty-attribution: code for "Interpretable attribution of decision-relevant uncertainty in AI"
- 做了什么
- 公开了用于解释已训练人工智能模型的决策不确定性源自哪些因素的代码和方法。
- 核心结果
- 利用多项式替代法,查明了化学、实验设计和语言模型对齐领域中模型不确定性的原因。
- 意义
- 可用于在各个领域更好地理解人工智能模型的决策过程并提高其可靠性。AI 摘要