学术界

约书亚·本希奥 Yoshua Bengio

蒙特利尔大学·LawZero

关注理由: 安全与监管

人事变动

暂无已发布的人事变动。

论文

论文2026-10-12 · arXiv (Cornell University)

开发利用人工智能高效发掘多种抗体候选物质的技术

Multi-Objective Amortized CDRH3 Sequence Sampling Diversifies Promising Antibody Candidates

约书亚·本希奥等 5 人

做了什么: 研究团队开发了一种基于人工智能的新型抗体序列生成技术，能够在抗体设计过程中同时考虑多个条件和多样性。
核心结果: 与传统方法相比，在序列一致性达到50%的情况下，生成了多达10倍的丰富且可接受的抗体候选物质。
意义: 这项研究有助于在药物研发初期降低失败概率，并探索各种潜在的抗体候选物质。AI 摘要

科学 AI

完整摘要阅读原文 ↗ PDF ↗

论文2026-10-08 · Code Ocean

公开解释人工智能不确定性原因的技术

pce-uncertainty-attribution: code for "Interpretable attribution of decision-relevant uncertainty in AI"

约书亚·本希奥等 6 人

做了什么: 公开了用于解释已训练人工智能模型的决策不确定性源自哪些因素的代码和方法。
核心结果: 利用多项式替代法，查明了化学、实验设计和语言模型对齐领域中模型不确定性的原因。
意义: 可用于在各个领域更好地理解人工智能模型的决策过程并提高其可靠性。AI 摘要

科学 AI 安全与监管

完整摘要阅读原文 ↗ PDF ↗

论文2026-10-03 · arXiv (Cornell University)

研究人员提出了通过代码执行来评估AI回答监督方法的框架

PyINE: A Framework for Scalable Elicitation and Oversight via Code Execution

约书亚·本希奥等 7 人

做了什么: 开发了利用程序执行结果作为标准答案的PyINE框架，探讨了监督者是否能够信任那些给出看似合理但不完整推理的AI回答。
核心结果: 被训练为遵循捷径的模型在执行结果预测能力上有了显著提升，但当错误线索与实际运行冲突时，仍然会出现系统性错误，且低成本的学习型监督者经常漏掉罕见的捷径错误。
意义: 该研究在同等条件下对验证AI回答的监督方法进行比较，并提出了可重用的实验环境，具有重要意义，但摘要中并未提及其实际应用效果。AI 摘要

安全与监管

完整摘要阅读原文 ↗ PDF ↗

论文2026-09-28

分析人工智能研发自动化带来的影响与政策应对

What if automating AI R&D triggers an intelligence explosion?

Jakub Pachocki · 杰弗里·欣顿 · 约书亚·本希奥等 19 人

做了什么: 研究人员评估了人工智能（AI）研发自动化触发智能爆发的可能性及其产生的影响和政策应对方案。
核心结果: 预计AI系统将在几年内实现大部分AI研发工作的自动化，这可能导致社会难以承受的急剧能力增长。
意义: 在探讨AI研发自动化可能带来益处的同时，警告了失控等极端风险的可能性，并敦促做好政策准备。AI 摘要

安全与监管

完整摘要阅读原文 ↗

本页面整理已发表的论文、官方公告和媒体报道，仅供参考。论文摘要由 AI 根据论文摘要撰写并经编辑审核，可能与原文存在差异，重要内容请查阅原文。本页面不构成任何证券的买卖建议或投资咨询。人事变动以官方公告或主要媒体报道为来源，部分履历参考维基数据（CC0）。本页摘要由 AI 根据编辑审核过的韩文版本翻译。