2026年4月17日至19日，图灵奖得主、清华大学人工智能学院院长姚期智，联合图灵奖得主Yoshua Bengio，清华大学智能产业研究院院长张亚勤，加州大学伯克利分校教授Stuart Russell等多位全球顶尖的人工智能科学家齐聚英国皇家学会，共同探讨如何防范人工智能驱动的攻击行为对社会造成大范围危害。本次活动是人工智能安全国际对话（IDAIS）系列的第五场会议，由Safe AI Forum（安全人工智能论坛）与牛津大学马丁人工智能治理研究院联合主办。

关于IDAIS

人工智能安全国际对话（IDAIS）汇聚全球顶尖科学家，携手共同应对人工智能带来的各类风险。2023年10月举办的首场对话，由姚期智、Yoshua Bengio、张亚勤、Stuart Russell共同发起。IDAIS已举行五场人工智能安全国际对话，分别为2023年IDAIS-牛津，2024年IDAIS-北京，2024年IDAIS-威尼斯，2025年IDAIS-上海，2026年IDAIS-伦敦。

在为期三天的会议中， 与会科学家与治理领域专家共同拟定并签署了一份共识声明。声明呼吁各国正视人工智能网络攻击、生物滥用技术不断扩散所带来的共同威胁，并携手开展协同防范工作。

声明警示，按照当前发展趋势，技术能力有限的非国家行为体，有望在一年内掌握部分国家级网络攻击手段，将对关键基础设施与国家安全造成前所未有的风险。目前全球社会尚未做好应对这一紧迫威胁的准备，而生物领域的滥用风险也接踵而至。

声明还针对两大风险领域明确了工作重点：守护关键基础设施、强化前沿人工智能模型的安全防护、建立完善的风险评估体系。同时提醒，网络领域当下出现的乱象，也为生物安全风险以及未来更多挑战敲响了警钟，其中就包括逐步走向自主化的人工智能系统可能出现失控的问题。

今年3月，IDAIS主办方Safe AI Forum首席执行官芬恩・海德（Fynn Heide）率代表团到访人工智能学院，与姚期智院长及我院相关领域专家围绕AI安全重要议题展开学术交流与研讨。

AI安全是人工智能学院重点布局的核心学科方向之一。学院长期聚焦该领域前沿研究与人才培养，持续推进相关理论探索、技术攻关与国际合作。

编辑：李华山