记者从清华大学获悉，近日，图灵奖得主、清华大学人工智能学院院长姚期智，联合图灵奖得主Yoshua Bengio，清华大学智能产业研究院院长张亚勤，加州大学伯克利分校教授Stuart Russell等多位全球顶尖的人工智能科学家齐聚英国皇家学会，共同探讨如何防范人工智能驱动的攻击行为对社会造成大范围危害。

在为期三天的会议中， 与会科学家与治理领域专家共同拟定并签署了一份共识声明，呼吁各国正视人工智能网络攻击、生物滥用技术不断扩散所带来的共同威胁，并携手开展协同防范工作。

与会专家研判，人工智能飞速发展正在不断降低恶意攻击的实施门槛，放大潜在危害，相关风险交织叠加，已然成为全人类需要共同面对的挑战。

声明警示，按照当前发展趋势，技术能力有限的非国家行为体，有望在一年内掌握部分国家级网络攻击手段，将对关键基础设施与国家安全造成前所未有的风险，“曾经仅针对单一目标的攻击如今可被大规模部署；曾经仅有资源充足的行为体才能发动的复杂漏洞利用——例如关停医院、供水系统、电网、金融市场或空中交通管制的网络攻击——正以远超以往的规模落入远超以往的人群手中。”目前全球社会尚未做好应对这一紧迫威胁的准备。

声明提醒，生物领域的滥用风险也接踵而至，前沿 AI 模型在病原体设计等任务上能力显著提升，普通人也可能掌握高危技术、设计新型病原体，失控将引发重大公共卫生事件。专家表示，“在短短两年间，前沿人工智能系统在开放式问答、实验方案生成与实验室故障排查方面，已从低于博士级别专家的水平跃升至超越其表现。受控研究显示，与仅依靠互联网相比，这些系统在实验方案生成方面对病毒学操作提供了显著的能力提升；截至2025年年中，这些系统已协助非专业人士完成实验室工作的部分步骤。基因组语言模型已经生成出了全新的、可存活的生物体。能够规划并协调多步骤实验室任务与信息收集任务、并能协助构建新型专用生物人工智能模型的智能体的出现，进一步放大了这一风险。”

针对两大风险领域，声明明确了工作重点：守护关键基础设施、强化前沿人工智能模型的安全防护、建立完善的风险评估体系。同时提醒，网络领域当下出现的乱象，也为生物安全风险以及未来更多挑战敲响了警钟，其中就包括逐步走向自主化的人工智能系统可能出现失控的问题。

专家表示，当前人工智能能力的发展正超越世界应对的准备能力，“一场严重的人工智能赋能灾难不仅会造成巨大的直接危害，更会摧毁公众对人工智能系统的信任，并使人工智能本可带来的重大社会效益付诸东流”。各国政府、业界与学界立即采取行动并持续投入，筑牢安全屏障，让人工智能始终沿着造福人类的方向前行。

据悉，本次活动是人工智能安全国际对话（IDAIS）系列的第五场会议。人工智能安全国际对话（IDAIS）汇聚全球顶尖科学家，携手共同应对人工智能带来的各类风险。2023年10月举办首场对话，由姚期智、Yoshua Bengio、张亚勤、Stuart Russell共同发起。

编辑：李华山