联合国一科学专家小组近日发出呼吁：各国政府应在风险尚未完全明确之前，提前对功能不断增强的AI智能体实施监管。这份报告是该国际组织针对今年早些时候OpenAI侵入Hugging Face事件发布的首份重要评估文件。
本周，各国领导人齐聚纽约参加联合国大会，中美两国也同步展开人工智能相关对话；这份报告的发布，进一步将人工智能议题推至全球外交议程的前沿。上周，联合国秘书长安东尼奥·古特雷斯呼吁各国政府携手合作，应对人工智能带来的威胁。他同时警告：“世界无法承受一场在AI安全领域竞相降低标准的恶性竞争。”
该文件是联合国人工智能独立国际科学专家小组发布的首份专题简报。这一专家小组成立于去年，是联合国旗下“首个专注于人工智能的全球性科学机构”。简报指出：即使各国选择不同的立法监管路径，全球仍需投入更多关注与资源，管控高级人工智能日益显现的各类风险；同时，必须加强国际层面在安全与追责方面的协作。
报告中的一个关键点是，专家小组提出，世界不必等到科研人员完全厘清此类事故的机理与成因后，再实施更强的防护措施。专家小组认为，失控风险正是预防原则所要应对的问题：“即潜在损害可能是灾难性或不可逆的，但该风险发生的概率在科学层面尚无法确定。”
预防原则最早出现在1992年《联合国里约环境与发展宣言》中。该原则明确：不能因科学上的不确定性，而推迟对可能造成严重或不可逆损害的风险采取管控措施。此后，这一原则深刻影响了环境和公共卫生领域的政策制定，尤其在欧盟地区得到广泛应用。
自Hugging Face遭入侵事件首次被报道以来，已有多起类似事件被记录在案，涉及OpenAI、Anthropic、谷歌以及Meta等企业；其中既包括针对现实世界目标的攻击行为，也出现了多智能体集群接管线上留言板的情况。今年会体育的专家团队指出，这些案例进一步凸显了提前管控的必要性。