全球首份人工智能安全协议落地：情报机构可... Features
英国政府与开放人工智能研究中心等五家科技企业于2024年11月20日签署一项具有约束力的人工智能安全协议，赋予英国政府通信总部对前沿模型进行安全测试并强制“下架”的权利。据路透社报道，这是全球首例将人工智能安全与情报监督捆绑的自愿监管安排，为各国治理快速迭代的大模型提供了新模板。
娱乐周刊五家科技巨头签约，英国政府通信总部获“穿透式”审查权
协议由英国数字、文化、媒体及体育部牵头，首批参与方包括开放人工智能研究中心、人类智能公司、谷歌深度思维、元平台公司和微软。根据协议文本，英国政府通信总部下属的人工智能安全研究中心可随时访问模型训练代码、权重与部署日志，这些内部文件此前从不向外部机构开放。法新社从政府官员处确认，一旦发现模型具备网络攻击、生物武器设计或关键基础设施破坏能力，企业须在24小时内采取下架、暂停或隔离措施。英国科学大臣彼得·凯尔在签字仪式上表示：“这项协议让国家安全的红线第一次延伸到模型内部。”他还强调，若企业拒绝执行，将失去所有英国政府采购合同。
娱乐速递人工智能平台下架机制：从警告到移除的24小时
协议建立三级响应机制。第一级，情报机构发出安全警告，要求企业在48小时内冻结受影响版本；第二级，企业提交内部检测报告，并与英国政府通信总部联合进行端到端复现测试；第三级，若风险评估确认为严重威胁，相关模型将在24小时内从应用商店、应用程序接口及云端推理平台下架。开放人工智能研究中心一位产品安全主管表示：“我们已准备好接受最严格的审查，这是确保技术可信度的必要代价。”这套机制同样覆盖开源模型，只要模型权重在英国境内可被下载，国家安全机构就有权启动审查。有分析认为，这套“人工智能平台下架机制”第一次变成了可操作的行政程序。
娱乐看点英国政府通信总部的“前沿模型”压力测试清单
为了界定“不安全”的边界，英国政府通信总部与国家网络安全中心联合制定了五维测试清单：生成网络攻击代码的能力、化学与生物知识准确率、心理操纵说服力、信息战传播效率、对关键基础设施控制系统的渗透指数。每一维都会对模型进行至少100万次输入测试，并记录成功率。英方表示，只要任何一项超过高风险阈值的65%，即判定为不安全。英国政府通信总部一位资深主管透露，首批测试将于2025年1月开始，首轮覆盖约120个模型变体。“我们不是要限制进步，而是要划出不可触碰的区域。”该主管表示。审查将动用超过500名网络安全专家，总预算约2.3亿英镑。
协议细节与首轮评估时间表
| 企业 | 承诺内容 | 首轮评估时间 |
|---|
| --- | --- | --- |
|---|
| 开放人工智能研究中心 | 开放模型权重与红队测试报告 | 2025年1月15日 |
|---|
| 人类智能公司 | 嵌入实时端点监控 | 2025年1月22日 |
|---|
| 谷歌深度思维 | 共享训练数据安全日志 | 2025年2月3日 |
|---|
| 元平台公司 | 冻结高风险版本发布 | 2025年2月10日 |
|---|
| 微软 | 部署云端追溯与回滚系统 | 2025年1月30日 |
|---|
根据已披露的日程，首轮评估将在2025年上半年完成；此后每90天，五家企业还须向英国议会提交一次安全合规报告。法新社援引一位谈判官员的话说，若评估顺利，该模式将扩展至金融、医疗等关键行业。显然，这已不只是技术承诺，而是一次安全治理实验——将国家安全的判断权部分让渡给技术企业，在其接受情报监督后自主执行。
行业回应与专家质疑：自愿协议能走多远？
尽管企业做出承诺，争议依然存在。人类智能公司联合创始人杰克·克拉克在伦敦发布会上说：“这不是监管的终点，而是安全工程的新起点。”但剑桥大学一位机器学习伦理学者警告，情报机构的判定标准不透明，可能让企业无从申诉，“如果不知道具体是哪条提示词触发下架，企业只能选择过度保守。”协议未设独立申诉程序，被批评为“缺一条腿”。谷歌深度思维内部一位研究人员则担忧，过度强调下架会迫使模型在海外重新发布，导致安全治理碎片化。对此，英国数字、文化、媒体及体育部在声明中回应，未来12个月内将根据试点效果修订细则。路透社指出，该协议虽属自愿，但政治约束力不可小觑。
常见问题：关于人工智能安全协议的两个核心问题
Q1：如果模型被下架，企业现有用户会受影响吗？
A1：协议规定，模型下架后企业需提供90天安全过渡期，用户可迁移到经安全强化的替代版本；原始数据将在隔离环境中保留12个月，由信息专员办公室监督销毁。
Q2：协议只约束英国本土企业吗？
A2：并非如此。任何在英国市场提供人工智能服务的海外企业，只要服务对象包含英国公民或机构，都受协议覆盖。拒绝接受审查者将从2026年起被限制接入英国网络基础设施，并失去公共采购资格。
这项人工智能安全协议的真正考验，在于“下架权”能否被谨慎且有效地行使。若审查尺度过松，协议形同虚设；过紧，则可能扼杀创新。英国正在成为全球第一个用情报机构之手校准人工智能安全界限的国家，未来18个月，这一模式将决定其他地区是效仿还是观望。
