《人工智能安全治理框架》2.0版
⼒资源恶意消耗,以及安全问题在多源、异构、泛在算⼒资源间跨边界传 递的⻛险。 (b)⽹络暴露⾯扩⼤。模型本地化部署涉及⽹络拓扑和系统策略、权 限、端⼝、资源的调整配置,易形成新的⽹络攻击⼊⼝和路径。智能体需 调⽤终端系统⽂件、权限、接⼝、⼯具,以实现复杂任务⾃主规划⾃动执 ⾏,加剧⽂件泄露、权限滥⽤等安全⻛险。 (c)供应链安全。⼈⼯智能产业链呈现⾼度全球化分⼯协作格局。但 于 人工智能安全治理框架2.0 - 14 -内容标识的⼈⼯智能⽣成合成内容溯源管理范式,总结梳理已有实践的成 功做法经验,按照显式、隐式等标识要求,全⾯覆盖制作源头、传播路径、 分发渠道等关键环节,便于浏览⽤⼾识别判断信息来源及真实性。 5.7安全有效释放重要⾏业应⽤需求。制定重要⾏业领域⼤模型建设 部署基础安全指南,从模型选⽤、模型部署、模型运⾏和模型停⽤等环节, 提出安全基线建议。在此基础上,相关⾏业领域结合⾃⾝属性特点,制定 能源、电信、⾦融、交通、教育、⼯业等重要⾏业领域的应⽤安全指南, 形成清晰的安全应⽤路径,释放⾏业应⽤潜⼒。 5.8 建设⼈⼯智能安全测评体系。 构建模型算法安全测评、 应⽤通⽤ 安全测评、具体场景安全测评相衔接的⼈⼯智能安全测评体系。模型算法 测评,聚焦模型鲁棒性、可靠0 魔豆 | 92 页 | 30.37 MB | 1 月前3
共 1 条
- 1