《人工智能安全治理框架》2.0版
动,规范有序开展伦理审查。推进⼈⼯智能科技伦理服务体系建设,强化 服务供给,加⼤对中⼩微企业的⽀持⼒度。 5.3提升研发应⽤全⽣命周期安全能⼒。持续提升算法可靠性、可信 度、透明度、容错机制、隐私保护、价值观对⻬等内⽣安全能⼒,利⽤对 抗测试等技术评估改进模型鲁棒性,降低模型算法潜在偏⻅,确保价值观、 伦理⻛险可控,避免⼈⼯智能系统意外决策产⽣恶意⾏为。 8 建设⼈⼯智能安全测评体系。 构建模型算法安全测评、 应⽤通⽤ 安全测评、具体场景安全测评相衔接的⼈⼯智能安全测评体系。模型算法 测评,聚焦模型鲁棒性、可靠性、准确性、抗⼲扰能⼒、决策逻辑透明度、对 抗攻击防御能⼒等内⽣安全能⼒和⻛险。应⽤通⽤测评,针对普遍使⽤的 ⼈⼯智能应⽤⻛险开展测试分析评估。具体场景安全测评,结合应⽤场景 具体情况评估满⾜应⽤需求的能⼒,以及应⽤运⾏和服务过程中的安全⻛ ⼯智能全球治理⾏动计划》。 6.⼈⼯智能研发与应⽤的安全指引 6.1⼈⼯智能模型算法研发的安全开发指引 6.1.1在算法规则、模型框架设计环节,应考虑提升算法可靠性、公平 性、透明度、可解释性、隐私保护、价值观对⻬等内⽣安全能⼒设计。 6.1.2评估模型算法潜在偏⻅,加强训练数据内容和质量的抽查检测, 设计有效、可靠的对⻬算法,确保价值观⻛险、伦理⻛险等可控。0 魔豆 | 92 页 | 30.37 MB | 1 月前3
共 1 条
- 1