《人工智能安全治理框架》2.0版技术应对措施。针对模型算法、训练数据、算⼒设施、产品服务、 应⽤场景,提出通过安全软件开发、数据质量提升、安全建设运维、测评监 测加固等技术⼿段,提升⼈⼯智能技术及应⽤安全性的措施。 2.3综合治理措施。提出技术研发机构、服务提供者、⽤⼾、政府部 ⻔、社会组织等各⽅发现、防范、应对⼈⼯智能安全⻛险的措施⼿段,以及 深化⼈⼯智能安 确保模型算法训练环境的安全性, 包括⽹络安全配置和数据加 密措施等。 结合安全测试发现的⾼⻛险问题, 通过针对性的微调、 强化学 习等⽅式优化模型,持续提升模型内⽣安全能⼒。 6.1.4关注和构建安全的训练数据集,规范数据来源管理,采⽤数据清 洗、 标注、 安全审核等⽅法确保训练数据内容的安全性, 确保数据来源清 晰、内容合规。 6.1.5 对训练数据进⾏质量和安全性评估, 保障在关键场景应⽤中⼈⼯智能应⽤决策透明、 可控, 并提供清晰的决策依据,确保⼈⼯智能应⽤在⼈类授权和控制下运⾏。 6.3.2 严格管理⼈⼯智能应⽤权限, 通过最⼩权限原则等⼿段强化内 部安全管理, 增强账⼾安全性, 在处理敏感数据时使⽤加密技术等保护措 施。 6.3.3 建⽴⼈⼯智能应⽤运⾏监测能⼒和安全事件应急预案, 设置其 关键指标的安全预警阈值, 能够及时发现安全事件, 并具备切换到⼈⼯或0 魔豆 | 92 页 | 30.37 MB | 1 月前3
共 1 条
- 1








