《人工智能安全治理框架》2.0版
⼈⼯智能研发应⽤⽣态链,明确模型算法研发者、服务提供者、系统使⽤者 1.⼈⼯智能安全治理原则 人工智能安全治理框架2.0 - 2 -等主体的安全责任,有机发挥政府监管、⾏业⾃律、社会监督等治理机制 作⽤。 1.4 开放合作、共治共享。在全球范围推动⼈⼯智能安全治理国际合 作,共享最佳实践,提倡建⽴开放性国际交流合作平台,通过跨学科、跨 领域、跨地 人工智能安全治理框架2.0 - 9 -理逻辑、技术接⼝、输出结果提供明确说明,正确反映⼈⼯智能系统产⽣ 结果的过程。 (b)改进模型架构,扩充训练数据的规模和多样性,引⼊⼈类监督机 制,减轻偏⻅歧视,提升模型的泛化能⼒和输出结果可靠性。 (c)在设计、研发过程中建⽴并实施安全开发规范,消减模型算法安 全缺陷,对模型进⾏对抗性训练,降低模型易受提⽰注⼊攻击的⻛险,提 术局限。指导⽀持⽹络安全、⼈⼯智能领域⾏业协会加强⾏业⾃律,制定 提出⾼于监管要求、 具有引领⽰范作⽤的⾃律要求; 建⽴⾯向公众⼈⼯智 能安全⻛险隐患举报受理机制,形成有效的社会监督氛围。 5.14促进人工智��全�理国际��合作。坚持践⾏多边主义,推动 人工智能安全治理框架2.0 - 16 -共商共建共享的⼈⼯智能全球治理观。⽀持联合国发挥主渠道作⽤,深⼊0 魔豆 | 92 页 | 30.37 MB | 1 月前3
共 1 条
- 1