降、

决策错误等鲁棒性问题。 （d）
输出决策不可靠。
⼈⼯智能利⽤有限数据集拟合复杂现实世界，

人工智能安全治理框架2.0 - 4 -⾃主感知、

认识、

理解、

交互的理论基础、

技术能⼒还有待突破，

基于有 限样本的决策判断、

输出结果存在“幻觉”,
即看似合理实则不可靠的现象。 （e）
外部对抗攻击。

攻击者利⽤模型算法及其设计实现的缺陷、漏洞， 、

隐匿违法犯罪 ⾏为、

制作违法犯罪⼯具等。 （c）
核⽣化导武器知识、能⼒失控。

⼈⼯智能在训练过程中多使⽤⻔ 类宽泛、

内容丰富的语料数据，

其中包含核⽣化导武器相关基础理论知识， 辅以检索增强⽣成功能，

如不能有效管控，

将被极端势⼒、

恐怖分⼦利⽤ 于获取相关知识，

以及设计、

制造、

合成、

使⽤核⽣化导武器能⼒，

导致 现有管控体系失效，

加剧世界各地区和平安全威胁。