⼈⼯智能 安全治理框架2.0 全国⽹络安全标准化技术委员会 National Technical Committee 260 on Cybersecurity of SAC 国家计算机⽹络应急技术处理协调中⼼ National Computer Network Emergency Response Technical Team/Coordination Center of China 2025年9⽉ Framework 2.0目 录 1.⼈⼯智能安全治理原则...................................................................... 2.⼈⼯智能安全治理框架构成................................................................ 3.⼈⼯智能安全⻛险分类........... ............ 3.1
⼈⼯智能技术内⽣安全⻛险............................................................. 3.2
⼈⼯智能技术应⽤安全⻛险............................................................. 3.3
⼈⼯智能应⽤衍⽣安全⻛险............

人工智能、深度伪造与政治选举（四） 四、人工智能对 2024 年全球政治选举的影响 如今，人工智能开始在政治选举中崭露头角，但它与政 治的融合既带来希望也带来陷阱。有专家推测，人工智能可 能在 2024 年对全球政治选举安全构成威胁，它们可能成为 错误信息的主要来源。[1]利用人工智能深度伪造的宣传威 胁对各国政治选举的影响不容小觑，特别是美国大选是全球 应对人工智能技术挑战的重大选举。 应对人工智能技术挑战的重大选举。 1.人工智能重新定义政治选举参与方式。2024 年 2 月 8 日，巴基斯坦国民议会选举投票在下午结束。由于发生多起 袭击事件，最终投票结果迟迟未能出炉，伊姆兰·汗和纳瓦 兹·谢里夫两名前总理分别宣布胜选。不过，他们宣布获胜 的方式截然不同。10 日凌晨，伊姆兰·汗所在的正义运动党 （PTI）通过伊姆兰·汗（Imran Khan）的 X 账号发布一段 人工智能制作的“真人讲话”视频宣布获胜。“你们兑现了 年，2024 年 1 月又因为泄 露国家秘密罪和非法出售国礼罪分别被判刑 10 年和 14 年， 一直在监狱中服刑。不过，伊姆兰·汗在入狱后仍多次通过人工智能视频向支持者发表讲话。早在 2023 年 12 月，正义 运动党就利用人工智能生成带有伊姆兰·汗照片的视频向支 持者发表讲话。这段讲话视频是在正义运动党的一个网上集 会上播放的，在 YouTube 上吸引 150 多万次观看，在其他社

人工智能、深度伪造与政治选举（三） 三、人工智能对政治选举结果的实际影响 深度伪造技术可能会对政治选举产生前所未有的影响， 对国家选举、政策制定以及社会可信度提出严峻挑战。[1] 我们不得不思考，有多少选票是通过深度伪造对政治选举实 施操纵性影响而产生的？这些选票又对政治选举结果产生 了多大影响？ 1. 人工智能在一定情况下对政治选举结果可能具有决 定性作用。2023 年的土耳其总统选举，就像是人工智能干预 年的土耳其总统选举，就像是人工智能干预 政治选举的一场预演。人工智能、深度伪造和虚假信息成为 土耳其 45 天选举周期的关键部分。在 5 月 14 日第一轮投票 的前几天，土耳其独立媒体 140journos 选举系列节目使用人 工智能图像生成器 Midjourney 和 人工智能文本生成器 Chat GPT，为土耳其的未来提供了两种叙述。第一个故事描绘了 一个失败且刚刚退休的总统雷杰普·塔伊普·埃尔多安（Re 弃权力，土耳其成为一个旨在“建立世界和平”的星球大战 式帝国。当被问及“取得这一成功的最大挑战是什么？”时，冒充埃尔多安的人工智能回答说：“我们最大的挑战之一是 跟上世界和宇宙的新秩序，密切关注技术发展并不断适应它 们”。[2]这种场景是对所有政治家可能面临的人工智能挑战。 2023 年的土耳其总统选举周期被社交媒体的大量错误信息 和虚假信息所破坏，关于政治家背景和言论的误导性信息很 普

人工智能、深度伪造与政治选举（二） 二、深度伪造对政治选举的双刃剑效应伴随人类社会 进入数字化网络化智能化时代，技术既可以成为强大的工具， 也可以成为有力的武器。兰德公司《人工智能、深度造假与 虚假信息》报告还指出，深度伪造不仅会影响社会，还会影 响国家安全，可以操纵选举，可能会加剧社会分裂，降低对 机构和政府的信任，破坏新闻业和信息源的可信度。[1]如 今，全球民众都在注视着人工智能、深度伪造在干预政治选 战及其对国家政治的深远影响。 1. 人工智能成为提升竞选优势的强大工具。在激烈政 治选举当中，人工智能已成为政党和政客寻求在沟通、战略 和决策以及吸引选民支持方面获得优势的强大工具。例如， 人工智能在印尼政治中扮演着重要角色，许多政客为吸引粉 丝开始利用人工智能。许多候选人利用人工智能聊天机器人 来与选民互动。曾是苏哈托女婿的普拉博沃竞选团队使用人 工智能制作其卡通形象并取名“可爱”，受到众多青年人的 不过，这段视频是人工智能生成的。发布该视频的印尼专业 集团党副主席阿克萨称，此举是“为了让选民记住苏哈托为印尼做出的贡献”。该党在此次选举中支持普拉博沃。据选 后调查，普拉博沃在青年选民中以 60%的得票率大幅领先。 最终，普拉博沃赢得这次总统选举。纽约大学认知科学名誉 教授、人工智能专家加里·马库斯（Gary Marcus）指出， 相信这项技术将在未来的选举中发挥重要作用，很难否认人 工智能生成的内容不会成为下一次选举的主要力量。

起火之后，智能汽车的安全焦虑应有答案 据《潇湘晨报》报道，10 月 13 日凌晨，成都天府大道 一路段上突发一起车祸。现场视频显示，一辆小车在路中起 火，车主疑似被困车内。有多名路人上前尝试营救，先后尝 试拉开车门，撞击车窗。有人找来锤子成功打开主驾驶位车 窗后，发现车内火势太大，有其他的车主拿来灭火器，在灭 火途中车辆突然发出异响，蹿出明显火势。路人连忙后退。 还有目击者表示，“人没有救出来，最后是用电锯切开的门”。 针对隐藏式门把手设计漏洞的“补课”之举。 但问题也在于——标准出台的速度，远远赶不上技术更新的步伐。在新能源汽车竞争白热化的市场中，各家车企争 相推出全隐藏式设计，以展示科技感与高端定位，而消费者 往往被“颜值”“智能”“性能”所吸引，却忽视了安全的 “最后一公里”。这次事故，也再次提醒行业监管者：监管 应当在技术创新之前设防，避免在悲剧之后追责，对于频发 的电动汽车起火、门锁失灵、软件失控等问题，应当建立更

关于近期智能网联汽车安全事故频发的舆情分 析 智能网联汽车的兴起，重塑了汽车产业生态，为人们带 来全新的出行体验。但伴随而来的安全问题，也成为行业发 展的重要挑战。近期，小米 SU7、小鹏等智能网联汽车出现 的事故，在将涉事企业推向舆论的风口浪尖的同时，也引发 了公众对智能网联汽车安全性与企业责任的思考。 图源：界面新闻 舆情导火索：小米 SU7 碰撞爆燃事故引发轩然大波 3 月 发布回应声明，披露事故发生前车辆处于 NOA 智能辅助驾驶状态，以及事故前后车辆的运行数据。但死者家属对小米的 回应提出质疑，称小米智驾对事故负有责任，且小米未及时 与家属沟通。这起事故迅速成为舆论焦点，智能网联汽车的 安全问题及企业责任的相关话题热度持续攀升。 多品牌事故案例引发信任危机​ 梳理发现，除小米 SU7 事故外，小鹏、理想等多个品牌 的智能驾驶车辆也出现过不同程度的事故，涵盖感知失效、 系统误判、人机交互矛盾等方面。这些事故加剧了消费者对 智能驾驶功能安全性的担忧，推动舆情热度居高不下。同时， 随着话题的深入讨论，舆论开始聚焦于智能网联汽车企业在 技术研发、安全保障、事故应对等方面的责任。​ 舆论聚焦责任落实、强化监管等多个方面 （一）舆论聚焦智能网联汽车技术安全，质疑技术成熟 度​ 多数网友和媒体对智能网联汽车的技术安全性提出疑 问，认为当前智能驾驶技术尚未成熟，存在漏洞和隐患。在

智能传播时代网络舆情治理的结构优化与法治因应 文章转载于天府新论 ，作者陈鹏宇 摘 要： 随着国家治理体系和治理能力现代化的推进，我国网络舆情治理模式从管制型向多元治理转型。智能传播 时代来临，推动网络舆论信息生成和传播机制的颠覆性再造，失真舆情和情感动员类舆情频发，网络舆情泛道德 化、舆情突变风险增加。现有的多元治理模式长期将重心置于责任主体一侧，无前提地直接分配公私主体责任， 存在 存在治理精细度、敏捷性不足等问题。智能传播时代的网络舆情治理应当引入阶段化治理模式，将以“政府—平 台”为核心的多主体治理结构置于阶段化治理框架内，进一步精细化治理责权和资源配置。我国应当根据网络舆 情“三阶段”治理需求差异，完善法律规范体系，推动构建网络舆情引导机制、网络舆情协同应对机制、权利救济 行政裁决制度，实现网络舆情的全过程、精细化治理。 关键词： 网络舆情治理 社交媒体平台 阶段化治理 网络舆情治理是党委政府的重要职责。党的二十大报告提出，要“加强全媒体传播体系建设，塑造主流舆论 新格局。健全网络综合治理体系，推动形成良好网络生态”。党的二十届三中全会也提出，要“完善舆论引导机制 和舆情应对协同机制”。在智能传播时代，数字技术深度介入网络舆论场域，深刻地重塑和再造了信息的生成和 传播方式。一方面，互联网为广大网络使用者提供了宽松和自由的表达空间，网络舆论在公权力监督、灾害互助 等方面发挥了积极作用；

良基冷冻食品有限公司 7227 10 鲜知肴食品公司 5911 11 宝辉水产有限公司 5627 12 渔趣多食品有限公司 6058 13 借贷宝 24880 14 人人信 22754 15 云企智能科技有限公司 13644 16 绿信科技有限公司 12269 17 企腾网络技术有限公司 10753 序号 上榜企业 声量 18 智优擎网络科技有限公司 13722 19 启科科技有限公司 宝辉水产有限公司 未回应，已发布食品召回公告 12 渔趣多食品有限公司 未回应，被查封 13 电子签里的隐身放贷人 借贷宝 3月16日回应 14 人人信 3月16日回应 15 偷信息的获客“黑洞” 云企智能科技有限公司 未回应 16 绿信科技有限公司 未回应 17 企腾网络技术有限公司 未回应 18 智优擎网络科技有限公司 未回应 19 启科科技有限公司 未回应央视3·15晚会曝光企业回应情况 司宣称掌握大量精准标注的个人信息资料，可根据地区和行业提供数据，供客 户购买使用。“精准通客户管理平台”利用三网通信大数据（三家电信运营商 数据）偷取个人数据信息，每日处理数据量达100亿条。 事 件 概 况 涉事企业 云企智能科技有限公司、绿信科技有限公司、企腾网络技术 有限公司、智优擎网络科技有限公司、启科科技有限公司 相关回应 土巴兔回应“有过商务洽谈，最终未达成实质性合作”；拜博口腔称已 终止不合规数据合作

智能驾驶交通事故多发，智驾的法律边界在哪儿？ （文稿内容转自法治网舆情中心） 近期，小米汽车在高速公路行驶过程中发生严重交通事故，再度将智能驾驶 的诸多潜在问题推至公众舆论的风口浪尖，引发广泛关注。当下，汽车行业正在 快速向智能化、电动化转型，守住“安全红线”尤为重要。舆论认为，应尽快完善 智能驾驶相关法律法规，明确权责划分，确保智能驾驶技术的安全、可靠、可持 续发展。 舆论指出，我 （来源：经济观察网） 一是 夸张营销普遍。中国新闻网文章指出，智能驾驶现阶段仍是辅助工具， 国内车企虽然在智能驾驶技术上取得了一定突破，但不同品牌、不同车型的智能 辅助驾驶能力参差不齐。许多车企在营销过程中夸大了系统的功能性，甚至弱化 了“辅助”这一概念。《中国青年报》称，一些车企、经销商、自媒体一味使用“高 大上”的词语来包装智能驾驶技术，甚至夸大宣传，却对具体功能、安全边界和 事故责任划分含糊其辞。“智驾全程 接管”“在高速自动完成车辆避让”“丝滑出 入匝道”成为宣传中智驾的常规操作，对消费者造成误导。二是 技术标准不完善。中国科学院科技战略咨询研究院院长潘教峰等人认 为，智能驾驶产业已进入场景测试、标准制定和场景应用新阶段，但各地技术和 管理标准不一，不利于技术落地。 高工智能汽车研究院负责人郑利瑶认为，对于高频、高危的智驾使用场景， 缺少合理的市场准入指标。以自动紧急制动为例，国家并未规定其必须识别什么 样的物体

互联网发展大趋势前瞻之四“无处不在”： 计算+网络+智能 4.无处不在：计算+网络+智能无处不在的计算。现代信息科技， 一切源于计算。进入 20 世纪以来，人类计算能力显著增强，经历 了从晶体管到电子管再到集成电路，从房间体积到桌面体积再到口 袋体积的变迁。1946 年，计算机始祖 ENIAC（埃尼阿克）装配 18000 个真空管，重达 30 吨，占地 170 平方米；2014 年的英特尔酷睿 机设备的计算处理能力开始能够分配给远程用户,小型计算机和个 人电脑也都开始互相连接成网。 随着高性能、小体积、低成本芯片广泛使用，计算能力向人类经济 社会生活全方位渗透。从天气预报、证券走势、漫威英雄电影到无 人驾驶、阿尔法狗、智能手机，无一不是计算的结果。计算如同土 地、空气和水源，成为人类经济社会运行的基础性资源和支撑。当 下，无论是工作、社交、娱乐、追剧、游戏，还是订餐、拍照、打 车、预约，都离不开网络终端，都离不开计算，计算始终环绕在我 的 10Gps，比 4G 快达 100 倍，一秒钟 下载 30 部电影。5G 最大改变是实现从人与人的通信走向人与物、 物与物之间的通信，实现万物互联，推动社会发展。 无处不在的智能。大模型的通用性使其成为人工智能的关键基础 设施，就像 PC 时代的操作系统一样，赋能百行百业，加速推进经 济高质量发展。苹果、谷歌等的创新技术应用侧重的是聚合信息 和分发信息，背后是信息获取成本从边际移向固定成本，使信息