....................................................... 61 61 62 62 65 67 70 72 76 79 82人工智能安全治理框架2.0 前 言 ⼈⼯智能是⼈类发展新领域，
深刻改变⼈类⽣产⽣活⽅式，
给世界带 来前所未有发展机遇，

也带来前所未遇⻛险挑战。

落实《全球⼈⼯智能治 理倡 开源业态新挑战，

综合运⽤技术、

管理措施，

防范应对不同类型⻛险。

围绕 ⼈⼯智能研发应⽤⽣态链，

明确模型算法研发者、

服务提供者、

系统使⽤者 1.⼈⼯智能安全治理原则 人工智能安全治理框架2.0 - 2 -等主体的安全责任，

有机发挥政府监管、

⾏业⾃律、

社会监督等治理机制 作⽤。 1.4 开放合作、

共治共享。

在全球范围推动⼈⼯智能安全治理国际合 、

服务提供者、

⽤⼾、

政府部 ⻔、

社会组织等各⽅发现、

防范、

应对⼈⼯智能安全⻛险的措施⼿段，

以及 深化⼈⼯智能安全治理国际交流合作等建议，

推动相关各⽅协同共治。 人工智能安全治理框架2.0 - 3 -2.4
研发与应⽤的安全指引。

提出模型算法研发、建设部署、运⾏管理， 以及访问使⽤的引导性安全规范。此外，针对潜在的技术失控⻛险，提出可 信⼈⼯智能基本准则，引导国际社会共识。

学习笔记 1/19 人工智能驱动了网络变革 网络承载了人工智能发展 AI Runs Networks and Networks Run AI 【摘要】：人工智能（AI），不仅是国家发展的战略性技术， 而且已在现实中发挥了作用。然而，“AI 作为信息技术（IT） 工作负载的重要分支”，AI 本身是技术生态系统（Ecosystem）的 组成部分。AI ut），跨域扩展（Scale-Across） 2025 年 11 月 7 日，（英国）伊丽莎白女王工程奖（Queen Elizabeth Prize for Engineering）颁发给了人工智能（AI）革命的 六位关键人物：  Geoffrey Hinton（杰弗里辛顿）, Yoshua Bengio（约书 亚·本吉奥）, Yann LeCun（杨立昆）: 深度学习（deep Huang（黄仁勋）: AI 产业化的最大推动者。 颁奖典礼结束后，六位获奖者进行了一场圆桌对话，核心 主题是：通用人工智能（AGI）真的到来了吗？ 虽然没有人给出标准化的定义，也没有人主张这项技术 已经成熟，但是这六位 AI 先驱者从各自的角度表达了相同的 信息：通用人工智能不再是遥不可及的目标，并已经开始在现实 中发挥作用。 其中：  李飞飞的“顿悟”（epiphany）来自数据：人类智能在

体 等渠道，大量发布魔改视频，吸引用户点击观看，从而获取流 量和广告收入，这种商业化运营方式，进一步加剧了 AI 魔改剧 的乱象。 三、治理现状 （一）人工智能相关的法律法规，需加强法律法规约束力 国家网信办公布的《生成式人工智能服务管理暂行办法》 《互联网信息服务深度合成管理规定》已有相关规定，其对于 图像类、照片类的生成、合成都有严格的要求。要求制作者、 服务提供者应“在视频 的提 示标识”。12 月 7 日，广电总局网络视听司发布《管理提示》指 出。为营造清朗网络视听空间，要求各相关省局督促辖区内短 视频平台排查清理 AI“魔改”影视剧的短视频，严格落实生成式 人工智能内容审核要求，举一反三，对各自平台开发的大模型 或 AI 特效功能等进行自查，对在平台上使用、传播的各类相关 技术产品严格准入和监看，对 AI 生成内容做出显著提示。而从 现实情况看，这些魔改视频中很少有主动标识的。 放矢、落地有声。 （三）互联网平台自律较差，内容审核机制不健全国内各大短视频平台如抖音、快手等积极响应官方号召， 加强内容审核机制，对涉嫌违法违规的 AI“魔改”视频进行清理。 通过算法优化和人工审查相结合的方式提高识别效率，并设立 了举报渠道供用户反馈。但从实际情况来看，内容审核机制不 健全，对用户发布的视频内容审核不严，平台仍然充斥大量的 乱象视频。在落实有关规定方面，存在责任认识不充分、角色

经列入 2024 年 全国人大立法计划，预计在未来 3-5 年出台。可以说，国家在 顶层设计方面已为空间信息产业蓬勃发展奠定了良好的基础。 (2)数字技术加快推进，产业成为政府治理关键抓手 人工智能、大数据等新技术的发展，推动了政府治理、 行业管理从“人管”到“数管”的转变。《中华人民共和国 国民经济和社会发展第十四个五年规划和 2035 年远景目标纲 要》中要求加快数字化发展，建设数字中国，深入探索数字 30 多项，层级从国家部委到乡镇均有涉及，充分 体现了区县级在城市监管、社会治理方面对空间信息应用服 务的需要 (4)人工智能促进技术革新，产业结构升级已是趋势 2022 年底，ChatGPT 人工智能大模型相继推出，空间信 息应用产业也迎来产业结构升级的机遇。人工智能大模型在 空间信息应用产业中通过提升数据处理与分析能力、提供高 级分析与应用、提供智能导航与定位服务以及提供智能决策

的人力；另一方面，数字技术量化并重构了信息传播效果的 评估指标和评价体系，造成媒介道德素养与“注意力经济” 之间的矛盾，而普通网民容易被智能推荐算法等技术裹挟， 从而削弱其认知和思维能力。互联网和人工智能技术的快速 发展能够助力网络舆情治理，但学界对此也存在争议。比如， 尽管数据挖掘和算法为实现符号通信提供技术支持，但国外 的民意调查显示，技术发展不应被用于预测民意动态或衡量 选民的意愿 制定科学的大数据赋能网络舆情治理的宏观战略，搭建具体 的沟通协作政策框架，还要进一步完善大数据赋能社会网络 舆情治理的考核指标体系，并建立健全官方网络舆情信息发 布机制，以及时回应民众关切。 第五，加大经费投入力度。培养大数据、人工智能、区 块链等信息技术方面的精英人才，搭建大数据分析、处理与 人才信息对接平台，出台支持优秀科技人才就业创业的相关 政策。 （五）情感治理路径情感治理路径强调关注互联网场域中政府、媒体、网民 性手段，市场治理路径更加强调行业组织或网民个体的自律 性，主要通过行业规则或组织纪律来引导网络舆情。协同治 理路径则注重多元治理主体的共同参与，强调通过沟通对话、 协商合作等方式提高网络舆情治理的科学性和民主性。大数 据、人工智能等新兴技术为网络舆情治理提供了高效的工具， 突破了传统经验和制度管控的局限。技术赋能下的网络舆情 治理利用数字平台对海量数据进行抓取、处理和分析，增强 决策的精准性和科学性。技术与情感的结合在某种程度上加

增加用户粘性，可能放宽对直播内容的审核标准，甚至纵容虚 假宣传和欺诈行为。这种利益驱动的矛盾使得平台在履行主体 责任时面临困境，难以有效打击私域直播犯罪。 六、意见建议 （一）构建“技术+人工”双轨监管体系 针对私域直播隐蔽性强、传播快的特点，需建立技术驱动 的动态监管机制。技术层面，平台应部署 AI 内容审核系统，通 过图像识别、语音分析等技术实时拦截色情、赌博等违规画面 及敏 确保数据不可篡改且可追溯。同时，强化用户行为监测模型， 对高频打赏、异常转账、多设备登录等风险行为触发预警，自 动限制账号权限或冻结资金。人工辅助方面，建立属地化审核 团队，针对 AI 误判或新型犯罪场景（如虚拟形象直播）进行人 工复核，并与公安部门共享线索库，形成“技术筛查—人工研判 —执法打击”的闭环。 （二）完善法律法规，加强监管力度 建议加强和完善相应的法律法规，针对私域直播中的虚假 宣传

“七星山·骆驼杯”也面临类似质疑。节目总策划曾回应称， 为了呈现“打野”效果、保护野生动物并保证节目精彩，赛前 确实投放了禽畜，包括野猪、珍珠鸡，甚至娃娃鱼。但有网 友质疑，选手若捕获猎物，如何判断是野生还是人工投放？ 既然有人工干预，还能叫“荒野求生”吗？ 实际上，观众想看的是真实的生存智慧，而不是演员的 “演技大赏”。当“假求生”成为行业潜规则，再高的收视率也 难以支撑口碑。 五、伦理风险：极限画面变“消费痛苦”

0924 山东省中医生活化工作推进会｜让 中医药文化融入生活、落在日常 医疗活动 215 5 0909 威高可吸收心脏支架造福患者 医疗科技 193 6 0902 山西省人民医院推出“住院一码通” 人工智能优化就医流程 医疗服务 172 7 0926 鼎医基金会、国家卫健委人才中心 联合主办“中医院绩效监测培训班” 医疗培训 122 8 0915 御君方互联网医院安洁利医生：一 位青年中医专家的“治未病”逐梦 用 内容摘要：元医疗模拟实验室 9 月 15 日在复旦大学附 属中山医院正式启用。实验室以“行业前瞻技术应用探索和 模式孵化”为核心定位，以人工智能技术应用串联诊疗全流 程，系统呈现智慧医疗创新形态；不仅能够生动演示未来医 疗的可能性，也为人工智能技术验证与模拟仿真提供了重要 平台，为智慧医院建设探索了新路径。 传播情况：网络相关信息共 1172 条，主要分布在视频、 网站平台。《 体参与报道。舆论普遍认为“元医疗模拟实验室”揭牌，将 推动医疗行业数字化发展，提升医院诊疗水平和服务质量， 对于推动智慧医疗的发展具有重要意义。 传播价值：该新闻兼具技术突破性、行业标杆性与民生 关联性。作为国家人工智能应用中试基地成果，元医疗模拟 实验室以 AI 串联诊疗全流程的创新模式，既展现未来医疗 前沿方向，又为智慧医院建设提供可参考的标杆，且其推动 医疗效率提升、资源普惠的价值与民生福祉紧密相关，契合—12—

8 月 12 日，在美国首都华盛顿白宫，白宫新闻秘书莱维特出 席记者会。新华社记者胡友松摄 特朗普政府的认知战还呈现极强技术特征，大量使用大 数据分析、算法推荐等人工智能技术。美国媒体报道说，特 朗普政府此前发布一段利用人工智能生成的视频，将饱受战 火蹂躏的加沙地带“美化”为海滩度假胜地，以呼应美方所 谓“接管加沙”论调。此举无疑是对加沙人民苦难的漠视， 违背基本的人道主义精神。 四、维护霸权的“思想认知战”

支撑。该平台通过 AI 算法实现全网覆盖监测，不仅能实时追踪新闻 网站、社交媒体的显性讨论，更能挖掘贴吧、知识社区等隐蔽渠道 的潜在风险。其情感分析引擎可精准识别讽刺、隐喻等复杂语义， 将传统人工监测效率提升 30 倍以上。 数据可视化系统为决策提供直观依据。通过热力图呈现舆情高 发时段（通常为工作日 9-11 时、20-22 时）、地域分布特征（长三 角地区对企业环保议题敏感度较高等），帮助管理者预判风险传导路