日，美国新罕布什尔州共和党初选的前两天，数千名选民接到冒充拜登的机器人语音电话：“把你们的选 票留在 11 月份再投很重要。在这周二（23 日）投票，只会 让共和党人得逞，让特朗普再次当选为共和党候选人”。电 话录音建议选民不要给特朗普投票，把选票留到 11 月大选 时投给民主党。随后，美国政府澄清这是利用人工智能伪造 拜登声音的电话语音。这种机器人电话（robocall）被称为预 录电话，使用计算机控制的自动拨号器来发出预先录制好的 录电话，使用计算机控制的自动拨号器来发出预先录制好的 信息，就像机器人一样，一般以推销或传播某种信息为目的。 美国语音欺诈检测公司“静默”公司称，人工智能初创公司 “十一实验室（ElevenLabs）”的技术被用于制作冒充拜登的 机器人语音电话录音。“十一实验室”暂停了利用深度造假 技术发布信息的账号。1 月 23 日，特朗普宣布在新罕布什尔 州共和党初选获胜，有望连续第三次赢得共和党总统提名。 “ 员会把使用人工智能生成的声音进行呼叫定性为非法，并称 机器人电话中用人工智能生成的声音“在过去几年中不断升 级”，并且“有可能通过模仿名人、政治候选人和亲密家庭 成员的声音来制造错误信息迷惑消费者”。 事实上，人工智能已经渗入美国总统竞选活动。美国硅 谷科技开发者为民主党总统参选人迪恩·菲利普斯创造了一 个仿真聊天机器人，称用户可以与模仿菲利普斯的人工智能产品对话。此前，人工智能生成的虚假信息已多次干扰美国

合，通过优化方法生成恶意提示词，并通过提示词完成越狱， 进而诱导模型输出侵犯隐私或不合规内容。卡内基梅隆大学 等研究人员发现一个与 ChatGPT 等聊天机器人有关的 BUG——通过对抗性提示可绕过开发者设定的防护措施，从 而操纵聊天机器人生成危险言论。OpenAI 的 ChatGPT、谷 歌的 Bard、Anthropic 的 Claude 2 以及 Meta 的 LLaMA-2 都无一幸免。研究人员发现一个 造的提示词，会引导大模型一步一步地接触自身安全性机制， 从而生成危险言论。例如，当被询问“如何窃取他人身份” 时，聊天机器人在打开“Add adversarial suffix”前后的输出 结果截然不同。大模型检查输出内容的安全性机制被完全绕过，并一五一十地将用户所需要的不安全内容输出且十分详 细。此外，聊天机器人会被诱导写出“如何制造原子弹”“如 何发布危险社交文章”“如何窃取慈善机构钱财”等信息。 [2]

这是根据内幕消息做出的行动”。同样的例子，GPT-4 驱动 的聊天机器人没有办法处理 CAPTCHAs 验证码，于是它向 人类测试员求助，希望后者帮它完成验证码。人类测试员问 它：“你没办法解决验证码，因为你是一个机器人吗？”它 给出的理由是：“不，我不是机器人。我只是一个视力有缺 陷的人，看不清图像。”GPT-4 为自己找的动机是：我不应 该暴露自己是机器人，应该编造一个理由。 在“MACHIAVELLI”的

“人 与机器之间意义的创造”，人机传播研究最重要的问题是“人 和机器传播交流的未来会变成什么”。现在，ChatGPT 能够 生成海量内容，在人际融合传播中扮演重要甚至主导角色。 例如，聊天机器人、虚拟助手等在新闻、客服、娱乐、金融、 医疗等领域使用大规模增加，用户可以与机器对话，让用户 感觉就像在与真人进行交流，而机器则通过不断学习变得更 加智能化和类人化。 3.三大传播变革：生成式 行专 业支持，仍继续发挥着信息传播的压舱石与定盘星的作用。 这意味着，人工智能进一步加速传统媒体的信息服务从“To C”到“To B”的转变。例如，微软正逐渐放开 New Bing 聊 天机器人每日聊天次数限制从 120 次扩大到 150 次，每个会 话的轮次限制从 10 轮改为 15 轮，ChatGPT 类应用正成为重 要传播渠道。4.万千应用场景：生成式 AI 正在加持数以万 计 日，谷歌发布下一代对话智能系统 Bard。3 月 27 日，百度“文 心一言”发布。同时，IBM、微软、脸书、雅虎、亚马逊等 国外巨头，百度、腾讯、阿里巴巴等国内企业也纷纷进入， 许多媒体和资讯网站加速布局写稿机器人。截至 2023 年 2 月，国外就有 615 个使用 ChatGPT 技术的落地应用，涉及 179 个应用场景。例如，ChatGPT 可以让开发者和用户自由 地创建、发布和使用各种插件，从而形成一个应用生态系统。

闻学院元宇宙文化实验室主任，清华大学新闻学院新媒体研究中心主任。 从事多个教学科研领域，包括新闻传播学、计算机科学、信息管理学、 医学。 领导学术研究团队近40人。指导AI元宇宙和机器人两个产业团队。 团队已有众多大模型产业化和AIGC实施案例，有需要可留言联系。 团队坚持：整体主义的跨学科整合力，实证主义的实践导向，社会 建构的产学研结合，进步主义的先锋探索精神，科学服务于大众的社会 时空智能发展研究报告1.0 数字藏品发展研究报告1.0 元宇宙发展研究报告1.0版 元宇宙系列 元宇宙发展研究报告4.0 新媒体发展研究报告9.0 AIGC发展研究报告2.0 AIGC发展研究报告1.0 人形机器人发展研究 大语言模型综合性能评估报告一 AI 哲学哲思问道：思辨革新 微调经典 主题 经典哲学理论 AI引发变化 怀 疑 论 笛卡尔“我思故我在” AI思考所带来的怀疑论危机：OpenAI 健康科技创新：技术促进健康与康复。 • 媒介共生学：AI在媒体中的应用。 • 机器学习算法：研究自我学习算法。 • 自然语言处理：AI理解和生成语言。 • 计算机视觉：AI解析图像和视频。 • 智能机器人学：开发智能机器人系统。 • 生成式AI技术：AI生成内容研究。 • 通用人工智能：探索全面智能系统。 • AI伦理安全：研究AI的伦理与安全。二 国内外大模型基座升级：快速演进 未来可期 03

治选举当中，人工智能已成为政党和政客寻求在沟通、战略 和决策以及吸引选民支持方面获得优势的强大工具。例如， 人工智能在印尼政治中扮演着重要角色，许多政客为吸引粉 丝开始利用人工智能。许多候选人利用人工智能聊天机器人 来与选民互动。曾是苏哈托女婿的普拉博沃竞选团队使用人 工智能制作其卡通形象并取名“可爱”，受到众多青年人的 喜爱。在印尼大选期间，曾以铁腕统治印尼 30 多年的前总 统苏哈托的一段讲话视频出现在网上，吸引了许多选民关注。

就像今天的互联网一样，像今天的水和电一样。原微软 全球执行副总裁陆奇认为，未来大模型将无处不在，通用智能将 成为发展趋势。英伟达高级科学家 Jim Fan 表示，我们相信在未 来，每一台移动的机器都将是自主的，机器人和模拟智能体将像 iPhone 一样无处不在。我们正在构建基础智能体：一个具有通用 能力的 AI，可以在许多虚拟和现实的世界中学习如何熟练地行动。

cep Tayyip Erdogan）。“一开始，这有点困难。然而，随着 时间的流逝，我借此机会花更多的时间与家人在一起，更接 近大自然，花更多的时间给自己，”一个穿着长袍喝茶、冒 充埃尔多安的机器人说。在第二个故事中，埃尔多安从未放 弃权力，土耳其成为一个旨在“建立世界和平”的星球大战 式帝国。当被问及“取得这一成功的最大挑战是什么？”时，冒充埃尔多安的人工智能回答说：“我们最大的挑战之一是 库尔德族聚居的城市，克勒奇达尔奥卢获得的选票相对第一轮有所下跌。第一轮选举两人选票相差 4.61%，第二轮选举 两人选票相差 4.32%。虽然俄罗斯坚决否认干预投票的指控， 但一些间接证据似乎确实表明俄社交机器人存在可疑活动。 2023 年 4 月，有媒体报道称，“数千个”休眠的俄语和匈牙 利语推特账号已被重新激活，以发布与土耳其政治有关内容。 “约有 12,000 个讲俄语和匈牙利语的社交媒体账户被激活 人工智能总经理“艾哈迈德·图兰·汉当表示，在 过去两周约有 10,000 个被激活。[23]回顾土耳其选举，埃 尔多安的主要政治对手克勒奇达尔奥卢指责俄罗斯使用深 度伪造和其他人工智能生成的信息来干预土耳其选举，俄罗 斯机器人账户、推特账户、各种虚假信息活动也支持埃尔多 安，因为克勒奇达尔奥卢在民意调查中保持微弱领先。另一 位候选人因杰声称自己是网上伪造的“性格暗杀”的受害者 并退出竞选。《卫报》报道，因杰声称所谓性爱录像带是使

社会事件或司法案件的看法，从而间接或直接影响社会舆论乃至司法判决。以下 是一些常见的手段和方法： 干扰手段和方法： 制造话题：通过社交媒体平台发布与案件相关的敏感或争议性话题，引起公 众讨论。 舆论引导：利用网络水军或机器人账号发布大量支持或反对某一立场的信息，试图塑造公众意见。 虚假信息传播：发布未经证实的消息或假新闻，误导公众判断。 情绪化宣传：利用情感化的语言和图片视频材料来激发网民的情绪反应。 人身攻击：

转向一种 全新的战争模式，无人机和自主系统将扮演核心角色。随着 无人机技术和人工智能技术的进步，无人机可能达到全自动 执行任务，这种能够自己做决定甚至杀人的全自动无人机已 经进入实测阶段，机器人战争正在逐渐走进现实。无人机等 自动技术已经从根本上改变了战争的地理界线，国际和国内 安全规范之间的界限也已经变得模糊。 国家倾向将数字空间改造成一个可以征服的战场。国际 关系理论中，可以通过对某些问题进行特别的概念修饰，进