论夺取叙事：面向网络素养的社交媒体操纵兵棋推演

📊 论文图表(共 3 张)

展开查看 3 张图

‹ ›

TL;DR

本文介绍了一项名为"夺取叙事"（Capture the Narrative）的创新教育实验：研究者设计了一个为期四周的多校际竞赛，让学生在模拟社交媒体平台上构建大语言模型驱动的机器人来影响一场虚拟选举。108支团队在竞赛中产生了超过700万条帖子，但调查结果却出人意料——学生并未因此提升识别机器人的自信，而大多数团队选择了高产量发帖而非精细化的影响操作，这种行为模式恰好复制了现实社交媒体平台的运作逻辑。

研究背景与动机

错误信息的泛滥早已不是新鲜话题，但近年来的态势愈发严峻。在全球性事件期间，约五分之一的网络帖子由专门放大虚假内容的机器人生成，这些自动化账号如同数字世界中的"噪音制造者"，不断搅动着公共话语的水面。更值得关注的是，以大语言模型为代表的生成式人工智能技术的迅速成熟，进一步降低了制造具有说服力的错误信息的门槛——如今，任何人只需几行提示词就能让AI吐出一条看起来言之凿凿的假新闻。

面对这一威胁，当前的数字素养教育却显得力不从心。大多数网络安全素养课程仍然依赖为早期媒体环境设计的静态检查清单：不要点击可疑链接、核实信息来源、警惕夸张标题。这些清单式的方法或许在传统媒体时代尚能奏效，但在算法推荐和个性化推送主导的社交媒体环境中，它们的局限性日益暴露。此外，既有工具多为单人接种游戏，学生在隔离的虚拟环境中学习识别虚假信息，却从未体验过虚假信息是如何被制造、被传播、被放大的。

本文的研究者认为，要真正提升学生的网络媒介素养，必须让他们从信息操控者的视角理解这场游戏。于是，一个大胆的设想应运而生：与其告诉学生"错误信息是危险的"，不如让他们亲手"制造"一次错误信息冲击，亲身体验信息操纵的运作机制与局限。"夺取叙事"竞赛正是这一教育理念的产物。

方法

"夺取叙事"的核心设计是一场持续四周的多校际竞赛，参赛团队需要构建由大语言模型驱动的机器人（即"玩家机器人"），在模拟社交媒体平台上发布内容、塑造舆论，最终影响一场虚拟选举的结果。研究者为这场竞赛搭建了完整的定制平台，模拟了真实社交媒体的交互逻辑和环境动态。

平台中最为关键的设计是4000个AI驱动的非玩家角色（NPC）公民。这些NPC并非被动的信息接收者，而是具有独立"人格"、政治倾向和社交行为的智能体。每个NPC拥有自己的背景故事、立场偏好和信息接收模式——有些对政治话题漠不关心，有些则是坚定的意见领袖，有些容易被情绪化的内容说服，有些则对虚假信息高度免疫。当玩家机器人在平台上发布内容时，NPC会根据其内容特征、发布时间、互动模式以及自身属性做出反应：点赞、转发、评论，或是直接忽略。这些反应会进一步影响NPC的后续行为和态度倾向，形成一个动态演化的话题生态。

竞赛的游戏化机制包括评分系统、排行榜和虚拟奖励。团队的表现不仅取决于其机器人最终影响了多少NPC的态度，还取决于帖子获得的互动量、话题参与度等指标。这种多维度的评价设计旨在鼓励团队探索不同的策略组合，而非单纯追求某一极端目标。

研究者还为参赛学生提供了技术支持和培训资源，帮助他们理解大语言模型的工作原理、提示工程的基础技巧以及社交媒体信息传播的一般规律。竞赛结束后，平台积累的日志数据被用于后续分析，学生则参与了问卷调查，以了解他们对错误信息及游戏本身的认知变化。

实验与结果

首届"夺取叙事"竞赛吸引了来自澳大利亚18所大学的108支团队参与。在为期四周的竞赛周期中，这些团队共发布了约706万条帖子，这一数字约占平台全部内容的60%。也就是说，玩家机器人生成的内容已经成为了这个模拟社交媒体世界的主导声音，而4000个NPC之间原本的自然互动只占据了剩余40%的空间。

然而，结果调查揭示了一些耐人寻味的发现。研究者分别在竞赛前后对参与者进行了问卷调查，收集了256名学生在赛前和83名学生在赛后的有效反馈。调查的核心问题之一是：学生自认为识别机器人的能力是否有所提升？按照传统的接种理论预期，经过这样一场沉浸式的对抗训练后，学生应该对机器人行为模式有了更深入的理解，从而在识别能力上表现出更高的自信。但调查结果却与预期相悖——学生并未显著变得更加擅长发现机器人。

研究者分析，这一结果可能与竞赛的设计有关。当学生自己也在构建机器人时，他们的注意力被引导至"如何让机器人更像真人"，而非"真人如何识别不像真人的机器人"。竞赛中的高强度实践让学生沉浸在制造者的思维模式中，反而削弱了批判性审视的视角。

更有意思的发现来自对团队行为策略的分析。大多数团队选择了高产量发帖策略——用海量的帖子淹没平台，而非精心打磨每一条内容的质量和说服力。这一行为模式直接复制了现实社交媒体平台上的"垃圾信息"逻辑：当互动量被纳入评分标准时，追求规模化成为最直接的优化路径。这种策略在真实世界中的后果同样显而易见：大量低质量内容稀释了优质信息的传播空间，平台生态被噪音所污染。

讨论与可借鉴点

"夺取叙事"是一次有价值的教育创新尝试，它揭示了游戏化对抗训练在网络素养教育中的潜力与局限。研究者的核心发现指向了一个关键问题：让学生扮演信息操纵者，是否真的能帮助他们成为更清醒的信息消费者？

从局限性来看，本次实验的规模相对有限，赛后问卷的样本量也显著小于赛前，这种衰减可能影响了结果的统计效力。此外，竞赛周期内的学习效果是否具有持久性、能否迁移至真实社交媒体环境，都还需要更长期的追踪研究。研究者也坦承，平台中NPC的行为模式虽然经过精心设计，但与真实网民的复杂性相比仍有差距，竞赛情境的"人造感"可能削弱了参与者的心理投入。

基于这次探索，研究者提出了若干改进方向。其中最值得关注的是增设"蓝队防御阶段"的设想：在竞赛的后半段，团队的任务从"进攻"转为"防御"——他们需要识别并对抗其他团队投放的机器人，或是在平台上建立反制虚假信息的基础设施。这一设计有望弥补当前版本中"制造者视角"过度强化的问题，让学生同时体验攻防两端，从而形成更平衡的认知框架。

对于有意开展类似干预的教育工作者，本文提供了几点务实建议：技术基础设施的建设成本不容低估，平台需要足够稳定以支撑大规模并发交互；NPC的设计要兼顾真实感和可观测性，既要让玩家感到"他们在与真人互动"，也要让研究者能够从日志中提取有意义的行为模式；评分机制的设计需要格外审慎，因为参赛者的策略选择会高度响应激励结构——正如本次竞赛所示，当互动量被纳入奖励体系时，高产量策略几乎不可避免。

从更宏观的视角看，"夺取叙事"的尝试呼应了当前网络素养教育领域的一个新兴趋势：不再是单向地告诉用户"什么是假的"，而是让他们理解"假的是如何被制造和传播的"。这种范式转移的底层逻辑是[[对抗性思维训练]]——通过亲身参与信息博弈，参与者能够建立起对操纵手段的"免疫记忆"。当然，如何设计这种训练使其真正转化为可迁移的批判性思维能力，而非仅仅是一场有趣的模拟游戏，仍是留给后续研究的重要课题。

摘要

错误信息已深深嵌入网络话语之中。在全球性事件期间，近五分之一的帖子由放大虚假内容的机器人生成。近年来，生成式人工智能的使用进一步降低了制造具有说服力的错误信息的门槛，但大多数数字素养教育仍依赖为早期媒体环境所构建的静态检查清单和单人接种游戏。本文阐述了我们如何通过一项名为"夺取叙事"（Capture the Narrative）的为期四周的多校际竞赛来填补这一教育空白——在该竞赛中，学生团队构建由大语言模型驱动的机器人，以影响一场模拟选举。我们报告了我们的定制社交媒体平台、竞赛环境及其由4,000个AI驱动非玩家角色（NPC）公民的设计，并介绍了大规模运行"夺取叙事"竞赛的实际工作。在我们的首届竞赛中，来自18所澳大利亚大学的108支团队共发布了7,068,206条玩家机器人帖子，约占平台全部内容的60%。我们在竞赛前后分别调查了256名和83名学生，以了解他们对错误信息及游戏本身的认知。结果发现，学生并未在识别机器人方面变得更加自信，这与接种理论的预期相反。由于参与度会获得奖励，大多数团队将高产发帖置于精细化影响操作之上，这反映了现实世界中的平台动态。最后，我们为考虑开展类似干预措施的教育工作者提出了建议，并提出了未来的改进方向，例如增设蓝队防御阶段。

Abstract

Misinformation is deeply embedded in online discourse, with nearly one in five posts during global events generated by bots that amplify false content. In recent years, the use of Generative AI has further lowered the barrier to producing convincing misinformation, yet most digital literacy education still relies on static checklists and single-player inoculation games built for an earlier media landscape. This paper describes how we addressed this educational gap through Capture the Narrative, a four-week multi-university competition in which student teams build LLM-powered bots to influence a simulated election. We report on our custom social-media platform, the competition environment and design of its 4,000 AI-driven Non-Player Character (NPC) citizens, and what running Capture the Narrative at scale actually involved. In our first iteration, 108 teams from 18 Australian universities produced 7,068,206 player-bot posts, approximately 60% of all platform content. We surveyed 256 students before and 83 after the competition to understand their perceptions of misinformation and the game itself and found that students did not become more confident at spotting bots, contrary to what inoculation theory predicts. Because engagement was rewarded, most teams prioritised high-volume posting over nuanced influence, mirroring real-world platform dynamics. We close with recommendations for educators considering similar interventions, and propose future improvements, such as including a blue-team defensive phase.