2025年2月3日，德国全球与地区问题研究所发布文章《人工智能时代社交媒体的系统性操纵》（Systematic manipulation of social media in the age of AI）。该文章深入探究了人工智能技术对社交媒体操纵行为的影响，以及这一现象给民主社会带来的潜在威胁。
系统性操纵的基本概况
文章指出，现代社会的民主制度建立在公民能够获取可靠信息，并以此为依据做出明智决策的基础之上。但近年来，人们的信息消费行为发生了变化，社会极化现象也愈发严重，这使得社交媒体逐渐成为操纵信息、影响公众舆论的重要手段。特别是在人工智能技术迅猛发展的大背景下，社交媒体上的操纵手段对民主制度构成了严峻挑战。根据“爱德曼信任度晴雨表”（Edelman Trust Barometer）的数据，2023年至2024年，德国民众对媒体和政府机构的信任度分别从48%降至47%，从47%降至42%。
系统性操纵的架构
社交媒体操纵行为背后有着复杂的架构，涉及技术基础、心理机制以及各类行为主体的协同作用。
从技术层面来看，社交媒体依靠多层次算法来决定用户看到的内容，其目的是实现用户参与度的最大化。那些具备高超算法运用能力的政治行为主体，能够通过协调一致的行动，让特定内容获得更高的曝光度和更广的传播范围。
在心理层面，操纵者会利用确认偏差、发布情绪化内容等手段，引发用户强烈的情感反应，进而提高相关内容的传播力度。
在行为主体层面，网红成为了信息的高效传播者，政治团体则擅长组织大规模的集体在线动员。此外，极端组织等新兴力量也融入到这种新的传播架构之中。这些处于操纵架构核心位置的行为主体，通过相互配合、协同行动，借助平台算法实现信息的快速传播与广泛扩散。
系统性操纵的策略
如今，社交媒体的系统性操纵已发展成为一种融合了人工智能技术、跨平台协作以及算法优化的复杂策略。
例如，德国选择党制作的竞选广告，就是利用人工智能生成内容，成功引发了民众强烈的情感反应。印度人民党利用收集到的选民数据，结合人工智能生成的信息，不断优化自身的宣传策略。俄罗斯在摩尔多瓦和罗马尼亚开展的混合影响行动，也充分展现了虚假信息传播活动具有的巨大破坏力。
这些操纵策略还会借助 “黑暗模式” 和 “黑暗社交” 等方式，避开公众的监督。同时，通过对算法的利用，制造出虚假的曝光热度，对民主选举的公平公正构成严重威胁。
对民主制度的影响
社交媒体的这些系统性操纵行为，给民主制度带来了深远影响。一方面，信息空间出现碎片化和极化现象，这极大地削弱了社会达成共识的能力；另一方面，公众对民主机构的信任持续遭到侵蚀，极端思想也逐渐在社会中蔓延，一些极端立场甚至开始被部分人接受。
应对策略
为了有效应对这些挑战，需要制定一套多维度的应对方案。短期措施方面，可制定政党行为规范，要求对人工智能生成的内容进行明确标识，以此防止误导性信息对选举结果产生不当影响。长期策略方面，需要加强公众教育，提升人们对社交媒体操纵手段的认知水平；推动多利益相关方的合作，共同识别并应对人工智能技术带来的风险，同时制定更为透明的算法规则和数据使用规范。
只有通过技术改进、监管强化以及社会各方共同努力等综合性措施，才能切实应对社交媒体系统性操纵给民主制度带来的挑战，维护公共舆论的真实性和社会的凝聚力。
※ 报告全文：
https://dgap.org/de/forschung/publikationen/systematische-manipulation-sozialer-medien-im-zeitalter-der-ki-0
来源｜德国全球与地区问题研究所官网
编译｜张羽翔
审核｜唐巧盈
声明：本文来自上海市人工智能与社会发展研究会，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
