Disinformation的研究进展、利益分析及应对——基于CiteSpace和5W2H分析法

以Web of Science数据库核心合集收录的1993篇文献为研究对象,采用CiteSpace可视化软件梳理Disinformation的研究动态和演进过程,使用5W2H分析法探讨Disinformation的潜在利益、传播动机等具体内涵。结合文献分析总结演化规律并对所预设的7个问题进行系统性回答,就我国Disinformation的概念认知和信息迷雾治理提出建议。

论中国语境下Disinformation概念的对接、转换与重新阐释

[目的/意义]针对中西方理解与应用Disinformation概念存在较大差异这一现状,提出中国语境下这一概念的对接、转换与重新阐释,为围绕中国问题开展Disinformation研究创造条件,进而在我国开辟新的研究领域。[方法/过程]梳理分析中西方理解Disinformation概念的差异,然后基于这一概念的3种基本属性,提出Disinformation概念进入中国语境的基本路径,即"对接→转换→重新阐释"。[结果/结论]"信息""误导""意图"3种属性及施众、受众两个要素,是中西方Disinformation概念对接、转换的基础和依据;从"信息"和"信息活动"两个角度,提出中国语境下Disinformation概念的两种定义,Disinformation则译为"误导性信息"或"信息误导与反误导"。Disinformation概念经重新阐释,可应用于研究中国社会现象,解决中国现实问题。

生成式人工智能虚假信息风险与治理研究

以ChatGPT为代表的生成式人工智能改变了人机交互、信息获取、信息传播的方式,但大语言模型的“幻视”问题也给虚假信息治理带来了新的挑战。训练数据瑕疵、算法黑箱以及大语言模型的“涌现能力”等因素致使虚假信息风险呈扩大趋势,对个人权益保护、社会稳定以及国家安全构成了严重威胁。《生成式人工智能服务管理暂行办法》明确要求不得利用生成式人工智能生成虚假信息,但在虚假信息的监管主体、监管职责及法律责任等方面缺乏具体规定,不足以有效应对生成式人工智能下的虚假信息风险。为破解当下困局,应当秉持包容审慎的治理态度,立足我国法治实践现状,从规范体系、治理主体、责任承担和制度环境等维度构建生成式人工智能虚假信息的治理框架。

深度伪造视频中的信息特征萃取及其关联计算

[研究目的]人工智能的快速发展为深度伪造信息识别研究带来了新的挑战,通过精细萃取深度伪造信息特征和充分挖掘信息特征的关联机制,可以为人工智能生成信息治理提供科学的参考依据。[研究方法]以217条国内外深度伪造案例视频为研究对象,利用程序化编码萃取深度伪造视频的信息特征,运用复杂网络和随机森林算法揭示信息特征的结构关联和影响关联,并构建融合深度伪造信息特征及关联计算的动态理论模型。[研究结论]结果发现深度伪造信息具有预警特征、技术特征、内容特征和参与特征4个聚合维度、12个二阶特征和125个子特征,其中技术特征和预警特征是区别于一般虚假信息的独特特征。预警特征是结构关联网络中的关键节点,与技术特征强关联;参与特征和内容特征结构关联度高;深度伪造告知和技术与深度伪造信息关注度之间存在强烈的关联性。

生成式人工智能虚假信息协同共治研究

[研究目的]生成式人工智能虚假信息泛滥严重阻碍了互联网行业健康发展,协同共治有助于抑制生成式人工智能虚假信息。[研究方法]本研究从信息生成视角入手,构建“政府—生成式AI服务提供者—生成式AI服务使用者”三方协同共治演化博弈模型,进行仿真分析。[研究结论]研究结果表明,博弈主体协同共治策略受所有主体初始意愿影响;在成本支出方面,合理区间内降低技术治理成本和积极监管成本可促进生成式AI服务提供者和政府参与协同共治;在奖惩机制方面,政府奖励和惩罚措施可相互调节,且政府惩罚重心偏向生成式AI服务使用者时治理效果较好。同时,与政府惩罚相比,生成式AI服务使用者对提供者惩罚更加敏感,在合理区间内生成式AI服务提供者对政府奖励更为敏感;在社会形象方面,与公信力损失相比,政府对公信力提升更敏感。与声誉损失相比,生成式AI服务提供者对声誉提升更敏感。

计算伦理与数字道德——AGI时代的人文主义与数字人文

AGI时代,计算伦理与数字道德成为人类社会面临的新挑战。本文通过分析AGI时代的人文主义与数字人文,探讨计算伦理与数字道德需要解决的问题,以及AGI对人文主义价值带来的冲击与挑战。通过分析AGI时代人文主义风险的类型,本文提出AGI时代数字人文的核心问题在于重塑伦理道德的数字边界,并在负责任的AI框架下构建计算伦理和数字道德体系。文章最后,作者认为图书馆是AGI时代的人文主义堡垒。在人工智能快速发展的背景下,图书馆工作者应保持清醒。图书馆有责任和义务维护数字伦理,需要制定和遵守一系列伦理准则和政策,关注数字公平问题,确保AI系统符合伦理和法律标准。

融合用户传播风险和节点影响力分析的虚假信息传播控制方法

在线社交网络中虚假信息传播蔓延成为当前网络空间安全治理面临的重要挑战。提出一种融合用户传播风险和节点影响力分析的虚假信息传播控制方法DDC-UPRNI(disinformation diffusion control method integrating user propagation risk and node influence analysis)。综合考虑虚假信息传播特征空间的多样性和复杂性,通过自注意力机制实现用户传播虚假信息行为维度、时间维度和内容维度特征的嵌入表示,运用改进的无监督聚类K-means++算法实现不同用户传播风险等级的自动划分;设计一种自适应加权策略实现对离散粒子群优化算法的改进,进而提出一种基于离散粒子群优化的虚假信息传播关键节点选取方法,用于从具有特定传播风险等级的用户节点集合中选取若干个具有影响力的控制驱动节点,从而实现精准、高效的虚假信息传播控制;基于现实在线社交网络平台上开展试验,结果表明,所提出的DDC-UPRNI方法与现有算法相比,在控制效果和时间复杂度等重要指标上具有明显优势。该方法为社会网络空间中的虚假信息管控治理提供重要参考。

生成式人工智能的虚假信息风险特征及其治理路径

[目的/意义]生成式人工智能改变了网络空间的信息生成模式,由人工智能生成的虚假信息不仅数量庞大且有高拟真性,诱发严峻的虚假信息风险,亟须从把握发展与安全平衡的角度提出生成式人工智能虚假信息风险的治理方法。[方法/过程]归纳生成式人工智能的虚假信息现实问题和未来风险,提出生成式人工智能对现有虚假信息治理体系的挑战,进而明确生成式人工智能虚假风险的治理路径。[结果/结论]机制建设层面,建立虚假信息协同治理机制,通过战略规划统一“虚假信息”的规范概念,并传导至法律制度与网络信息内容执法实践获取。多元治理层面,鼓励多元主体参与事实核查工作,赋予信息发布与传播者以人工智能生成内容(AIGC)标识义务,并通过学校教育与资源渠道拓宽等措施提升公民信息素养。科技方法层面,从生成式人工智能科技底层降低虚假信息风险,并要求生成式人工智能服务提供者配备必要的虚假信息鉴别科技和获取渠道。

生成式人工智能视域下虚假信息的层级化运作机理与治理

生成式人工智能在信息生产和传播中的应用促使信息秩序发生变迁,极大地便利了虚假信息的生成与传播。文章聚焦生成式人工智能视域下虚假信息的运行机理,主张对其实施层级化精准治理,即在创设层注重把关,以链式监测、分级管理的数据准入制度,共创新型把关进路,将虚假信息抑制在源头;在撒播层注重研判,消除对话界面所置入的虚假信息落点,并对创设层中浮现的虚假信息进行信息标签的显性呈现与数字水印的隐性嵌入,将虚假信息困囚于对话界面之中,形成扩散阻碍;在流通层注重处置,消除虚假信息的可见性,优化算法对虚假信息的自动化决策过程,借助政府、媒体等公共力量,释放真实透明的媒介信息,形成机动化的虚假信息遮蔽机制,强化信息治理效能。

反射控制:一个信息操纵理论的形成、发展与应用研究

[研究目的]反射控制方法可以影响决策者思维及其决策过程,研究反射控制理论的发展及应用,对了解信息操纵活动提供理论参考。[研究方法]通过系统性的文献梳理方法,梳理了反射控制理论的形成和发展过程,探讨了反射控制理论可解释利用欺骗性信息操纵对方决策的过程,揭示了该理论在当下的应用价值。[研究结论]反射控制面向的是对方思维和决策过程中的信息处理活动,核心是利用对方信息“过滤器”中的薄弱环节进行反制,关键是要适时地向对方传递操纵其决策的欺骗性信息。该理论率先由原苏联地区的研究人员提出,被克格勃推崇为苏联的情报战略而得到广泛的应用,在美苏冷战中逐渐形成了一套具有实施原则、方法、要素、步骤与流程模型的理论体系,是信息战中的关键理论武器,对当下的信息操纵活动依然有一定的解释价值,能够为建立有效的防御体系提供指引。

关键节点双目标优化的虚假信息传播控制模型

虚假信息传播控制是全球网络空间安全治理的热点领域。针对目前在线社交网络中的虚假信息传播控制研究,尚未考虑对关键节点集控制所产生的成本开销这一实际问题,提出了一种基于关键节点双目标优化的虚假信息传播控制模型。首先,根据用户节点在社交网络1-hop和2-hop区域的传播影响力以及节点的度中心性、k-shell等多种复杂网络特征,对两个优化目标(控制效果和控制成本)进行数学形式化表示;其次,设计一种融合自适应非线性策略的位翻转变异算法,实现对离散搜索空间的第2代非支配排序遗传算法改进,并将改进后第2代非支配排序遗传算法用于虚假信息传播关键节点集的选取,从而实现虚假信息传播控制效果最大化,控制成本开销最小化;最后,通过在真实在线社交网络平台上开展实验,分析模型参数对控制成本和控制效果的影响。实验结果表明,该模型与现有方法相比,在控制成本和控制效果的组合指标R TCTE上具有明显的优势。该模型适用于大规模复杂社交网络下最低成本的虚假信息传播控制。

武器化攻击背景下的生成式虚假信息威胁情报发现研究

[研究目的]对相关威胁情报发现工作进行实证研究,探索生成式虚假信息的武器化作用机理以及防范措施,为相关个体提供参考。[研究方法]首先,设计生成式虚假信息的武器化攻击活动识别方案,集中于三个部分,分别是生成式虚假信息判断、武器化攻击活动特点解析、识别标准建立及总体流程确定;其次,建构威胁情报发现模型,论述其建构基础并从威胁态势、威胁规模及威胁程度三个方面予以落实;最后,为检验识别方案及情报发现模型有效性,以“巴以冲突”下的Telegram群组空间为例进行实证分析。[研究结论]识别方案及情报发现模型均能取得预期结果,相关个体及部门在今后的生成式虚假信息的防范工作中应当做到细化识别方案、优化情报模型、量化关联指标以及深化洞察方略。

舆论战视角下的美国反虚假信息议题建构及启示

[目的/意义]近年来美国持续加大对外舆论战攻势,在此背景下对美国反虚假信息议题进行深入分析有助于我国在国际上破除美国话语霸权并提前做好战略反制。[方法/过程]以2016年以来美国国会和政府机构公开的反虚假信息议题相关法案和政策文件报告为分析对象,采用文献分析法和案例分析法,分析议题的话语特征,探究议题建构行为背后的战略意图。[结果/结论]美国反虚假信息议题服务于其地缘战略和国家安全战略,也是其对外开展舆论战输出美式民主价值观念的重要手段之一,对此我国应及时揭批美国建构反虚假信息议题的意图,在加强中国特色话语叙事体系建设的同时进一步深化虚假信息治理合作,完善对美舆论战应对机制。

图书馆参与信息迷雾治理的实践框架及整体性思考

信息迷雾指有意传播虚假信息以误导社会公众的信息现象,是当前网络舆情与国家信息安全治理的难题与痛点。网络时代的信息迷雾困境是图书馆发展面临的重大挑战。本文通过界定信息迷雾概念、厘清信息迷雾基本认知,结合文献调查法、网络调研法总结现有研究与实践基础以提出图书馆参与信息迷雾治理的实践框架,为我国图书馆参与信息迷雾治理提供参考借鉴。研究发现,图书馆参与信息迷雾治理可从资源、用户、技术、管理4个维度着手,主要策略包括构建专题化资源导航、设立针对性培训课程、完善可行性操作方法、建立标准化行动指南,还需从顶层部署设计、专业权威重构、思维认知重塑、信息技术迭代、多元协作共治5个方面来保障实践框架的应用。

生成式人工智能与美国总统大选隐忧

随着2024年美国总统大选活动的日益临近,生成式人工智能技术被越来越多地应用于两党政治竞选活动中。两党总统候选人及其竞选团队通过不断提升生成式人工智能技术的助选能力,并将其与互联网、社交媒体、大数据分析技术相互融合,开展政治营销、竞选宣传、选民互动、选情分析及其竞选策略调整等活动。然而,生成式人工智能技术使得虚假信息呈现病毒式传播,令选民沉浸在“不确定的信息环境”中,进而难辨其真伪,干扰选民判断和投票选择,威胁选举进程的公正性和安全性。可以预见,生成式人工智能正悄然改变美国政治竞选的模式和“游戏规则”,使得美国选举政治和民主进程呈现出前所未有的政治景象。

深度伪造技术的特征、风险与反制路径

从深度伪造的技术内涵、应用风险、规制路径三个层面入手,通过对近年来国内外研究文献的梳理与归纳,立足新闻传播学科,对深度伪造技术及其应用影响下的媒介素养教育进行综述。在技术内涵层面,深度伪造作为颠覆性技术异化的典型代表,因具备“强欺骗”与“难反制”两大技术特质而饱受争议,被更多地视作威胁与挑战,积极用途不被重视;在应用风险层面,深度伪造技术生成的深度虚假信息会加重媒体信任危机与信息安全威胁,但也启发了一个区别于技术反制与法律监管的灵活对抗思路——利用媒介素养教育降低深度伪造的负面影响;在深度伪造影响下的媒介素养教育层面,深度伪造媒体与媒介素养教育的结合存在培养媒介批判精神、提升辨识能力的可能,但相关实证研究目前还处于初步探索阶段,关于如何形成可行性策略仍需要进一步证实和挖掘。化被动为主动,利用颠覆性争议科技更好地促进人的素质提升和能力发展,变技术异化困境为媒介素养提升的契机,避免人被人工智能驱动的媒体欺骗和操纵,是传播学界在新兴媒介技术蓬勃发展以及智能传播时代需要积极面对和深耕的问题。

人工智能时代的全球虚假信息治理

生成式人工智能技术的迅猛发展在提升生产力的同时也极大降低了虚假信息生产与传播的门槛,对全球信息生态和社会稳定构成了严峻挑战。生成式人工智能技术从内容生产、传播渠道和舆论环境三个维度强化了虚假信息的制造与传播。但另一方面,人工智能技术也可从虚假信息检测、内容过滤与审查、数据分析与预测方面助力虚假信息治理。最后,当前全球虚假信息治理有三条主要路径:以中国、美国和欧盟为代表的国家治理模式,以技术创新和合作共治为核心的企业治理和以提升媒介素养为目标的社会治理路径。

Fake News Classification: Past, Current, and Future

The proliferation of deluding data such as fake news and phony audits on news web journals,online publications,and internet business apps has been aided by the availability of the web,cell phones,and social media.Individuals can quickly fabricate comments and news on social media.The most difficult challenge is determining which news is real or fake.Accordingly,tracking down programmed techniques to recognize fake news online is imperative.With an emphasis on false news,this study presents the evolution of artificial intelligence techniques for detecting spurious social media content.This study shows past,current,and possible methods that can be used in the future for fake news classification.Two different publicly available datasets containing political news are utilized for performing experiments.Sixteen supervised learning algorithms are used,and their results show that conventional Machine Learning(ML)algorithms that were used in the past perform better on shorter text classification.In contrast,the currently used Recurrent Neural Network(RNN)and transformer-based algorithms perform better on longer text.Additionally,a brief comparison of all these techniques is provided,and it concluded that transformers have the potential to revolutionize Natural Language Processing(NLP)methods in the near future.

中美竞争中信息迷雾特征的感知研究

[研究目的]信息迷雾治理是事关国家安全和稳定的重大问题。研究信息迷雾,感知信息迷雾的特征,对于中国在国际竞争中获取优势具有重要的理论和现实意义。[研究方法]运用传播学中的“3W1H”分析法,构建信息迷雾的情报感知分析框架;基于内容分析法,以中美竞争为切入点,对拜登执政后美国制造的同中国有关的信息迷雾进行感知研究。[研究结论]揭示了中美竞争中信息迷雾在源头层面、目的层面、手段层面、内容层面的主要特征,针对这些特征提出了中国应对和治理信息迷雾的相应措施。

互联网环境下失真健康信息研究进展

互联网环境下以微博、微信等为代表的社交媒体成为健康信息传播的主要渠道,失真健康信息(health misinformation)现象逐渐引起业内学者的广泛关注。本研究对现有相关研究文献进行综述,旨在推动失真健康信息传播机制与协同治理方案的研究,促进互联网健康信息生态环境的优化。首先,从失真健康信息概念内涵以及研究主题进行研究现状的梳理;其次,从失真健康信息的传播、识别以及干预3个方面进行文献述评;最后,归纳总结互联网环境下失真健康信息研究的不足和未来展望。