算法推荐场域中的意识形态安全风险防控机制研究

随着数字智能技术的蓬勃发展,由算法推荐技术构建的算法推荐场域已成为人们获取信息的重要来源地,因此可通过根本立场方向、话语解释权力、信息呈现样态和信息筛选分发模式等路径深刻影响意识形态建设。当前,多样错误价值对主流意识形态的置换、技术中立对价值观念内核的隐藏、资本逻辑主导对人本逻辑回归的梗阻和特定信息投送对整体事实面貌的遮蔽共同呈现了算法推荐场域中意识形态安全的风险样态。针对此,必须协同构建主流价值引领机制、算法素养培育机制、算法技术管理机制和算法法律规制机制,有效防控算法推荐场域内的意识形态风险,维护意识形态安全。

算法推荐技术赋能青少年民族团结进步教育的逻辑理路、价值意蕴与实践路径

算法推荐技术是引领新时代青少年民族团结进步教育高质量开展的新兴力量。算法推荐技术与青少年民族团结进步教育在条件、过程、结果上的关联耦合,为充分发挥算法推荐技术的积极功能,提升青少年民族团结进步教育实效,提供了适切性与可行性。通过精准传递、精准生产、精准过滤等优势赋能,算法推荐技术可以助力青少年民族团结进步教育实现对象大众化、内容智慧化和方式生活化。深化算法推荐理念认识、加强算法推荐素养教育、健全算法推荐技术规范,可以促进算法推荐技术势能充分释放,使之成为青少年民族团结进步教育现代化的强大技术支撑。

“共赢”vs.“牺牲”:道德消费叙述框架对消费者算法推荐信任的影响

消费者在做出道德消费选择时,要面对丰富的道德产品,复杂地权衡功利利益和道德利益。算法决策推荐可以减轻道德消费决策的复杂性,但是消费者在涉及道德伦理的权衡决策中对算法存在不信任,因为算法是一种典型的以功利论来处理道德权衡问题的方式。本研究提出采用“共赢”(vs.“牺牲”)叙述框架对道德消费中的算法推荐信任有积极影响,消费者对功利论式道德观念的接受程度中介了上述积极效应。实验1发现“共赢”(vs.“牺牲”)叙述框架会增加消费者选择算法推荐的意愿。实验2验证了“共赢”(vs.“牺牲”)叙述框架对消费者算法推荐信任的正向影响,以及功利论式道德观念接受度的中介作用。实验3进一步识别了上述影响的边界条件,即道德消费的“共赢”(vs.“牺牲”)叙述框架仅会增强消费者对算法替代型决策推荐的信任,但是并不会改变消费者对于算法增强型决策推荐信任。

数字时代的“表达”:算法推荐的信息干预及其法治化因应

算法正位于生活的中心,算法推荐服务所带来的隐性信息干预隐含着侵蚀表达自由的风险。数字时代“表达”的结构已发生更迭,保护“表达”所依赖的信息基础尤为重要。算法推荐领域保护“表达”的二阶规范渊源分别为契约与立法,契约责任面临有限的意思自治与公法属性权利让渡的悖论,走向“算法治理”的立法规制则面临执行的困境。宪法基本权利第三人效力及我国社会主义性质宪法“合作的基本权利”结构为宪法基本权利条款的介入提供了法理依据。宪法为划定政府、平台责任边界提供根本依据,宪法基本权利条款的新内涵能够指导规则体系的生成及运行,有利于形成统一的法秩序。将算法推荐规则纳入合宪性审查、备案审查的制度体系内,能够实现平台权力与国家权力的衔接统合。

智能算法推荐背景下高校网络意识形态安全建设的重点及策略

作为描述将输入转化为所要求的输出的过程,计算机算法具有很强的目的性。智能算法推荐一定程度上个性化地预置了人们在互联网学习、浏览的内容,进而影响人们的判断和观点。随着智能算法推荐技术应用不断深入,其价值引导功能越来越不容忽视,给高校网络意识形态安全建设带来了新挑战。在此背景下,抵御非主流意识形态网络化渗透与传播,强化法学、新闻学、经济学等学科价值导向,防范计算机信息安全相关专业技术滥用等成为高校网络意识形态安全工作新重点。需要从健全网络意识形态工作体系、提升网络意识形态安全意识、建强网络意识形态工作队伍、增强校园网络智能算法推荐的应用发展等方面,切实加强高校网络意识形态安全建设。

算法推荐场景中的社会共识涌现:流动、叠交、协作

算法推荐技术催生社会共识达成机制的变革。在算法的推荐中,同质群体自动聚合;在场景的流动中,人的身份呈现为叠交态;在场景和人的融合中,人的观念和行为表现为同时化;在场景的交往中,人与人之间积极进行着自组织。这些变革,使得人类可以基于个体之间基本属性的相似性建立话题共识,这是社会共识建构的起点。此外,场景的分布流动性,成为保持讨论与交流积极性的基础,一方面成为对抗信息茧房的有利武器,另一方面也有利于形成统一的程序共识,继而建立稳固的价值共识。场景与人的融合使共识的效用检验能够以行为为标准获得一个证成与否的及时答案。同时,推荐算法在社会共识达成上存在不足甚至是缺陷,通过推荐算法和共识算法的协作与融合可以有效提升对话和协作质量,助力社会共识达成。

互联网平台算法推荐的风险检视与法律规制

在大数据背景下,以精准推送和有效供给为特征的互联网平台算法革新了信息传播方式,与之相随的互联网平台算法推荐风险也愈渐突出,可能威胁到个体隐私和自由、损害互联网用户知情权与自主权等。我国虽然出台了相关法律法规,但算法的不透明性、隐蔽性和复杂性仍给个人、社会和国家带来了新的风险。立足我国基本国情,在利用好算法便利性的同时,检视算法推荐风险,完善算法推荐法律法规体系,加大对算法推荐的监管力度,从而平衡权利保护与科技创新。

算法推荐背景下网络服务平台过滤义务负担研究

算法推荐技术使得传统版权法体系受到冲击,“通知删除”规则在算法推荐背景下逐渐失灵,无法有效平衡版权人与传播者之间的利益关系,由此所形成的价值差将有损版权人的创作积极性进而严重阻碍互联网文化产业的发展。过滤义务既不是注意义务也不是普遍审查义务,而是一种特殊的版权审查义务,引入网络服务平台的版权过滤义务既有利于缓解现实矛盾,也符合法经济学、公共政策学及知识产权基本原则的基本理论。为了有效平衡版权人与传播者等相关主体的利益,过滤义务负担的标准不宜过高,应根据网络服务平台提供的不同服务类型,对版权人上传的作品类型及网络服务平台的预见能力进行综合设定,网络服务平台对于侵权行为的判断难度越高则其负担的过滤义务越低,反之亦然。

数智时代算法推荐风险的法律治理

算法推荐技术作为国家治理体系和治理能力现代化的关键引擎已被广泛应用,但也引发一系列问题,关乎公民、社会和国家利益。当前算法推荐的法律治理政策呈碎片化,治理效果不彰,迫切需要梳理以构建科学的算法推荐法律治理体系。通过扎根理论研究方法,揭示了五种算法推荐安全风险类型。基于此,构建了主体性法律治理、规则性法律治理和程序性法律治理三种工具,相互协同形成法律协同治理体系,提升算法推荐风险的法律治理水平。展望未来,需持续优化这三种工具的互动机制,规范算法权力行使以实现算法卸责,并推动算法透明度和可解释性的系统性建设。

用户对短视频平台算法推荐的感知研究——以抖音为例

随着我国网民规模不断扩大,短视频逐渐演化为网民生活中重要的娱乐休闲方式。因此,文章将抖音用户作为研究对象,以信息系统持续使用模型以及“感知-情感-意向”模型作为基础模型,采用文献分析法、问卷调查法及个案研究法,研究抖音用户对算法推荐的感知情况,并探讨算法推荐感知对其平台持续使用的影响路径。研究结果显示,不同学历的用户对抖音算法推荐原理具有不同程度的认识;收益感知、隐私感知及满意度都对用户的持续使用意愿产生直接影响;在自变量对持续使用意愿的影响过程中,满意度具有中介效应。根据研究结果,文章从抖音、用户与政府三个角度,针对促进个人与社会、个人与科技良性发展提出对策建议。

算法推荐场域下铸牢中华民族共同体意识的机遇、挑战与对策

互联网进化至以智能化数据分析为底基的时代,在未有人工干预的视界下群体心理的塑造逐渐被更为隐性的算法推荐所把控。一方面算法推荐降低了信息冗余和信息过载,提高了内容供给的精准度,有利于高效利用铸牢中华民族共同体意识中的优势资源;另一方面在算法推荐的隐形操作下,现实世界中因各种缘由被潜藏起来的各族民众的个性偏好,被赋予“理所应当”的存在意义,个人社交新闻传播媒介成为个性偏好发展的自留地,极易加高各族民众心理壁垒,阻碍主流价值传播,增加了铸牢中华民族共同体意识的难度。在算法推荐场域下铸牢中华民族共同体意识,应以主流价值驾驭算法,推进技术赋权与技术负责并举,加大优质内容发掘和供给。

算法推荐视域下青年爱国主义教育的困境及其超越

算法技术通过“智能推荐”潜移默化地重塑着青年的思想认知和行为方式,也为青年爱国主义教育带来新的契机和挑战。算法不仅为青年爱国主义教育的内容传播和效果提升提供了技术支持,而且为深入挖掘青年爱国主义话语资源、增进话语主体有效互动提供了动力。但是,由于工具理性的过分彰显,算法也潜藏着消解教育内容、割裂教育空间、疏离教育主体以及弱化教育效果的风险。弥补算法价值理性的缺失、发挥算法的技术优势,是摆脱当前青年爱国主义教育困境、进一步加强新时代意识形态安全教育的重要任务。为此,须从促进内容智能化传播、推动话语表达转换、设定算法的价值前提和加快教育方法革新等方面,探寻对算法推荐视域下青年爱国主义教育困境的实践超越。

从技术中立到科技向善:算法推荐服务提供者的注意义务

为提升服务效率与经济效益,数智时代的网络服务提供者已较为普遍且深入地内嵌了算法推荐技术,从而成为《互联网信息服务算法推荐管理规定》中的“算法推荐服务提供者”。针对算法推荐技术带来的侵权风险增加,技术治理原则应实现从技术中立到技术向善的转变,算法服务提供者应承担比一般网络服务提供者更高的注意义务。对其注意义务提高程度的判断应遵循比例原则,目前较为典型的5种算法技术呈现出“生成合成类、调度决策类、排序精选类、个性化推送、检索过滤类”介入平台内容的程度依次递减之类型序列,相应算法服务提供者的注意义务随之减低。在算法服务提供者适用红旗规则时,应考量“明显侵权”情形下的被动审查义务,并对其“知道或者应当知道”“采取必要措施”做出特殊解释。

解构与建构:算法推荐视域下主流意识形态建设理路

在智能时代,算法推荐成为人们获取信息、构建认知的重要途径,给主流意识形态建设带来新的机遇。然而,算法推荐技术并非单纯的工具技术,在实际应用过程中还扮演着意识形态的角色,产生技术异化,引发主流意识形态认同危机、安全隐患等方面的解构风险。规避算法推荐技术的意识形态风险,应从主体、价值、技术、载体、制度等层面,构建以公众素养为核心、以价值引领为根本、以技术变革为抓手、以载体创新为驱动、以制度建设为保障的立体化主流意识形态安全防线。

短视频平台算法推荐对青年价值观的影响及引导研究

青年处于价值观形塑的关键时期,作为短视频平台的主要用户,其价值观容易受到算法推荐的影响。算法推荐影响青年价值观的产生机制在于算法推荐将青年的信息选择倾向推向极致,固化青年群体价值观;过滤异质信息、构建拟态环境形塑青年价值观;汇聚同温圈层,强化群体回音同化并极化青年价值观。短视频平台算法推荐对青年价值观带来负面影响,促发青年群体的媒介依赖与信息成瘾,解构青年的主流价值观认同,降低青年群体的思考性和自主性,隐形控制青年群体的价值观念,并以泛滥的不良价值观信息误导青年群体。针对负面影响,需要厘清短视频算法推荐影响青年价值观机制中的多重关系与流程,回归算法推荐的技术服务性质,合力消弭短视频平台算法推荐对青年价值观的负面影响,发挥短视频平台算法推荐对主流价值培育的正向作用。

算法推荐视域下主流意识形态传播的境遇及善治之道

算法推荐视域下主流意识形态传播呈现出“形象化”“快速化”“智能化”等诸多特征,但也存在着“信息茧房”效应、“泛娱乐化”倾向、“去中心化”等问题。在此背景下,要通过规范算法推荐技术应用、建设优质内容供给平台、发挥主流媒体引领作用、打造算法推荐视域下主流意识形态传播队伍等路径,实现主流意识形态传播由信息推送向价值引导转变;由传统单向式传播向多元互动式传播转变;由线下被动式管理向线上主动式治理转变,以确保主流意识形态在算法推荐视域下的有效传播。

算法推荐时代青年政治认同隐忧与治理进路

作为一种广泛运用于资讯、社交、短视频等平台的新兴业态模式,算法推荐的勃兴为青年绘制了全新图景,同时也为青年政治认同带来了一系列隐忧。这些隐忧是算法技术扩张与青年主体遮蔽互动的结果,算法推荐的技术扩张引致的专属信息环境、社群空间区隔、算法技术依赖、去权威性传播等层面,为青年政治认同带来了固化认同思维、淡化认同情感、削弱认同能力、消解认同价值等隐忧。因此,着眼于新时代党对青年的政治领导力和思想引领力,应坚持国家安全与科技向善的基本原则,从技术、个体、制度与价值等维度,构建多要素的协同治理策略,从而助力新时代党对青年的政治领导力和思想引领力,促进算法技术有序健康发展。

融合·赋能·共创:区块链嵌入算法推荐的未来发展图景

[目的/意义]算法推荐的迅速发展与广泛应用颠覆了传统的信息分发模式,成为信息负载时代用户与内容精准匹配的重要工具。探索通过技术嵌入与人文弥合对算法推荐系统进行优化,促使其与社会发展有效融合尤为必要。[研究设计/方法]从价值、实践、目标视角切入,探讨区块链嵌入算法推荐的核心逻辑,以区块链的数据溯源、智能合约、激励机制等为技术支撑,深度赋能算法推荐的数据获取、隐私保护、风险预警和生态激励过程,从顶层设计、数据治理、监管评估和法律机制方面提出区块链嵌入算法推荐的实践路径,同时探讨区块链实际应用中可能面临的成本及复杂机理。[结论/发现]区块链为算法推荐系统的纵深发展提供了强大动力,可重构算法推荐的新模式与新业态,助力推荐系统实现多源跨域数据的可信共享与价值共创。[创新/价值]将区块链技术嵌入算法推荐系统,创新算法推荐系统的资源配置方式和内容生成模式,实现数据在算法推荐系统中的有序安全流动,为推动算法推荐的纵深发展提供新视角。

算法推荐赋能高校思想政治理论课精准育人研究

新时代背景下,强化高校思想政治理论课精准育人实效是提升思想政治教育针对性和亲和力,满足学生成长发展需求和期待的重要致思方向。作为一种全新的信息配置方式和技术手段,算法推荐展现出与高校思想政治教育理论课精准育人的深度耦合性。它既契合教育数字化发展的诉求,又契合主客体关系优化的期待,更契合高校思想政治理论课针对性提升的现实需要。在高校思想政治理论课实现精准育人过程中,算法推荐以信息分发的精准性和交互性特征助推高校思想政治理论课教学对象的精准识别、教学内容的精准供给和教学效果的精准反馈,从而展现出深刻的赋能逻辑。为实现算法推荐对高校思想政治理论课精准育人的正向赋能,需要在完善新型基础设施建设的支撑下,以强化教学制度与平台供给为保障,建立精准化、数智化素养培养体系,引导师生辩证看待技术的两面性,切实发挥算法推荐技术助力高校思想政治理论课精准育人的实效。

算法推荐平台版权注意义务:法理解构与规范路径

以危险控制力和损害原因力作为区分依据,网络平台版权注意义务包括消极的注意义务和积极的注意义务,体现为三种具体的类型:一是基于侵权信息明显程度的消极注意义务,二是基于平台运营方式所致较大侵权风险的消极注意义务,三是基于损害原因力的积极注意义务。算法推荐技术的运用虽未显著提升平台危险控制力,但基于拟态环境的塑造改变了平台与传播行为之间的损害原因力,故应当相应提升注意义务。内容过滤仅是算法推荐服务提供者注意义务的一个组成部分,且适用范围应有所限制;算法推荐服务提供者的注意义务应当从推送信息的选择、算法运作机理的设置和外部规则的引入三个维度来建构,从基于内容的注意义务转向基于技术的注意义务。