大模型在社会治理应用中的偏见性检测方法

随着人工智能技术的快速发展,大模型的分析、生成、推理能力在社会治理应用中的许多领域都得到了广泛应用。例如,互联网舆情分析等。然而,由于大模型的训练数据主要源于开源世界,其中的大量文本数据可能包含各种偏见和歧视,这可能在应用大模型进行社会治理时产生偏见。本研究对大型语言模型(如GPT-3.5、LLaMa)的政治偏见进行了深入探讨。尽管大模型的训练机构坚称其公正,但研究文献表明,大模型在回应特定争议性话题时,常常展示出偏见,这可能导致社会治理的问题。本研究提出了一种偏见性检测方法,要求多个大模型扮演支持或反对特定目标(如政策、人物、话题等)的角色进行问题和答案的设计,并使用额外的大模型进行测试,通过比较这些答案和特定角色生成的答案,以推断接受测试的模型是否存在政治偏见。为降低对生成文本随机性的担忧,对同一问题进行了多次收集答案,每轮都对问题顺序进行随机化处理。实验结果显示,不同的大型语言模型在处理争议话题时都表现出显著的偏见性。这些结果引起了深刻关注,即大模型的直接应用可能会扩大甚至放大争议性信息。本研究的发现,对政策制定者、媒体、政治和学术利益相关者具有重要启示作用。

2023年生成式人工智能技术主要发展动向分析

生成式人工智能已经成为人工智能的最前沿技术之一,被认为是通往通用人工智能的重要阶梯。对2023年生成式人工智能的主要发展动向进行了综合评述。首先盘点生成式人工智能技术当前发展状态;其次概述生成式人工智能技术未来发展趋势;最后探讨生成式人工智能的军事应用潜力。综述表明,多模态性和可解释性是当前生成式人工智能技术的热门方向,生成式人工智能技术的应用使强调指令理解推理的机器人、强调归纳推理的基础科学等领域不断取得突破,面向终端用户的“轻量化”和面向开发者的“开源化”势头正盛,与此同时,对生成式人工智能技术应用的监管也迫在眉睫。综述认为,深度融合多模态、建设高质量数据资源及评估手段、强调与环境自主交互、在边缘侧低成本应用部署、平衡技术发展与规制治理等,将是生成式人工智能技术在未来的重要发展方向。

2023年深度学习技术主要发展动向分析

深度学习已成为人工智能领域的研究热点和主流发展方向之一,为诸多重要应用领域带来了革命性的进步。对2023年深度学习技术热门领域的主要发展动向进行了综合评述。首先介绍了深度学习技术发展现状,其次探讨了深度学习技术的军事应用任务和挑战,最后盘点了深度学习技术的未来重点发展方向。综述表明,大语言模型是深度学习领域在2023年最突出的亮点,世界模型框架下的自监督学习技术、强化学习框架下的人工智能智能体技术等也呈现加速发展态势;环境恶劣与强干扰复杂条件下的高鲁棒性深度学习、面向实时流数据高效处理与内在逻辑关联的深度学习、面向多变作战场景自主决策与快速决策的深度学习、面向跨域数据协同感知与协同推理的深度学习等,是深度学习技术未来重要的发展方向。

2022年深度学习技术主要发展动向分析

深度学习正逐渐成为新一代人工智能最核心的技术之一。对2022年深度学习热门领域的主要发展动向进行了综合评述。首先,介绍小数据小样本深度学习研究领域的最新进展;其次,探讨量子计算与深度学习的融合路径;然后,概述强化学习对通用智能的推动作用;最后,盘点深度学习在多模态学习方向的进展。综述表明,面向小数据、小样本的深度学习技术正在引领深度学习向自监督方向不断迈进,深度学习与其他先进计算范式(例如量子计算等)深入融合趋势愈发明显,强化学习在一定程度上具备解决复杂问题的通用智能,多模态深度学习技术已迎来关键性突破。

人机混合智能技术主要发展动向分析

人机混合智能是由“人-机-环境”相互作用而产生的新型智能系统。对人机混合智能领域的最新研究与应用动向与进展进行了综合评述。首先介绍DARPA近年来在人机混合智能领域的加速布局;然后盘点了脑机接口、可信人工智能、虚拟现实、环境感知等人机混合智能核心技术的最新科研与应用进展;最后讨论人机混合智能面临的挑战与对未来军事发展的启示。综述表明,机器在未来将更多地用作人类“同事”,而不仅仅是“工具”,人机混合智能的各项核心技术已经不同程度地产生实战应用,而人、机之间的权责分工、能力分配、交互接口、伦理规制等将是人机混合智能进一步发展所需解决的关键问题,人机混合智能将加速军事变革进程,对作战样式、装备体系、战斗力生成模式等带来根本性变化。

2022年元宇宙技术主要发展动向分析

元宇宙被认为将成为移动互联网的“继任者”,是一种全新的、以虚拟现实为主的新兴计算技术与系统。首先对元宇宙技术领域2022年的最新研究、应用动向与进展进行综合评述,介绍了虚拟现实与增强现实、人工智能生成内容、“拟人态”虚拟人等元宇宙智能核心技术的最新科研与应用进展;随后盘点了美国陆军、空军和DARPA近年来在元宇宙领域的加速布局情况;最后讨论元宇宙技术未来发展趋势及其在军事作战中的作用。综述表明,率先发展元宇宙被认为是掌握未来互联网高地和话语权的必由之路,元宇宙正在与虚拟现实与增强现实、云计算、人工智能、Web 3.0、脑机接口等新兴技术形成同频共振和协同发展,特制的专用军事元宇宙技术已经被论证可以应用于广泛的实际军事作战用途,并将贯穿智能化战争“战前-战时-战后”全过程。

ChatGPT对社交机器人技术发展的影响分析

作为生成式人工智能的典型代表,全新的预训练基础模型ChatGPT已成为各界关注的“现象级”讨论热点。对ChatGPT及其对社交机器人技术发展的影响与启发进行综合评述。首先介绍了ChatGPT的概念内涵、主要特征、发展历程;其次探讨了以ChatGPT为代表的预训练基础模型所反映出的当前人工智能技术发展趋势;最后分析了近来生成式人工智能的飞速发展对于社交机器人研究与应用的提升作用。综述表明,社交机器人对于内容自主生成能力的旺盛需求,使其与生成式人工智能的发展进度紧密耦合,未来将在个性化内容生成、生成内容鉴别与管制、“涌现”能力溯源等方面继续发展。

2023年人工智能领域科技发展综述

人工智能技术已经成为推动军事变革的重要力量,不仅催生了全新的战争样式,而且显著提升了军事作战能力。为研究人工智能技术发展及其军事应用现状,梳理和总结了2023年人工智能领域最新科技进展。综述表明:美国、欧盟等世界主要国家和国际组织在顶层战略、研发投资、技术规制等方面持续加强人工智能战略布局;军事智能在生成式智能、人机混合智能、群体智能、具身智能、平行智能等技术领域发展势头强劲;世界主要军事强国将人工智能视为未来战场制胜的核心技术,正在快速将人工智能广泛并深化应用于陆战、海战、空战等多作战域。为进一步提升军事智能化水平,提出宏观战略规划与微观技术评估并重、技术理论研究与领域实战应用并举等发展建议。

小型化高速实时量子随机数发生器的设计与实现

量子随机数基于量子力学的内禀特性,通过量子物理过程产生理论上完全不可预测的真随机数,在信息安全、计算机、量子通信等诸多领域有着重要的应用。为满足量子随机数发生器实用化应用需求,本文提出了一种基于多光子态散粒噪声测量的量子随机数发生器设计与实现方案,实现了小型化、高速率、实时量子随机数发生器,量子随机数实时输出速率可达103.2 Mbps,满足《GM/T 0005-2012随机性检测规范》的随机性测试标准,具备连续稳定工作能力。