基于阅读理解智能问答的RPR融合模型研究

基于阅读理解的智能问答是指同人类一样首先让模型阅读理解相关文本,然后根据模型获取的文本信息来回答对应问题。预训练模型RoBERTa-wwm-ext使用抽取原文片段作为问题的回答,但这种方法遇到原文中不存在的答案片段或需要对原文总结后回复这两种情况时不能很好解决,而使用预训练模型进行生成式模型训练,这种生成式回复在一定程度上解决了需要总结原文才能回答的问题。因此,改进了只采用RoBERTa-wwm-ext模型进行抽取答案的方式,在此基础上融合了基于RAG模型的生成式问答模型,用于回答RoBERTa-wwm-ext等抽取式模型无法处理的问题。同时,吸取了PGN模型的优点,对RAG模型进行改进得到RPGN子模型,可以更好地利用阅读理解的文章生成合理的答案。由此,提出RPR(RAG、PGN、RoBERTa-wwm-ext)的融合模型,用于同时处理抽取式问题任务和生成式问答任务。

多模态与文本预训练模型的文本嵌入差异研究

为了详细地分析文本单模态预训练模型RoBERTa和图文多模态预训练模型WenLan文本嵌入的差异,提出两种定量比较方法,即在任一空间中,使用距离一个词最近的k近邻词集合表示其语义,进而通过集合间的Jaccard相似度来分析两个空间中词的语义变化;将每个词与其k近邻词组成词对,分析词对之间的关系。实验结果表明,图文多模态预训练为更抽象的词(如成功和爱情等)带来更多的语义变化,可以更好地区分反义词,发现更多的上下义词,而文本单模态预训练模型更擅长发现同义词。另外,图文多模态预训练模型能够建立更广泛的词之间的相关关系。

人工智能的未来之路

人脑重构的意义为什么我们的大脑不能像摄像机、照相机一样忠实客观地反映物理世界,为什么非要自己来重构这个世界?这样的人脑重构究竟有什么好处?正如康德所言:“没有感觉支撑的知识是空的,没有知识引导的感觉是瞎的。”这句话的前半句说的是,如果没有外部的输人,我们很难构建自己的心理世界,但我想强调的是下半句“没有知识引导的感觉是瞎的”。

新一代人工智能开源开放平台OpenI

新一代人工智能开放创新平台围绕重大产业方向,汇聚创新资源、促进众创共享,形成产业生态。2017年7月20号,国务院印发了《新一代人工智能发展规划》,这个规划在全世界范围引起了广泛关注,它提出了'到2030年人工智能理论、技术与应用总体达到世界领先水平,成为世界主要人工智能创新中心,智能经济、智能社会取得明显成效.

大模型安全与治理探讨

预训练大模型近年来取得了快速发展,也被广泛应用于各个领域,但其内在的安全风险仍然十分严峻,亟需从技术和治理等角度解决大模型的安全性问题。本文深入探讨了预训练大模型的安全风险和治理方法,从幻觉、不良信息、隐私泄露、偏见等角度分析大模型的安全风险,并介绍了数据清洗、基于人类或AI反馈的强化学习,以及安全性评估等方面的安全性加固技术。针对当前大模型安全性治理,提出了在国家层面上加强大模型安全保障体系建设、推动全球网络空间共同体的建设以及加大科研投入等建议,以期不断提升预训练大模型的安全性,让人工智能更安全地服务于人类。

蛋白质复合物结构预测:方法与进展

蛋白质复合物是不同蛋白质链通过相互作用形成的,自然界中很多蛋白质通过形成复合物而执行功能,因此准确地预测复合物的结构对于理解和掌握功能至关重要。近两年来,单条蛋白质链的结构预测有了突破性的进展,从氨基酸序列出发预测蛋白质结构的水平大幅提高。但相较于单体蛋白质,蛋白质复合物结构预测的准确性仍然较低。本文旨在总结蛋白质复合物结构预测的相关算法以及介绍最新进展。首先简要介绍蛋白质结构预测领域的相关人工智能算法,主要包括共进化分析与蛋白质接触预测、深度学习方法与蛋白质结构预测、预训练模型与蛋白质表征学习几个方面;其次系统总结了蛋白质复合物链间相互作用预测的基本方法,从复合物的多重序列比对构建到对于同源或异源复合物的链间残基接触预测;最后从相互作用位点指导复合物结构预测、蛋白质分子对接算法、端到端的复合物结构预测方法等方面阐述了蛋白质复合物结构预测的基本方法和思路。总体来说,目前蛋白质复合物结构预测精度不够高,有效地解决多重序列比对的配对和多聚体复合物模板搜索等问题,或者在大量的序列或结构数据上结合预训练模型的新范式,是一个合理而有效的方案。提升蛋白质复合物结构预测水平在合成生物学领域如抗体设计、药物发现等方面有很好的应用前景。

自交有理参数曲面网格生成

针对现有网格生成算法在处理自交曲面时出现的缺少交线表示、误差大以及交线附近三角形质量差的问题,提出一种针对自交有理参数曲面的网格生成算法.首先,利用动平面法计算曲面的奇异因子;其次,利用奇异因子和曲面的第一基本形式定位交线上的拓扑关键点;再次,基于动平面法设计了一种交线网格点配对生成算法,以保证网格交线的邻域协调性;最后,使用基于粒子的网格生成法生成参数域网格.在具有不同拓扑的自交曲面上进行网格生成实验,所提算法可保证网格交线拓扑正确性,且与未进行交线网格点配对的各类代表性各向同性网格生成算法相比,网格三角形最小角平均值平均高0.6%.

微观连接组学图像处理工具调研

形态学分析一直是现代神经科学的重要研究手段之一,利用电子显微镜以纳米分辨率研究神经组织对于理解神经系统的工作原理以及神经系统疾病的发生原因至关重要。电子显微成像技术近些年发展迅速,采样规模和速率都有了极大地提升,为微观连接组学研究奠定了基础。然而数据量增加导致的大规模图像处理问题给缺乏专业支持的研究人员造成了很大的困扰,如何高效地完成图像处理任务成为进一步推动连接组学发展的关键。本文中介绍了微观连接组学图像处理的一般流程,并针对其中的关键环节,调研并筛选出一批用户友好且能够开放获取的软件;最后简要地描述了国内微观连接组学研究的最新进展。此文不仅为研究人员在选择连接组学图像处理工具时提供了参考,同时也为工具开发人员指明了开发方向,希望能够借此文吸引国内更多相关领域的学者加入连接组学社区建设,共同推动我国的连接组学发展。

基于区块链的联邦学习技术综述

联邦学习与区块链在应用领域、架构特点、隐私保护机制等方面具有很强的共性、互补性和契合度,近年来,一些研究与应用将两种技术结合起来,在数据隐私保护强度、数据共享激励机制、计算性能等方面取得了不少进展。为了帮助研究者掌握联邦学习结合区块链的最新研究成果与发展方向,对基于区块链的联邦学习进行了综述。首先,介绍了联邦学习技术的相关研究和存在的不足;其次,详细讨论了当前基于区块链的联邦学习的相关研究,重点从架构特点、资源分配、安全机制、激励机制等方面进行了分析;最后,总结了基于区块链的联邦学习应用在人工智能领域的未来发展趋势和需要关注的问题。

基于自然语言处理的漏洞检测方法综述

随着官方发布的漏洞数量呈现指数的增长趋势,针对漏洞检测技术的研究应运而生.漏洞种类的多样性以及检测方法的单一性导致漏洞检测结果呈现一定的局限性.当前漏洞检测技术主要集中在静态检测和动态检测2方面.其中静态检测分析又分为文档分析法、交叉验证法以及程序分析方法等3类.随着自然语言处理技术的兴起和专家知识的不断扩展,研究人员探索了在多个数据源上利用自然语言处理技术辅助进行漏洞检测研究的可行性.根据信息类型的不同,分别从官方文档、代码、代码注释以及漏洞相关信息4部分内容出发,对基于自然语言处理的漏洞检测相关研究成果进行调研.首先,通过对近10年来基于自然语言处理技术的漏洞检测相关文献进行梳理,对相关成果进行分类并提取技术细节;接着,对不同数据源下的研究成果进行横向对比,总结当前基于自然语言处理技术的漏洞检测成果的优缺点;最后,通过交叉对比并深入分析,总结当前基于自然语言处理的漏洞检测方法中存在的8类问题,从数据、技术以及效果3方面进行解决方案的讨论,同时提出了未来研究方向.

高层次综合综述

随着定制硬件设计的需求不断增加,需要一种方便、高层次的硬件设计方法。本文介绍了高层次综合的流程和发展历史,并且列举了相关的算法和优化技术,最后展望了未来的发展趋势。

脉冲视觉研究进展

视频是视觉信息处理的基础概念,传统视频的帧率只有几十Hz,不能记录光的高速变化过程,成为限制机器视觉速度的天花板,其根本原因在于视频概念脱胎于胶片成像,未能发挥电子和数字技术的潜力。脉冲视觉模型通过感光器件捕获光子,累积能量达到约定阈值时产生脉冲,形成脉冲的时间越长,表明收到的光信号越弱,反之光信号越强,据此可估计任意时刻的光强,从而实现连续成像。采用普通器件,研制了比影视视频快千倍的超高速成像芯片和相机,进而基于脉冲神经网络实现了超高速目标检测、跟踪和识别,打破了机器视觉提速依赖算力线性增长的传统范式。本文从脉冲视觉模型表达视觉信息的生物学基础和物理原理出发,介绍了脉冲视觉原理的软件模拟器及其模拟真实世界光子传播的计算过程,描述了基于脉冲视觉原理的高灵敏光电传感器件及芯片的工作机理和结构设计、基于脉冲视觉的影像重建原理以及脉冲视觉信号与普通图像信号融合的计算摄像算法与计算摄像系统,介绍了基于脉冲神经网络的超高速运动目标检测、跟踪与识别,通过对比国际国内相关研究内容和发展现状,展望了脉冲视觉的发展与演进方向。脉冲视觉芯片和系统在工业(高铁、电力和轮机等不停机监测,智能制造高速监视等)、民用(高速相机、智能交通、辅助驾驶、司法取证和体育判罚等)以及国防(高速对抗)等领域都具有巨大应用潜力,是未来值得重点关注和研究的一个重要方向。

大模型的过去与未来

人工智能这个概念自1956年提出以后,经历了将近70年的发展历程,也衍生出符号主义、连接主义和行为主义三大流派,最终走向类脑的目标。经过六七十年的发展,人工智能发展出三条技术路线。第一条是符号主义,也就是把智能形式化、符号化、算法化和软件化。这也是人工智能最早也是最主要的技术路线,虽然有一定效果,但并没有真正成功。

AVS3视频编码技术:赋能8K时代 助力科技冬奥

第三代数字音视频编解码技术标准(AVS3标准)是全球首个面向8K超高清及5G产业应用的音视频信源编码标准。北京2022年冬奥会和冬残奥会采用了AVS3标准,助力实现奥运史上首次通过8K视频技术直播开幕式和转播重要赛事的目标;打造冰雪项目交互式多维度观赛的全新视觉体验,使用户通过虚拟现实设备、8K电视和户外大屏收获极致享受,成为“科技冬奥”的一大亮点。同时,AVS3标准支撑中央广播电视总台全球首个8K超高清广播电视频道开播,在咪咕视频移动端直播场景落地,配合国家“百城千屏”项目推广,加速推动我国迈进8K超高清时代。

产业图谱引擎支撑决策治理

过去几年,我们聚焦产业链的高质量发展和创新能力的提升,通过应用人工智能、大数据等技术构建产业图谱,推动建链、延链、补链、强链,服务政府决策治理。

中西医结合治疗肺癌脑转移疗效与安全性的Meta分析

目的系统评价中西医结合治疗肺癌脑转移(BMs)的疗效与安全性。方法通过计算机和人工搜索的方法检索以下内容:英文数据库(Embase、Cochrane Library、PubMed)和中文数据库(中国生物医学数据库、中国知网数据库、维普期刊数据库和万方数据库),自建库至2020年5月筛选关于中西医结合治疗肺癌BMs的随机对照研究,无语言限制。Cochrane手册用于评估偏倚风险。所有统计分析均使用RevMan(5.3版)进行。结果共包括7项随机对照试验(494例患者)。Meta分析显示,接受中西医结合治疗患者的客观缓解率(OR=3.82,95%CI:2.52~5.81,P<0.01)、1年生存率(OR=2.43,95%CI:1.26~4.65,P<0.01)和生活质量(OR=5.37,95%CI:2.97~9.70,P<0.01)均优于接受单纯西医治疗患者。结论中西医结合治疗肺癌BMs的疗效确切,可延长患者生存时间提高生活质量,应用安全有效。