基于实体级联类型的中文关系抽取管道模型

端到端实体关系抽取任务可以被分解成命名实体识别和关系抽取两个子任务,最近的工作多将这两个子任务联合建模。现有的流水线方法验证了在关系模型中融合实体类型信息的重要性和管道模型的潜力,但是它们忽略了文本中的某些实体可能同时具有多个类型,这种多义性的情况在中文数据集中尤为常见。为解决上述问题,提出了一种实体级联类型机制,并在此基础上开发了一个更适合中文关系抽取的管道模型,取名为CENTRELINE。该流水线方法的实体模块是一个词-词关系分类模型,它以BERT和双向LSTM作为编码器、经过条件层归一化后引入空洞卷积,最后通过级联类型预测器输出实体及其级联类型。关系模块的输入仅由实体模块构建。该方法在DuIE1.0、DuIE2.0和CMeIE-V2数据集上的F_(1)值分别比基线方法提高了7.23、6.93和8.51百分点,并在DuIE1.0和DuIE2.0数据集上都实现了最先进的性能。消融实验表明,提出的级联类型机制和根据中文语言特征改进的管道模型,均对关系抽取性能具有明显的促进作用。

基于Schema增强的中文实体关系抽取方法

针对中文实体关系抽取任务中的实体边界切分错误和实体关系重叠,以及不同数据集的关系种类不能很好地迁移的问题,提出一种基于Schema增强的实体关系抽取方法。首先,采用字词混合嵌入的方式融合字与词的语义信息,避免中文分词时边界切分出错所造成的歧义问题;其次,利用指针标注的方式解决关系重叠问题;最后,提取出每个数据集的Schema进行合并作为先验特征传入模型中,以解决实体冗余及关系种类迁移问题。在三大中文实体关系抽取数据集DuIE、FinRE、SanWen上进行实验,相较于先前的模型,该方法分别取得10%、18%、11%的F1提升,且表现出更高的稳定性。

基于多任务强化学习的堆垛机调度与库位推荐

堆垛机调度是物流仓储自动化中的重要任务,任务中的出入库效率、货物存放等情况影响仓储系统的整体效益。传统调度方法在面对较大规模调度问题时,因处理大状态空间从而导致性能受限和收益降低。与此同时,库位优化与调度运行联系密切,但现有多数工作在处理调度问题时未能考虑到库位优化问题。为解决仓储中堆垛机调度问题,提出一种基于深度强化学习算法的近端策略优化调度方法。将调度问题视为序列决策问题,通过智能体与环境的持续交互进行自我学习,以在不断变化的环境中优化调度。针对调度中伴生的库位优化问题,提出一种基于多任务学习的调度、库位推荐联合算法,并基于调度网络构建适用于库位推荐的Actor网络,通过与Critic网络进行交互反馈,促进整体的联动和训练,从而提升整体效益。实验结果表明,与原算法模型相比,该调度方法的累计回报值指标平均提升了33.6%,所提的多任务学习的联合算法能有效地应对堆垛机调度和库位优化的应用场景,可为该类多任务问题提供可行的解决方案。

从规划解中学习一阶派生谓词规则

派生谓词是描述动作非直接效果的主要方式.但是由人类专家设计的派生谓词规则(即领域理论)不能保证总是正确或者完备的,因此有时很难解释一个观察到的规划解为什么是有效的.结合归纳学习与分析学习的优点,文中提出一种称为FODRL(First-Order Derived Rules Learning)的算法,在不完美的初始领域理论的引导下从观察到的规划解中学习一阶派生谓词规则.FODRL基于归纳学习算法FOIL(First-Order Inductive Learning),最主要的改进是可以使用派生谓词的激活集来扩大搜索步,从而提高学习到的规则的精确度.学习过程分为两个步骤:先从规划解中提取训练例,然后学习能够最好拟合训练例和初始领域理论的一阶规则集.在PSR和PROME-LA两个派生规划领域进行实验,结果表明,在大部分情况下FODRL比FOIL(甚至包括其变型算法FOCL)学习到的规则的精确度都要高.

从WSBPEL程序中学习Web服务的不确定动作模型

智能规划是一种比较有前途的Web服务组合(WSC)方法.用规划进行WSC需要Web服务(WS)的动作模型,而让工程师来写它却很困难.考虑到现存WSC解决方案多用Web服务业务流程语言(WSBPEL)手工编写,可从现存方案中提取动作模型.由于WS本身有不确定性,且现存方案中蕴含对WS的语义要求,所以学习的应是体现流程语义且包含条件效果的不确定动作模型.为此,先将WSBPEL程序转成保留流程语义的标签转换系统(LTS);然后将动作模型学习技术扩展到包括条件效果的不确定规划(NDP),并从LTS中学习动作模型.实现了ARMS-WS系统,它可从WSBPEL程序中学习WS的不确定动作模型.

对不确定规划中观测约简的进一步研究

从3个方面改进了不确定规划(non-deterministic planning,简称NDP)中的观测约简:一是如何找最小观测集合(minimal observation set,简称MOS),二是如何在观测代价不均等时找最优观测集合(optimal observation set,简称OOS),三是如何找到容错的OOS.通过MOS问题和图论中的最小覆盖集问题(minimal set cover,简称MSC)的类似性,可证MOS是NP难的问题,还可参考MSC算法得出时间复杂性不超过O(2mm2)且不低于Ω(2m-1)的算法,其中m是观测的个数.通过使用整数规划(integer programming,简称IP)技术,可找到OOS以及容错的OOS.可以证明,上述算法能够保证找到解,并且能够保证解的最优性.

规划领域定义语言的演进综述

规划领域定义语言是智能规划研究中问题描述的标准语言,它同时起到了建模和通信语言的作用。随着智能规划得到了很大的发展,规划定义语言的作用越来越重要。但至今尚无对其版本、特性和语义的演进过程的综述。鉴于此,对规划领域定义语言的演进进行综述。最后概括了规划领域定义语言的发展趋势。

并行概率规划综述

自动规划针对特定领域的特定问题,生成一个由可应用动作构成的规划。经典规划中的动作效果是确定的,且在每个时间步内只能执行一个动作。但在实际问题中,动作的效果往往是不确定性的,且动作的执行具有并发性。因此,并行概率规划(parallel and probabilistic planning,PPP)被提出,并且它的应用前景正在引起规划研究学术圈的关注。有鉴于此,对其进行综述,具体内容包括定义PPP领域、问题和规划解,介绍其描述语言、基准领域及规划器,并对其中两个有代表性的规划器进行实际测试。实验表明在求解效率方面测试结果与比赛结果基本一致,但部分规划器的求解规模与竞赛不完全一致。这可能是比赛中的某些未开源代码或手工干预得到的。

在部分观测环境下学习规划领域的派生谓词规则

文中提出了一种在部分观测环境下学习规划领域的派生谓词规则的方法.在规划领域描述语言(PDDL)中,派生谓词用来描述动作的非直接效果,是规划领域模型和搜索控制知识的重要组成部分.然而,对于大多数规划领域而言,从无到有地构造派生谓词规则是不容易的.因此,研究自动获取派生谓词的推导规则是有意义的.已有研究工作提出通过修订一个初始的不完备的领域理论来获取推导规则的方法,但是它们的主要缺点在于待学习谓词的训练例的数量非常少,这是因为训练例按照非常有限的方式来生成.而更本质的原因在于它们假设环境是不可观测的.其实,在现实生活中很多动作的非直接效果是可以观测的,或者通过简单的目测或者通过专门的工具.因此文中提出增加观测来反映动作的非直接效果,以便增加待学习谓词的训练例数目从而改善学习的精准度.此外,为了补充一些在归纳学习过程中学习不到的谓词,文中还提出了一个后处理方法来使得学习到的规则在语义上更完整.通过在派生谓词基准领域上的实验表明,文中所提出的方法是可行有效的.更深远的意义在于,文中的研究工作有利于规划领域的自动建模或者控制知识的自动获取的研究与实现.

在部分观测环境下的不确定动作模型学习

近年来,动作模型学习引起了研究人员的极大兴趣.可是,尽管不确定规划已经研究了十几年,动作模型学习的研究仍然集中于经典的确定性动作模型上.提出了在部分观测环境下学习不确定动作模型的算法,该算法可应用于假定人们对转移系统一无所知的情形下进行,输入只有动作-观测序列.在现实世界中,这样的场景很常见.致力于动作是由简单逻辑结构组成的、且观测以一定频率出现的一类问题的研究.学习过程分为3个步骤:首先,计算命题在状态中成立的概率;然后,将命题抽取成效果模式,再抽取前提;最后,对效果模式进行聚类以去除冗余.在基准领域上进行的实验结果表明,动作模型学习技术可推广到不确定的部分观测环境中.

基于并行概率规划的股票指数模拟

在金融领域,股票指数(简称股指)模拟与分析是一个重要课题,用于股票市场的长期分析.然而,大多数的这类工作目前由专业的分析师来完成,非职业投资者难以涉及.另一方面,现有的基于数学或机器学习的股指模拟方法具有参数多、人工干预多、可解释性差等缺点.针对以上问题,本文基于并行概率规划(Parallel Probabilistic Planning,PPP),提出了一个股指模拟的规划领域模型,并能够进行自动求解.股票市场具有大量的不确定性和并发性,因此适合用并行概率模型来表示.方法的核心思想是将股指模拟问题转化为智能规划问题.首先,本文构建股指模拟问题的规划领域模型.由于股票市场的复杂性,需尽可能地考虑各种影响因素、约束条件、可能事件以及它们之间的关联.构建的规划领域模型由针对PPP的规划语言RDDL(Relational Dynamic Influence Diagram Language)来进行描述.接着,使用PPP的模拟求解工具——rddlsim来进行基于抽样的规划求解.rddlsim是国际概率规划大赛IPPC提供的求解工具,能够全面地解析RDDL描述.实验数据使用上证50指数和上证100指数的股票数据.即,从某个时间点开始,通过求解对应的规划问题来模拟未来一年股票指数的变化趋势.求解结果,一方面,与真实股票指数变化作对比;另一方面,与基于线性回归、基于SVM和基于LSTM的三种模拟方法的结果作对比.我们分别使用交叉熵、最小二乘和皮尔森相关系数作为损失函数.实验表明,本文的模拟效果比较贴近于真实的股指变化趋势;在大多数情况下,本文方法优于基于回归或SVM的模拟方法,且与基于LSTM的方法性能相当.并且,相对于对比的模拟方法,本文方法提供了较强的可解释性,且在求解过程中不需人工干预或调参.这是因为,形式化的规划领域描述展示了在股指模拟问题中各种因素如何相互影响,而且自动求解得到的规划解给出了导致模拟结果的状态变化轨迹.

基于多信息源的股价趋势预测

股票价格及趋势预测是金融智能研究的热门话题。一直以来,各种各样的信息源被不断尝试用于股价预测,例如基本经济特征、技术指标、网络舆情、财务公告、财政新闻、金融研报等。然而,此类研究大多数只使用一种或两种信息源,使用3种及以上信息源的极为少见。信息源越多意味着能够提供更加丰富的信息内容和更多不同的信息层面。但是由于各种信源的本质不同,其对股票市场的影响程度不同,因此将多种信源融合起来进行股价预测并非易事。此外,多信源也增加了维度灾难的风险。基于信息融合的目的,尝试同时利用基本经济特征、技术指标、网络舆情3种信息源来进行股价预测。具体做法:先对不同类型的信息源数据进行针对性的处理,使其形成统一的数据集,然后使用SVM分类器建立预测模型。实验结果表明,在选用线性核函数和考虑非交易日数据时,使用这3种信源组合的预测模型的预测效果要比使用单一信源或者两两组合的预测效果好。此外,在收集数据时发现,在非交易日(例如周末或停牌期)虽没有买卖但网络舆情剧增。因此,在实验数据中添加了非交易日的舆情情感数据,分类精准度有所提高。研究结果表明,基于多信源融合的股价预测虽然困难,但是在适当地选择特征和针对性地进行数据预处理后会有较好的预测效果。

基于Spark平台的社交网络在不同文化环境中的中心度加权算法

社交网络广泛应用于科技、商业、经济和生物等领域.社交网络一般用中心性指标来对节点的重要性进行量化,常用的中心性指标有节点中心度、接近中心度、介数中心度、三角计数等等.已有的中心度算法通常只考虑单一的度量标准,本文提出加权中心度的思想,结合不同的中心度指标来进行综合考虑.该实验使用社交网络的真实Board EX数据库,由合作单位香港大学提供,基础数据约600 G,需借助Apache Spark处理大数据的能力来进行集群并行计算.社交网络数据分成美国、英国、欧洲和其他国家4个地区,计算各地区上市公司的首席技术官和首席信息官的个人中心度,从而得到每个地区的平均加权中心度.实验结果表明,通过调整权值,可以使不同区域的加权中心度的差异尽可能小,且由权值大小可知不同中心度度量标准对加权中心度的影响不同.基于真实数据库和处理大数据的集群计算,本文的研究成果更具有现实意义和应用前景.

多agent规划综述

多agent规划是智能规划和多agent系统的交叉领域,随着智能规划领域研究范围的不断扩展和多a-gent系统领域研究内容的不断深入,多agent规划受到了越来越多的关注。有鉴于此,对多agent规划的概念和主要方法进行全面综述。具体内容包括智能规划和多agent系统的背景介绍、多agent规划的各种形式化描述方式以及基于规划修复、合并或者马尔可夫决策过程的的分布式规划方法,以及给出了多agent规划的发展趋势。

PDDL的ER建模以及开发基于存储过程的规划器

随着智能规划的发展,其所面对的问题规模越来越大,而且可以预见以后会更大.现有的研究大多用二级存储扩展空间,其终极形式应该是用数据库进行存储.此外,有很多同一领域的规划问题,其所包含的常量几乎一致,其中必然有可重用信息来帮助加速求解.要更好地利用这些可重用信息也需要数据库.考虑到以上两个问题,首次提出规划领域描述语言PDDL(planning domain description language)的ER模型(entity relationship model),并基于此模型用存储过程来编写规划器SPP(stored procedure planner).SPP是完全在数据库内部运行的最优规划器,存取效率高,可充分利用数据库的各种功能.在国际规划大赛IPC(Int’l planning competition)基准领域上的实验结果表明,在有限的机器配置下,SPP可以求解传统最优规划器不能求解的问题.该工作迈出了在数据库中求解规划问题,从而彻底解决空间问题的第一步.

过度规划、部分可满足规划及简单偏好综述

智能规划是人工智能的重要分支,它从某个特定问题的初始状态出发,寻找达到解决该问题的目标状态的动作序列,但是在许多真实问题中,往往没有足够的资源来实现所有目标。因此,智能规划中对软目标的研究包括过度规划、部分可满足规划和简单偏好,已成为近年来的热点。将对过度规划、部分可满足规划和简单偏好的主要研究成果进行综述,包括这几类问题的差异比较、主要解决方案以及对将来的展望。

并行最小割算法及其在金融社交网络中的应用

有效实施金融监管已成为金融健康发展的必要保证.若能够在金融社交网络中,找到一部分承载网络中所有信息流动的关键节点,便能实现整个金融社交网络的有效监管.金融社交网络图规模通常较大,须开发大规模图处理并行算法.本文提出基于分布式图处理平台Pregel的并行最小割算法.实验基于Apache Spark平台开展,所用数据均来自BoardEx数据库.实验结果表明,在大规模社交网络图的处理中,该算法具有良好性能.利用该并行算法得到金融社交网络图的最小割,便可有效实施金融监管.

一种实时细颗粒度片上网络功率分配方法

片上网络(No C)不仅直接影响众核芯片的性能,而且消耗了芯片部分功率,在给定功率条件下使得片上网络的性能最优已经成为迫切需求。片上网络中路由器的工作负载(包的到达率)差异很大,需要对每一个路由器进行异构调整功率才能得到很好的性能。为此,针对如何在给定功率条件下优化No C性能进行了研究,提出了一个实时细颗粒度的功率分配方法,它能够根据每一个路由器的工作负载实时快速地分配功率,实现片上网络性能最优。实验结果表明相比其他功率分配方法,该方法平均减少26.1%的应用执行时间且具有较低的硬件开销。

基于因果图启发式的并行概率规划求解

并行概率规划(PPP)是近年来智能规划领域中的研究热点。在该类问题中,动作具有并发性和不确定性,非常贴近现实问题。然而现有的两种针对PPP的主要求解方法都有明显的缺点。因此,尝试使用高效的启发式搜索方法来求解这类问题。考虑到PPP问题采用RDDL语言来描述,其中的条件概率函数(CPF)非常适合用于构建因果图(CG),所以引入因果图启发(CGH)来进行求解。提出的启发式算法称为CGH_(RDDL),整体求解方法是使用rddlsim模拟状态演化以及用CGH_(RDDL)引导搜索。实验结果表明,在不允许手工干预和参数调整的前提下,该方法的求解效果要好于代表性规划器PROST和Glutton;并且与其他启发式相比,CGH_(RDDL)的求解质量高于随机搜索,求解速度快于爬山法,这表明在经典规划领域中高效的启发式搜索策略可扩展去求解这一类非经典规划问题。

基于概率并行规划的自动物流仓储建模与调度

物流仓储调度是物流自动化中的重要问题。现有的许多方法依赖于基于特定模型的优化方法。但这些模型参数多、人工干预多,常需在实验过程中手动定义多个参数值。因此提出一种基于概率并行规划的物流仓储自动调度方法。该方法先为物流仓储问题构建一个基于关系动态影响图语言的形式化规划领域模型。然后,它使用概率并行规划(P3)规划器及其上可用的任意策略(如随机布尔策略)来进行求解。最后,一个可以表征调度过程的动作序列就产生了。这些动作由智能体的各种动作组成,包括从入货口进货到存货及取货到出货口出货。该方法可解释性强,直观易懂且无须人工干预。