Investigation of Error Detection Capabilities of Various Patient-Specific Intensity Modulated Radiotherapy Quality Assurance Devices

The capability of error detection of patient-specific QA tools plays an important role in verifying MLC motion accuracy. The goal of this study was to investigate the capability in error detection of portal dosimetry, MapCHECK2 and MatriXX QA tools in IMRT plans. The 9 fields IMRT for 4 head and neck plans and 7 fields IMRT for 4 prostate plans were selected for the error detection of QA devices. The measurements were undertaken for the original plan and the modified plans, where the known errors were introduced for increasing and decreasing of prescribed dose (±2%, ±4% and ±6%) and position shifted in X-axis and Y-axis (±1, ±2, ±3 and ±5 mm). After measurement, the results were compared between calculated and measured values using gamma analysis at 3%/3 mm criteria. The average gamma pass for no errors introduced in head and neck plans was 96.9%, 98.6%, and 98.8%, while prostate plans presented 99.4%, 99.0%, and 99.7%, for portal dosimetry, MapCHECK2 and MatriXX system, respectively. In head and neck plan, the shifted error detections were 1 mm for portal dosimetry, 2 mm for MapCHECK2, and 3 mm for MatriXX system. In prostate plan, the shifted error detections were 2 mm for portal dosimetry, 3 mm for MapCHECK2, and 5 mm for MatriXX system. For the dose error detection, the portal dosimetry system could detect at 2% dose deviation in head and neck and 4% in prostate plans, while other two devices could detect at 4% dose deviation in both head and neck and prostate plans. Portal dosimetry shows slightly more capability to detect the error compared with MapCHECK2 and MatriXX system, especially in the complicated plan. It may be due to higher resolution of the detector;however, all three-detector types can detect various errors and can be used for patient-specific IMRT QA.

联合多意图识别与语义槽填充的双向交互模型

意图识别与语义槽填充是口语理解的两个主要任务,两者具有高度相关性,通常进行联合训练。随着口语理解任务的深入,研究发现用户在现实场景中的话语往往含有多个意图。但部分联合模型只能识别用户话语中的单个意图,未能充分建模多个意图和语义槽之间的关联性。考虑到话语中多个意图的信息可以引导语义槽填充,语义槽信息也可以帮助意图更好的识别,模型采用图注意力网络建立意图和语义槽之间的双向交互。具体的,将两个任务双向关联以便模型能够挖掘多个意图与语义槽之间的关系,同时引入两个任务的标签信息使模型能够学习到话语上下文和标签的关系,从而提高意图识别与语义槽填充的准确率,优化口语理解的整体性能。实验表明,模型在MixATIS和MixSNIPS两个多意图数据集上对比其他模型性能得到了显著提升。

一种基于窗口机制的口语理解异构图网络

口语理解(spoken language understanding,SLU)是面向任务的对话系统的核心组成部分,旨在提取用户查询的语义框架.在对话系统中,口语理解组件(SLU)负责识别用户的请求,并创建总结用户需求的语义框架,SLU通常包括两个子任务:意图检测(intent detection,ID)和槽位填充(slot filling,SF).意图检测是一个语义话语分类问题,在句子层面分析话语的语义;槽位填充是一个序列标注任务,在词级层面分析话语的语义.由于意图和槽之间的密切相关性,主流的工作采用联合模型来利用跨任务的共享知识.但是ID和SF是两个具有强相关性的不同任务,它们分别表征了话语的句级语义信息和词级信息,这意味着两个任务的信息是异构的,同时具有不同的粒度.提出一种用于联合意图检测和槽位填充的异构交互结构,采用自注意力和图注意力网络的联合形式充分地捕捉两个相关任务中异构信息的句级语义信息和词级信息之间的关系.不同于普通的同构结构,所提模型是一个包含不同类型节点和连接的异构图架构,因为异构图涉及更全面的信息和丰富的语义,同时可以更好地交互表征不同粒度节点之间的信息.此外,为了更好地适应槽标签的局部连续性,利用窗口机制来准确地表示词级嵌入表示.同时结合预训练模型(BERT),分析所提出模型应用预训练模型的效果.所提模型在两个公共数据集上的实验结果表明,所提模型在意图检测任务上准确率分别达到了97.98%和99.11%,在槽位填充任务上F1分数分别达到96.10%和96.11%,均优于目前主流的方法.

视线追踪联合脑电的飞行员操纵意图检测方法

为解决基于飞行员行为与生理数据的飞行员意图分析问题,采用视线追踪设备和脑电仪实时记录飞行员视觉注视行为和脑电信号,并采用转换编码器-卷积神经网络模型(Transformer Encoder-CNN)进行操作意图的分类。通过在模拟飞行环境下开展飞行训练实验,将特定感兴趣区域的视觉注视行为联合飞行操作数据,实现不同时间段的飞行中飞行员高度、空速、姿态、航向四种操纵意图进行精确检测分类,形成操纵意图数据集,供神经网络模型进行机器学习。实验结果表明:该方法的神经网络模型对操纵意图分类识别准确率达到92%,能够有效检测飞行员的操纵意图,准确率提高了6%。

基于多任务学习的意图检测和槽位填充联合方法

随着预训练语言模型在自然语言处理(NLP)任务上的应用,意图检测(ID)和槽位填充(SF)联合建模提高了口语理解的性能。现有方法大多关注意图和槽位的相互作用,忽略了差异文本序列建模对口语理解(SLU)任务的影响。因此,提出一种基于多任务学习的意图检测和槽位填充联合方法(IDSFML)。首先,使用随机掩盖mask策略构造差异文本,设计结合自编码器和注意力机制的神经网络(AEA)结构,为口语理解任务融入差异文本序列的特征;其次,设计相似性分布任务,使差异文本和原始文本的表征相似;最后,联合训练ID、SF和差异文本序列相似性分布三个任务。在航班旅行信息系统(ATIS)和SNIPS数据集上的实验结果表明,IDSFML与表现次优的基线方法SASGBC(Self-Attention and Slot-Gated on top of BERT with CRF)相比,槽位填充F1值分别提升了1.9和1.6个百分点,意图检测准确率分别提升了0.2和0.4个百分点,提高了口语理解任务的准确率。

工业生产设备故障领域问答系统的意图识别

为了解决工业生产设备故障领域的问答系统缺乏标注数据、意图识别槽位填充性能不足的问题,提出了一种基于Transformer的多层双向自注意编码器(bidirectional encoder representations from transformers,BERT)的联合模型。利用BERT进行文本序列编码,并通过双向长短时记忆网络(bidirectional long short-term memory,Bi-LSTM)捕捉文本上下文语义关系。通过最大池化和致密层提取关键信息,同时使用条件随机场(conditional random field,CRF)增强模型泛化能力。构建了工业领域设备故障问答语料库,并提出了针对该领域的模型部署框架。在ATIS等公共数据集上进行实验,相对于基线模型,本文模型在句子级准确率、F 1和意图识别准确率上,分别提高4.4、2.1和0.5个百分点。研究结果有效提升了问答系统性能,为缺乏工业生产数据的问答系统领域提供了数据集和部署框架。

基于轨迹预测与冲突检测的自动驾驶碰撞检测模型

轨迹预测和碰撞检测是自动驾驶的关键技术,可以提高自动驾驶系统对周围环境的感知能力,保障自动驾驶系统的安全性。Conv-LSTM模型能够有效处理具有时空相关性的轨迹数据,具有良好的轨迹预测能力,但该模型在交通拥堵、复杂道路等复杂情形下预测性能较差。提出一种基于行驶意图识别的轨迹预测模型。通过基于长短期记忆(LSTM)网络的行驶意图识别模块对车辆的行驶意图进行预测,基于Conv-LSTM构建轨迹预测模块,结合识别的行驶意图信息预测未来轨迹,从而提高轨迹预测的精度和可解释性。引入2种注意力机制对目标对象及其周围车辆的历史轨迹信息进行重要性分析,使模型关注最具有代表性的邻居车辆,并且更好地捕捉不同时间步之间的关系,从而提高模型的预测准确度和稳定性。针对有向包围盒碰撞检测算法执行效率低的问题,提出一种基于混合包围盒的碰撞检测算法,通过最小安全距离和最大冲突距离进行碰撞预判断,避免非冲突情况下有向包围盒的创建和基于分离轴定理的碰撞检测过程,从而提高碰撞检测的效率。在NGSIM数据集上进行实验,结果表明:该模型的均方根误差优于Conv-LSTM、sys-Conv等对比模型,轨迹预测的精度更高;与有向包围盒(OBB)算法、轴对齐包围盒(AABB)算法和AABB-OBB算法相比,基于混合包围盒的碰撞检测算法平均碰撞检测时间分别缩短了64.47%、53.88%和55.47%。

端到端的面向任务型对话系统多任务优化模型

在对话系统中的自然语言理解模块中存在着意图检测与插槽填充两个任务,这两个任务之间存在着极强的相关性,即插槽信息的生成高度依赖于意图信息。然而,现有工作大部分将其视为两个独立任务实现,导致对话系统的准确率无法得到进一步提升。为此,针对对话系统中意图检测任务与插槽填充任务之间的相关性信息,在已有工作的基础上提出了端到端的基于Stack-Propagation(堆栈传播)思想实现的网络模型。该模型在解码器阶段借鉴并改进了Stack-Propagation框架的思想,即将意图检测的结果加入到插槽填充任务的输入中,使用意图检测的结果去进一步指导插槽填充任务的进行。通过在斯坦福多领域对话数据集上进行实验,证明该模型不仅可以充分利用意图检测任务与插槽填充任务之间的相关性信息,还可以通过联合学习达到相互促进的效果,最终有效提高对话系统的准确率。

面向无人机群目标探测架构和关键技术研究进展

无人机(UAV)在军事、商业和民用领域的应用日益广泛,随着无人机群数量的增加,对于安全、隐私和公共利益的影响也日益受到重视。因此,研究面向无人机群目标的探测技术显得越来越重要。目前国内外已经开展了多项无人机群目标的探测相关研究工作。本文研究了无人机群目标探测的研究现状以及面临的挑战;然后针对这些挑战讨论了无人机群目标探测架构技术的类型。针对集中式、单一手段难以满足无人机群精细化感知、态势评估需求,提供了面向无人机群目标的空地联合多域探测架构,该架构具体包括:组网雷达、分布式频谱被动监测设备、移动多光谱感知设备、移动频谱监测设备;结合了不同感知方式在不同距离、不同方位、不同粒度等维度的优势,通过级联、协同、融合方式突破了单域探测的局限性。最后对其中关键技术进行了分析与总结。

利用知识强化语言模型的口语理解方法

基于预训练的语言模型在口语理解(SLU)任务中具有优异的性能表现。然而,与人类理解语言的方式相比,单纯的语言模型只能建立文本层级的上下文关联,缺少丰富的外部知识来支持其完成更为复杂的推理。提出一种针对SLU任务的基于Transformer的双向编码器表示(BERT)的联合模型。引入单词级别的意图特征并使用注意力机制为BERT融合外部知识。此外,由于SLU包含意图检测和槽填充2个相互关联的子任务,模型通过联合训练捕捉2个子任务间的关联性,充分运用这种关联性增强外部知识对于SLU任务的性能提升效果,并将外部知识转化为可用于特定子任务的特征信息。在ATIS和Snips 2个公开数据集上的实验结果表明,该模型句子级别的语义准确率分别为89.1%和93.3%,与BERT模型相比,分别提升了0.9和0.4个百分点,能够有效利用外部知识提升自身性能,在SLU任务中拥有比BERT更为优秀的性能表现。

多视角原型对比学习的小样本意图识别模型

针对基于度量学习的网络在小样本意图识别(few-shot intent detection,FSID)任务中未考虑所构建的各类别原型之间的语义约束问题,提出了一种基于多视角原型对比学习(multi-view prototypical contrastive learning,MVPCL)的FSID模型。该模型首先利用查询实例和支持集中的动态信息构建了多个维度的语义组件,以此捕获元任务中支持集的高级语义信息,从全局的角度理解话语的多样化表达。随后利用语义组件生成多视角的辅助原型,并将辅助原型和对比学习相结合,从多个维度考虑类别原型之间的约束,增大了类别原型之间的区分度,同时也在一定程度上避免了对单一原型的过度依赖。实验结果表明:与原型网络(prototypical network,PN)、关系网络(relation network,RN)、基于注意的混合原型网络(hybrid attention-based prototypical network,HATT)、层次注意力原型网络(hierarchical attention prototypical network,HAPN)和动态语义匹配和聚合网络(semantic matching and aggregation network,SMAN)相比,当支持集中每个类别所含实例数为1和5时,从SNIPS和NLUE数据集上整体观察可知:在FSID任务中,MVPCL模型的意图识别准确率至少提高了0.49%;在广义的小样本意图识别(generalized few-shot intent detection,GFSID)任务中,MVPCL模型的意图识别准确率至少提高了0.39%。

农业病虫害知识问答意图识别与槽位填充联合模型研究

农业病虫害领域的意图识别和槽位填充研究仍处于起步阶段,除语料严重匮乏外,还面临任务相互独立、忽略彼此相关性和未充分利用意图嵌入信息等问题。为此,提出了一种基于意图嵌入信息和槽位门控机制的意图识别与槽-位填充联合模型(AgIG-IDSF)。首先,该模型在共享编码模块引入了注意力机制用于丰富上下文语义特征;其次,提出了一种融合意图嵌入表示和槽位门控机制的意图-槽位交互方法用以增强意图信息指导槽位填充任务的能力,进而提高模型的整体识别性能。在包含22个意图类别、10个槽位类别和11 976条标注样本的自构建语料上进行了实验。结果表明,在该语料上AgIG-IDSF模型的意图识别准确率为94.41%,槽位填充F1值为94.01%,整体识别准确率高达88.07%,显著优于包含双向关联模型在内的多种基准模型,表明了该模型在识别农业病虫害意图与槽位方面的有效性。此外,在公共数据集上的实验结果还表明了该模型具有一定的泛化能力。

基于重建误差的任务型对话未知意图检测

现有未知意图检测模型通常将语句映射到向量空间,并使用局部异常因子算法定义密度较小的特征点为未知意图,但经交叉熵损失训练的已知意图特征簇更加狭长,簇内的整体间距、密度和分散情况不均匀,进而增加了检测难度。针对上述问题,提出一种基于自动编码器重建误差的未知意图检测模型。在训练阶段,使用融入标签知识的联合损失函数训练已知意图分类器,使已知意图特征类间距离大且类内距离小,并利用这些特征训练一个仅能获取已知意图信息的自动编码器。在测试阶段,利用自动编码器将重建误差较大的样本视为未知意图,其余样本视为已知意图正常分类。在SNIPS数据集上的实验结果表明,在已知意图占比为25%、50%、75%时,该模型的Macro F1得分相比于表现最优的增强语义的高斯混合损失基线模型分别提升了16.93%、1.14%和2.37%,能够检测到更多的未知意图样本,同时在类别分布极不平衡的ATIS数据集上也有较好的性能表现。

助行器智能转弯意图感知和摔倒检测

目的提高助行器智能抗摔倒功能,加强安全保障。方法在助行器两侧手柄上放置压力传感器,手动标注对应的运行意图标签,使用支持向量机(SVM)分类器进行模型预测,预测助行器的行驶意图,得到混淆矩阵。在使用者腰部佩带陀螺仪,助行器上安装激光传感器,通过陀螺仪检测角速度和角加速度,激光传感器测量距离,两者结合检测使用者摔倒情况。结果SVM建立的分类器模型能成功预测助行器的直行、左转和右转3种状态。当合角速度>100°/s、合角加速度>1.3 G、Z轴角加速度>0.7 G或<0.2 G、距离>600 mm或<300 mm,提示使用者摔倒。结论本研究设计的助行器可以感知使用者的转弯意图,并检测使用者摔倒情况。

基于动态线索感知生命性的认知神经机制

从运动的客体中感知生命性对于人类的生存繁衍和社会互动具有重要意义。传达生命性的动态线索可分为具有生物运动模式和表现意图的运动两类,二者所包含的一些特定运动特征是其引发生命性知觉的关键。现有理论假说分别从视觉信息加工和社会认知的角度解释了上述现象的认知机制。基于两类动态线索的生命性感知与皮层下和皮层上多个脑区的活动有关,这些脑区可能构成了一个涉及基本的生命信号探测以及高级的意图理解和推理功能的脑网络。未来研究需从认知、行为遗传及神经等层面系统揭示两类动态线索在生命性知觉中的作用及其交互机制,阐明上述脑网络的组织和连接方式及各个节点的具体功能;同时探究基于动态线索感知生命性的计算原理及将生命性感知异常作为社会认知障碍标志物的可能性,以推动其在人工智能与心理疾患识别等领域的应用。

面向小样本意图识别的分步式阶段性数据增强

文本意图识别任务中常面临训练数据不足的问题,且由于文本数据离散性导致在标签不变的条件下进行数据增强并提高原模型性能具有一定困难,为解决小样本意图识别任务中的上述问题,提出一种分步式数据增强与阶段性训练策略相结合的方法.该方法从全局和局部两个角度将原始数据在全体语句和同类别中的样本对上进行递进式增强,并在模型训练期间根据递进层次的不同划分阶段进行学习,最后在多个意图识别数据集上进行实验以评估其有效性.实验结果表明,该方法可以有效提高小样本环境中意图识别模型的准确率,同时模型的稳定性也得到了提升.

基于双图注意力的多领域口语语言理解联合模型

多领域口语语言理解包括多意图识别和槽填充两个子任务,现有研究通过构建语句中的意图和槽之间的关联提升模型的表现。然而现有研究将多领域场景下的意图和槽看作相互独立的标签,忽视了标签之间领域内和领域间的结构关联。该文提出细粒度标签图和领域相关图的双图注意力联合模型。具体来说,细粒度标签图将意图和槽标签分成细粒度分片,建模分片之间的结构性关联和上下文表示的语义特征。领域相关图通过标签间的领域信息,建模预测意图和对应领域内槽的关联,减少图中的冗余关联。实验结果表明,在两个公开的数据集上,该文提出的模型均优于基准模型。

Drone for Dynamic Monitoring and Tracking with Intelligent Image Analysis

Traditional monitoring systems that are used in shopping malls or com-munity management,mostly use a remote control to monitor and track specific objects;therefore,it is often impossible to effectively monitor the entire environ-ment.Whenfinding a suspicious person,the tracked object cannot be locked in time for tracking.This research replaces the traditionalfixed-point monitor with the intelligent drone and combines the image processing technology and automatic judgment for the movements of the monitored person.This intelligent system can effectively improve the shortcomings of low efficiency and high cost of the traditional monitor system.In this article,we proposed a TIMT(The Intel-ligent Monitoring and Tracking)algorithm which can make the drone have smart surveillance and tracking capabilities.It combined with Artificial Intelligent(AI)face recognition technology and the OpenPose which is able to monitor the phy-sical movements of multiple people in real time to analyze the meaning of human body movements and to track the monitored intelligently through the remote con-trol interface of the drone.This system is highly agile and could be adjusted immediately to any angle and screen that we monitor.Therefore,the system couldfind abnormal conditions immediately and track and monitor them automatically.That is the system can immediately detect when someone invades the home or community,and the drone can automatically track the intruder to achieve that the two significant shortcomings of the traditional monitor will be improved.Experimental results show that the intelligent monitoring and tracking drone sys-tem has an excellent performance,which not only dramatically reduces the num-ber of monitors and the required equipment but also achieves perfect monitoring and tracking.

Self-Supervised Task Augmentation for Few-Shot Intent Detection

Few-shot intent detection is a practical challenge task,because new intents are frequently emerging and collecting large-scale data for them could be costly.Meta-learning,a promising technique for leveraging data from previous tasks to enable efficient learning of new tasks,has been a popular way to tackle this problem.However,the existing meta-learning models have been evidenced to be overfitting when the meta-training tasks are insufficient.To overcome this challenge,we present a novel self-supervised task augmentation with meta-learning framework,namely STAM.Firstly,we introduce the task augmentation,which explores two different strategies and combines them to extend meta-training tasks.Secondly,we devise two auxiliary losses for integrating self-supervised learning into meta-learning to learn more generalizable and transferable features.Experimental results show that STAM can achieve consistent and considerable performance improvement to existing state-of-the-art methods on four datasets.

基于细粒度信息集成的意图识别和槽填充联合模型

意图识别和槽位填充是构建口语理解(SLU)系统的两项主要任务,两者相互联合的模型是对话系统的研究热点。这两个任务紧密相连,槽位填充通常高度依赖于意图信息。针对最近联合模型中:固定阈值很难在不同领域中选择出正向的投票,且复杂的意图信息不能充分地引导槽位填充的问题。提出了一种基于细粒度信息集成的意图识别和槽填充联合模型。其中,将由意图解码器获取的意图信息与各单词的编码表示拼接,形成意图引导的集成编码表示,从而为单词级槽位填充提供细粒度的意图信息。同时,通过计算最大意图得分和最小意图得分的中间值获得逻辑自适应阈值,并用其代替固定阈值。逻辑自适应阈值可随不同意图标签的得分分布而变化。通过在两个多标签数据集上的实验结果验证了提出的模型的性能。