基于高阶空间交互网络的光伏组件热斑故障检测

针对传统红外热斑故障检测算法由于特征表达能力不佳造成算法易受复杂背景干扰以及对密集目标、小目标故障检测精度低的问题,提出一种基于高阶空间交互的光伏组件热斑故障检测网络。首先,设计高阶空间交互模块,并将其引入YOLOv5主干网络进行全局交互建模,提升网络对密集目标的检测精度;其次,为突出复杂背景下故障目标的关键特征,设计基于协同注意力的特征提取模块重构颈部网络;然后,在颈部网络设计多尺度特征增强融合模块以提高检测网络对不同尺度特征的充分利用;最后,设计自适应特征融合检测头以提高模型对小目标的感知能力。实验结果表明,相较于7种经典检测算法,所提出的算法检测精度最高,精度可达84.3%。

语义增强与高阶强交互的SAR图像舰船检测

合成孔径雷达(synthetic aperture radar,SAR)图像背景信息复杂、舰船目标边缘模糊,且多为容易丢失的小尺度舰船目标。针对上述问题,提出语义增强与高阶强交互的SAR图像舰船检测。该方法利用部分卷积与非对称卷积构建部分非对称卷积聚合网络,在减少计算复杂度、轻量化主干网络的同时,更好地捕捉多尺度舰船特征,同时在上采样部分引入双层路由注意力,增强对图像上下文信息的利用。另外,通过递归的方式进行特征提取,可以较好解决区域内信息交互的问题,实现不同级别特征之间的高阶交互建模,提升模型检测能力。在公开的HRSID遥感数据集上进行实验的结果表明,该方法的检测精度达到91.23%,相比原模型提升5.13%,准确率与召回率分别提升2.41%和7.16%,与主流算法相比具有较好的检测效果。

基于多粒度特征交叉剪枝的点击率预测模型

在推荐系统中,学习有效的高阶特征交互是提升点击率预测的关键.现有的研究将低阶特征进行组合来学习高阶交叉特征表示,导致模型的时间复杂度随着特征维度的增加呈指数型增长;而基于深度神经网络的高阶特征交叉模型也无法很好地拟合低阶特征交叉,影响预测的准确率.针对这些问题,提出了基于多粒度特征交叉剪枝的点击率预测模型FeatNet.该模型首先在显式的特征粒度上,通过特征剪枝生成有效的特征集合,保持了不同特征组合的多样性,也降低了高阶特征交叉的复杂度;基于剪枝后的特征集合,在特征元素粒度上进一步进行隐式高阶特征交叉,通过滤波器自动过滤无效的特征交叉.在2个真实的数据集上进行了大量的实验,FeatNet都取得了最优的点击率预测效果.

采用ISO14649标准实现智能CAPP/CAM的研究

以Windows XP作为开发环境,用VC++6.0作为编程语言,采用数字信号处理器(Digital Signals Processor,DSP)和复杂可编程超逻辑器件(Complex Programmable Logic Device,CPLD)相结合的三维运动控制器为硬件。通过读入STEP中性文件并为每一个特征建立特征目标,然后通过特征目标的相互协作,确定出最佳工步序列,最后生成ISO14649标准的数控文件供硬件部分读取并进行解释加工。

因子分解机模型研究综述

传统矩阵分解方法因其算法的高可扩展性和较好的性能等特点,在预测、推荐等领域有着广泛的应用.然而大数据环境下,更多上下文因素的获取变得可能,传统矩阵分解方法缺乏对上下文信息的有效利用.在此背景下,因子分解机模型提出并流行.为了更好地把握因子分解机模型的发展脉络,促进因子分解机模型与应用相结合,针对因子分解机模型及其算法进行了综述.首先,对因子分解机模型的提出进行了溯源,介绍了从传统矩阵分解到因子分解机模型的演化过程;其次,从模型准确率和效率两方面对因子分解机模型存在的基本问题和近年来的研究进展进行了总结,然后综述了适用于因子分解机模型求解的4种代表性优化算法;最后分析了因子分解机模型目前仍存在的问题,提出了可能的解决思路,并对未来的研究方向进行了展望.

基于交互信息的混合特征选择算法

针对传统的特征选择算法只专注于特征间的相关性和冗余性而没有考虑特征之间交互作用的问题,提出一种基于交互信息的混合特征选择(hybrid feature selection based on mutual information,MIHFS)算法,该算法以K-最近邻算法的分类准确率作为衡量所选特征分类性能的评价指标,有效地去除了冗余和不相关的特征,保留了具有交互作用的特征。为了评估该算法的性能,从分类准确率、所选特征数量以及算法稳定性三方面,与最大相关最小冗余、联合互信息等7种特征选择算法在8个数据集上进行了实验比较和分析。实验结果表明:MIHFS算法具有较强的稳定性,不仅有效降低了特征空间的维数,而且在所选特征的分类性能方面明显优于其他特征选择算法。最后将MIHFS算法与灰色关联分析法-逼近理想解的排序技术法相结合并应用到高邮凹陷永安地区戴一段地质评价中,其评价结果准确率为80%,与实际钻探结果基本吻合,具有较高的可靠性,能够有效指导油气地质评价。

增强型高阶注意力因子分解机点击率预测模型

特征交互的建模对于推荐系统中预测用户的点击率至关重要。设计了增强型高阶注意力因子分解机模型EHAFM(enhanced high-order attentive factorization machine),其主要由Embedding层、显式特征交互层、输出层构成。在每个显式特征交互层中,通过聚合其他特征的表示来更新特征的表示,并针对无用特征交互对预测产生干扰的问题,提出了增强型元素级注意力机制,利用投影矩阵拓展特征表示空间,以增强注意力矩阵的学习能力。通过融合多个增强型元素级注意力头的信息,以解决模型泛化能力不足问题。通过堆叠显式特征交互层可以将特征表示更新到任意高阶,将高阶特征交互部分与一阶线性部分结合进行点击率预测。EHAFM模型在Criteo、Movielens-1M两个数据集上进行实验,结果表明相较基准模型在两个数据集上分别有0.21%和0.92%的AUC提升。

基于高阶特征交互的点击率预估模型的实现

传统的低阶特征模型不能充分利用大数据,从多个维度描述数据和用户。专注于高阶特征提取,结合显式和隐式特征交互的点击率预估模型可以利用好大数据的特点。使用Tensorflow框架搭建包含深度神经网络、因子压缩交互网络和多重特征自交互网络结构的模型,使用淘宝展示广告点击率预估数据集进行训练。模型采用对数损失值和ROC曲线下面积作为评价指标,与原始的LR、FM、Deep&Wide等典型模型进行比较,对数损失值降低了0.04,AUC值提高了0.05左右。

基于自适应三线性池化网络的细粒度图像分类

细粒度图像分类的关键在于提取图像中微妙的特征。现有基于弱监督方式的细粒度图像识别方法大多使用专家标注的边界注释辅助定位关键区域,存在标注成本高、训练过程复杂等问题。基于弱监督的双线性卷积神经网络方法因其学习到的特征空间更符合细粒度图像特性而具有一定的有效性,但忽略了层间的相互作用。针对细粒度图像识别领域存在的关键区域识别困难和层间交互关联弱的问题,融合二阶协方差通道注意力机制、自适应特征掩码与自适应三线性池化,提出自适应三线性池化网络ATP-Net,用于细粒度图像分类任务。通过二阶协方差通道注意力机制学习通道上的注意力向量,构建自适应特征掩码模块学习空间维上的注意力矩阵,设计自适应三线性池化模块学习特征的最终表示,以充分利用空间维、通道维上的信息。在CUB-200、Cars-196和Aircraft-1003个细粒度图像分类数据集上的实验结果表明,ATP-Net的分类精度分别为89.30%、94.20%和91.80%。

基于高阶微观特征交互的晶圆异常检测研究

为提高晶圆异常检测准确率,并针对基于分块策略进行异常检测过程中,特征信息无法交互的问题,提出一种基于高阶微观特征交互的晶圆异常检测模型——堆叠交互自编码器(stacked interactive autoencoder, SinAE)。首先,采用层次聚类对采集到的高维数据进行无监督聚类,并根据戴维森堡丁指数(Davies-Boulding index,DBI)的肘拐点确立最优聚类状态;随后,利用Sin AE模型对聚类后的各个数据块分别提取高阶特征,并开发出特征交互模块,对各块高阶微观特征进行维度统一、信息交互以及特征融合操作;然后,对融合交互后的特征进行解码重构以及联立训练;最后,根据实时数据在Sin AE上的损失值,确定数据的异常状态,并采用数值仿真过程数据以及真实的半导体晶圆数据进行算法验证,实验结果表明,所提出的算法具有更高的异常检测性能。

用于表格数据的自动特征交互框架

构建一个新的自动表格数据特征(AutoFi)交互框架,目的侧重于类别型和数值型特征的交互,采用聚合运算、树模型和神经网络生成显式低阶特征和隐式高阶特征。通过引入相关系数筛选特征子集,在特征子集上进行特征交互,降低特征空间爆炸的风险。实验结果表明,AutoFi对LR模型的准确率和AUC均能实现大的提升,其中准确率和AUC分别提升0.07和0.31,提升模型效果显著,可在对某个地区的电力需求预测任务上,显著降低模型的预测误差。

基于高低阶特征交互学习的点击率预测模型研究

作为在线广告推送中极为重要的环节,准确的点击率预测(Click-Through Rate,CTR)不仅能提升用户体验,更能增加经济收益,减少资源浪费。目前,基于深度学习的CTR预测模型虽然取得了一定成绩,但在高低阶特征交互学习方面存在不兼顾、不充分以及模型可解释性不强等问题。为解决上述问题,文章提出的模型基于压缩交互网络对高阶交互特征进行显式学习,增强可解释性。同时采用ECA-net网络与双线性层组合的方式,对一阶特征进行加权学习,对二阶特征进行更加细粒度的特征交互,实现深度神经网络学习更细粒度的高阶交互特征,兼顾高低阶特征学习,获取更加全面的潜在特征相关性。在Criteo和Avazu两个公开的大数据集上实验发现,与已提出的相关模型相比较,新模型在性能方面均有所提升。

基于高阶纹理与结构特征交互的瓦当图像修复

针对中国历史建筑中瓦当构件图像在修复过程中图像纹理紊乱和边缘结构模糊丢失加剧的问题,提出了一种基于高阶纹理与结构特征交互的生成对抗式瓦当图像修复方法。首先以编码器-解码器作为基本架构,对破损图像及其边缘结构图进行纹理与结构特征的编码与解码;其次,在编码器和解码器中设计循环部分卷积层以增强图像高阶与低阶特征的交互,提高模型对瓦当图像纹理和结构细节的表征能力;最后,设计特征融合层以实现纹理和结构特征图的信息融合与细节增强。针对典型瓦当构件,构建了一套包含图像类、图案类和文字类的瓦当图像数据集。在该数据集中进行瓦当图像修复实验验证,实验结果表明,所提方法与常用算法相比,在主观感受和客观评价指标方面均表现出更加优异的修复结果。