基于多层级上下文投票的三维密集字幕

传统的三维密集字幕方法存在未充分考虑上下文信息、点云特征信息丢失以及隐藏状态信息量单一等问题.为了应对这些挑战,提出了多层级上下文投票网络,该网络在投票过程中使用自注意力机制捕获点云的上下文信息并加以多层级利用,提升检测对象的准确率.同时,还设计了隐藏状态-注意力时序融合模块,将当前时刻隐藏状态融合与前一时刻注意力结果融合,丰富隐藏状态信息量,从而提高模型表达能力.除此之外,采用“两阶段”训练方法,有效过滤掉生成的低质量对象提案,增强描述效果.在官方数据集ScanNet和ScanRefer上的大量实验表明,该方法与基线方法相比取得了更有竞争力的结果.

基于因子分解机和隐马尔可夫的推荐算法

因子分解机是一种基于矩阵分解的机器学习方法,通过在矩阵中引入上下文信息,构建含有上下文信息的矩阵,能够很好地进行用户评分预测。隐马尔可夫模型是一种含有隐含未知参数的统计模型,使用隐藏状态能够更好地符合实际情况。传统的推荐算法在进行推荐时通常并没有引入上下文信息,这通常会影响推荐算法的效果。鉴于上下文感知推荐算法通常能有效提高推荐精度,文中通过对推荐系统引入上下文信息并为用户添加用户隐藏兴趣状态,能够更精确地对用户进行推荐。为此,提出了一种结合因子分解机和隐马尔可夫模型的方法。在公开数据集上的验证结果表明,该方法相较于一些传统的推荐算法能够有效地提升推荐精度,并且在数据量增加的情况下也有较高的推荐精度。

基于注意力机制的循环神经网络对金融时间序列的应用

金融时间序列由于高噪声性以及序列间的相关性,导致传统模型的预测精度和泛化能力往往较低。为了克服这一问题,提出一种基于注意力机制的循环神经网络预测模型。利用金融时间序列的技术指标作为特征序列,通过GRU得到隐藏状态,再利用注意力机制将其重构,并与目标序列一起作为新的GRU的输入,提高目标序列的预测效果。利用上证综指数据,分别使用加入注意力机制的门控循环网络与标准门控循环网络进行预测。在6个输入维度的情况下,基于注意力机制的GRU模型平均绝对百分比误差为0.76%,低于标准GRU模型的0.90%;在48个输入维度的情况下,基于注意力机制的GRU模型平均绝对百分比误差为0.73%,低于标准GRU模型的1.61%。结果表明,加入注意力机制后门控循环网络的预测效果得到提升,并且在特征序列的输入维度增大时,其预测效果提升更为明显。

基于扩展的HMM观察序列概率计算

HMM在自然语言处理领域占有很重要的地位。通常可以解决三大问题,主要针对第一个问题:给定HMM,计算观察序列的概率。提出了一种HMM的扩展模型,利用该扩展模型,计算观察序列概率的时间复杂度为T,大大节约了开支。但该模型也存在一定的不足之处,也是以后的研究方向。

基于马尔科夫链的股票预判实证研究

本文通过用马尔科夫过程对股票进行预判分析,随后使用隐马尔科夫链,通过模型的训练,获取每日的隐藏状态,分析发现存在优势隐藏状态,这对择时策略有重要参考意义.

基于自注意力优化隐藏细胞状态的行星齿轮系统可靠性分析

针对部分随机变量呈现高度非线性以及变量相互之间存在相关性难以建立可靠性分析模型等问题,提出了一种基于自注意力机制优化隐藏细胞状态的长短期记忆神经网络模型。首先,建立长短期记忆神经网络,并在每个单元的隐藏状态输出位置引入了自注意力机制,通过重新分配注意力权重来反映序列随机变量之间的相互关系。然后,通过数学推导,得到响应值与随机变量之间的显式函数关系,并使用一次二阶矩法计算可靠度。最后,构建了三级行星齿轮三维有限元模型,研究了在不同影响因素作用下齿轮的破坏过程和强度退化速度。结果表明:模型的拟合均方根误差保持在0.036以下,表明该模型对于高度非线性和数据之间有相关性的问题,具有一定的指导意义。