强化学习引导模型生成的深度学习框架漏洞挖掘

现有基于应用模型挖掘漏洞的方法随机生成模型的结构信息,容易造成大量低质测试用例的生成,严重影响漏洞挖掘的效率和效果.针对该问题提出了一种强化学习引导模型生成的深度学习框架漏洞挖掘方法.提取模型运行时的框架状态信息,包括Softmax距离、程序执行结果等,再将框架运行状态信息作为奖励变量指导模型结构与超参数的生成,进而提升测试用例的生成质量与效率.实验结果表明,在生成测试用例数量相同的条件下该方法能够发现更多深度学习框架的漏洞,实用价值高.

基于强化学习引导预训练模型的情感音乐生成

生成具有特定情感的音乐是可控音乐生成的一个重要子任务。以往的监督学习方法需要依赖带有情感标注的音乐数据集,且存在训练目标与模型优化目标不一致的问题。本文提出了一种强化学习引导的情感音乐生成方法,使用训练好的符号音乐情感分类模型对生成的音乐进行打分,以此作为强化学习的反馈来优化基于GPT-2的自回归音乐生成模型。该方法突破了数据集标注的限制,能够在曲风流派和数据类型相似的无标注符号音乐数据集上训练模型进行情感音乐生成。客观和主观评价结果表明,本文提出的方法可以生成与指定情感类别相匹配的高质量音乐。

生成式人工智能赋能的非线性学习智能体模型建构

该研究探讨了生成式人工智能(AIGC)赋能的非线性学习智能体模型建构,分析了非线性学习的特点,并预设了自学、混合和协作三种学习场境。基于这些场境推导出智能体模型的功能需求,进而抽象出模型的核心能力。该文界定了非线性学习智能体的含义、数学表达式及核心算法,并阐述智能体模型的核心是一个改进的马尔可夫决策过程,旨在能够为学习者提供个性化、动态优化的学习支持,有效提升非线性学习的效率,为AIGC在教育领域的应用提供了新的模型构建方法,对推动教育信息化和个性化学习具有重要意义。

从深度学习到生成式大模型——论影视制作中的人工智能技术

目的:人工智能技术不断发展,在影视制作中的应用越来越广泛,从早期在后期制作中的有限参与发展到介入影视制作全过程,特别是近年来文生图和文生视频等生成式大模型呈现出前所未有的创造性。文章对从深度学习到生成式大模型的关键技术进行深入解析,旨在推动人工智能技术在影视制作中的广泛应用。方法:文章从人工智能技术的跨模态应用出发,深入分析文生图和文生视频等生成式大模型的底层技术结构,并结合深度学习技术的发展进化,对Transformer模型和生成模型进行解析。对Transformer模型,通过与卷积神经网络对比,重点分析其注意力机制的计算优势和向视觉领域的拓展方式。对生成模型,比较了流行的生成对抗网络(GAN)、变分自编码器(VAE)和扩散模型三种类型,并结合生成式大模型分析其应用。结果:Transformer模型以自主力机制改变了深度学习的技术架构,在自然语言处理和视觉领域都取得了极大成功,触发了大模型和跨模态应用。生成式模型是高质量图像生成力的核心,Transformer与生成模型配合,形成了生成式大模型的创新力量。结论:人工智能技术在影视行业引发了极大关注,随着技术的不断升级和创作者的实践探索,人工智能技术将给影视行业带来更大的机遇与挑战。

基于语言特征集成学习的大语言模型生成文本检测

大语言模型的快速发展为日常生活和工作提供了极大的便利,但也为个人和社会带来了挑战。因此,迫切需要能够检测大语言模型生成文本的检测器。为了兼具良好的检测性能和泛化能力,文章提出了一种基于语言特征集成学习的大语言模型生成文本检测方法EBF Detection。EBF Detection融合了微调预训练语言模型和高阶自然语言统计特征,利用判决机制,实现了大语言模型生成文本检测。实验结果显示,EBF Detection不仅在域内数据上平均的检测准确率达到了98.72%,而且在域外数据上的平均检测准确率达到了96.79%。

基于深度学习的调度检修预案生成模型构建

为解决传统的电力系统调度检修方法无法满足电力系统安全可靠运行要求,提出基于深度学习的调度检修预案,以提高电力系统的可靠性与运行效率。通过对数据进行收集与预处理,消除原始数据中的异常值、缺失值、错误数据。采用长短期记忆网络对电力系统历史数据进行训练学习,预测电力负荷及设备状态。采用条件生成模型,通过对抗训练来自动生成优化的调度检修预案。将提出的调度检修预案生成技术应用于实际的电力系统中,得到了电力系统1周的调度检修预案。为电力系统运维人员决策提供了参考。

高中阶段生成式人工智能体验教学实践探索——以基于大模型的分组学习项目学习为例

本文基于人工智能课程综合性、实践性和发展性并重的特点,关注人工智能领域的最新动向和成果,并沿着“是什么—怎样用—什么特征—如何看待”的主线,采用分组学习的组织形式,通过厘清概念、体验生成式人工智能、总结归纳生成式人工智能的特征、思辨生成式人工智能的发展,以及课堂检测和评价等教学活动,将人工智能素养的习得渗透到学习活动中。

ARCS模型视角下网络学习反馈设计

精心设计的网络学习反馈对于激发网络学习者的学习动机、帮助网络学习者及时调整自己的学习过程与状态,从而最终提升网络学习绩效有着重要的作用。区别于其它动机理论或模型,ARCS动机模型不但重视动机的激发,更重视动机的维持,对于网络学习反馈设计有着重要的指导意义。基于对ARCS模型内涵的理解,本文讨论ARCS模型视角下网络学习反馈目标设计——包括学习动机激发、学习过程优化以及学习满意度的提升;网络学习反馈类型设计——包括描述性反馈、评价性反馈、建议性反馈与指导性反馈;以及网络学习反馈策略设计——包括反馈主体界定、反馈对象选择、反馈方式设计。

基于条件变分推断与内省对抗学习的多样化图像描述生成

现有多样化图像描述生成方法受到隐空间表示能力和评价指标制约,很难同时兼顾描述生成的多样性和准确性.为此,本文提出了一种新的多样化图像描述生成模型,该模型由一个条件变分推断编码器和一个生成器组成.编码器利用全局注意力学习每个单词的隐向量空间,以提升模型对描述多样化的建模能力.生成器根据给定图像和序列隐向量生成多样化的描述语句.同时,引入内省对抗学习的思想,条件变分推断编码器同时作为鉴别器来区分真实描述和生成的描述,赋予模型自我评价生成的描述语句的能力,克服预定义评价指标的局限性.在MSCOCO数据集上的实验表明,与传统方法相比,在随机生成100个描述语句时,多样性指标mBLEU(mutual overlap-BiLingual Evaluation Understudy)提升了1.9%,同时准确性指标CIDEr(Consensus-based Image Description Evaluation)显著提升了7.5%.与典型多模态大模型相比,所提出方法在较小参数量的条件下更适用于生成多样化的陈述性描述语句.

一种基于生成对抗网络与模型泛化的机器人推抓技能学习方法

杂乱环境中机器人推动与抓取技能自主学习问题被学者广泛研究,实现二者之间的协同是提升抓取效率的关键,本文提出一种基于生成对抗网络与模型泛化的深度强化学习算法GARL-DQN。首先,将生成对抗网络嵌入到传统DQN中,训练推动与抓取之间的协同进化;其次,将MDP中部分参数基于目标对象公式化,借鉴事后经验回放机制(HER)提高经验池样本利用率;然后,针对图像状态引入随机(卷积)神经网络来提高算法的泛化能力;最后,设计了12个测试场景,在抓取成功率与平均运动次数指标上与其他4种方法进行对比,在规则物块场景中两个指标分别为91.5%和3.406;在日常工具场景中两个指标分别为85.2%和8.6,验证了GARL-DQN算法在解决机器人推抓协同及模型泛化问题上的有效性。

基于生成性学习理论的幼儿保育沉浸式虚拟仿真实训设计研究

利用虚拟现实技术进行幼儿保育典型工作环节的虚拟实训,是一项在学前教育教学领域利用虚拟现实技术的模拟性和沉浸性来开展幼儿园生活保育实训的新型实践模式,使学习者能在虚拟的幼儿园环境中,以虚拟实训的方式完成幼儿保育工作的实操实训,目前鲜有相关研究。根据生成性学习理论、沉浸理论,构建基于VR环境的沉浸式虚拟仿真实训生成性学习模型,有利于沉浸式虚拟现实仿真实训在学前教育领域的推广。

一类反馈过程神经元网络模型及学习算法研究

提出了一种带有反馈输入的过程式神经元网络模型,模型为三层结构,其隐层和输出层均为过程神经元。输入层完成连续信号的输入,隐层完成输入信号的空间聚合和向输出层逐点映射,并将输出信号逐点反馈到输入层;输出层完成隐层输出信号的时、空聚合运算和系统输出。在对权函数实施正交基展开的基础上给出了该模型的学习算法。仿真实验证明了该模型的有效性和可行性。

基于多模态对比学习的场景图生成方法

场景图生成方法(SGG)主要研究图像中的实体及其关系,广泛应用于视觉理解与图像检索等领域。现有的场景图生成方法受限于视觉特征或单一视觉概念,导致关系识别准确率较低,且需要大量的人工标注。为解决上述问题,文中融合图像和文本特征,提出了一种基于多模态对比学习的场景图生成方法MCL-SG(Multimodal Contrastive Learning for Scene Graph)。首先,对图像和文本输入进行特征提取,得到图像和文本特征;然后,使用Transformer Encoder编码器对特征向量进行编码和融合;最后,采用对比学习的自监督策略,计算图像和文本特征的相似度,通过最小化正样本和负样本之间的相似度差异完成训练,无需人工标注。通过大型场景图生成公开数据集VG(Visual Genome)的3个不同层次子任务(即SGDet,SGCls和PredCls)的实验表明:在mean Recall@100指标中,MCL-SG的场景图检测准确率提升9.8%,场景图分类准确率提升14.0%,关系分类准确率提升8.9%,从而证明了MCL-SG的有效性。

Lacmia:抗混淆的多民族语言生成式摘要模型

该文提出了一种针对中国多民族低资源语言生成式摘要模型Lacmia(Language-Anti-confusioned Chinese Minority Abstractive Summarization Model)。为了克服以往模型只能处理单一语言的限制,Lacmia采用了一种统一的生成式架构来执行不同民族语言的摘要生成任务。此外,为了解决以往模型在多民族低资源语言处理上的性能不足问题,该模型在框架中加入了语言信息嵌入模块。该文通过在损失函数中引入目标语言偏好性正则化项,有效减轻了多语言摘要中出现的语言混淆现象,从而提升摘要生成准确性和流畅度。广泛的实验表明,Lacmia在包括藏语和维吾尔语在内的多民族低资源语言摘要任务中,取得了卓越成绩。除了在ROUGE评价标准上实现了显著性能提升外,Lacmia在该文新提出的CINOScore和NLCR两项指标上均达到了最佳效果,验证了模型的有效性和先进性。

大模型时代的智适应学习研究:进展、实例与展望

智适应系统和生成式人工智能的有机结合正在重塑教育,这是经济全球化、技术变革的新诉求,也是人类文明进步发展的必然阶段。在回顾智适应学习的历史发展和技术优势的基础上,探讨全球视野下智适应学习的研究进展,明晰智适应学习的五个层级,依次为互联网教育、智能工具、智适应学习、高级智适应学习、完全智适应学习。在技术层面,重点介绍混合专家教育大模型的核心开发模块,讨论如何构建大模型与智适应知识图谱、推荐系统之间的相互赋能,有机结合,最终形成以大模型为核心的人工智能体。同时依托智适应学习应用的技术架构,呈现其应用的典型案例。在此基础上,围绕智适应学习的技术应用探索,梳理和归纳智适应学习的未来愿景:一是构建全民科学教育的标准;二是创造人工智能与人类智慧的同步进化;三是通过高质量人才培养服务教育强国建设。

基于多模态生成模型的半监督学习

随着进入大数据时代,“标记数据少,而未标记数据多”的现象越来越普遍.半监督学习是充分利用样本中“廉价”的未标记样本,让学习器不依赖外界交互、自动地利用未标记样本提升学习性能.通过构建多模态概率生成模型对数据进行建模,然后分析该模型上的监督学习过程和非监督学习过程,最后结合两种学习过程实现半监督学习.通过在MNIST数据集和FASHION_MNIST数据集上验证,证实本模型的可行性,并且对比经典的半监督学习可以看出,本模型提高了预测标签的精度.

深度强化学习算法在工装室内设计方案生成中的应用分析

深度强化学习(Deep Reinforcement Learning)算法目前应用的领域比较广泛,但是在工装室内设计领域的应用还较少,随着信息技术的发展,带动了室内设计的信息化发展,弥补了室内设计表达方式的诸多不足,为室内的智能化设计、绿色设计提供了更加结实的技术支撑。本文从DQN(Deep Q-Network)算法的改进与模型训练入手,对工装室内设计4个方面进行建模,分别是空间布局模型生成、智慧家居模型生成、方案评价模型生成、风格迁移模型生成,得出深度强化学习算法在工装室内设计方案生成中的应用路径,以期为信息技术与算法在室内设计领域的研究做出探索与尝试。

基于多元反馈的英语线上合作学习模型设计

传统模型只注重学生英语成绩的提高,忽略了学生自信心、交集能力、学习兴趣等的发展,为此设计了一种基于多元反馈的英语线上合作学习模型。经验证,实验班和对照班自信心、语言技能、学习兴趣以及人际关系有非常显著性差异,说明设计合作学习模型有助于学生综合素质的发展。

基于用户模型的生成性学习资源个性化推荐研究

个性化推荐作为解决学习者信息迷航的重要途径已成为研究热点。以生成性学习资源中学习者的个性化学习特征为基础,构建用户模型。根据布卢姆认识理论,采用贝叶斯网络评估学习者认知状态,并基于Felder-Silverman模型,利用TAN贝叶斯网络预测学习者学习风格,依据学习者的认知水平和学习风格推荐不同的学习策略,以有效提高学习效率。

生成扩散模型研究综述

扩散模型在生成模型领域具有高质量的样本生成能力,一经推出就不断地刷新图像生成评价指标FID分数的记录,成为了该领域的研究热点,而此类相关综述在国内还鲜有介绍。因此,文中对相关扩散生成模型的研究进行汇总与分析。首先,对去噪扩散概率模型、基于分数的扩散生成模型和随机微分方程的扩散生成模型这3类通用模型的特点和原理进行了论述,就每一类基本扩散模型中以优化模型内部算法、高效采样为改进目标的相关衍生模型进行分析。其次,对当下扩散模型在计算机视觉、自然语言处理、时间序列、多模态和跨学科领域等方面的应用进行总结。最后,基于上述论述,分别就目前扩散生成模型存在的采样步骤多、采样时间长等局限性提出了相关建议,并结合前述研究对未来扩散生成模型的发展方向进行了研判。