期刊文献+
共找到17篇文章
< 1 >
每页显示 20 50 100
融合多种参数高效微调技术的深度伪造检测方法
1
作者 张溢文 蔡满春 +2 位作者 陈咏豪 朱懿 姚利峰 《计算机科学与探索》 CSCD 北大核心 2024年第12期3335-3347,共13页
近年来,随着深度伪造技术趋于成熟,换脸软件、合成视频已经随处可见。尽管深度伪造技术为人们带来了娱乐,但同时也为不法分子提供了滥用的机会。因此,深度伪造检测技术的重要性也日益凸显。现有的深度伪造检测方法普遍存在跨压缩率鲁棒... 近年来,随着深度伪造技术趋于成熟,换脸软件、合成视频已经随处可见。尽管深度伪造技术为人们带来了娱乐,但同时也为不法分子提供了滥用的机会。因此,深度伪造检测技术的重要性也日益凸显。现有的深度伪造检测方法普遍存在跨压缩率鲁棒性差、跨数据集泛化性差以及模型训练开销大等问题。为解决上述问题,提出一种融合多种参数高效微调技术的深度伪造检测方法,使用以掩码图像建模(MIM)自监督方法预训练的视觉自注意力模型作为主干,使用克罗内克积改进的低秩自适应方法对预训练模型的自注意力模块参数进行微调,同时采用并行结构加入卷积适配器对图像局部纹理信息进行学习,以增强预训练模型在深度伪造检测任务中的适应能力,采用并行结构引入经典适配器对预训练模型的前馈网络微调以充分利用预训练阶段学习到的知识,使用多层感知机代替原预训练模型分类头实现深度伪造检测。在六个数据集上的实验结果表明,该模型在可训练参数仅有2×10^(7)的情况下,在六个主流数据集上实现了平均约0.996的帧水平AUC。在跨压缩率实验中,帧水平AUC的平均下降为0.135。在跨数据集泛化性实验中,帧水平AUC达到了平均0.765。 展开更多
关键词 深度伪造 视觉自注意力模型 自监督预训练模型 低秩自适应 参数高效微调
下载PDF
遥感场景理解中视觉Transformer的参数高效微调
2
作者 尹文昕 于海琛 +2 位作者 刁文辉 孙显 付琨 《电子与信息学报》 EI CAS CSCD 北大核心 2024年第9期3731-3738,共8页
随着深度学习和计算机视觉技术的飞速发展,遥感场景分类任务对预训练模型的微调通常需要大量的计算资源。为了减少内存需求和训练成本,该文提出一种名为“多尺度融合适配器微调(MuFA)”的方法,用于遥感模型的微调。MuFA引入了一个多尺... 随着深度学习和计算机视觉技术的飞速发展,遥感场景分类任务对预训练模型的微调通常需要大量的计算资源。为了减少内存需求和训练成本,该文提出一种名为“多尺度融合适配器微调(MuFA)”的方法,用于遥感模型的微调。MuFA引入了一个多尺度融合模块,将不同下采样倍率的瓶颈模块相融合,并与原始视觉Transformer模型并联。在训练过程中,原始视觉Transformer模型的参数被冻结,只有MuFA模块和分类头会进行微调。实验结果表明,MuFA在UCM和NWPU-RESISC45两个遥感场景分类数据集上取得了优异的性能,超越了其他参数高效微调方法。因此,MuFA不仅保持了模型性能,还降低了资源开销,具有广泛的遥感应用前景。 展开更多
关键词 遥感图像 场景分类 参数高效 深度学习
下载PDF
不同参数高效超超临界机组经济性分析及建议 被引量:1
3
作者 龙志云 户洋洋 +1 位作者 高雷 胡双南 《锅炉制造》 2024年第2期13-15,共3页
本文根据目前大量已投运二次再热机组运行经验,结合某660MW项目高效一次再热和二次再热不同的高效超超临界参数,结合对应的汽机热平衡图参数,通过对THA、80%THA、60%THA三个运行负荷进行了相关的机组经济性参数的计算和对比,通过分析提... 本文根据目前大量已投运二次再热机组运行经验,结合某660MW项目高效一次再热和二次再热不同的高效超超临界参数,结合对应的汽机热平衡图参数,通过对THA、80%THA、60%THA三个运行负荷进行了相关的机组经济性参数的计算和对比,通过分析提出了在选择一次再热或二次再热参数上的一些建议和结论。 展开更多
关键词 煤电市场需求 机组经济性 高效超超临界参数
下载PDF
基于无参数高效算法的近红外光谱模型传递研究 被引量:1
4
作者 刘翠玲 徐金阳 +2 位作者 孙晓荣 张善哲 昝佳睿 《农业机械学报》 EI CAS CSCD 北大核心 2023年第2期396-402,共7页
模型传递可解决不同近红外光谱仪间多元校正模型无法共享的问题。以食用油为研究对象,对其酸值和过氧化值模型进行传递分析。在主机上建立偏最小二乘多元校正模型,利用无参数高效模型传递(PFCE)算法中NS-PFCE无标样算法和FS-PFCE有标样... 模型传递可解决不同近红外光谱仪间多元校正模型无法共享的问题。以食用油为研究对象,对其酸值和过氧化值模型进行传递分析。在主机上建立偏最小二乘多元校正模型,利用无参数高效模型传递(PFCE)算法中NS-PFCE无标样算法和FS-PFCE有标样算法分别实现模型传递,探讨了标准化样品数量对模型传递效果的影响。并与经典的3种有标样传递算法和2种无标样传递算法进行对比。结果表明,经NS-PFCE无标样传递后,从机酸值与过氧化值预测集均方根误差分别从0.613 mg/g和16.153 mmol/kg下降到0.275 mg/g和9.523 mmol/kg;而经FS-PFCE有标样传递后,从机酸值与过氧化值预测集均方根误差分别下降到0.274 mg/g和8.945 mmol/kg。且随着标准化样品数量的增加,经PFCE算法传递后预测集均方根误差越低。无参数高效模型传递算法联合应用单一的无标样算法和有标样算法两种传递方式,增强了传递模型的适应性和包容性,同时有效地降低主机光谱与从机光谱之间的差异,实现了不同光谱仪间校正模型的共享。 展开更多
关键词 食用油 近红外光谱 模型传递 参数高效模型传递算法
下载PDF
视觉大模型参数高效微调技术应用与展望
5
作者 程乐超 《人工智能》 2024年第1期54-65,共12页
视觉大模型(Large Vision Model,LVM)通过在各种大型图像数据集上进行预训练,在图像识别、图像分割等多种下游视觉任务上展现了强大的零样本泛化性能。随着算力的不断提升,大模型的参数规模也在迅速增长,最近的参数规模甚至达到千亿级... 视觉大模型(Large Vision Model,LVM)通过在各种大型图像数据集上进行预训练,在图像识别、图像分割等多种下游视觉任务上展现了强大的零样本泛化性能。随着算力的不断提升,大模型的参数规模也在迅速增长,最近的参数规模甚至达到千亿级。随着参数规模的增加,模型性能持续改进,表明模型获取了更多的知识。然而,从头开始训练这样一个庞大的模型,对硬件资源和训练数据提出了巨大需求,几乎没有个人或公司能够负担如此高昂的成本。参数高效微调(Parameter-Efficient Fine-Tuning,PEFT)通过在已有的大型模型基础上,仅微调较小数量的参数,适配特定的下游任务,而无需对所有参数进行调整。PEFT方法极大地降低了计算成本,并且可以达到甚至超越全参数微调的性能,为解决大型视觉模型适配特定任务时所面临的挑战提供了一种可行而高效的策略。 展开更多
关键词 视觉大模型 参数高效微调 垂直场景适配
下载PDF
基于高效参数微调的生成式大模型领域适配技术 被引量:3
6
作者 丁鑫 邹荣金 潘志庚 《人工智能》 2023年第4期1-9,共9页
在深度学习中,“预训练+微调”范式是经典的模型领域适配技术,可有效将预训练模型的丰富知识迁移至新的任务中。然而,随着深度神经网络的规模不断增大,生成式大模型的参数规模往往动辄数十亿甚至数千亿。因此,本文指出在新任务中“全量... 在深度学习中,“预训练+微调”范式是经典的模型领域适配技术,可有效将预训练模型的丰富知识迁移至新的任务中。然而,随着深度神经网络的规模不断增大,生成式大模型的参数规模往往动辄数十亿甚至数千亿。因此,本文指出在新任务中“全量微调”生成式大模型以实现领域适配不再具有可行性。接着,针对以上问题,本文介绍了一种“轻量化”的大模型领域适配技术——高效参数微调,并对三类主流算法进行综述,分析了算法的主要思想和优缺点。最后,本文借助两个成功案例展示了高效参数微调技术在生成式语言/视觉大模型上的应用效果,证明了高效参数调参技术仅需训练少量额外参数即可近似达到“全量微调”的领域适配效果。 展开更多
关键词 高效参数微调 生成式大模型 领域适配 有限算力
下载PDF
法律案件要素识别混合专家大模型
7
作者 尹华 吴梓浩 +2 位作者 柳婷婷 张佳佳 高子千 《计算机科学与探索》 CSCD 北大核心 2024年第12期3260-3271,共12页
智能司法判决正向符合法律判案逻辑的方向转变。案件要素识别是近年来提出的一项基础任务。相比于前期的基于深度学习和机器阅读理解的识别方法,采用大模型的生成式要素识别方法具有进行复杂推理的潜力。但是,目前司法大模型在这类基础... 智能司法判决正向符合法律判案逻辑的方向转变。案件要素识别是近年来提出的一项基础任务。相比于前期的基于深度学习和机器阅读理解的识别方法,采用大模型的生成式要素识别方法具有进行复杂推理的潜力。但是,目前司法大模型在这类基础任务上的效果不佳。提出了一种对话式混合专家要素识别大模型。该模型针对案件特点设计了特定的Prompt,供ChatGLM3-6B-base大模型学习;通过全参微调该大模型获得基础要素识别能力,其权重供后续混合专家共享,降低大模型学习成本;针对不同案件类型场景和标签不平衡场景,在大模型的注意力层引入案件DoRA专家和标签DoRA专家模块,提高模型对任务的区分度;设计可学习门控实现标签专家选择。在CAIL2019和某省脱敏盗窃案件要素识别数据集上,对比了三类方法的九个基准模型,并进行模型消融实验。实验结果显示,提出的模型综合性能F1值高于最优模型性能5.9个百分点;在标签不平衡的CAIL2019数据集上,标签专家一定程度上能够减缓数据极度不平衡给模型带来的影响;同时,CAIL2019上训练的模型不再需要全参微调,通过案件专家和标签专家轻量级微调后,在某省盗窃案件中取得最佳效果,证明模型具有易扩展性。 展开更多
关键词 案件要素识别 大模型 混合参数高效专家 提示词
下载PDF
低秩自适应微调的一阶段红外目标跟踪
8
作者 代宇航 刘乔 +2 位作者 袁笛 范娜娜 刘云鹏 《红外与激光工程》 EI CSCD 北大核心 2024年第8期89-103,共15页
由于缺乏大规模的红外跟踪训练数据集,现有的红外跟踪方法大都利用在大规模可见光数据上预训练的模型,然后在小规模的红外数据上进行完全微调。然而,当预训练模型的参数规模迅速增大时,完全微调需要的内存和时间成本也急剧增长,这限制... 由于缺乏大规模的红外跟踪训练数据集,现有的红外跟踪方法大都利用在大规模可见光数据上预训练的模型,然后在小规模的红外数据上进行完全微调。然而,当预训练模型的参数规模迅速增大时,完全微调需要的内存和时间成本也急剧增长,这限制了低资源用户在大型模型上进行研究和应用。为解决该问题,提出一种参数、内存和时间高效自适应的红外目标跟踪算法。首先,通过Transformer的自注意力机制对模板和搜索区域图像进行联合特征提取和关系建模,获取与目标关联度更强的特征表示;其次,利用低秩自适应矩阵的侧网络将可训练参数从主干网络中进行解耦,以减少需要训练更新的参数规模;最后,设计一种轻量级空间特征增强模块,增强特征对目标和背景的判别能力。提出方法的训练参数,内存和时间分别仅占完全微调方法的0.04%、39.6%和66.2%,性能却超越了完全微调。在3个标准红外跟踪数据集LSOTB-TIR120,LSOTB-TIR100和PTB-TIR上的实验对比结果和消融实验证明了提出的方法是有效的。提出的方法在LSOTB-TIR120数据集上成功率为73.7%,精度为86.0%,归一化精度为78.5%;LSOTB-TIR100数据集上成功率为71.6%,精度为83.9%,归一化精度为76.1%;在PTB-TIR数据集上成功率为69.0%,精度为84.9%,均取得了当前最先进的跟踪性能。 展开更多
关键词 红外目标跟踪 参数高效微调 低秩自适应矩阵 特征解耦 TRANSFORMER
下载PDF
高效参数超超临界П型锅炉包墙系统水动力研究
9
作者 龙志云 刘馨遥 +2 位作者 郭馨 王慧文 胡双男 《电站系统工程》 2024年第4期45-47,共3页
对于高效参数超超临界燃煤机组,锅炉受热面的安全性对机组长周期安全性提升至关重要,以某600 MWП型锅炉包墙系统为例,建立了典型的包墙系统水动力模型,通过回路划分,分析影响包墙系统受热面安全性的因素,对后续类似项目的设计提供一定... 对于高效参数超超临界燃煤机组,锅炉受热面的安全性对机组长周期安全性提升至关重要,以某600 MWП型锅炉包墙系统为例,建立了典型的包墙系统水动力模型,通过回路划分,分析影响包墙系统受热面安全性的因素,对后续类似项目的设计提供一定的技术支持。 展开更多
关键词 高效参数 包墙系统 水动力模型
原文传递
基于差分隐私的联邦大模型微调技术
10
作者 曾辉 熊诗雨 +1 位作者 狄永正 史红周 《信息安全研究》 CSCD 北大核心 2024年第7期616-623,共8页
随着私有数据可用性的降低,基于联邦学习的大模型参数微调成为备受关注的研究领域.尽管联邦学习本身具有一定程度的隐私保护能力,但其中的梯度泄露攻击和针对大模型的嵌入反转攻击等隐私安全问题仍然威胁着参与者的敏感信息.在当前对隐... 随着私有数据可用性的降低,基于联邦学习的大模型参数微调成为备受关注的研究领域.尽管联邦学习本身具有一定程度的隐私保护能力,但其中的梯度泄露攻击和针对大模型的嵌入反转攻击等隐私安全问题仍然威胁着参与者的敏感信息.在当前对隐私保护意识不断增强的背景下,这些潜在的隐私风险显著阻碍了基于联邦学习的大模型参数微调在实际应用中的推广.因此,提出一种联邦大模型嵌入差分隐私控制算法,通过全局和本地双重隐私控制机制,在高效参数微调过程中为大模型的嵌入模型添加可控的随机噪声,以增强基于联邦学习的大模型参数微调的隐私保护能力.此外,通过对不同联邦设置的实验比较,展示了该算法在大模型参数微调中的隐私保护效果,并通过中心化和联邦化的性能比较实验验证了该算法的可行性. 展开更多
关键词 联邦学习 大模型 高效参数微调 差分隐私 数据隐私泄露
下载PDF
东方1000 MW高效超超临界锅炉设计方案 被引量:14
11
作者 黎懋亮 易广宙 《东方电气评论》 2015年第4期26-30,共5页
介绍了东方锅炉自主开发设计的锅炉参数为29.4MPa/605℃/623℃的1000 MW高效超超临界的锅炉方案,对其设计难点和技术措施作了重点介绍。该锅炉的开发设计,提升了机组参数,提高了效率和电厂的经济性。
关键词 锅炉 自主开发 高效参数 材料选择 偏差控制
下载PDF
离心机转盘高效加工方法的探讨
12
作者 王向阳 《机电工程技术》 2011年第8期114-117,204,共4页
根据血型试验智能化离心机的性能特点及技术要求,对离心机微胶卡式和管式转盘的加工,采用了有效的工艺参数和方法,取得了完全符合技术要求的加工效果。
关键词 离心机转盘 高效工艺参数 数控加工
下载PDF
油菜增株控氮避病技术及应用 被引量:1
13
作者 敬甫松 郭子荣 《西南农业学报》 CSCD 1995年第3期31-40,共10页
1987~1992年在四川绵阳,用主推的甘蓝型油菜(BrassicanapusL.)品种及8个可控农艺措施,研究多因子对油菜产量、粒壳比和菌核病株率的非线性交互关系。研究表明,栽培调控可以有效地统一公顷角果数,每角粒... 1987~1992年在四川绵阳,用主推的甘蓝型油菜(BrassicanapusL.)品种及8个可控农艺措施,研究多因子对油菜产量、粒壳比和菌核病株率的非线性交互关系。研究表明,栽培调控可以有效地统一公顷角果数,每角粒数和千粒重间的矛盾。提出了“库源平衡区”的概念并由此界定“丰产稳定区域”;提出了密氮配置对抑制菌核病的流行学效应及其作用过程的数、时、空模型。采用计算机仿真技术,筛选出并界定了技术参数。实施该技术,可增加产量10%;降低菌核病的流行速率(r);减少该病造成的产量损失5.8%;节约氮素60kg/hm2。显著地提高了比较效益和资源利用率。目前已推广25.86万公顷,是一新的高效、简易的技术体系。 展开更多
关键词 油菜 丰产稳定区域 高效技术参数 栽培 氮肥
下载PDF
Small-Signal Equivalent Circuit Modeling of a Photodetector Chip 被引量:1
14
作者 苗昂 李轶群 +4 位作者 吴强 崔海林 黄永清 黄辉 任晓敏 《Journal of Semiconductors》 EI CAS CSCD 北大核心 2007年第12期1878-1882,共5页
A small-signal equivalent circuit model and the ted. The equivalent lumped circuit, which takes the main extraction techniques for photodetector chips are presen- factors that limit a photodetector's RF performance i... A small-signal equivalent circuit model and the ted. The equivalent lumped circuit, which takes the main extraction techniques for photodetector chips are presen- factors that limit a photodetector's RF performance into consideration,is first determined based on the device's physical structure. The photodetector's S parameters are then on-wafer measured, and the measured raw data are processed with further calibration. A genetic algorithm is used to fit the measured data, thereby allowing us to calculate each parameter value of the model. Experimental resuits show that the modeled parameters are well matched to the measurements in a frequency range from 130MHz to 20GHz, and the proposed method is proved feasible. This model can give an exact description of the photodetector chip's high frequency performance,which enables an effective circuit-level prediction for photodetector and optoelectronic integrated circuits. 展开更多
关键词 small-signal equivalent circuit model of photodetector parameter extraction high frequency meas-urement genetic algorithm
下载PDF
Study on the wave extreme parameters of the Bohai Sea with the numerical simulation using SWAN 被引量:1
15
作者 孙晓娟 周良明 +2 位作者 王爱方 王智峰 吴伦宇 《Marine Science Bulletin》 CAS 2013年第1期16-26,共11页
Wave fields in Bohai Sea from 1985 to 2004 were simulated using SWAN wave model by inputting high-resolution hindcast wind fields dataset. Comparisons of wave heights between simulation and observation show good agree... Wave fields in Bohai Sea from 1985 to 2004 were simulated using SWAN wave model by inputting high-resolution hindcast wind fields dataset. Comparisons of wave heights between simulation and observation show good agreement in general. According to the annual extreme values of simulation, this paper gives wave extreme parameters with different return-period for all computation grids in Bohai sea. 展开更多
关键词 Bohai Sea SWAN significant wave height extreme parameter
下载PDF
A new model to estimate significant wave heights with ERS-1/2 scatterometer data 被引量:1
16
作者 过杰 何宜军 +2 位作者 William Perrie 申辉 储小青 《Chinese Journal of Oceanology and Limnology》 SCIE CAS CSCD 2009年第1期112-116,共5页
A new model is proposed to estimate the significant wave heights with ERS-1/2 scatterometer data. The results show that the relationship between wave parameters and radar backscattering cross section is similar to tha... A new model is proposed to estimate the significant wave heights with ERS-1/2 scatterometer data. The results show that the relationship between wave parameters and radar backscattering cross section is similar to that between wind and the radar backscattering cross section. Therefore, the relationship between significant wave height and the radar backscattering cross section is established with a neural network algorithm, which is, if the average wave period is ≤7s, the root mean square of significant wave height retrieved from ERS-1/2 data is 0.51 m, or 0.72 m if it is >7s otherwise. 展开更多
关键词 SCATTEROMETER significant wave height neural networks wind waves SWELL
下载PDF
Statistical modelling for effect of mix-parameters on properties of high-flowing sand-concrete 被引量:7
17
作者 T.BOUZIANI A.BENMOUNAH M.BDRINA 《Journal of Central South University》 SCIE EI CAS 2012年第10期2966-2975,共10页
The high-flowing sand-concrete (HFSC) containing natural sands as aggregate was carried out. The high fluidity and stability of HFSC can be achieved by tailoring the mix design parameters, such as fine to coarse san... The high-flowing sand-concrete (HFSC) containing natural sands as aggregate was carried out. The high fluidity and stability of HFSC can be achieved by tailoring the mix design parameters, such as fine to coarse sand ratio, dosage of additions, water to binder ratio and dosage of admixtures. Mini-cone slump test, v-fl.mnel time test and viscosity model parameters were used to characterize the behaviour of HFSC in fresh state. The mechanical compressive strength in 28 d was also determined. A factorial design approach was used to establish models highlighting the effect of each mix-parameter on measured properties of HFSC. The derived models are valid for mixtures made with 0 to 0.3 of dune sand to total sand ratio, 82 to 418 kg/m3 of marble powder, 0.42 to 0.46 of water/binder ratio and 1.3% to 1.9% of superplasticizer high water-reducer. The results show that the derived models constitute very efficient means for understanding the influence of key mix-parameters on HFSC properties and are useful in selecting the optimum mix proportions, by simulating their impact on fluidity, stability and compressive strength. 展开更多
关键词 high-flowing sand-concrete factorial design FLUIDITY VISCOSITY mix-design parameters
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部