AI预训练大模型发展综述

本文首先介绍了AI预训练大模型相关的部分核心技术,其中包括Transformer架构和人类反馈强化学习技术以及近端策略优化技术;研究了通用大模型的发展,重点关注了基于Transformer-Decoder架构的GPT系列、LLaMA系列模型与基于Transformer-Encoder架构的BERT、ALBERT、DeBERTa与RoBERTa模型,深入研究了它们的架构和训练方法,总结了它们的特点,探讨了其在不同领域中的应用;关注了垂直领域的大模型发展,如金融、医学、法学、自然科学和代码编程等领域.在金融领域,研究了BloombergGPT、GPT-InvestAR和TradingGPT模型;在医学领域,探讨了Med-PaLM和PMC-LLaMA等模型;在法学领域,分析了Lawformer和Chatlaw模型;在自然科学领域,介绍了华为云盘古气象大模型和FLUID-GPT模型;在代码编程领域,研究了CodeGeex和PanGu-Coder2模型.最后,对当前AI预训练大模型在知识产权、歧视、成本等方面的局限性与未来发展进行了讨论.

不同粒级铜尾矿对CaO-MgO-Al_(2)O_(3)-SiO_(2)微晶玻璃析晶性能的影响

采用不同粒级铜尾矿通过熔融法制备CaO-MgO-Al_(2)O_(3)-SiO_(2)(CMAS)微晶玻璃,通过差示扫描量热仪(DSC)、X射线衍射仪(XRD)和扫描电子显微镜-能谱仪(SEM-EDS)等测试方法分析了不同细度的铜尾矿对微晶玻璃析晶行为的影响,并借助JMA方程拟合了不同粒级铜尾矿微晶玻璃的析晶动力学行为。研究表明,不同粒级组成的铜尾矿中含铁矿物的种类和价态影响微晶玻璃的析晶行为。铜尾矿中的铁氧化物来源于原生矿物,如菱铁矿、硫铁矿、磁铁矿等含铁矿物多为Fe^(2+),不具备成核诱导作用且促进了玻璃体和中间体的形成,而外加氧化铁为Fe^(3+),具有较好的成核诱导作用并促进了高铁辉石晶相的析出,从而提高了微晶玻璃的各项性能。

基于区块链的软件定义网络数据安全共享研究进展

软件定义网络(Software Defined Network,SDN)是一种革命性的通信网络架构,极大地提高了网络的灵活性和可管理性。然而,SDN面临着众多的数据共享安全威胁和机制缺陷。为了解决这些问题,区块链作为一种去中心化、不可篡改、数据多方维护的分布式数据账本,提供了潜在的解决方案。首先简要介绍了SDN的基本概念以及在数据共享方面的需求,接着分析了区块链在提升数据安全共享方面的优势。根据安全信任框架、共享数据校验、跨域信息共识和节点安全防护等四个安全应用分类,系统地调研基于区块链的SDN网络数据安全共享的最新研究进展,并突出对比了各种解决方案的主要特性。然后从系统性能角度,分析基于区块链的解决方案可靠性。最后,从隐私保护、认证机制、共识安全和性能效率方面展望了未来的研究工作方向。

基于Transformer与改进记忆机制的用电量预测研究

近年来我国经济的高速发展对电力配置提出了更高要求,实现电力资源的高效配置需要更加精准的用电量预测。随着人工智能、机器学习等技术的发展,高效精准的用电量预测成为可能。目前该领域普遍使用Long Short-Term Memory (LSTM)及其变种模型,但准确度相对较低。文中提出了一种基于改进记忆机制与Transformer的用电量预测模型,使用Transformer编码输入,提出了一种新型记忆机制来执行预测。实验表明该方法相较随机森林回归和LSTM及其变种模型,一周内平均误差分别下降9.05%与5.32%,模型收敛速度更快且具有较好的泛化性能。

基于智能化构建前列腺癌病人全病程临床护理路径

目的:通过德尔菲法构建基于智能化的前列腺癌全病程临床护理路径。方法:通过文献分析、专家讨论初步建立基于智能化的前列腺癌病人全病程临床护理路径指标。采用德尔菲法对15名专家进行2轮函询,分析、整理专家意见,最终确立基于智能化的前列腺癌病人全病程临床护理路径。结果:2轮专家函询问卷的有效回收率均为100%,专家权威系数分别为0.895,0.906,2轮函询的肯德尔协调系数为0.201~0.283(P<0.05);最终构建的基于智能化的前列腺癌病人全病程临床护理路径包括院前信息智能获取阶段、术前预康复阶段、术后物联感知预警阶段和院后延续性护理阶段4项一级指标、14项二级指标、55项三级指标。结论:构建的基于智能化的前列腺癌病人全病程临床护理路径,不仅明确了前列腺癌病人全病程管理不同阶段内容和方式,也为后续开展有效的癌症疾病管理提供实践指导。

基于PMNT晶片热释电型太赫兹探测器的设计与应用(特邀)

针对太赫兹探测器的研究现状,分析研究了现有太赫兹探测器的优缺点,并对热释电型太赫兹探测器的热释电材料和吸收材料进行研究,提出了一种基于铌镁钛酸铅(PMNT)晶片的新型太赫兹探测器的设计和制作方法。用PMNT晶片作为热释电材料,碳纳米管作为吸收材料,使用精密减薄抛光工艺和溅射电极工艺等工艺技术,完成了新型热释电太赫兹探测器的设计与制作。并利用该探测器设计了一款太赫兹功率计,经测试,该功率计在0.1~30 THz宽频段、0.5~100 m W大功率动态范围内,功率测量准确度达到了±10%,综合指标达到国际同类产品先进水平,应用效果良好。

基于复杂网络的中国碳排放权价格风险传染研究

明晰碳价影响因素网络变化,有助于发现中国碳市场现阶段的主要风险源及风险传染特征,对维持碳价稳定与推动经济社会绿色低碳发展有着重大的理论及实践意义。本文基于格兰杰因果检验,构建了含有20个指标的碳价影响因素风险网络。首先通过网络拓扑性质,识别关键性指标,分析网络结构,然后利用k-core算法对网络进行分层分析及传播动力学分析,最后运用最小树形图筛选网络连边,分析指标间的风险传染路径。结果表明:全国碳市场运行后,国际碳价与国外经济形势处于风险网络的核心位置,有着较强的风险传染能力;网络整体风险传染能力减弱,风险传染范围变窄,传染速度变慢;网络的层次变浅,风险更易感知;利率与汇率中介作用显著减弱,而中国大庆原油现货价格有着较强的中介作用。

浅析唐代仕女画的转变

唐代仕女画突破了封建道德劝诫式的狭隘题材和功能限制,开始追求“曲眉丰颊,肌胜于骨”的外在表现。本文主要围绕唐代仕女画的人物形象、绘画技法以及社会功能,分析唐代仕女画的创新与转变。

课题研究引领高中生物学混合式教学改革

以“魅力课堂”为载体,以系列课题为抓手,引领和推动高中生物学混合式教学改革,构建“协作·自主”混合式实验教学模式,采用科学史微课程辅助教学,不断完善概念教学体系,实行线上、线下实验课程相结合,开展双向深度学习。不仅打造了团队合作的先进教研组,更推进了课程建设和课堂教学改革,成效显著。

千岛湖区马尾松林改造后的林下植物多样性和群落稳定性

[目的]马尾松针叶林阔叶化改造有利于提升森林生态系统结构和功能,对林下植被的更新和演替也有着重要影响。分析林分改造后的林下植物多样性和稳定性特征,可为森林的可持续经营提供参考。[方法]以淳安县千岛湖林区马尾松不同改造林分(Ⅰ疏伐促新、Ⅱ疏伐补阔、Ⅲ皆伐促新、Ⅳ皆伐补阔)为对象,周边无改造措施林分(Ⅴ)为对照,进行植被调查、土壤采样与测定,分析了林下植被物种组成和多样性与林地特征因子的关系,并探究了林下群落稳定性与物种多样性的关系。[结果]样地间的林下灌木层优势种的差异低于草本层,Ⅴ的林下物种多样性显著低于改造后林地(p <0.05),Ⅳ的草本层物种多样性显著高于其它林地(p <0.05)。林地特征因子能解释林下植物种变化的40%,且对草本层的影响程度高于灌木层,其中郁闭度是最主要的影响因素。在马尾松林分改造初期,林下植物群落稳定性Ⅴ>Ⅰ>Ⅱ>Ⅲ>Ⅳ,林下灌木层稳定性与物种多样性的相关程度较低,而草本层稳定性与物种多样性呈显著负相关(p <0.05)。[结论]千岛湖区马尾松林阔叶化改造初期,主要通过降低郁闭度显著提高了林下草本层多样性,但皆伐措施的林下植物群落稳定性较低。因此,综合考虑植物多样性和稳定性维持,对马尾松林采取适当间伐等抚育措施能促进其林下植被的发展。

原发性肝癌TACE术后上消化道出血的风险预测列线图模型构建及预防建议

目的探讨原发性肝癌经导管动脉栓塞术(transcatheter arterial chemoembolization,TACE)后上消化道出血的风险预测列线图模型构建及预防。方法选取2019年5月至2020年12月在我院接受TACE治疗的100例肝癌患者,依据术后消化道出血情况将其分为出血组(n=47)、未出血组(n=53),对比两组一般资料,采用Logistic回归分析肝癌TACE术后上消化道出血相关因素,基于列线图模型对出血因素行Logistic回归分析,分析消化道出血患者预后生存情况。结果100例肝癌患者中TACE术后发生消化道出血47例,未出血53例,两组一般资料性别、年龄、体质量、BMI、病理分类等差异均无统计学意义(P>0.05);肿瘤直径、分化程度、微血管侵犯、浸透肝被膜、手术切缘、术中腹腔积液、Child-Pugh分级、静脉曲张、插管位置、肝门总阻断时间、肿瘤数量、肠音增强方面比较,差异有统计学意义(P<0.05)。二元Logistic回归分析表明,肿瘤直径、分化程度、微血管侵犯、浸透肝被膜、术中腹腔积液、Child-Pugh分级、静脉曲张、插管位置、肿瘤数量及肠音增强均是术后消化道出血的危险因素(P<0.05)。采用列线图模型构建结果发现AUC为0.863(95%CI:0.808~0.929),灵敏度为69.58%,特异度为85.45%;消化道出血患者2年内生存率为61.70%(29/47);消化道未出血患者2年内生存率为84.91%(45/53),差异有统计学意义(χ^(2)=7.157,P=0.007)。结论风险预测列线图模型的构建对于原发性肝癌患者在TACE术后发生上消化道出血的风险预测及预后评估上均具有重要价值。

基于激光测距仪的移动机器人避障新方法

针对向量场直方图(VFH)算法对阈值敏感的问题,基于激光测距仪提出一种通过自适应调节阈值求可行方向的移动机器人实时避障算法.对于给定的一组阈值,用其中的每个阈值求可行方向,在获得的接近目标方向的所有可行方向中,选取最大阈值所对应的方向作为机器人的参考行驶方向.根据当前行驶方向与参考行驶方向之间的偏差和所选阈值的大小对线速度进行限制.在ASR机器人上进行实验的结果表明,当最大运行速度设为0.8m/s时,机器人能够以0.61m/s的平均速度安全平滑地通过障碍区.

近似平面场景多视点图像拼接算法

以小型无人机对地观测为应用背景,研究了近似平面场景多视点图像拼接问题。对于已知粗略相机位姿的情况,提出一种融合相机位姿信息和图像特征点对应信息的方法,采用直接稀疏Cholesky分解方法求解拼接全局优化问题。由该方法得到的拼接结果没有全局变形,局部拼接误差也得到了明显的改善。对于相机位姿未知的情况,先采用structure-from-motion(SFM)方法恢复相机姿态和场景稀疏结构信息,再采用稀疏全局调整方法获得最终的图像变换参数。通过沙盘图像和真实的航拍图像拼接实验验证了算法的有效性。

软件定义网络中的异常流量检测研究进展

软件定义网络(software defined networking,简称SDN)是一种新型的网络架构.SDN将控制层从数据层分离并开放网络接口,以实现网络集中控制并提高网络的可扩展性和编程性.但是SDN也面临诸多的网络安全威胁.异常流量检测技术可以保护网络安全,防御恶意流量攻击.对SDN异常流量检测进行了全面的研究,归纳了数据平面和控制平面可能遭受到的网络攻击;介绍并分析了位于应用平面、控制平面和中间平台的异常流量检测框架;探讨了异常流量识别机制、负载均衡机制、异常流量追溯机制和异常缓解机制;最后指明SDN异常流量检测在未来工作中的研究方向.

基于动态滑模控制的移动机器人路径跟踪

文章研究了室内环境下基于彩色视觉的移动机器人路径跟踪问题,利用颜色信息提取路径,简化了图像的特征提取;拟合路径参数时引入RANSAC方法,以提高算法的可靠性;在移动机器人非线性运动学模型的基础上,设计了一阶动态滑模控制器,并通过仿真验证了控制器的有效性。

金融系统风险的演化机理研究

金融混沌是金融系统中的一种内在不确定性,是经常出现在该系统中的一种极其复杂的现象,是当前非线性经济动力学研究的一项重要内容。文章基于系统的外部或内部冲击、系统的传染效应和系统的风险控制建立了一个新的金融系统风险模型,分析了其均衡解的稳定性和Hopf分岔发生的条件,通过分岔图对该系统的复杂性演化行为进行了仿真研究。

基于聚类的迭代双向最近点机器人位姿估计

针对迭代最近点(ICP)算法在存在严重遮挡的情况下容易陷入局部最小值的问题,对最近点规则(CP)进行了修改,提出双向最近点规则(DCP).DCP规则包含两次CP规则对应,使计算量增加了一倍.为了降低算法的复杂度,继而提出基于聚类的迭代双向最近点(IDCP BoC)算法.IDCP BoC对扫描数据进行聚类,在聚类的基础上进行数据精简.在相邻两次迭代的残差之差小于某个阈值之前,用精简数据进行迭代以提高计算速度,之后再改用非精简数据以保证精度.实验结果表明,IDCP BoC算法能够有效避免陷入局部最小值的问题且其实时性也是可接受的.

非对称信息下的政府规制与企业家寻租分析

本文以我国经济转型过程中的国企为研究对象,通过建立模型,分析了政府规制下的合谋和滥用权威的寻租行为,认为信息不对称和政府的监管不力是诱导国企从事寻租活动的主要因素,只有稳步推进国企改革并强化对寻租行为的惩戒机制,才能有效遇制腐败,提高企业经营效率。

滥用权威下的国企经理寻租博弈分析

在国有企业治理结构中,政府官员处于监管的地位,负责挑选和监督企业的经理。监管者可能滥用权威,侵蚀企业的剩余收益,滥用权威可能诱使经理由被动寻租转变成主动寻租,继而变成与监管者“合谋”寻租,使得滥用权威会比合谋更有害。通过建立他们之间的博弈模型,求出均衡解。并作出分析。