-
题名基于不确定性权重的保守Q学习离线强化学习算法
- 1
-
-
作者
王天久
刘全
乌兰
-
机构
苏州大学计算机科学与技术学院
苏州大学江苏省计算机信息处理技术重点实验室
-
出处
《计算机科学》
CSCD
北大核心
2024年第9期265-272,共8页
-
基金
国家自然科学基金(61772355,61702055,61876217,62176175)
新疆维吾尔自治区自然科学基金(2022D01A238)
江苏高校优势学科建设工程资助项目。
-
文摘
离线强化学习(Offline RL)中,智能体不与环境交互而是从一个固定的数据集中获得数据进行学习,这是强化学习领域研究的一个热点。目前多数离线强化学习算法对策略训练过程进行保守正则化处理,训练策略倾向于选择存在于数据集中的动作,从而解决离线强化学习中对数据集分布外(OOD)的状态-动作价值估值错误的问题。保守Q学习算法(CQL)通过值函数正则赋予分布外状态-动作较低的价值来避免该问题。然而,由于该算法正则化过于保守,数据集内的分布内状态-动作也被赋予了较低的价值,难以达到训练策略选择数据集中动作的目的,因此很难学习到最优策略。针对该问题,提出了一种基于不确定性权重的保守Q学习算法(UWCQL)。该方法引入不确定性计算,在保守Q学习算法的基础上添加不确定性权重,对不确定性高的动作给予更高的保守权重,使得策略能更合理地选择数据集分布内的状态-动作。将UWCQL算法应用于D4RL的MuJoCo数据集中进行了实验,实验结果表明,UWCQL算法具有更好的性能表现,从而验证了算法的有效性。
-
关键词
离线强化学习
深度强化学习
强化学习
保守Q学习
不确定性
-
Keywords
Offline reinforcement learning
Deep reinforcement learning
Reinforcement learning
Conservative Q-learning
Uncertainty
-
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
-
-
题名基于突变理论的内蒙古巴彦淖尔市凌洪灾害风险评估
被引量:1
- 2
-
-
作者
王天久
冀鸿兰
牟献友
罗红春
张宝森
-
机构
内蒙古农业大学水利与土木建筑工程学院
黄河水利委员会黄河水利科学研究院
-
出处
《水电能源科学》
北大核心
2022年第2期84-87,100,共5页
-
基金
国家重点研发计划(2018YFC1508401)
国家自然科学基金项目(51969020)
2018自治区应用技术研究与开发资金项目(201802104)。
-
文摘
黄河内蒙古段凌洪灾害频发,凌情复杂多变,防凌除险难度极大,因此凌洪灾害的风险评估是开展防凌工作的重要部分。选取内蒙古巴彦淖尔市沿黄5个旗县区为风险区,通过分析凌洪灾害驱动机理,基于灾害学和突变理论建立灾害风险评估体系,得到各风险区的风险等级。结果表明,各风险区风险等级随黄河过境顺序呈逐级递减的态势,其中磴口县(0.956)属极高风险地区,杭锦后旗(0.923)、临河区(0.907)属高风险地区,乌拉特前旗(0.899)、五原县(0.885)属中等风险地区。突变评估结果与模糊优选法评价结果基本一致,且与历史险情统计基本吻合,验证了突变理论评价结果的合理性,可为巴彦淖尔市防凌减灾工作的科学规划、合理部署提供参考。
-
关键词
凌洪灾害
突变理论
模糊优选法
风险评估
黄河内蒙古段
-
Keywords
ice flood disaster
catastrophe theory
fuzzy optimal selection method
risk assessment
Inner Mongolia section of Yellow River
-
分类号
TV122
[水利工程—水文学及水资源]
-
-
题名中国钼业的历史与现状
被引量:3
- 3
-
-
作者
王天久
齐铁桶
-
机构
金堆城钼业公司
-
出处
《中国钼业》
1996年第1期51-52,共2页
-
文摘
中国的钼金属储量仅次于美国、智利,占世界第三位。30年代我国开始生产钼产品,经历60多年的风风雨雨,形成了采、选、冶、深加工整套钼产品的生产系列。我国钼产品生产随国际钼市场的起伏而相应变化。60年来经历了1962年、1979年、1988年、1993年下半年。
-
关键词
钼矿
中国
综述
-
分类号
F426.1
[经济管理—产业经济]
-
-
题名用阴离子交换法回收铼的新工艺
- 4
-
-
作者
王天久
张文广
罗占南
-
出处
《中国钼业》
1991年第4期29-29,共1页
-
文摘
在焙烧含硫化物的精矿时,于900~1000℃下有90%以上的铼都能挥发。这种方法的明显缺点是能耗较高。文献曾介绍通过活性炭吸附的方法,可从含大量钼的硝酸溶液中分离出铼。但这种吸附剂的容量很小,加工费用较高。与这种方法相比,建立在离子交换剂上的工艺,可使这些缺点得到明显改进。
-
关键词
阴离子交换
活性炭吸附
离子交换剂
加工费用
硝酸溶液
吸附性能
可从
交换树脂
混合液
选择性吸附
-
分类号
TF841.2
[冶金工程—有色金属冶金]
-
-
题名中国钢铁工业钼消费量调查与预测
被引量:1
- 5
-
-
作者
罗忠民
王天久
许庆棋
彭如清
-
机构
金堆城钼业公司
中国有色金属工业总公司技经院
-
出处
《中国钼业》
1997年第2期133-138,145,共7页
-
文摘
对近几年我国钢铁工业中钼消费量作了调查,并对2000年作了预测,还对扩大钼在钢铁工业中的应用提出了建议。
-
关键词
钼
钢铁工业
消费量
预测
中国
-
Keywords
Molybdenum, Iron and Steel Industry, Consumption, Forecast
-
分类号
F426.31
[经济管理—产业经济]
-
-
题名在青龙安家留茬免耕稻麦连作
- 6
-
-
作者
王天久
李宪华
张季春
牛志文
马玉东
-
机构
青龙满族自治县农业局
肖营子镇农技推广站
-
出处
《河北农业》
1995年第3期28-28,共1页
-
文摘
在青龙安家留茬免耕稻麦连作青龙满族自治县肖营子镇温杖子村,是个两茬不足一茬有余的一年一作区。1990~1994年在农业技术人员指导下,试种了“留茬免耕稻麦连作“示范田,获得上茬小麦平均亩产348公斤,下茬水稻亩产442公斤,两茬总产790公斤的好收成...
-
关键词
稻麦连作
青龙满族自治县
免耕
留茬
高产栽培
冬小麦
提高复种指数
培肥地力
水稻
“两高一优”农业
-
分类号
S344.3
[农业科学—作物栽培与耕作技术]
-
-
题名1993年国内外钼市场的回顾与展望
- 7
-
-
作者
王天久
董允杰
-
出处
《有色金属技术经济研究》
1994年第9期37-41,共5页
-
-
关键词
钼
市场
产量
消耗量
价格
库存量
供给
-
分类号
F407.35
[经济管理—产业经济]
-
-
题名“复关”对我国钼工业的影响
- 8
-
-
作者
董允杰
王天久
-
机构
金堆城钼业公司
-
出处
《中国钼业》
1994年第6期13-15,共3页
-
文摘
叙述了我国恢复关贸总协定(GATT)缔约国地位后,对国内钢工业产生的利弊影响,并对我国钼工业当前存在的问题提出了几点对策和建议。
-
关键词
复关
关贸总协定
钼工业
-
Keywords
Restoring GATT, Molybdenum industry
-
分类号
F407.3
[经济管理—产业经济]
TG146.412
[金属学及工艺—金属材料]
-
-
题名污泥水解酸化制备碳源及其模拟应用研究
- 9
-
-
作者
张春媛
韩博宇
李晨
张晓飞
王天久
骆灵喜
-
机构
内蒙古首润环保有限责任公司
-
出处
《绿色科技》
2024年第20期134-139,共6页
-
基金
内蒙古环保投资集团有限公司科技创新项目“基于城镇污水处理厂营养物去除及污泥减量化集成技术研究”。
-
文摘
为解决市政污水厂脱氮除磷碳源缺乏和污泥处置问题,采用污泥水解酸化方法制备挥发性脂肪酸(VFAs)作为污水处理系统补充碳源,污泥水解装置最佳污泥初始浓度为10000 mg/L,最佳停留时间为72 h;进一步采用超声波和氢氧化镁协同预处理后,可将污泥水解上清液SCOD Cr释放量提高25.98%以上,同时削减氨氮和总磷超过29.84%和83.96%。最后将侧流污泥水解酸化装置与AOA-SBR装置进行耦合,进行模拟应用研究,运行结果显示,污泥水解上清液可100%替代外加碳源——乙酸钠,并确保SBR装置出水COD Cr、氨氮、总氮和总磷等指标达到一级A(GB18918-2002)排放标准,同时污泥产量降低21.29%。
-
关键词
污泥减量
污泥水解酸化
SBR活性污泥法
碳源
脱氮除磷
-
Keywords
sludge reduction
sludge hydrolysis and acidification
SBR activated sludge process
carbon source
nitrogen and phosphorus removal
-
分类号
X52
[环境科学与工程—环境工程]
-