题名 基于复拟随机样本的统计学习理论的理论基础
被引量:11
1
作者
张植明
田景峰
哈明虎
机构
河北大学数学与计算机学院
华北电力大学科技学院
出处
《计算机工程与应用》
CSCD
北大核心
2008年第9期82-86,93,共6页
基金
国家自然科学基金(the National Natural Science Foundation of China under Grant No.60773062,No.60673045)
教育部科学技术研究重点项目(the Key Scientific and Technical Research Project of Ministry of Education of China under Grant No.206012)
河北省教育厅科研计划重点项目(the Key Scientific Research Project of Department of Hebei of Education of China under Grant No.2005001D)
文摘
引入复拟(概率)随机变量,准范数的定义。给出了复拟随机变量的期望和方差的概念及若干性质;证明了基于复拟随机变量的马尔可夫不等式,契比雪夫不等式和辛钦大数定律;提出了拟概率空间中复经验风险泛函、复期望风险泛函以及复经验风险最小化原则等定义。证明并讨论了基于复拟随机样本的统计学习理论的关键定理和学习过程一致收敛速度的界,为系统建立基于复拟随机样本的统计学习理论奠定了理论基础。
关键词
复拟随机变量
准范数
复经验风险最小化原则
关键定理
收敛速度的界
神经网络
Keywords
complex quasi-random variable
primary norm
complex empirical risk minimization principle
key theorem
the bounds on the rate of convergence
neural network
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
题名 一种基于粗糙变量的学习算法的基础研究
被引量:2
2
作者
董开坤
刘杨
刘扬
胡仕成
刘慧霞
机构
哈尔滨工业大学(威海)计算机科学与技术学院
青岛大学数学科学学院
出处
《计算机工程与应用》
CSCD
北大核心
2008年第10期40-42,70,共4页
基金
国家高技术研究发展计划(863)(the National High- Tech Research and Development Plan of China under Grant No.2007AA010503)
哈尔滨工业大学(威海)校研究基金资助项目(No.HIT( WH) 200702)
文摘
支持向量机目前已成为机器学习领域新的研究热点,而统计学习理论中的关键定理为支持向量机等的研究提供了重要的理论基础。提出了粗糙经验风险最小化原则,提出并证明了一种基于粗糙变量的学习理论的关键定理,为研究粗糙支持向量机等应用性研究提供了依据。
关键词
向量机
信赖理论
信赖统计
粗糙经验风险最小化原则
关键定理
Keywords
vector machines
trust theory
trust statistics
rough empirical risk minimization principle
the key theorem
分类号
TP301.6
[自动化与计算机技术—计算机系统结构]
题名 噪声影响的泛空间上的学习理论关键定理
被引量:3
3
作者
李俊华
高林庆
李海军
机构
河北大学数学与计算机学院
河北大学研究生学院
中国地质大学长城学院
出处
《计算机工程与应用》
CSCD
2012年第27期49-52,共4页
基金
河北省教育厅资助科研项目(No.2010109)
文摘
关键定理是统计学习理论的重要组成部分,但目前其研究主要集中在概率空间上且假设样本不受噪声的影响。鉴于此,提出了泛空间上样本受噪声影响的期望风险泛函、经验风险泛函以及经验风险最小化原则的定义,给出并证明了泛空间上样本受噪声影响的学习理论的关键定理。
关键词
泛空间
泛随机变量
噪声
经验风险最小化原则
关键定理
Keywords
pan-space
pan-random variable
noise
empirical risk minimization principle
key theorem
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
题名 基于复随机样本的结构风险最小化原则
被引量:8
4
作者
哈明虎
田景峰
张植明
机构
河北大学数学与计算机学院
华北电力大学科技学院
出处
《计算机研究与发展》
EI
CSCD
北大核心
2009年第11期1907-1916,共10页
基金
国家自然科学基金项目(60773062)
教育部科学技术研究重点项目(206012)
+1 种基金
河北省教育厅科研计划重点项目(2005001D)
河北省自然科学基金项目(2008000633)~~
文摘
统计学习理论目前是处理小样本学习问题的最佳理论.然而,该理论主要是针对实随机样本的,它难以讨论和处理现实世界中客观存在的涉及复随机样本的小样本统计学习问题.结构风险最小化原则是统计学习理论的核心内容之一,是构建支持向量机的重要基础.基于此,研究了基于复随机样本的统计学习理论的结构风险最小化原则.首先,给出了标志复可测函数集容量的退火熵、生长函数和VC维的定义,并证明了它们的一些性质;其次,构建了基于复随机样本的学习过程一致收敛速度的界;最后,给出了基于复随机样本的结构风险最小化原则,证明了该原则是一致的,同时推导出了收敛速度的界.
关键词
统计学习理论
结构风险最小化原则
支持向量机
复随机样本
VC维
Keywords
statistical learning theory
structural risk minimization principle
support vector machine
complex random samples
VC dimension
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
题名 受噪声影响的复hybrid样本的学习理论关键定理
被引量:7
5
作者
李俊华
李海军
机构
河北大学数学与计算机学院
中国地质大学长城学院
出处
《河北大学学报(自然科学版)》
CAS
北大核心
2014年第1期14-18,82,共6页
基金
国家自然科学基金资助项目(11201110)
河北省教育厅资助项目(QN20131055)
文摘
结合机会测度理论和统计学习理论,提出了机会空间上受噪声影响的复hybrid样本的复期望风险泛函、复经验风险泛函以及复经验风险最小化原则的定义,给出并证明了机会空间上受噪声影响的复hybrid样本的学习理论的关键定理.
关键词
机会空间
复hybrid变量
噪声
复经验风险最小化原则
关键定理
Keywords
chance space
complex hybrid variable
noise
complex empirical risk minimization principle
key theorem
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
题名 基于双重随机样本的统计学习理论的理论基础
被引量:9
6
作者
张植明
田景峰
机构
河北大学数学与计算机学院
华北电力大学科技学院
出处
《计算机工程与应用》
CSCD
北大核心
2008年第17期33-36,共4页
基金
国家自然科学基金( the National Natural Science Foundation of China under Grant No.60773062)
教育部科学技术研究重点项目( the Key Scientific and Technical Research Project of Ministry of Education of China under Grant No.206012)
+1 种基金
河北省教育厅科研计划重点项目( the Key Scientific Research Project of Department of Hebei Education of China under Grant No.2005001D)
河北省自然科学基金资助项目( the Natural Science Foundation of Hebei Province of China under Grant No.2008000633)
文摘
介绍双重随机理论的基本内容。提出双重随机经验风险泛函,双重随机期望风险泛函,双重随机经验风险最小化原则等概念。最后证明基于双重随机样本的统计学习理论的关键定理并讨论学习过程一致收敛速度的界。为系统建立基于不确定样本的统计学习理论并构建相应的支持向量机奠定了理论基础。
关键词
双重随机样本
统计学习理论
双重随机经验风险最小化原则
关键定理
一致收敛速度的界
Keywords
birandom samples
statistical learning theory
birandom empirical risk minimization principle
key theorem
bounds on the rate of uniform convergence
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
O23
[理学—运筹学与控制论]
题名 基于随机粗糙样本的结构风险最小化原则
被引量:4
7
作者
张植明
田景峰
机构
河北大学数学与计算机学院
华北电力大学科技学院
出处
《计算机工程与应用》
CSCD
北大核心
2010年第21期51-54,共4页
基金
国家自然科学基金No.60773062
教育部科学技术研究重点项目No.206012
+1 种基金
河北省教育厅科研计划重点项目No.2005001D
河北省自然科学基金No.2008000633~~
文摘
提出了退火熵,生长函数和VC维等概念,构建了基于VC维的学习过程一致收敛速度的界。然后以这些界为基础,给出基于随机粗糙样本的结构风险最小化原则。最后证明该原则是一致的并且推导出了关于渐近收敛速度的界。
关键词
随机粗糙样本
退火熵
生长函数
VC维
结构风险最小化原则
渐进收敛速度的界
Keywords
random rough samples
annealed entropy
growth function
VC dimension
structural risk minimization principle
the bound on the asymptotic rate of convergence
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
题名 Sugeno测度空间上的一类回归估计问题的界
被引量:3
8
作者
田景峰
张植明
哈明虎
机构
华北电力大学科技学院
河北大学数学与计算机学院
出处
《模糊系统与数学》
CSCD
北大核心
2009年第4期84-91,共8页
基金
国家自然科学基金资助项目(60773062)
教育部科学技术研究重点项目(206012)
+2 种基金
河北省教育厅科研计划重点项目(2005001D)
河北省自然科学基金资助项目(2008000633)
华北电力大学科研基金资助项目(200911033)
文摘
在Sugeno测度空间上进一步探讨了统计学习理论。给出了Sugeno测度空间上gλ随机变量的条件期望的定义;在Sugeno测度空间上利用带加性噪声的观测数据,建立了一个由级数展开表达的回归估计模型,并针对此模型给出并证明了它的一个界。
关键词
Sugeno测度
gλ随机变量
结构风险最小化原则
回归估计
Keywords
Sugeno Measure
gλ random Variable
Structural risk minimization principle
Regression Estimation
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
O159
[理学—基础数学]
题名 泛空间上学习理论的关键定理
被引量:2
9
作者
高林庆
李鑫
白云超
哈明虎
机构
河北大学数学与计算机学院
出处
《计算机工程与应用》
CSCD
北大核心
2010年第31期32-35,共4页
基金
国家自然科学基金No.60773062
河北省自然科学基金No.F2008000633~~
文摘
给出泛空间上泛随机变量及其分布函数、泛期望和泛方差的定义和性质,证明泛空间上的Chebyshev不等式和Khinchine大数定律;给出泛空间上期望风险泛函、经验风险泛函以及经验风险最小化原则严格一致收敛的定义,证明了泛空间上学习理论的关键定理,把概率空间和可能性测度空间上的学习理论的关键定理统一推广到了泛空间上。
关键词
泛空间
泛可加测度
经验风险最小化原则
关键定理
Keywords
pan-space
pan additive measure
the empirical risk minimization inductive principle
the key theorems
分类号
TP391
[自动化与计算机技术—计算机应用技术]
题名 Sugeno测度空间基于复样本的统计学习理论
被引量:3
10
作者
张植明
田景峰
机构
河北大学数学与计算机学院
华北电力大学科技学院
出处
《计算机工程与应用》
CSCD
北大核心
2009年第7期59-64,共6页
基金
国家自然科学基金No.60773062
河北省自然科学基金No.2008000633
+1 种基金
教育部科学技术研究重点项目No.206012
河北省教育厅科研计划重点项目No.2005001D~~
文摘
引入复g_λ随机变量、准范数的定义,给出了复g_λ随机变量的期望和方差的概念及若干性质;证明了基于复g_λ随机变量的马尔可夫不等式、契比雪夫不等式和辛钦大数定律;提出了Sugeno测度空间中复经验风险泛函、复期望风险泛函以及复经验风险最小化原则严格一致性等定义;证明并构建了基于复g_λ随机样本的统计学习理论的关键定理和学习过程一致收敛速度的界,为系统建立基于复g_λ随机样本的统计学习理论奠定了理论基础。
关键词
Sugeno测度空间
准范数
复经验风险最小化原则
关键定理
收敛速度的界
Keywords
Sugeno measure space
primary norm
complex empirical risk minimization principle
the key theorem
the bounds on the rate of convergence
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
O234
[理学—运筹学与控制论]
题名 粗糙随机样本的结构风险最小化原则
被引量:3
11
作者
孙小慧
孙恒
吴涛
机构
安徽大学数学科学学院
北京林业大学水土保持学院
安徽大学计算智能与信号处理教育部重点实验室
出处
《周口师范学院学报》
CAS
2012年第5期7-12,17,共7页
基金
国家自然科学基金资助项目(No.61073117)
安徽大学学术创新团队基金资助项目(No.KJTD 001B)
安徽大学研究生创新基金资助项目(No.yfc100016)
文摘
介绍了粗糙随机理论的基本内容,提出了退火熵、生长函数和VC维等概念.并在此基础上构建了基于VC维的学习过程一致收敛速度的界;随后给出了粗糙随机样本的结构风险最小化原则;最后证明了在此原则下收敛速度渐进分析的一些相关性质.
关键词
粗糙随机样本
退火熵
生长函数
VC维
结构风险最小化原则
渐进分析
Keywords
rough -stochastic sample; annealed entropy; growth function; VC dimension; the structural risk minimization principle ; asymptotic analysis
分类号
O234
[理学—运筹学与控制论]
题名 基于Hybrid样本的学习过程一致收敛速度的界
被引量:2
12
作者
李俊华
白鹤举
机构
河北大学数学与信息科学学院
承德石油高等专科学校基础教学部
出处
《河北大学学报(自然科学版)》
CAS
北大核心
2016年第2期113-116,共4页
基金
国家自然科学基金资助项目(11201110)
河北省教育厅资助项目(QN20131055)
文摘
学习过程收敛速度的界是统计学习理论的重要组成部分,这些界决定了学习机器的推广能力.以机会理论和Hybrid变量的概念为基础,讨论了基于Hybrid样本的学习过程一致收敛速度的界,并给出了这些界和函数容量之间的关系.
关键词
Hybrid变量
Hybrid经验风险最小化原则
一致收敛速度的界
Keywords
Hybrid variable
Hybrid empirical risk minimization principle
the rate of uniform conver-gence
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
题名 受噪声影响的复拟随机样本的STL关键定理
被引量:1
13
作者
杜二玲
李俊华
机构
中国地质大学长城学院基础课教学部
河北大学数学与信息科学学院
出处
《河北大学学报(自然科学版)》
CAS
北大核心
2015年第5期449-452,共4页
基金
河北省教育厅科研项目(QN20131055)
河北省高等学校科学技术研究项目(Z2013038)
文摘
引入了拟概率空间上复拟随机样本受噪声影响的复经验风险泛函、复期望风险泛函、复经验风险最小化原则以及严格一致性的定义,提出并证明了拟概率空间上复拟随机样本受噪声影响的学习理论关键定理,为系统建立拟概率空间上基于噪声影响的复拟随机样本的统计学习理论奠定了基础.
关键词
复拟随机样本
噪声
复经验风险最小化原则
关键定理
Keywords
complex quasi-random samples
noise
complex empirical risk minimization principle
keytheorem
分类号
O29
[理学—应用数学]
TP181
[自动化与计算机技术—控制理论与控制工程]
题名 受噪声影响的复g_λ样本的学习理论的关键定理
被引量:1
14
作者
田景峰
张植明
机构
华北电力大学科技学院
河北大学数学与计算机学院
出处
《计算机工程与应用》
CSCD
北大核心
2009年第5期59-63,共5页
基金
国家自然科学基金(No.60773062)
教育部科学技术研究重点项目(No.206012)
+1 种基金
河北省教育厅科研计划重点项目(No.2005001D)
河北省自然科学基金(No.2008000633)~~
文摘
关键定理是统计学习理论的重要组成部分。但是,目前的研究主要集中在实随机变量且样本不受噪声影响。引入了复gλ随机变量、准范数的定义,提出了受噪声影响的复gλ样本的经验风险泛函、期望风险泛函以及经验风险最小化原则严格一致性的定义;给出并证明了受噪声影响的复gλ样本的学习理论的关键定理,为系统建立基于复gλ样本的统计学习理论奠定了理论基础。
关键词
复gλ随机变量
准范数
噪声
经验风险最小化原则
关键定理
Keywords
complex gλ variable
primary norm
noise
empirical risk minimization principle
the key theorem
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
题名 基于随机粗糙样本的统计学习理论研究
被引量:1
15
作者
张植明
机构
河北大学数学与计算机学院
出处
《计算机工程与应用》
CSCD
北大核心
2008年第31期43-46,63,共5页
基金
国家自然科学基金No.60773062
河北省自然科学基金No.2008000633
+1 种基金
教育部科学技术研究重点项目No.206012
河北省教育厅科研计划重点项目No.2005001D~~
文摘
介绍随机粗糙理论的基本内容。提出随机粗糙经验风险泛函,随机粗糙期望风险泛函,随机粗糙经验风险最小化原则等概念。最后证明基于随机粗糙样本的统计学习理论的关键定理并讨论学习过程一致收敛速度的界。
关键词
随机粗糙样本
统计学习理论
随机粗糙经验风险最小化原则
关键定理
一致收敛速度的界
Keywords
random rough samples
statistical learning theory
random rough empirical risk minimization principle
the key theorem
the bounds on the rate of uniform convergence
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
题名 基于模糊样本的统计学习理论的关键定理
被引量:8
16
作者
哈明虎
周彩丽
机构
河北大学数学与计算机学院
出处
《华北科技学院学报》
2004年第1期11-15,共5页
基金
河北省自然科学基金
河北省教育厅科学计划项目资助
文摘
结合模糊集理论和模糊统计学的知识 ,对作为统计学习理论基础的学习过程的一致性和关键定理进行推广 ,提出了模糊风险泛函、模糊经验风险泛函、基于模糊样本的ERM原则和非平凡一致性的概念 ,并给出了模糊意义下的学习理论的关键定理及其证明。
关键词
模糊随机变量
模糊风险泛函
模糊经验风险泛函~FERM原则:关键定理
Keywords
Fuzzy random variable
fuzzy risk functional
fuzzy empirical risk functi onal:fuzzy empirical risk minimization principle
key theorem
分类号
O159
[理学—基础数学]
题名 粗糙学习过程一致收敛速度的界
被引量:1
17
作者
王英新
唐世星
机构
承德石油高等专科学校社科与数理部
承德石油高等专科学校人事处
出处
《承德石油高等专科学校学报》
CAS
2010年第2期71-74,共4页
文摘
考虑到现实世界的不确定性,结合粗糙随机理论和粗糙统计学的知识,对粗糙随机样本情况下的统计学习理论一致收敛速度的界进行了推广,提出了粗糙学习问题的一般表示;给出了粗糙风险泛函、粗糙经验风险泛函以及粗糙经验风险最小化归纳原则等概念;最终证明了粗糙随机学习过程一致收敛速度的界。
关键词
统计学习理论
粗糙风险泛函
RERM原则
一致收敛速度的界
Keywords
statistical learning theory
rough risk functional
rough empirical risk minimization principle
bounds of uniform convergence rate
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
题名 模糊样本下学习问题的研究
18
作者
刘杨
刘扬
胡仕成
机构
哈尔滨工业大学(威海)计算机科学与技术学院国家计算机信息内容安全重点实验室
出处
《计算机工程与应用》
CSCD
北大核心
2008年第20期45-47,共3页
基金
国家高技术研究发展计划(863)(the National High-Tech Research and Development Plan of China under Grant No.2007AA010503)
哈尔滨工业大学(威海)校研究基金(No.IMJQ10000079)
文摘
支持向量机是机器学习领域一个研究热点,而统计学习理论中的关键定理为支持向量机的研究提供了重要的理论基础。基于模糊样本,提出了模糊经验风险最小化原则和非平凡一致性的概念,提出并证明了基于模糊样本的学习理论的关键定理,为研究模糊支持向量机提供了依据。
关键词
支持向量机
模糊风险泛函
经验风险最小化原则
关键定理
Keywords
Support Vector Machine(SVM)
fuzzy risk function
empirical risk minimization principle
key theorem
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
题名 基于算法稳定的ERM原则一致性的研究
19
作者
周德强
邹斌
机构
长江大学信息与数学学院
湖北大学数学与计算机科学学院
出处
《高校应用数学学报(A辑)》
CSCD
北大核心
2008年第2期235-242,共8页
文摘
通过对变一误差估计下算法稳定的研究,提出了不依赖于样本分布的CO稳定的概念,证明了CO稳定不仅是变一误差估计条件下ERM原则一致性的充要条件,而且也是学习算法具有推广性的充分条件.
关键词
经验风险最小化原则
算法稳定
变一误差估计
Keywords
empirical risk minimization principle
algorithmic stability
change-one error estimate
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
题名 基于粗糙随机样本学习理论的关键定理
20
作者
王英新
杜二玲
机构
承德石油高等专科学校数理系
中国地质大学长城学院
出处
《承德石油高等专科学校学报》
CAS
2009年第1期48-51,54,共5页
文摘
结合粗糙随机理论和粗糙统计学的知识,对粗糙随机样本下的统计学习理论学习过程的一致性和关键定理等进行了推广,提出了粗糙风险泛函、粗糙经验风险最小化归纳原则(RERM)和非平凡一致性的概念,并给出了粗糙随机样本下的学习理论的关键定理及其证明。
关键词
粗糙随机变量
粗糙风险泛函
粗糙经验风险泛函
RERM原则
关键定理
Keywords
rough random variable
rough risk functional
rough empirical risk functional
RERM principle
the key theorem
分类号
O211.5
[理学—概率论与数理统计]