期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
半导体器件模拟中求解线性系统的预条件处理方法
1
作者 刘其贵 吴金 +1 位作者 肖志强 魏同立 《东南大学学报(自然科学版)》 EI CAS CSCD 北大核心 2001年第4期14-17,共4页
对半导体器件模拟中求解线性方程组的预条件处理方法 ,即不完全LU分解方法进行了研究 .首先介绍了ILU分解的理论基础 ,说明了采用预条件处理方法对解决线性方程组迭代求解收敛的重要性 .然后介绍了由ILU方法发展而来的ILUV方法 ,并在对... 对半导体器件模拟中求解线性方程组的预条件处理方法 ,即不完全LU分解方法进行了研究 .首先介绍了ILU分解的理论基础 ,说明了采用预条件处理方法对解决线性方程组迭代求解收敛的重要性 .然后介绍了由ILU方法发展而来的ILUV方法 ,并在对ILU和ILUV方法的理论研究和算法分析的基础上 ,提出了兼容以上 2种方法优点的ILUVP方法 ,解决了ILUV方法中参数 ψ的选取无法兼顾计算量和收敛速度不同要求的难题 .最后通过对一个存在陡峭层分布的漂移扩散方程进行求解的实例 ,验证了算法的可行性和有效性 . 展开更多
关键词 半导体器件 ILU iluv iluvP 预条件 线性系统
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部