10.3969/j.issn.1000-386X.2003.02.019
半导体器件模拟线性方程组求解算法研究
在半导体器件模拟程序中,需要求解线性方程组.直接法在矩阵规模较大时逐渐暴露出对存储空间要求过大的缺点,从而导致运算速度的下降.而采用迭代算法,如广义最小偏差算法(GMRES)等,在处理大规模稀疏矩阵时对存储空间要求较小,有效地解决了存储空间不足的问题,并能显著地提高运算速度.迭代算法有望成为新一代器件模拟软件的主流数值计算方法.
半导体器件模拟、线性方程组、数值计算
20
TP3(计算技术、计算机技术)
2004-01-15（万方平台首次上网日期，不代表论文的发表时间）
共3页
42-44
