在半导体仿真中,通常需要对方程进行缩放以使它们具有归一化的值。例如,在极端情况下,半导体中的电子密度可能会变化超过18个数量级,而电场会发生形状变化,变化超过6个(或更多)数量级。
但是,论文从未真正给出这样做的理由。我个人很高兴以实际单位处理方程式,这样做有任何数值上的优势,否则是不可能的吗?我认为使用双精度数字将足以应付这些波动。
这两个答案都非常有用,非常感谢!
1
“可以变化超过18个数量级”-如果您考虑以双精度保留多少个数字,您会发现“以双精度将有足够的数字来应对这些波动”是真的吗?
—
JM
当您将这些数字输入数值算法时,真正的问题就开始了:取平方,突然之间有36个数量级的差异……
—
Christian Clason