数值精度与.net框架

问题描述

在我们的项目中,我们有一个用C#编写的计算dll。

.Net 4.7.2中为其构建之前

现在它内置于.NetStandard中。

自迁移以来,我们观察到输出的最后十进制几乎没有差异。

您会说这些变化的参数很好地解释了所观察到的数值差异吗?

我非常确定,取决于执行cpu架构和所使用的.Net框架,总线(?)或cpu(?)中的double实际字节数不相同,并且这可能会影响精度一些数值算法的结果。


编辑:两个应用程序使用此dll,一个.Net 4.7.2中,另一个.Net-core 2.1中。我们在迁移之前/之后的第一个应用中以及两个应用之间都看到了数值差异。

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)