Main Content

精度

精度限制,舍入和填零的影响

计算机字由有限的位数组成。这意味着变量的二进制编码只是逼近某一精度的真实值。因此,二进制表示的限制会自动引入对值精度的限制。

主题