高精度计算-一流百科

高精度计算

高精度计算在计算机科学中，任意精度算术表示计算是在其精度位数仅受主机系统可用内存限制的数字上执行的。这与大多数算术逻辑单元 (ALU) 硬件中更快的固定...