标签：精度
浮点数float的范围分析有疑惑
浮点数float的表现方式为 SEEE EEEE EMMM MMMM MMMM MMMM MMMM MMMM S:符号位 E:阶码 M:尾数(默认前面会加1.尾数) 按本人个人理解： float的最大绝对值:0111 1111 1111 1111 1111 1111 1111 1111 即 + (1.1..1) * ……
11-16 立刻查看
Java数值计算精度问题
java精度doublefloat四舍五入 我想要得到一个数的2/3，然后四舍五入，比如数值为3，那么2/3则等于2 直接3*(2/3)这样在java中计算得出的结果是0，哪位大哥知道的指导下，麻烦给个实例代码参考 谢谢！ 20分 直接使用2/3 都是int型的，计算的结果也是int型的，结果值就是0了 转为double型，计算可以得到小……
04-12 立刻查看