返回列表 发帖
netdzb

Rank: 5Rank: 5

帖子
915 
积分
1223 
技术
3  
捐助
0  
注册时间
2018-1-17 
1楼 跳转到 » 倒序看帖
打印
tT
发表于 2020-4-19 17:33 | 只看该作者

[问题求助] Python中浮点数计算结果不够精确的问题

from decimal import Decimal

def add(x,y):
    return x+y

num1=Decimal(input())
num2=Decimal(input())

print(add(num1,num2))

1.2
11.2
12.39999999.....

我已经加上decimal了啊
收藏 分享

wujunkai

Rank: 4

帖子
287 
积分
363 
技术
20  
捐助
0  
注册时间
2019-3-5 
2楼
发表于 2020-4-19 17:59 | 只看该作者
回复 1# netdzb


    这个真的是IEEE一个诡异的协议的问题啊，实在不行用round吧

TOP

bailong360

Rank: 5Rank: 5

帖子
578 
积分
1235 
技术
170  
捐助
60  
注册时间
2012-8-5 
3楼
发表于 2020-4-19 21:27 | 只看该作者
你是 py2 吧，Decimal(input()) 这一步就损失了精度，因为 input() 会先把字符串转成浮点数再传给 Decimal
py2 应该这样写
from decimal import Decimal
 
def add(x,y):
    return x+y
 
num1=Decimal(raw_input())
num2=Decimal(raw_input())
 
print(add(num1,num2))COPY

TOP

cfwyy77_bat

Rank: 3Rank: 3

帖子
195 
积分
288 
技术
27  
捐助
0  
注册时间
2017-3-21 
4楼
发表于 2020-4-20 08:45 | 只看该作者
我这测试没有问题,  python3.7

TOP

返回列表