[過去ﾛｸﾞ]
Pythonのお勉強 Part68 (1002ﾚｽ)
Pythonのお勉強 Part68 http://mevius.5ch.net/test/read.cgi/tech/1663235546/
上
下
前次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
抽出解除
ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索
歴削→次ｽﾚ
栞削→次ｽﾚ
過去ﾛｸﾞﾒﾆｭｰ
154: デフォルトの名無しさん (ﾜｯﾁｮｲ 2701-tX/F) [sage] 2022/09/28(水) 18:25:19.27 ID:OOL0jr8Q0 >>152 format使うの提案したけど使わないほうがよさそう、誤差がでる f(n): 負数で落ちる s=str(n).lstrip("-") c=Decimal(n*r) のところで n*r で誤差がでる c=Decimal(str(n)) * Decimal(str(r)) 負数対応四捨五入 -0.015 を四捨五入して -0.02 rs=((c > 0) - (c < 0)) * abs(c).quantize(Decimal("0."+("0"*d)), rounding=ROUND_HALF_UP) -0.015 を四捨五入して -0.01のようにしたい場合 rs=c.quantize(Decimal("0."+("0"*d)), rounding=ROUND_HALF_UP) 四捨五入したいのかよくわからんかった、roundingは好みのオプションでどうぞ http://mevius.5ch.net/test/read.cgi/tech/1663235546/154
155: デフォルトの名無しさん [sage] 2022/09/28(水) 19:37:21.94 ID:9I9ISsCh >>154 ありがとうございます やはり至るところで誤差が発生するのですね 四捨五入は今回の用途ではどちらでも良い感じです せっかくなのでまとめてみました https://ideone.com/JmTu06 ありがとうございました http://mevius.5ch.net/test/read.cgi/tech/1663235546/155
159: デフォルトの名無しさん (ﾜｯﾁｮｲ 2701-tX/F) [sage] 2022/09/29(木) 00:26:06.29 ID:3C3gpnCY0 >>154 どちらの書き方でも -0.015 を四捨五入したら-0.02だった、すまん -0.01にしたい場合は自力でなんとかして http://mevius.5ch.net/test/read.cgi/tech/1663235546/159
ﾒﾓ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.036s