[過去ログ]
Pythonのお勉強 Part68 (1002レス)
上
下
前
次
1-
新
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
157
:
(ワッチョイ 2f97-5djn)
2022/09/28(水)20:32
ID:x5UMfEp40(1)
AA×
外部リンク[html]:docs.python.org
[240|
320
|
480
|
600
|
100%
|
JPG
|
べ
|
レス栞
|
レス消
]
157: (ワッチョイ 2f97-5djn) [] 2022/09/28(水) 20:32:50.93 ID:x5UMfEp40 Pythonに限らず浮動小数点数を使う場合は常に誤差の問題がつきまとう。 0.1というのがすでに二進数ではきっちり表現できない数字なので、有効数字を何桁にするのかというのは実装の段階で決めなくちゃならない。 https://docs.python.org/ja/3/tutorial/floatingpoint.html 正確に表現できるのは、0.5,0.25,0.125...と1を2で割っていった数とその整数倍のみ 0.1は1/(2×5)となり1/5が2進数では循環小数となり浮動小数点数では正確に表せない。 ということを念頭に置いてまず何がやりたいか考えた方がいいよ。 decimalモジュールは便利そうだね。 http://mevius.5ch.net/test/read.cgi/tech/1663235546/157
に限らず浮動小数点数を使う場合は常に誤差の問題がつきまとう というのがすでに二進数ではきっちり表現できない数字なので有効数字を何桁にするのかというのは実装の段階で決めなくちゃならない 正確に表現できるのはとをで割っていった数とその整数倍のみ はとなりが進数では循環小数となり浮動小数点数では正確に表せない ということを念頭に置いてまず何がやりたいか考えた方がいいよ モジュールは便利そうだね
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 845 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
ぬこの手
ぬこTOP
0.026s