[過去ログ] Pythonのお勉強 Part62 (1002レス)
上下前次1-新
抽出解除 レス栞
このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
リロード規制です。10分ほどで解除するので、他のブラウザへ避難してください。
144(1): デフォルトの名無しさん (ワッチョイ 0701-HmT3) [sage] 2019/10/02(水) 19:05:33.69 ID:qnjdQ6x30(3/3) AAS
一応説明しとく
「二進数の浮動小数点演算では誤差が出る」
→間違い。一般的に言われる「浮動小数点問題」は
外部リンク[html]:docs.python.org
に説明がある。雑に言うと、10進数に近似するときに出る誤差を問題にしている。
「数値間の等価性を厳しく保たなければならないようなアプリケーションを考えるなら、十進数による数値表現が望ましい」
→そもそも10進数で表現する必要がないのであれば、等価性を厳しく保つために2進数を採用するのが適切。
「2進数の浮動小数点数は、ハードウェアの演算機の精度で有効桁数が決まるが、10進数の場合は自由に決められるから」
→これこそIEEE754の制限でしょw高速性を求めないのであれば、2進数だろうが10進数だろうが精度は自由に設定できる。
150: デフォルトの名無しさん (ワッチョイ b501-Cwv9) [sage] 2019/10/03(木) 00:33:06.53 ID:4GYQfqj50(1/5) AAS
>>144 おいおい、ここはPython スレだぞ。 どこの言語の話をしてるんだ。
上下前次1-新書関写板覧索設栞歴
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.050s