[過去ログ] C#, C♯, C#相談室 Part91 [無断転載禁止]©2ch.net (1002レス)
前次1-
抽出解除 必死チェッカー(本家) (べ) 自ID レス栞 あぼーん

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
リロード規制です。10分ほどで解除するので、他のブラウザへ避難してください。
147
(1): デフォルトの名無しさん [sage] 2016/08/04(木) 19:09:46.69 ID:7IFnluUJ(1/3) AAS
>>146
146(1): デフォルトの名無しさん [sage] 2016/08/04(木) 18:21:20.99 ID:/RaQ1xov(4/13) AAS
>>142
多くの用途で誤差があっても許容できるというより、誤差は制御できる
(誤差の影響を受けずに必用な精度を得る方法はちゃんとある)というのが正しい理解。
制御したいのは誤差じゃなくて丸めの挙動な
知識を披露したいのはわかるが、話を逸らさないように
doubleの計算で結果が中間値に極めて近い値になるときの丸めの挙動が予測困難であることについて君は何も答えられてないよね
148
(1): デフォルトの名無しさん [sage] 2016/08/04(木) 19:30:45.91 ID:7IFnluUJ(2/3) AAS
数値計算の誤差の考え方には二種類あるんだよ
・誤差があるのは当然だから誤差は明示的に示すか不明確な桁は表示しない
・たとえ計算上の誤差が影響した桁だろうが、ある決まった桁まで数字を出さなければならない
後者は金融系が代表的だね
そして後者の場合、誤差範囲の中でなぜその数字になったか説明するための理由が必要だ
それには、丸めの挙動を制御することが非常に重要なんだよ
152
(1): デフォルトの名無しさん [sage] 2016/08/04(木) 19:58:40.44 ID:7IFnluUJ(3/3) AAS
>>151
151(1): デフォルトの名無しさん [sage] 2016/08/04(木) 19:53:02.49 ID:/RaQ1xov(7/13) AAS
お馬鹿さんに行っても分からないだろうけど、丸めの結果がどっちに転ぶか
予想できないような場面で丸めを実行するようなコードを書いてるとしたら
それはただのプログラマの頭の悪さに起因するバグだ。
だからそれをdecimalで解決できるケースもあると言ってるんだけど、理解できないかな?
あんたの理屈だとdouble値が10進数の中間値をとるケースなんて想定すること自体が間違っているということになるよね?
俺もそれには同意するよ
前次1-
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 0.029s