[過去ログ]
Ruby 初心者スレッド Part 66 (1002レス)
Ruby 初心者スレッド Part 66 http://mevius.5ch.net/test/read.cgi/tech/1578068134/
上
下
前次
1-
新
通常表示
512バイト分割
レス栞
抽出解除
必死チェッカー(本家)
(べ)
自ID
レス栞
あぼーん
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
522: デフォルトの名無しさん (アウアウエー Sa52-pTKR) [] 2020/05/20(水) 10:24:15.42 ID:Dfazl3Afa 二進数の浮動小数点数は十進数の(1/10)を表せなくて誤差の蓄積が出るって言うけど これは二進数固有の問題ではない 十進数の浮動小数点数も十進数の(1/3)を表せなくて誤差の蓄積が出る 金の計算では条件次第だが 四捨五入することが許されてる場合は毎回四捨五入して良い 許されていなければ浮動小数点数じゃなくて分数を使え http://mevius.5ch.net/test/read.cgi/tech/1578068134/522
523: デフォルトの名無しさん (アウアウエー Sa52-pTKR) [] 2020/05/20(水) 10:26:00.37 ID:Dfazl3Afa >>517 桁落ちは問題だが 切り捨ては銀行や政府が儲かるように 切り上げも銀行や政府が儲かるように 都合良く設定されているね http://mevius.5ch.net/test/read.cgi/tech/1578068134/523
メモ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.027s