[過去ログ]
Ruby 初心者スレッド Part 66 (1002レス)
Ruby 初心者スレッド Part 66 http://mevius.5ch.net/test/read.cgi/tech/1578068134/
上
下
前
次
1-
新
通常表示
512バイト分割
レス栞
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
522: デフォルトの名無しさん (アウアウエー Sa52-pTKR) [] 2020/05/20(水) 10:24:15.42 ID:Dfazl3Afa 二進数の浮動小数点数は十進数の(1/10)を表せなくて誤差の蓄積が出るって言うけど これは二進数固有の問題ではない 十進数の浮動小数点数も十進数の(1/3)を表せなくて誤差の蓄積が出る 金の計算では条件次第だが 四捨五入することが許されてる場合は毎回四捨五入して良い 許されていなければ浮動小数点数じゃなくて分数を使え http://mevius.5ch.net/test/read.cgi/tech/1578068134/522
メモ帳
(0/65535文字)
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 480 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.015s