[過去ログ] Ruby 初心者スレッド Part 66 (1002レス)
上下前次1-新
抽出解除 必死チェッカー(本家) (べ) 自ID レス栞 あぼーん
このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
リロード規制です。10分ほどで解除するので、他のブラウザへ避難してください。
516: (オッペケ Srbb-vdj3) 2020/05/20(水)01:23 ID:DUBnOkDWr(1/2) AAS
誤差のせいで四捨五入しても一意に定まらねえよ
521: (オッペケ Srbb-vdj3) 2020/05/20(水)04:18 ID:DUBnOkDWr(2/2) AAS
うちの環境だと
p ([0.003] * 500).reduce(:+) # => 1.4999999999999827
Array#sumだと最適化されるけどね
そもそも不確かさの精度を気にする環境でfloat使うのが間違い
上下前次1-新書関写板覧索設栞歴
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.034s