[過去ﾛｸﾞ] 自動化ツールUWSC使いよ集まれ22 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
468(1): (ﾜｯﾁｮｲ 57e8-mZAX) 2020/02/09(日)16:18 ID:z+Td1uzD0(3/3) AAS
教えていただき、ありがとうございます。
小数第2位の数字が5になったり6になったりするのはバグなのですね。
このバグとBankers Rounding（偶数丸め）回避の自作関数を作成しました。
PRINT 小数四捨五入(0.555,2)
PRINT 小数四捨五入(1.555,2)
PRINT 小数四捨五入(10.555,2)
PRINT 小数四捨五入(100.555,2)
PRINT 小数四捨五入(1000.555,2)
PRINT 小数四捨五入(10000.555,2)
PRINT 小数四捨五入(100000.555,2)
省19
470(1): (ｵｯﾍﾟｹT Sr0b-Hbjn) 2020/02/10(月)18:34 ID:uLV6fvJPr(1) AAS
>>468
バグではない
仕様
数字の丸めは本当は0〜1までを均等に、半分半分にしたい
だが正確な半分つまり0.5の扱いが難しい
四捨五入って簡単に言うけど、これは0.5を1にしてしまうという荒業で
全体として1寄りになってしまう。均等ではない。
0.5を特定の条件で0にしたり1にしたりして均等にするっていうアルゴリズムが必要で
つまりこれが仕様
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.038s