[過去ログ] Perlについての質問箱 64箱目 (1002レス)
上下前次1-新
抽出解除 レス栞
このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
128(2): 2019/11/07(木)00:06 ID:gr4VkOsJ(1/2) AAS
>>125
違うぞ。今回の問題点をちゃんとわかってるか?
1.1と書いたリテラルが、実際の値は1.10...となっていて、1.1よりも大きかったことだぞ。
誤差の具合によっては、正確には切り捨てが不要な値でも、除数が大きいせいで計算結果が実際よりも小さい値になってしまって、してはいけない切り捨てが発生してしまう可能性はないんかね。
130: 2019/11/07(木)01:08 ID:q6f07NqD(1/2) AAS
>>128
消費税は小数点を使わず整数計算で
10 /110
8 / 108
で計算するようにします
アドバイスありがとうございます
131: 2019/11/07(木)01:12 ID:q6f07NqD(2/2) AAS
>>128
うちの会社ではあんなに国家予算並みにたくさん「0」が出てくる消費税計算は無いのでとりあえずの回避でも大丈夫です
とはいえ先ほどのように整数計算に修正しようと思います
上下前次1-新書関写板覧索設栞歴
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ
ぬこの手 ぬこTOP 2.326s*