[過去ログ] 【CF2.5】Clickteam Fusion/Multimedia Fusion 21 (1002レス)
上下前次1-新
抽出解除 レス栞
このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
976(2): 2021/11/22(月)11:34 ID:aZmu6SQH(1/2) AAS
不思議な仕様を見つけた
A 1.0*1/3
B 1*1.0/3
どちらも答えは3.333333...
になるかと思いきや、Aでは3.00、Bでは3.333333...
となる。
A (1.0*1)/3
省1
978: 2021/11/22(月)19:03 ID:LHuExnUq(1) AAS
>>976
割り算が先に処理されるってことなのかな
なんだかわからなくなってきた この仕様
980: 2021/11/23(火)20:02 ID:wC+wLM1X(1) AAS
>>976
型変換にまつわる糞仕様で、通常の計算式だと乗算と割り算は優先度等しいからこの場合式の左から優先なんだけど
浮動小数を扱うfloat型と整数のlong型が混在する式の場合、一致する型同士での計算が演算子の記述順よりも優先されてる
A 1.0*1/3=0
B 1*1.0/3=0.333
この書き方にも実は問題があってAとBは厳密に言うとA=Bではない
1.0は浮動小数点符号付きだからfloat型、1は整数のlong型、それぞれ違う数値型で2つは確保される
省8
上下前次1-新書関写板覧索設栞歴
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.026s