[過去ﾛｸﾞ] プログラミングのお題スレ Part16 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
930(1): 2020/02/09(日)17:40 ID:GpaXptWq(3/3) AAS
固定小数点
元の値をN倍して整数値として扱うのが固定小数点
100倍したら小数第2位まで扱えるし
256倍すれば2進数で小数第8位まで扱える
加減算だけなら何倍してようがそのまま扱えばいいが
乗除算があると元の値の何倍であるかを意識しないといけない
N倍してる場合
乗算は c = (a * b) / N
除算は c = (a / b) * N
となる
省5
931: 2020/02/09(日)18:51 ID:KQJLHzBI(1) AAS
>>930
いきなり固定小数点の説明始めてどうした？
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.987s*