『つくってわかる はじめてゲームプログラミング?』 (26レス)
上
下
前
次
1-
新
24
: 2021/07/09(金)13:23
ID:NvVioMmc(1)
AA×
[240|
320
|
480
|
600
|
100%
|
JPG
|
べ
|
レス栞
|
レス消
]
24: [sage] 2021/07/09(金) 13:23:08.07 ID:NvVioMmc 扱っている数値は 32ビットの単精度浮動小数点数でいいのかな 数字を大きくしていって 「16777216」に1を足すと 値が変わらなくなり 前の数との引き算が0になる 1に「×256」を繰り返すと 15回目まで計算できる さらに「256×16777215÷16777216」 を超える値を掛けると、答えが1に戻る 1に「÷256」を繰り返すと 15回目まで計算できる さらに「÷64」 を超える値で割ると、答えが0になる http://mevius.5ch.net/test/read.cgi/gamedev/1622510363/24
扱っている数値は ビットの単精度浮動小数点数でいいのかな 数字を大きくしていって にを足すと 値が変わらなくなり 前の数との引き算がになる にを繰り返すと 回目まで計算できる さらに を超える値を掛けると答えがに戻る にを繰り返すと 回目まで計算できる さらに を超える値で割ると答えがになる
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 2 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
ぬこの手
ぬこTOP
0.193s*