[過去ログ]
Delphiゲームプログラミング相談室 (976レス)
上
下
前
次
1-
新
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
838
:
ぬ
[sage] 2006/04/29(土) 23:30:37
ID:P3tEKmOP(4/4)
AA×
[240|
320
|
480
|
600
|
100%
|
JPG
|
べ
|
レス栞
|
レス消
]
838: ぬ [sage] 2006/04/29(土) 23:30:37 ID:P3tEKmOP GetPrecisionModeでFPUの精度を調べてみたら、 DirectX初期化前 → pmExtended DirectX初期化後 → pmSingle 単精度になってた。 SetPrecisionMode(pmExtended);を実行したらまた拡張精度に戻せるけど、 戻しちゃうとDirect3Dのパフォーマンスが落ちるらしい。 どうしたらいいんだろう。 以下検証こーど。DGCaradをフォームに貼り付けてから実行。 uses Math; procedure TForm1.FormCreate(Sender: TObject); var i, j: Cardinal; s: Extended; begin //コメントアウトすると計算結果が変わる? //SetPrecisionMode(pmExtended); i := 2; j := 5; s := i / j; Form1.caption := FloatToStr(s); end; http://echo.5ch.net/test/read.cgi/gamedev/1006249204/838
での精度を調べてみたら 初期化前 初期化後 単精度になってた を実行したらまた拡張精度に戻せるけど 戻しちゃうとのパフォーマンスが落ちるらしい どうしたらいいんだろう 以下検証こーどをフォームに貼り付けてから実行 コメントアウトすると計算結果が変わる?
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 138 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
ぬこの手
ぬこTOP
0.034s