Visual Studio 2010 Part21 (289レス)
上下前次1-新
抽出解除 レス栞
リロード規制です。10分ほどで解除するので、他のブラウザへ避難してください。
247(2): デフォルトの名無しさん [] 2021/11/09(火) 14:12:58.99 ID:JLiNtnwO(4/4) AAS
とりあえず補足
http://codepad.org/evcGt5sW
249: デフォルトの名無しさん [sage] 2021/11/09(火) 14:59:14.95 ID:dO6zD4He(5/7) AAS
>>246
>>247
ありがとうございます。ヒントになりそうなので、こちらの方向で調べてみます。
250: デフォルトの名無しさん [sage] 2021/11/09(火) 16:31:34.45 ID:dO6zD4He(6/7) AAS
>>246、>>247のヒントで、C.dll内にあるMath.Pow, Math.Sqrt, Math.Ceilingなど、
floatからdoubleにキャストされてしまう関数を再度floatにキャストしたり、小数部の
誤差を切り捨てるで、誤差を減らせることがわかりました。(なかったことにするとも言う)
最悪これでいきます。
AとBのアプリからC.dllの同じ関数を同じ引数で呼んでいるのに、なぜ戻り値が
異なるのかはわかっていません。そこがわかればスッキリ直せそうなのですが。
上下前次1-新書関写板覧索設栞歴
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.020s