Visual Studio 2010 Part21 (289レス)
Visual Studio 2010 Part21 http://mevius.5ch.net/test/read.cgi/tech/1412136476/
上
下
前次
1-
新
通常表示
512バイト分割
レス栞
抽出解除
レス栞
リロード規制
です。10分ほどで解除するので、
他のブラウザ
へ避難してください。
247: デフォルトの名無しさん [] 2021/11/09(火) 14:12:58.99 ID:JLiNtnwO とりあえず補足 http://codepad.org/evcGt5sW http://mevius.5ch.net/test/read.cgi/tech/1412136476/247
249: デフォルトの名無しさん [sage] 2021/11/09(火) 14:59:14.95 ID:dO6zD4He >>246 >>247 ありがとうございます。ヒントになりそうなので、こちらの方向で調べてみます。 http://mevius.5ch.net/test/read.cgi/tech/1412136476/249
250: デフォルトの名無しさん [sage] 2021/11/09(火) 16:31:34.45 ID:dO6zD4He >>246、>>247のヒントで、C.dll内にあるMath.Pow, Math.Sqrt, Math.Ceilingなど、 floatからdoubleにキャストされてしまう関数を再度floatにキャストしたり、小数部の 誤差を切り捨てるで、誤差を減らせることがわかりました。(なかったことにするとも言う) 最悪これでいきます。 AとBのアプリからC.dllの同じ関数を同じ引数で呼んでいるのに、なぜ戻り値が 異なるのかはわかっていません。そこがわかればスッキリ直せそうなのですが。 http://mevius.5ch.net/test/read.cgi/tech/1412136476/250
メモ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.021s