Access VBA 質問スレ Part2 (788ﾚｽ)
上下前次1-新

---

702: 2023/10/04(水)10:07 ID:e9fui2Qq(1/2) AA×


[240|320|480|600|100%|JPG|べ|ﾚｽ栞|ﾚｽ消]
702: [] 2023/10/04(水) 10:07:17.16 ID:e9fui2Qq 浮動小数点を経由するので誤差から免れることはできません（以下はイミディエイト ウィンドウでの実行と結果） ? Fix(33.6 * 10 ^ 2), Fix(33.6@ * 10 ^ 2), Fix(33.6! * 10 ^ 2) 3360 3359 3359 単精度でも同様 ? Fix(33.6@ * 10 ^ 2) / 100, Fix(CCur(33.6@ * 10 ^ 2)) / 100, Fix(33.6@ * 100) / 100 33.59 33.6 33.6 べき乗を使うことが誤差を生む原因の一部でもあったりするので、CCur()で一度補正？したりで影響を減らすとかも考えられます。 http://mevius.5ch.net/test/read.cgi/tech/1544620479/702
浮動小数点を経由するので誤差から免れることはできません以下はイミディエイト ウィンドウでの実行と結果 単精度でも同様 べき乗を使うことが誤差を生む原因の一部でもあったりするのでで一度補正？したりで影響を減らすとかも考えられます

---

上下前次1-新書関写板覧索設栞歴

---

あと 86 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ

---

ぬこの手 ぬこTOP 0.020s