古代VBプログラマ質問スレ（Ver.6.0 まで） part65 [転載禁止]©2ch.net (835ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
660(1): デフォルトの名無しさん [sage] 2022/05/04(水) 19:05:29.42 ID:cCuNnoh+(2/2) AAS
>>658-659
レスthx
どっかのサイトの解説で、Currency型は整数15桁と小数4桁の8バイトで整数精度に問題あり。
LONGLONGと同じ8バイトのDouble型推奨って書いてたから、Double型との相互変換で
サンプル探してたけど、Double型が8バイトなのは最近のVBであって
VB6のDouble型って4バイトなのね。orz
Currency型とLARGE_INTEGER型の相互変換で探したら、すぐ見つかりました。
どうもお騒がせいたしました。
661: デフォルトの名無しさん [] 2022/05/05(木) 09:49:36.75 ID:yaYLZP+d(1) AAS
>>660
いやいや、むしろ問題があるのは
DOUBLE 型の方だろう。
整数の精度ではなく、浮動小数点で
10進と2進での計算のために誤差が出る。
整数を扱う場合はどちらも問題ないだろうが
Currency は通貨型と言われているものだから
計算に誤差があったらヤバいだろ。
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 1.356s*