古代VBプログラマ質問スレ（Ver.6.0 まで） part65 [転載禁止]©2ch.net (835ﾚｽ)
古代VBプログラマ質問スレ（Ver.6.0 まで） part65 [転載禁止]©2ch.net http://mevius.5ch.net/test/read.cgi/tech/1440930335/
上
下
前次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
抽出解除
ﾚｽ栞
ﾘﾛｰﾄﾞ規制
です｡10分ほどで解除するので､
他のﾌﾞﾗｳｻﾞ
へ避難してください｡
660: デフォルトの名無しさん [sage] 2022/05/04(水) 19:05:29.42 ID:cCuNnoh+ >>658-659 レスthx どっかのサイトの解説で、Currency型は整数15桁と小数4桁の8バイトで整数精度に問題あり。 LONGLONGと同じ8バイトのDouble型推奨って書いてたから、Double型との相互変換で サンプル探してたけど、Double型が8バイトなのは最近のVBであって VB6のDouble型って4バイトなのね。orz Currency型とLARGE_INTEGER型の相互変換で探したら、すぐ見つかりました。 どうもお騒がせいたしました。 http://mevius.5ch.net/test/read.cgi/tech/1440930335/660
661: デフォルトの名無しさん [] 2022/05/05(木) 09:49:36.75 ID:yaYLZP+d >>660 いやいや、むしろ問題があるのは DOUBLE 型の方だろう。 整数の精度ではなく、浮動小数点で 10進と2進での計算のために誤差が出る。 整数を扱う場合はどちらも問題ないだろうが Currency は通貨型と言われているものだから 計算に誤差があったらヤバいだろ。 http://mevius.5ch.net/test/read.cgi/tech/1440930335/661
ﾒﾓ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.021s