[過去ﾛｸﾞ] スレ立てるまでもない質問はここで 163匹目 (1002ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
709(2): (ﾜｯﾁｮｲ fd10-R6F1) 2023/02/23(木)20:55 ID:4nvSVdtR0(1/2) AAS
>>697
>>699
誤差の出ない計算って論理的には可能だよ。
掛け算だったら、計算するごと使用するメモリを増やす型と関数を自作すれば良い。
例えば、10進数の計算で1桁に1バイト使う型を定義する。
1.1は整数1バイトで少数1バイトだが、
1.3を掛けると
1.43で整数1バイト、少数2バイトになる関数を作ると桁が落ちなくなる。
割り算の場合は、分母と分子を別々の値を持った型を作れば良い。
710: 709 (ﾜｯﾁｮｲ fd10-R6F1) 2023/02/23(木)21:30 ID:4nvSVdtR0(2/2) AAS
試しに誤差の出ない計算のプログラム作ってみようと思ったら、
visual studio2008が古すぎるせいか動かなかったから、
visual studio2022をダウンロード中
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.055s