[過去ログ] Android Studio Part3 (1002レス)
前次1-
抽出解除 必死チェッカー(本家) (べ) 自ID レス栞 あぼーん

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
リロード規制です。10分ほどで解除するので、他のブラウザへ避難してください。
628
(1): デフォルトの名無しさん [sage] 2020/02/20(木) 09:44:35.91 ID:44kj7ryp(1/2) AAS
JNI(C++)で double a = 0.1;
ってやると

a = 0.10000000000000001

ってなるのは、浮動小数点の仕様ですか?
Decimalみたいに0.1にする方法はありますか?
631
(1): デフォルトの名無しさん [sage] 2020/02/20(木) 11:47:19.50 ID:44kj7ryp(2/2) AAS
>>630
630(1): デフォルトの名無しさん [sage] 2020/02/20(木) 11:15:39.93 ID:og2iBKE1(1) AAS
>>628
>Decimalみたいに0.1にする方法はありますか?
表示する時の問題だけなら、String.formatで桁数を制限して丸める。
本当に0.1=0.1000…の必要があるなら自分でDecimalクラスを作る
返事ありがとうございます。
内部で値の比較(==)に使いたいのですが、この辺りはC++の言語仕様なのですね。
Decimalクラスを作るか、OSSを探してみます。
ありがとうございました。
前次1-
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 0.041s