スレを勃てるまでもないC/C++の質問はここで 25 [隔離病棟]©2ch.net (467ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
281(2): 2018/01/27(土) 14:55:39.92 ID:EckHRazm(4/10)調 AAS
1.732050776と比較したいのではなく√3です（√3という数も説明の便宜上です念のため）
ですからdouble型でも√3が表現できないのは変わらない以上は
floatをdoubleにしても問題の起こりやすさが減るだけで起こることに変わりないと思います
doubleを使うなら1.7320508075688...よりも多くの桁数を書くことになるというだけです（20桁以上？）．．．
私の場合有効桁数そのものが問題なのではなく、切り上げか切り下げを指定したいということです
あるいはどちらが行われているかがわかればそれで問題ありません（と思います）
加えるとほかの工程に渡す必要があるためdecimal等をサポートするライブラリの使用は非常に厳しいです
284(1): 2018/01/27(土) 15:18:36.43 ID:BU9rpSw9(5/9)調 AAS
>>281
√3との比較対象となる計算結果も、floatなりdoubleなりを使う計算過程で桁落ちは発生するでしょ？ そっちは問題ないの？
閾値となる√3の桁落ちだけが問題？
なんにしろ、√3みたいな無理数を扱う場合は、有効桁数何桁、少数点以下何桁まで考慮するという前提がないと、それを扱う型の精度も決められないし、それがデータ設計者の役目だと思うけど
311: 2018/01/28(日) 11:31:33.17 ID:Y4YkWHjI(2/4)調 AAS
>やりたいことは、その切り捨てがあるなら切り上げたいってことでしょ
どこをどう読んだらそうなる
>>281は切り上げか切り捨てかどちらか特定できればいいって書いてるだろ
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.046s