スレを勃てるまでもないC/C++の質問はここで 25
[隔離病棟]
©2ch.net (467ﾚｽ)
スレを勃てるまでもないC/C++の質問はここで 25 <mark>[隔離病棟]</mark>©2ch.net http://mevius.5ch.net/test/read.cgi/tech/1471100645/
上
下
前次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
抽出解除
ﾚｽ栞
ﾘﾛｰﾄﾞ規制
です｡10分ほどで解除するので､
他のﾌﾞﾗｳｻﾞ
へ避難してください｡
281: デフォルトの名無しさん [sage] 2018/01/27(土) 14:55:39.92 ID:EckHRazm 1.732050776と比較したいのではなく√3です（√3という数も説明の便宜上です念のため） ですからdouble型でも√3が表現できないのは変わらない以上は floatをdoubleにしても問題の起こりやすさが減るだけで起こることに変わりないと思います doubleを使うなら1.7320508075688...よりも多くの桁数を書くことになるというだけです（20桁以上？）．．． 私の場合有効桁数そのものが問題なのではなく、切り上げか切り下げを指定したいということです あるいはどちらが行われているかがわかればそれで問題ありません（と思います） 加えるとほかの工程に渡す必要があるためdecimal等をサポートするライブラリの使用は非常に厳しいです http://mevius.5ch.net/test/read.cgi/tech/1471100645/281
284: デフォルトの名無しさん [sage] 2018/01/27(土) 15:18:36.43 ID:BU9rpSw9 >>281 √3との比較対象となる計算結果も、floatなりdoubleなりを使う計算過程で桁落ちは発生するでしょ？ そっちは問題ないの？ 閾値となる√3の桁落ちだけが問題？ なんにしろ、√3みたいな無理数を扱う場合は、有効桁数何桁、少数点以下何桁まで考慮するという前提がないと、それを扱う型の精度も決められないし、それがデータ設計者の役目だと思うけど http://mevius.5ch.net/test/read.cgi/tech/1471100645/284
311: デフォルトの名無しさん [sage] 2018/01/28(日) 11:31:33.17 ID:Y4YkWHjI >やりたいことは、その切り捨てがあるなら切り上げたいってことでしょ どこをどう読んだらそうなる >>281は切り上げか切り捨てかどちらか特定できればいいって書いてるだろ http://mevius.5ch.net/test/read.cgi/tech/1471100645/311
ﾒﾓ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.026s