スレを勃てるまでもないC/C++の質問はここで 25
[隔離病棟]
©2ch.net (467ﾚｽ)
スレを勃てるまでもないC/C++の質問はここで 25 <mark>[隔離病棟]</mark>©2ch.net http://mevius.5ch.net/test/read.cgi/tech/1471100645/
上
下
前次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
抽出解除
ﾚｽ栞
ﾘﾛｰﾄﾞ規制
です｡10分ほどで解除するので､
他のﾌﾞﾗｳｻﾞ
へ避難してください｡
288: デフォルトの名無しさん [sage] 2018/01/27(土) 16:35:32.82 ID:2gTl4aTp >>279 丸める前の値は何？ 文字列？double？数式？ http://mevius.5ch.net/test/read.cgi/tech/1471100645/288
290: デフォルトの名無しさん [sage] 2018/01/27(土) 16:54:03.59 ID:EckHRazm >>288 元データは文字列で、最大で有効数字8桁くらいの10進数の小数点数です それを単にstrtofで読みこんで、計算過程もずっとfloatです ですけど読み込み時の誤差も含めて計算誤差は特に問題にしなくてもかまいません それこそ計算誤差があるから仕方ないで押し通すこともできると思います ですが、計算結果を2つのグループに分ける際に、実数の閾値に対して忠実でなければならないということです >>284 閾値も計算の精度も32ビットのfloatで問題ないです なので閾値となるfloat値を事前計算すれば、とりあえずは済みます （ですが事後の変更に備えて、安全な方策がないものかと思い始めたわけです） >>283 閾値は実行時に関数を呼び出して計算する必要はありません 単に計算機で求めた桁の多い数字を使って意図通りにfloatを初期化できれば問題は解決です http://mevius.5ch.net/test/read.cgi/tech/1471100645/290
ﾒﾓ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.020s