レス書き込み
スレへ戻る
写
レス栞
レス消
スレを勃てるまでもないC/C++の質問はここで 25
[隔離病棟]
©2ch.net
PC,スマホ,PHSは
ULA
べっかんこ
公式(スマホ)
公式(PC)
で書き込んでください。
名前
メール
引用切替:
レスアンカーのみ
>>290 > >>288 > 元データは文字列で、最大で有効数字8桁くらいの10進数の小数点数です > それを単にstrtofで読みこんで、計算過程もずっとfloatです > ですけど読み込み時の誤差も含めて計算誤差は特に問題にしなくてもかまいません > それこそ計算誤差があるから仕方ないで押し通すこともできると思います > ですが、計算結果を2つのグループに分ける際に、実数の閾値に対して忠実でなければならないということです > > >>284 > 閾値も計算の精度も32ビットのfloatで問題ないです > なので閾値となるfloat値を事前計算すれば、とりあえずは済みます > (ですが事後の変更に備えて、安全な方策がないものかと思い始めたわけです) > > >>283 > 閾値は実行時に関数を呼び出して計算する必要はありません > 単に計算機で求めた桁の多い数字を使って意図通りにfloatを初期化できれば問題は解決です
ローカルルール
SETTING.TXT
他の携帯ブラウザのレス書き込みフォームはこちら。
書き込み設定
で書き込みサイトの設定ができます。
・
ULA
・
べっかんこ(身代わりの術)
・
べっかんこ(通常)
・
公式(スマホ)
・
公式(PC)[PC,スマホ,PHS可]
書き込み設定(板別)
で板別の名前とメールを設定できます。
メモ帳
(0/65535文字)
上
下
板
覧
索
設
栞
歴
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.014s