[過去ログ] 【まず1嫁】くだすれPython(超初心者用) その58 (1002レス)
前次1-
抽出解除 レス栞

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
リロード規制です。10分ほどで解除するので、他のブラウザへ避難してください。
609
(2): デフォルトの名無しさん [sage] 2023/02/28(火) 23:00:32.89 ID:Z2baENvE(1) AAS
>>608
608(2): デフォルトの名無しさん [sage] 2023/02/28(火) 22:14:11.38 ID:1DbqyBOF(1/2) AAS
等号、不等号の問題じゃなく
計算誤差と有効桁数の問題じゃないのか?
理解できているならば、最初の質問の>>589で問題ない
きちんと有効桁数で計算誤差を無くすことが出来れば
等号だろうが不等号だろうが、自由に使える

あと
計算誤差でのバグが>>592
有効桁数でのバグが>>593
でしょ、分かりづらいけど
計算誤差を無くすことができているとどうやって確証得るのかな?
610
(1): デフォルトの名無しさん [sage] 2023/02/28(火) 23:37:33.90 ID:1DbqyBOF(2/2) AAS
>>609
そんなの計算式によりけりでしょ
質問者の0.1+0.1+0.1は
round(X, 10)でもround(X, 1)でも計算誤差は無くなる
619: デフォルトの名無しさん [sage] 2023/03/01(水) 09:36:09.09 ID:68s28u+f(2/3) AAS
>>609
abs(a - b) < machine_epsylon
前次1-
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 0.037s