[過去ログ] 【まず1嫁】くだすれPython(超初心者用) その58 (1002レス)
前次1-
抽出解除 必死チェッカー(本家) (べ) 自ID レス栞 あぼーん

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
595
(2): 2023/02/28(火)11:03 ID:ViAY60W+(1/2) AAS
>>594
ありがとうございます
だんだん分かってきました

ということはvalueがthreshold以上かどうかの判定って
(threshold - 1e-10) < value
でできますよね?
600
(1): 2023/02/28(火)16:06 ID:ViAY60W+(2/2) AAS
<=を使うのが普通なのでしょうか?
であれば>>589で書いたように誤差を考えて、予め適当な桁で丸めるかdecimalを使うのが自然ですか?
質問ばかりですみません
python関係なさそうですねこの話は

>1-(1e-10)<1-(1e-11)がTrueになったり
>1+(1e-10)<1+(1e-11)がFalseになったりするけど
この話は浮動小数点を使う以上どこかで丸めないといけないので仕方のないことだと思います
前次1-
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ

ぬこの手 ぬこTOP 0.042s