[過去ログ] プログラミングのお題スレ Part21 (1002レス)
上下前次1-新
抽出解除 必死チェッカー(本家) (べ) 自ID レス栞 あぼーん
このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
554: デフォルトの名無しさん [sage] 2023/03/10(金) 11:39:00.03 ID:RgyaHPNK(1) AAS
>>553何がおかしい?
例えば
10^23の結果が10^23にならない
と指摘してたけどこれは違う
コードはちゃんと
f(9.999999999999999e22) = 5e22
を算出してる
しかし>>545のコードでコードの使用者が
a = fl125 $ 10^23
とやってもaには1e23ではなく5e22が返ってきてしまう
しかしそれはfl125がうまく機能していないのではなくhaskellの使用上標準の値受け渡しでは9.999999999999999e22と1e23を区別して渡す方法がないんだよ
かと言って
「9.999999999999999e22が引数で来る事はないな、きっとこれは1e23が精度の限界で誤って渡されてるんだ、引数は1e23とみなして答え返そう」
とかあり得んやろ?
わかる?
上下前次1-新書関写板覧索設栞歴
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.496s*