[過去ログ] 分からない問題はここに書いてね457 (1002レス)
前次1-
抽出解除 レス栞

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
リロード規制です。10分ほどで解除するので、他のブラウザへ避難してください。
74
(1): 2019/12/30(月)00:40 ID:/m+zTMx/(3/7) AAS
>>73
違う。
仮に計算機が30.000000と言う値を出したとしてもそれでわかるのは30.000000±0.00000001という事でしかない。
人間や抽象代数計算のライブラリがあるソフトなら答えが正確に30になる事の証明を与える事ができる。
そのプログラムはそこまで難しくはないけど標準で入ってるソフトは多分ない。
私は昔作ったことあるけど遅いし問題を立式して方程式を与えるとこまでは手計算でしないといけない仕様でめんどくさくて実用性は全然だった。
30.000000±0.0000001だから30でいいと思えるならそれでどうぞ。
77
(2): 2019/12/30(月)01:17 ID:hOFsPt8Z(4/5) AAS
>>74
計算器の精度を知っていればいいんじゃないの?
こういうのがプログラムのバグの原因になったりするけど。

> (1.2-1)*5
0.9999999999999998

> 0.72*5-3.6
-4.440892098500626e-16
前次1-
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 0.037s