[過去ﾛｸﾞ] スレ立てるまでもない質問はここで 163匹目 (1002ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
699(1): (ﾜｯﾁｮｲ cbcf-h1Ka) 2023/02/22(水)17:52 ID:3MJ5isf30(1) AAS
>>697
はずもクソもそんな計算方法はないし、計算以前にコンピューターの数値表現自体がそもそも近似なんだよ
例えば無理数を正しく表現することはメモリがいくつあっても出来ないことで、円周率のように定数で保持したとして計算中は定数で扱えてもどこかで実際の値に戻すときに正確でなくなる
またそもそも全ての無理数に定数があるわけでもない
コンピュータでの数値計算は精度とセットにして考えるものなんだよ
丸め誤差だの桁落ち情報落ちだの言う前にそういう基本的な前提が頭から抜けてんならちょっとやべーよ
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.029s