[過去ﾛｸﾞ] プログラミングのお題スレ Part21 (1002ﾚｽ)

プログラミングのお題スレ Part21 http://mevius.5ch.net/test/read.cgi/tech/1668333636/

上下前次1-新
通常表示 512ﾊﾞｲﾄ分割 ﾚｽ栞
抽出解除 ﾚｽ栞

---

このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ

---

957: デフォルトの名無しさん [] 2023/07/16(日) 13:03:43.49 ID:nweoM3+S まぁしかし“払うコスト”に対する“リターン”が少なすぎる気はする 例えば内部表現の精度が2^24まである単精度の計算をする場合、もちろん理想は“誤差±1/2×2^(-24)”で返してくれるとありがたい しかし現実できるか？ 例えばアキュムレータをを32ビット用意して計算する、マクローリン展開で求めるとして100回で打ち切るとする、打ち切り誤差は入力のサイズによるけど十分小さい、丸め誤差は2^(-32)×100で誤差トータルは2^(-25)程度、返すのが24bitだから丸められる2^8の可能性のうち真値のポジションから最大100ずれたところでウロチョロしてるわけでその“ウロチョロ”が二項分布、真値の分布が256個の箱の一様分布として外れ値になるの確率がどのくらいやろ？暗算ではできないけど言うほどない、この言うほどない誤差を返さないただそれだけのために768bitも計算繰り返すとかどうなんって感じ http://mevius.5ch.net/test/read.cgi/tech/1668333636/957

958: 915 [sage] 2023/07/16(日) 13:09:49.90 ID:34tdZpnq >>957 768bitの話は、倍精度(53bit精度)のexp()の過去のバージョンでした。 glibcでも問題になったんでしょう(たぶん) http://mevius.5ch.net/test/read.cgi/tech/1668333636/958

---

ﾒﾓ帳

(0/65535文字)

---

上下前次1-新書関写板覧索設栞歴

---

ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ

---

Google検索

Wikipedia

---

ぬこの手 ぬこTOP 0.034s