[過去ﾛｸﾞ] プログラミングのお題スレ Part21 (1002ﾚｽ)

プログラミングのお題スレ Part21 http://mevius.5ch.net/test/read.cgi/tech/1668333636/

上下前次1-新
通常表示 512ﾊﾞｲﾄ分割 ﾚｽ栞
抽出解除 ﾚｽ栞

---

このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ

---

954: 915 [sage] 2023/07/16(日) 10:57:33.80 ID:34tdZpnq >>953 丸めて切り上げ/切り捨てのぎりぎりのとこを精査するのに 768bitで計算する場合もあるそうです(そういう ぎりぎりのとこでない場合はやらないので、それなりに速い)。 http://mevius.5ch.net/test/read.cgi/tech/1668333636/954

955: デフォルトの名無しさん [] 2023/07/16(日) 11:52:54.00 ID:YiXq44MV >>954 まじですか？ そんな最後の1ビット正確に決定するために768bitもの無駄な計算するくらいなら誤差±2^(-23)でいいからとっとと値返してくれた方がいいのに なので当然通常“最後の1ビット”の正確性までは規格に入れてないんだよな、それでもライブラリ作成者は自己満のために誰も求めない“最後の1ビット”にこだわる これは高校くらいまでの近似計算の「小数第××位まで求めよ」のノリが抜けてない事の現れでもあるんだよな もう計算論の近似計算の世界ではゲームチェンジが起こってる事に気づけてない http://mevius.5ch.net/test/read.cgi/tech/1668333636/955

---

ﾒﾓ帳

(0/65535文字)

---

上下前次1-新書関写板覧索設栞歴

---

ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ

---

Google検索

Wikipedia

---

ぬこの手 ぬこTOP 1.674s*