テストスレ [無断転載禁止]©2ch.net (762レス)
テストスレ [無断転載禁止]©2ch.net http://rio2016.5ch.net/test/read.cgi/math/1470976249/
上
下
前次
1-
新
通常表示
512バイト分割
レス栞
抽出解除
必死チェッカー(本家)
(べ)
自ID
レス栞
あぼーん
リロード規制
です。10分ほどで解除するので、
他のブラウザ
へ避難してください。
513: 132人目の素数さん [sage] 2022/10/06(木) 16:15:17.77 ID:f3gwuE2b >>459 wの値で明確に誤差が出ているが、正確なtと計算結果のtとの誤差は有効桁数付近から出るので、100桁程度では問題がないはず。 ただしsやs*2の値などに誤差がない場合。 http://rio2016.5ch.net/test/read.cgi/math/1470976249/513
514: 132人目の素数さん [sage] 2022/10/06(木) 18:27:26.34 ID:f3gwuE2b 以下誤差あり 2^27倍精度 https://ideone.com/EMZghG http://rio2016.5ch.net/test/read.cgi/math/1470976249/514
515: 132人目の素数さん [sage] 2022/10/06(木) 18:28:01.64 ID:f3gwuE2b 2^28倍精度 https://ideone.com/tDYAXL http://rio2016.5ch.net/test/read.cgi/math/1470976249/515
516: 132人目の素数さん [sage] 2022/10/06(木) 18:28:38.37 ID:f3gwuE2b 2^29倍精度 https://ideone.com/IyioYv http://rio2016.5ch.net/test/read.cgi/math/1470976249/516
517: 132人目の素数さん [sage] 2022/10/06(木) 18:29:15.53 ID:f3gwuE2b 2^30倍精度 https://ideone.com/W4T0OR http://rio2016.5ch.net/test/read.cgi/math/1470976249/517
518: 132人目の素数さん [sage] 2022/10/06(木) 18:29:55.09 ID:f3gwuE2b 2^31倍精度 https://ideone.com/VZKX30 http://rio2016.5ch.net/test/read.cgi/math/1470976249/518
519: 132人目の素数さん [sage] 2022/10/06(木) 18:30:26.63 ID:f3gwuE2b 2^32倍精度 https://ideone.com/I08F13 http://rio2016.5ch.net/test/read.cgi/math/1470976249/519
520: 132人目の素数さん [sage] 2022/10/06(木) 20:23:18.24 ID:f3gwuE2b 2^32倍精度2 https://ideone.com/V1aCnL http://rio2016.5ch.net/test/read.cgi/math/1470976249/520
521: 132人目の素数さん [sage] 2022/10/06(木) 20:27:56.09 ID:f3gwuE2b 2^32倍精度3 https://ideone.com/D5edNE http://rio2016.5ch.net/test/read.cgi/math/1470976249/521
536: 132人目の素数さん [sage] 2022/11/15(火) 14:31:34.61 ID:f3gwuE2b >>365 1kキロ 1000^1 10^3 1Mメガ 1000^2 10^6 1Gギガ 1000^3 10^9 1Tテラ 1000^4 10^12 1Pペタ 1000^5 10^15 1Eエクサ 1000^6 10^18 1Zゼタ 1000^7 10^21 1Yヨタ 1000^8 10^24 1Rロナ 1000^9 10^27 1Qクエタ 1000^10 10^30 1mミリ 1000^-1 10^-3 1μマイクロ 1000^-2 10^-6 1nナノ 1000^-3 10^-9 1pピコ 1000^-4 10^-12 1fフェムト 1000^-5 10^-15 1aアト 1000^-6 10^-18 1zゼプト 1000^-7 10^-21 1yヨクト 1000^-8 10^-24 1rロント 1000^-9 10^-27 1qクエクト 1000^-10 10^-30 http://rio2016.5ch.net/test/read.cgi/math/1470976249/536
メモ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.025s