テストスレ [無断転載禁止]©2ch.net (762ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
513: １３２人目の素数さん [sage] 2022/10/06(木) 16:15:17.77 ID:f3gwuE2b(1/10) AAS
>>459
wの値で明確に誤差が出ているが、正確なtと計算結果のtとの誤差は有効桁数付近から出るので、100桁程度では問題がないはず。
ただしsやs*2の値などに誤差がない場合。
514: １３２人目の素数さん [sage] 2022/10/06(木) 18:27:26.34 ID:f3gwuE2b(2/10) AAS
以下誤差あり
2^27倍精度
https://ideone.com/EMZghG
515: １３２人目の素数さん [sage] 2022/10/06(木) 18:28:01.64 ID:f3gwuE2b(3/10) AAS
2^28倍精度
https://ideone.com/tDYAXL
516: １３２人目の素数さん [sage] 2022/10/06(木) 18:28:38.37 ID:f3gwuE2b(4/10) AAS
2^29倍精度
https://ideone.com/IyioYv
517: １３２人目の素数さん [sage] 2022/10/06(木) 18:29:15.53 ID:f3gwuE2b(5/10) AAS
2^30倍精度
https://ideone.com/W4T0OR
518: １３２人目の素数さん [sage] 2022/10/06(木) 18:29:55.09 ID:f3gwuE2b(6/10) AAS
2^31倍精度
https://ideone.com/VZKX30
519: １３２人目の素数さん [sage] 2022/10/06(木) 18:30:26.63 ID:f3gwuE2b(7/10) AAS
2^32倍精度
https://ideone.com/I08F13
520: １３２人目の素数さん [sage] 2022/10/06(木) 20:23:18.24 ID:f3gwuE2b(8/10) AAS
2^32倍精度2
https://ideone.com/V1aCnL
521: １３２人目の素数さん [sage] 2022/10/06(木) 20:27:56.09 ID:f3gwuE2b(9/10) AAS
2^32倍精度3
https://ideone.com/D5edNE
536: １３２人目の素数さん [sage] 2022/11/15(火) 14:31:34.61 ID:f3gwuE2b(10/10) AAS
>>365
1kキロ 1000^1 10^3
1Mメガ 1000^2 10^6
1Gギガ 1000^3 10^9
1Tテラ 1000^4 10^12
1Pペタ 1000^5 10^15
1Eエクサ 1000^6 10^18
1Zゼタ 1000^7 10^21
1Yヨタ 1000^8 10^24
1Rロナ 1000^9 10^27
1Qクエタ 1000^10 10^30
1mミリ 1000^-1 10^-3
1μマイクロ 1000^-2 10^-6
1nナノ 1000^-3 10^-9
1pピコ 1000^-4 10^-12
1fフェムト 1000^-5 10^-15
1aアト 1000^-6 10^-18
1zゼプト 1000^-7 10^-21
1yヨクト 1000^-8 10^-24
1rロント 1000^-9 10^-27
1qクエクト 1000^-10 10^-30
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 1.193s*