テストスレ [無断転載禁止]©2ch.net (762ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
513: 2022/10/06(木)16:15 ID:f3gwuE2b(1/10) AAS
>>459
wの値で明確に誤差が出ているが、正確なtと計算結果のtとの誤差は有効桁数付近から出るので、100桁程度では問題がないはず。
ただしsやs*2の値などに誤差がない場合。
514: 2022/10/06(木)18:27 ID:f3gwuE2b(2/10) AAS
以下誤差あり
2^27倍精度
外部ﾘﾝｸ:ideone.com
515: 2022/10/06(木)18:28 ID:f3gwuE2b(3/10) AAS
2^28倍精度
外部ﾘﾝｸ:ideone.com
516: 2022/10/06(木)18:28 ID:f3gwuE2b(4/10) AAS
2^29倍精度
外部ﾘﾝｸ:ideone.com
517: 2022/10/06(木)18:29 ID:f3gwuE2b(5/10) AAS
2^30倍精度
外部ﾘﾝｸ:ideone.com
518: 2022/10/06(木)18:29 ID:f3gwuE2b(6/10) AAS
2^31倍精度
外部ﾘﾝｸ:ideone.com
519: 2022/10/06(木)18:30 ID:f3gwuE2b(7/10) AAS
2^32倍精度
外部ﾘﾝｸ:ideone.com
520: 2022/10/06(木)20:23 ID:f3gwuE2b(8/10) AAS
2^32倍精度2
外部ﾘﾝｸ:ideone.com
521: 2022/10/06(木)20:27 ID:f3gwuE2b(9/10) AAS
2^32倍精度3
外部ﾘﾝｸ:ideone.com
536: 2022/11/15(火)14:31 ID:f3gwuE2b(10/10) AAS
>>365
1kキロ 1000^1 10^3
1Mメガ 1000^2 10^6
1Gギガ 1000^3 10^9
1Tテラ 1000^4 10^12
1Pペタ 1000^5 10^15
1Eエクサ 1000^6 10^18
1Zゼタ 1000^7 10^21
1Yヨタ 1000^8 10^24
1Rロナ 1000^9 10^27
省11
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.041s