テストスレ [無断転載禁止]©2ch.net (762ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
373: １３２人目の素数さん [sage] 2022/04/29(金) 10:49:05.73 ID:RGOHorjg(1/13) AAS
〜
374: １３２人目の素数さん [sage] 2022/04/29(金) 14:15:49.29 ID:RGOHorjg(2/13) AAS
2^6394879889
https://ja.wolframalpha.com/input?i=2%5E6394879889
375: １３２人目の素数さん [sage] 2022/04/29(金) 14:17:03.95 ID:RGOHorjg(3/13) AAS
2^6394879878
https://ja.wolframalpha.com/input?i=2%5E6394879878
376: １３２人目の素数さん [sage] 2022/04/29(金) 14:17:39.15 ID:RGOHorjg(4/13) AAS
計算できたりできなかったりするなぁ
377: １３２人目の素数さん [sage] 2022/04/29(金) 14:22:39.37 ID:RGOHorjg(5/13) AAS
2^10^9
https://ja.wolframalpha.com/input?i=2%5E10%5E9
計算できる
2^10^10
https://ja.wolframalpha.com/input?i=2%5E10%5E10
計算できない
378: １３２人目の素数さん [sage] 2022/04/29(金) 14:24:11.16 ID:RGOHorjg(6/13) AAS
10ギガビットが計算できないらしい。
379: １３２人目の素数さん [sage] 2022/04/29(金) 17:02:59.14 ID:RGOHorjg(7/13) AAS
十六倍精度浮動小数点数の最大値
(2^((2^(23-1))-1))*(2-(2^-488))
>(2^((2^(23-1))-1))*(2-(2^-488))
=
+2.06506 35398 35887 92439 91194 94581 65016 95274 36049 30296
70347 84166 41768 00041 55333 56529 36057 50967 75355 27151
e1262611
1262612桁の値
380: １３２人目の素数さん [sage] 2022/04/29(金) 19:21:34.67 ID:RGOHorjg(8/13) AAS
ieee-754-2008
https://irem.univ-reunion.fr/IMG/pdf/ieee-754-2008.pdf
381(1): １３２人目の素数さん [sage] 2022/04/29(金) 19:31:13.70 ID:RGOHorjg(9/13) AAS
k bit浮動小数点数
https://irem.univ-reunion.fr/IMG/pdf/ieee-754-2008.pdf#page=25
decimal{k} (k ≥ 32)
k, storage width in bits ： multiple of 32
p, precision in digits ： k – round(4×log2 (k)) + 13
382: １３２人目の素数さん [sage] 2022/04/29(金) 19:33:19.95 ID:RGOHorjg(10/13) AAS
>>381間違い
k bit浮動小数点数
https://irem.univ-reunion.fr/IMG/pdf/ieee-754-2008.pdf#page=25
binary{k} (k ≥ 128)
k, storage width in bits ： multiple of 32
p, precision in bits ： k – round(4×log2 (k)) + 13
383(1): １３２人目の素数さん [sage] 2022/04/29(金) 22:06:11.59 ID:RGOHorjg(11/13) AAS
1エクスビバイト 8*(2^60)ビット 2^9223372036854775808
1ゼビバイト 8*(2^70) 2^9444732965739290427392
1ヨビバイト 8*(2^80) 2^9671406556917033397649408
1ロンビバイト 8*(2^90) 2^9903520314283042199192993792
1クエタビバイト 8*(2^100) 2^10141204801825835211973625643008
384(1): １３２人目の素数さん [sage] 2022/04/29(金) 22:07:36.81 ID:RGOHorjg(12/13) AAS
>>383間違い
1エクスビバイト 8*(2^60)ビット 2^9223372036854775808
1ゼビバイト 8*(2^70) 2^9444732965739290427392
1ヨビバイト 8*(2^80) 2^9671406556917033397649408
1ロンビバイト 8*(2^90) 2^9903520314283042199192993792
1クエビバイト 8*(2^100) 2^10141204801825835211973625643008
385: １３２人目の素数さん [sage] 2022/04/29(金) 22:08:46.92 ID:RGOHorjg(13/13) AAS
>>384間違い
1エクスビバイト 8*(2^60)ビット 2^9223372036854775808
1ゼビバイト 8*(2^70)ビット 2^9444732965739290427392
1ヨビバイト 8*(2^80)ビット 2^9671406556917033397649408
1ロンビバイト 8*(2^90)ビット 2^9903520314283042199192993792
1クエビバイト 8*(2^100)ビット 2^10141204801825835211973625643008
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.019s