テストスレ [無断転載禁止]©2ch.net (762ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
373: 2022/04/29(金)10:49 ID:RGOHorjg(1/13) AAS
〜
374: 2022/04/29(金)14:15 ID:RGOHorjg(2/13) AAS
2^6394879889
外部ﾘﾝｸ:ja.wolframalpha.com
375: 2022/04/29(金)14:17 ID:RGOHorjg(3/13) AAS
2^6394879878
外部ﾘﾝｸ:ja.wolframalpha.com
376: 2022/04/29(金)14:17 ID:RGOHorjg(4/13) AAS
計算できたりできなかったりするなぁ
377: 2022/04/29(金)14:22 ID:RGOHorjg(5/13) AAS
2^10^9
外部ﾘﾝｸ:ja.wolframalpha.com
計算できる
2^10^10
外部ﾘﾝｸ:ja.wolframalpha.com
計算できない
378: 2022/04/29(金)14:24 ID:RGOHorjg(6/13) AAS
10ギガビットが計算できないらしい。
379: 2022/04/29(金)17:02 ID:RGOHorjg(7/13) AAS
十六倍精度浮動小数点数の最大値
(2^((2^(23-1))-1))*(2-(2^-488))
>(2^((2^(23-1))-1))*(2-(2^-488))
=
+2.06506 35398 35887 92439 91194 94581 65016 95274 36049 30296
70347 84166 41768 00041 55333 56529 36057 50967 75355 27151
e1262611
1262612桁の値
380: 2022/04/29(金)19:21 ID:RGOHorjg(8/13) AAS
ieee-754-2008
外部ﾘﾝｸ[pdf]:irem.univ-reunion.fr
381(1): 2022/04/29(金)19:31 ID:RGOHorjg(9/13) AAS
k bit浮動小数点数
外部ﾘﾝｸ[pdf]:irem.univ-reunion.fr
decimal{k} (k ≥ 32)
k, storage width in bits ： multiple of 32
p, precision in digits ： k – round(4×log2 (k)) + 13
382: 2022/04/29(金)19:33 ID:RGOHorjg(10/13) AAS
>>381間違い
k bit浮動小数点数
外部ﾘﾝｸ[pdf]:irem.univ-reunion.fr
binary{k} (k ≥ 128)
k, storage width in bits ： multiple of 32
p, precision in bits ： k – round(4×log2 (k)) + 13
383(1): 2022/04/29(金)22:06 ID:RGOHorjg(11/13) AAS
1エクスビバイト 8*(2^60)ビット 2^9223372036854775808
1ゼビバイト 8*(2^70) 2^9444732965739290427392
1ヨビバイト 8*(2^80) 2^9671406556917033397649408
1ロンビバイト 8*(2^90) 2^9903520314283042199192993792
1クエタビバイト 8*(2^100) 2^10141204801825835211973625643008
384(1): 2022/04/29(金)22:07 ID:RGOHorjg(12/13) AAS
>>383間違い
1エクスビバイト 8*(2^60)ビット 2^9223372036854775808
1ゼビバイト 8*(2^70) 2^9444732965739290427392
1ヨビバイト 8*(2^80) 2^9671406556917033397649408
1ロンビバイト 8*(2^90) 2^9903520314283042199192993792
1クエビバイト 8*(2^100) 2^10141204801825835211973625643008
385: 2022/04/29(金)22:08 ID:RGOHorjg(13/13) AAS
>>384間違い
1エクスビバイト 8*(2^60)ビット 2^9223372036854775808
1ゼビバイト 8*(2^70)ビット 2^9444732965739290427392
1ヨビバイト 8*(2^80)ビット 2^9671406556917033397649408
1ロンビバイト 8*(2^90)ビット 2^9903520314283042199192993792
1クエビバイト 8*(2^100)ビット 2^10141204801825835211973625643008
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.044s