テストスレ [無断転載禁止]©2ch.net (763レス)
上下前次1-新
抽出解除 レス栞
リロード規制です。10分ほどで解除するので、他のブラウザへ避難してください。
501(1): 2022/09/13(火)13:59 ID:EfK5aTH0(2/5) AAS
python3.10.6のdecimalでは、指数上限が17桁まで指定可能なので、
(2^((2^(59-1))-1))*(2-(2^-262084))
1.6e+86765988883177455
は計算できるが
(2^((2^(63-1))-1))*(2-(2^-524224))
はOverflowErrorとなる。
511: 2022/10/05(水)21:20 ID:wsUgaGXR(1) AAS
>>501
訂正
python3.10.6のdecimalでは、指数上限が18桁まで指定可能
8192倍精度浮動小数点数 2^13倍精度 262144ビット浮動小数点数 (2^((2^(59-1))-1))*(2-(2^-262084)) 86765988883177456桁の値 有効桁数78895桁
1.555537148306493113124912627340245874981445790517528616104073919048249475066624547713749689480856964E+86765988883177455
指数が17桁なので扱える。
16384倍精度浮動小数点数 2^14倍精度 524288ビット浮動小数点数 (2^((2^(63-1))-1))*(2-(2^-524224)) 1388255822130839283桁の値 有効桁数157807桁
省2
上下前次1-新書関写板覧索設栞歴
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.029s