テストスレ [無断転載禁止]©2ch.net (756レス)
上下前次1-新
抽出解除 必死チェッカー(本家) (べ) 自ID レス栞 あぼーん
リロード規制です。10分ほどで解除するので、他のブラウザへ避難してください。
500: 132人目の素数さん [sage] 2022/09/13(火) 01:23:02.92 ID:EfK5aTH0(1/5) AAS
python3.10.6では
(2^((2^(35-1))-1))*(2-(2^-4060))
9.3e+5171655945
はいけるが
(2^((2^(115-1))-1))*(2-(2^-4294967180))
ctx.Emax = 999999999999999999999999999999999999 # 指数上限を増やす
OverflowError: Python int too large to convert to C ssize_t
となって計算できない。面倒くさい制限だな。
ideoneのpypy2の方が3.10.6よりdecimalのEmaxの制限が緩い。
501(1): 132人目の素数さん [sage] 2022/09/13(火) 13:59:00.22 ID:EfK5aTH0(2/5) AAS
python3.10.6のdecimalでは、指数上限が17桁まで指定可能なので、
(2^((2^(59-1))-1))*(2-(2^-262084))
1.6e+86765988883177455
は計算できるが
(2^((2^(63-1))-1))*(2-(2^-524224))
はOverflowErrorとなる。
502(1): 132人目の素数さん [sage] 2022/09/13(火) 14:05:24.80 ID:EfK5aTH0(3/5) AAS
python3.10.6のdecimalで計算できたのは
8192倍精度浮動小数点数 2^13倍精度 262144ビット浮動小数点数 (2^((2^(59-1))-1))*(2-(2^-262084)) 86765988883177456桁の値 有効桁数78895桁
1.555537148306493113124912627340245874981445790517528616104073919048249475066624547713749689480856964E+86765988883177455
まで。
503(1): 132人目の素数さん [sage] 2022/09/13(火) 14:10:59.94 ID:EfK5aTH0(4/5) AAS
ideoneのPyPy 2.7.13のdecimalで計算できたのは、
67108864倍精度浮動小数点数 2^26倍精度 2147483648ビット浮動小数点数 (2^((2^(111-1))-1))*(2-(2^-2147483536)) 390759275202710585594223439217008桁の値 有効桁数646456959桁
3.724173892452932703847578592653741500670543217015032981203746860583934456368392810496137951064109136E+390759275202710585594223439217007
まで。
504: 132人目の素数さん [sage] 2022/09/13(火) 19:24:30.58 ID:EfK5aTH0(5/5) AAS
確認済
>(2^((2^(31-1))-1))*(2-(2^-2016))
=
+4.19715 74329 34775 38480 87162 33767 67814 12761 95930 94670
52555 73292 45142 04808 95551 53641 63671 06081 62535 31197
45911 99155 92112 96811 93494 24300 53302 84019 56622 72210
00096 72013 24880 47633 01113 68000 22010 20735 86074 02162
94638 34068 67030 10253 46732 64626 53643 65252 43481 02171
01656 58069 60444 82317 39767 16356 50947 73755 54928 30481
89008 54736 82619 78371 56280 50937 78841 46913 86243 19796
32607 90561 41596 19505 51031 51664 93447 71633 29242 58333
81079 38359 81280 10578 10555 45221 70779 32591 94949 99481
36232 88791 51040 24411 68286 29815 35471 46921 41983 11404
69115 76485 65365 44825 39103 90545 10802 89831 72136 10555
46399 92654 21135 66285 63596 27178 58859 82965 32682 12036
85782 84954 31861 54726 61059 67974 70455 48876 76858 96951
55308 30991 81347 61721 18969 22416 85865 96246 22932 93249
40810 56531 27944 16734 40019 85701 04843 80377 09860 15230
47990 60250 07909 72602 66665 24311 57143 05139 46483 68712
03585 93599 62329 69176 92768 34993 41861 03591 03559 55445
17602 25100 93844 73795 55246 91387 67839 15585 18599 76061
32933 98568 41218 58674 88260 29624 99012 82861 57833 83324
36490 80182 25801 09066 36329 93686 22767 44912 36188 8523
e323228496
https://ideone.com/Cnd9DY
4.197157432934775384808716233767678141276195930946705255573292451420480895551536416367106081625353120E+323228496
上下前次1-新書関写板覧索設栞歴
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.029s