テストスレ [無断転載禁止]©2ch.net (756ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
503(1): １３２人目の素数さん [sage] 2022/09/13(火) 14:10:59.94 ID:EfK5aTH0(4/5) AAS
ideoneのPyPy 2.7.13のdecimalで計算できたのは、
67108864倍精度浮動小数点数 2^26倍精度 2147483648ビット浮動小数点数 (2^((2^(111-1))-1))*(2-(2^-2147483536)) 390759275202710585594223439217008桁の値 有効桁数646456959桁
3.724173892452932703847578592653741500670543217015032981203746860583934456368392810496137951064109136E+390759275202710585594223439217007
まで。
510: １３２人目の素数さん [sage] 2022/10/04(火) 13:03:45.09 ID:9AfFUs1O(1) AAS
>>502
指数の桁数が17桁まで
>>503
ある程度以上の桁数を扱うとDecimalでありながら誤差が出る
>>459
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.030s