テストスレ [無断転載禁止]©2ch.net (762レス)
上下前次1-新
抽出解除 レス栞
502(1): 132人目の素数さん [sage] 2022/09/13(火) 14:05:24.80 ID:EfK5aTH0(3/5) AAS
python3.10.6のdecimalで計算できたのは
8192倍精度浮動小数点数 2^13倍精度 262144ビット浮動小数点数 (2^((2^(59-1))-1))*(2-(2^-262084)) 86765988883177456桁の値 有効桁数78895桁
1.555537148306493113124912627340245874981445790517528616104073919048249475066624547713749689480856964E+86765988883177455
まで。
510: 132人目の素数さん [sage] 2022/10/04(火) 13:03:45.09 ID:9AfFUs1O(1) AAS
>>502
指数の桁数が17桁まで
>>503
ある程度以上の桁数を扱うとDecimalでありながら誤差が出る
>>459
上下前次1-新書関写板覧索設栞歴
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.966s*