[過去ﾛｸﾞ] Pythonのお勉強 Part67 (1002ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
876(1): デフォルトの名無しさん (ﾜｯﾁｮｲ 8710-9TNW) [sage] 2022/09/06(火) 12:29:18.81 ID:9Tqcvg+v0(1/2) AAS
(2^((2^(115-1))-1))*(2-(2^-4294967180))
が、誤差が出たり桁あふれしたりで計算できないんです。
誤差
外部ﾘﾝｸ:ideone.com
VscodeのpythonではOverflowError: Python int too large to convert to C ssize_tが出る。
Vscodeでもideoneでも、(2^((2^(35-1))-1))*(2-(2^-4060))くらいなら計算できます。
どうしたら計算できるでしょうか？
とりあえず先頭100桁だけです。
879: デフォルトの名無しさん (ﾜｯﾁｮｲ 8710-9TNW) [sage] 2022/09/06(火) 14:24:52.57 ID:9Tqcvg+v0(2/2) AAS
Vscodeのpythonで
t = ((2**((2**(115-1))-1))*(2-(2**-4294967180)))
を実行したらメモリエラーが出た。
ideoneでも
Time limit exceeded #stdin #stdout 5s 1326060KB
と出る。
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 1.610s*