[過去ﾛｸﾞ] Pythonのお勉強 Part67 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
876(1): デフォルトの名無しさん (ﾜｯﾁｮｲ 8710-9TNW) [sage] 2022/09/06(火) 12:29:18.81 ID:9Tqcvg+v0(1/2) AAS
(2^((2^(115-1))-1))*(2-(2^-4294967180))
が、誤差が出たり桁あふれしたりで計算できないんです。
誤差
外部ﾘﾝｸ:ideone.com
VscodeのpythonではOverflowError: Python int too large to convert to C ssize_tが出る。
Vscodeでもideoneでも、(2^((2^(35-1))-1))*(2-(2^-4060))くらいなら計算できます。
どうしたら計算できるでしょうか？
とりあえず先頭100桁だけです。
878: デフォルトの名無しさん (ﾌﾞｰｲﾓ MMcf-Hxh8) [sage] 2022/09/06(火) 12:59:00.50 ID:bzsQj+LMM(1) AAS
>>876
整数計算なのにdecimal使う必要あるの？
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.043s