テストスレ [無断転載禁止]©2ch.net (762レス)
テストスレ [無断転載禁止]©2ch.net http://rio2016.5ch.net/test/read.cgi/math/1470976249/
上
下
前次
1-
新
通常表示
512バイト分割
レス栞
抽出解除
レス栞
リロード規制
です。10分ほどで解除するので、
他のブラウザ
へ避難してください。
503: 132人目の素数さん [sage] 2022/09/13(火) 14:10:59.94 ID:EfK5aTH0 ideoneのPyPy 2.7.13のdecimalで計算できたのは、 67108864倍精度浮動小数点数 2^26倍精度 2147483648ビット浮動小数点数 (2^((2^(111-1))-1))*(2-(2^-2147483536)) 390759275202710585594223439217008桁の値 有効桁数646456959桁 3.724173892452932703847578592653741500670543217015032981203746860583934456368392810496137951064109136E+390759275202710585594223439217007 まで。 http://rio2016.5ch.net/test/read.cgi/math/1470976249/503
510: 132人目の素数さん [sage] 2022/10/04(火) 13:03:45.09 ID:9AfFUs1O >>502 指数の桁数が17桁まで >>503 ある程度以上の桁数を扱うとDecimalでありながら誤差が出る >>459 http://rio2016.5ch.net/test/read.cgi/math/1470976249/510
メモ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.025s