[過去ログ]
【まず1嫁】くだすれPython(超初心者用) その59 (1002レス)
【まず1嫁】くだすれPython(超初心者用) その59 http://mevius.5ch.net/test/read.cgi/tech/1689241721/
上
下
前次
1-
新
通常表示
512バイト分割
レス栞
抽出解除
必死チェッカー(本家)
(べ)
自ID
レス栞
あぼーん
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
274: デフォルトの名無しさん [] 2023/12/07(木) 11:41:26.60 ID:gpmkJ2Ny >>273 Pythonは巨大桁数を扱うのに便利。 Windows電卓:9999桁(10^3桁) LM217:2147483647桁(10^9桁) Python3(Decimal):999999999999999999桁(10^17桁) Pypy2.7.13(Decimal):(10^10^5桁) Python+Mpmath1.3.0:10^18446744073709551615桁(10^10^19桁) あなたの宣伝するRuby on Railsは桁数をいくつまで手軽に扱えるの? http://mevius.5ch.net/test/read.cgi/tech/1689241721/274
276: デフォルトの名無しさん [] 2023/12/07(木) 12:27:43.29 ID:gpmkJ2Ny require 'bigdecimal' n = 0 # デフォルト値 mf = BigDecimal::limit(n) a = BigDecimal("10") b = BigDecimal("7", 40) mf = a ** a ** a ** b このくらいでエラーになるぞ。 https://paiza.io/projects/9WG_gULsMWWWrrBnY9H8nA bを6にするとエラーにならないからこの程度が限界か? http://mevius.5ch.net/test/read.cgi/tech/1689241721/276
277: デフォルトの名無しさん [] 2023/12/07(木) 12:49:23.47 ID:gpmkJ2Ny Rubyは説明が少なくて面倒くさいな。ideoneも対応していないし。 https://docs.ruby-lang.org/ja/latest/library/bigdecimal.html サンプルのカンマで区切った2つ目の40という数値の意味の説明もないし。 有効桁数か?でもサンプルから考えると40なのはおかしくないか? http://mevius.5ch.net/test/read.cgi/tech/1689241721/277
278: デフォルトの名無しさん [] 2023/12/07(木) 13:17:06.58 ID:gpmkJ2Ny Rubyのbigdecimalは解答を独自のフォーマットで返してくる。 https://paiza.io/projects/RKARq4tN_-ec8Nam_zImxA 普通は 2.003529930406846464979072351560255...7777506072339445587895905719156736e19728 の整数1桁と小数点以下とeの値で返すはず。 http://mevius.5ch.net/test/read.cgi/tech/1689241721/278
メモ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
1.614s*