量子コンピュータとスーパーコンピュータ (329レス)
上
下
前
次
1-
新
154
: 2022/04/30(土) 16:55:01.55
AA×
[240|
320
|
480
|
600
|
100%
|
JPG
|
べ
|
レス栞
|
レス消
]
154: [] 2022/04/30(土) 16:55:01.55 128倍精度浮動小数点数の最大値 (2^((2^(35-1))-1))*(2-(2^-4060)) が指数int32のシステムではオーバーフローする。 任意精度だというウルフラムアルファでも理解できないと返される。 こういう計算はわざわざスパコンを使うのに都合が良いのか分からないが、 ぜひ計算して戴きたい。 http://rio2016.5ch.net/test/read.cgi/rikei/1587616364/154
倍精度浮動小数点数の最大値 が指数のシステムではオーバーフローする 任意精度だというウルフラムアルファでも理解できないと返される こういう計算はわざわざスパコンを使うのに都合が良いのか分からないが ぜひ計算して戴きたい
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 175 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
ぬこの手
ぬこTOP
0.021s