量子コンピュータとスーパーコンピュータ (329ﾚｽ)
上下前次1-新
154: 2022/04/30(土) 16:55:01.55 AAS
128倍精度浮動小数点数の最大値
(2^((2^(35-1))-1))*(2-(2^-4060))
が指数int32のシステムではオーバーフローする。
任意精度だというウルフラムアルファでも理解できないと返される。
こういう計算はわざわざスパコンを使うのに都合が良いのか分からないが、
ぜひ計算して戴きたい。
上下前次1-新書関写板覧索設栞歴
あと 175 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.003s