量子コンピュータとスーパーコンピュータ (329レス)
量子コンピュータとスーパーコンピュータ http://rio2016.5ch.net/test/read.cgi/rikei/1587616364/
上
下
前
次
1-
新
通常表示
512バイト分割
レス栞
154: Nanashi_et_al. [] 2022/04/30(土) 16:55:01.55 128倍精度浮動小数点数の最大値 (2^((2^(35-1))-1))*(2-(2^-4060)) が指数int32のシステムではオーバーフローする。 任意精度だというウルフラムアルファでも理解できないと返される。 こういう計算はわざわざスパコンを使うのに都合が良いのか分からないが、 ぜひ計算して戴きたい。 http://rio2016.5ch.net/test/read.cgi/rikei/1587616364/154
メモ帳
(0/65535文字)
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 175 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.005s