テストスレ [無断転載禁止]©2ch.net

テストスレ [無断転載禁止]©2ch.net (762ﾚｽ)
上下前次1-新
抽出解除ﾚｽ栞

381(1): 2022/04/29(金)19:31 ID:RGOHorjg(9/13) AAS
k bit浮動小数点数
外部ﾘﾝｸ[pdf]:irem.univ-reunion.fr

decimal{k} (k ≥ 32)
k, storage width in bits ： multiple of 32
p, precision in digits ： k – round(4×log2 (k)) + 13

382: 2022/04/29(金)19:33 ID:RGOHorjg(10/13) AAS
>>381間違い

k bit浮動小数点数
外部ﾘﾝｸ[pdf]:irem.univ-reunion.fr

binary{k} (k ≥ 128)
k, storage width in bits ： multiple of 32
p, precision in bits ： k – round(4×log2 (k)) + 13