gnuplot を使おう。 その3 (955レス)
上下前次1-新
74: [age] 2012/05/28(月)22:16 AAS
gnuplot> q=1.60e-19
gnuplot> print q**16
1.84467440737095e-301
gnuplot> print q**20
0.0
上記のように、q=1.60e-19の累乗が大きい値になると、計算結果が0.0になってしまいます。
どうすれば、正確な値がでてきますか?
(次に続く)
上下前次1-新書関写板覧索設栞歴
あと 881 レスあります
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.007s