gnuplot を使おう。 その3 (955レス)
1-

74: [age] 2012/05/28(月)22:16 AAS
gnuplot> q=1.60e-19
gnuplot> print q**16
1.84467440737095e-301
gnuplot> print q**20
0.0

上記のように、q=1.60e-19の累乗が大きい値になると、計算結果が0.0になってしまいます。
どうすれば、正確な値がでてきますか?
(次に続く)
1-
あと 881 レスあります
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 0.007s