「コンパイラ・スクリプトエンジン」相談室16 (649レス)
上
下
前
次
1-
新
638
: 2023/11/11(土)06:58
ID:uMtlBPBy(1/2)
AA×
[
240
|
320
|
480
|600|
100%
|
JPG
|
べ
|
レス栞
|
レス消
]
638: [] 2023/11/11(土) 06:58:34.37 ID:uMtlBPBy double a = 2.71828; というコードをコンパイルするときに、2進浮動小数点数に変換しないといけないと思います。 2進数浮動小数点数に丸めるときに、四捨五入(0捨1入)したり、一番近い2進浮動小数点数に変換したりといろいろな方法がありますが、その方式を決定するのもコンパイラの仕事ですか? 計算機イプシロンを ε_M とします。 2進浮動小数点数に丸めるときの方式として、四捨五入(0捨1入)が採用されているかどうかを確かめる方法として、 eps = 2^(-52) 1 + (1/2) * eps を計算させて、それが 1 + eps に等しいかどうかをみるという方法が数値解析の本で紹介されています。 1 + (1/2) * eps を計算するときに、丸めとかで変な浮動小数点数になって、この紹介されている方法が実行できないとかないですか? http://mevius.5ch.net/test/read.cgi/tech/1405822579/638
というコードをコンパイルするときに進浮動小数点数に変換しないといけないと思います 進数浮動小数点数に丸めるときに四捨五入捨入したり一番近い進浮動小数点数に変換したりといろいろな方法がありますがその方式を決定するのもコンパイラの仕事ですか? 計算機イプシロンを とします 進浮動小数点数に丸めるときの方式として四捨五入捨入が採用されているかどうかを確かめる方法として を計算させてそれが に等しいかどうかをみるという方法が数値解析の本で紹介されています を計算するときに丸めとかで変な浮動小数点数になってこの紹介されている方法が実行できないとかないですか?
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 11 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
ぬこの手
ぬこTOP
0.039s