「コンパイラ・スクリプトエンジン」相談室16 (649ﾚｽ)
上下前次1-新
638: 2023/11/11(土)06:58 ID:uMtlBPBy(1/2) AAS
double a = 2.71828;
というコードをコンパイルするときに、2進浮動小数点数に変換しないといけないと思います。
2進数浮動小数点数に丸めるときに、四捨五入（0捨1入）したり、一番近い2進浮動小数点数に変換したりといろいろな方法がありますが、その方式を決定するのもコンパイラの仕事ですか？
計算機イプシロンを ε_M とします。
2進浮動小数点数に丸めるときの方式として、四捨五入（0捨1入）が採用されているかどうかを確かめる方法として、
eps = 2^(-52)
1 + (1/2) * eps
を計算させて、それが 1 + eps に等しいかどうかをみるという方法が数値解析の本で紹介されています。
1 + (1/2) * eps
を計算するときに、丸めとかで変な浮動小数点数になって、この紹介されている方法が実行できないとかないですか？
上下前次1-新書関写板覧索設栞歴
あと 11 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.014s