「コンパイラ・スクリプトエンジン」相談室16 (649ﾚｽ)
「コンパイラ・スクリプトエンジン」相談室16 http://mevius.5ch.net/test/read.cgi/tech/1405822579/
上
下
前
次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
638: デフォルトの名無しさん [] 2023/11/11(土) 06:58:34.37 ID:uMtlBPBy double a = 2.71828; というコードをコンパイルするときに、2進浮動小数点数に変換しないといけないと思います。 2進数浮動小数点数に丸めるときに、四捨五入（0捨1入）したり、一番近い2進浮動小数点数に変換したりといろいろな方法がありますが、その方式を決定するのもコンパイラの仕事ですか？ 計算機イプシロンを ε_M とします。 2進浮動小数点数に丸めるときの方式として、四捨五入（0捨1入）が採用されているかどうかを確かめる方法として、 eps = 2^(-52) 1 + (1/2) * eps を計算させて、それが 1 + eps に等しいかどうかをみるという方法が数値解析の本で紹介されています。 1 + (1/2) * eps を計算するときに、丸めとかで変な浮動小数点数になって、この紹介されている方法が実行できないとかないですか？ http://mevius.5ch.net/test/read.cgi/tech/1405822579/638
ﾒﾓ帳
(0/65535文字)
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 11 ﾚｽあります
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.005s