統計解析R たぶんpart3くらい (587ﾚｽ)

統計解析R たぶんpart3くらい http://mevius.5ch.net/test/read.cgi/tech/1340339592/

上下前次1-新
通常表示 512ﾊﾞｲﾄ分割 ﾚｽ栞
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん

---

ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡

---

402: デフォルトの名無しさん [sage] 2021/07/03(土) 00:33:16.13 ID:gqk6Zgdk 四捨五入や浮動小数点の話を蒸し返す感じになるけど… 1.275-1と0.275を第二位でround()してみる 前者は0.27で後者は0.28になる x1 <- c(1.275-1, 0.275) round(x1, 2) [1] 0.27 0.28 sprintf()で眺めてみるとなんとなく理由がわかる気がする sprintf("%.24f", x1) [1] "0.274999999999999911182158" "0.275000000000000022204460" 0.265でも試してみると両者とも0.26になる x2 <- c(1.265-1, 0.265) round(x2, 2) [1] 0.26 0.26 sprintf()で眺めてみると… sprintf("%.24f", x2) [1] "0.264999999999999902300374" "0.265000000000000013322676" 偶数丸めで切り下げになるケースだけ誤差の範囲が広いのかな？？ http://mevius.5ch.net/test/read.cgi/tech/1340339592/402

---

ﾒﾓ帳

(0/65535文字)

---

上下前次1-新書関写板覧索設栞歴

---

ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ

---

Google検索

Wikipedia

---

ぬこの手 ぬこTOP 0.023s