統計解析R たぶんpart3くらい (587ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
368: 2021/05/09(日)03:07 ID:EJ+wP34G(1/2) AAS
0.285 には以下の通り2進数に起因する誤差があるから、
内部的には 0.284999..... 扱いなんだろうね
> 29 - (0.285*100 + 0.5)
[1] 3.552714e-15
372(1): 2021/05/09(日)17:31 ID:EJ+wP34G(2/2) AAS
以下のページでRの丸めについて英語で説明してるね
外部ﾘﾝｸ[html]:cran.r-project.org
最終的に多倍長演算ライブラリ gmp の使用を推奨してる
library(gmp)
myround <- function(x, digits){ return(as.numeric((x*10^digits+0.5)/(10^digits))) }
val <- as.bigq(285, 1000) # 0.285 を 285/1000 と分数指定
myround(val, digits=2)
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.040s