統計解析R たぶんpart3くらい

統計解析R たぶんpart3くらい (587ﾚｽ)
上下前次1-新
抽出解除ﾚｽ栞

364(1): 2021/05/06(木)13:42 ID:xWg3mBRt(1) AAS
検索して出てきたコードをいくつか試したけど2進数のせいか
どれもround2(0.285,2)が0.28になってしまう
このぐらいの桁数の丸めは需要ないのかな

370(1): 2021/05/09(日)13:08 ID:WMytKT+1(1) AAS
>>364
>>366
内部レジスタの値は正しく丸められてても
表示でこけてるだけって可能性もあるからな
疑うのは大事だけど
自分が勘違いしてないことを確認することも大事