【まず1嫁】くだすれPython(超初心者用) その60 (333ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
304: 06/24(火)12:25 ID:wpCn0O5c(1/3) AAS
time.time()の精度は主に以下の3つに影響を受ける
1. floatの精度
2. OSが返す時刻の精度
3. Pythonのメソッド呼び出しのオーバーヘッド
3はよほど低スペックじゃなければ無視できる
2は今のメジャーOSなら最低でも1マイクロセカンドの精度では返してくれる
(10~100nsの精度で返してくれるものもある)
time.time()が返す一般的な値のfloatのULPは2.38e-07あたりで秒に直せば238ns
つまり100nsの精度でOSが時刻を返してもfloatで表現可能な値に丸められる
305: 06/24(火)12:31 ID:wpCn0O5c(2/3) AAS
>>303
なにがしたいのかよくわからん
deltaを見ないと意味がないだろ
外部ﾘﾝｸ:paiza.io
306(1): 06/24(火)12:32 ID:wpCn0O5c(3/3) AAS
>>298
>Linux、Mac…ミリセカンドなので2桁
なんでLinuxとMacはミリセカンド？
>>300
>1桁落とした値を信用するとしてるだけ
1桁落とすという理由は？
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.852s*