【まず1嫁】くだすれPython(超初心者用) その60 (333レス)
前次1-
抽出解除 レス栞

317
(2): デフォルトの名無しさん [sage] 2025/06/26(木) 10:40:32.26 ID:ctCA7frU(1) AAS
pythonのfloatは(CのdoubleとかRustのf64と同じで)10進数でせいぜい16〜17桁の精度しかない
外部リンク:paiza.io
time.time()の戻り値は整数部分だけで10桁使ってしまっているので
マイクロ病で6桁使ったら残り1桁で虫の息
318: デフォルトの名無しさん [sage] 2025/06/26(木) 12:49:52.60 ID:hjil/4SV(1) AAS
>>317
Python知らねえけどそんなんでよく数値計算やってるな
319: デフォルトの名無しさん [sage] 2025/06/26(木) 13:15:11.16 ID:hG8t1gZz(1) AAS
>>317
虫の息w
17桁の精度は出ないぞ
前次1-
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 1.249s*