[過去ﾛｸﾞ] Pythonのお勉強 Part74 (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
141(2): デフォルトの名無しさん (ﾜｯﾁｮｲ fbb4-+sfS) [] 2024/10/14(月) 08:54:29.92 ID:B2/CkVb50(1) AAS
小数の誤差の話をしてる？
日時や時刻を扱う上で問題になるような誤差が出ることはなくない？
どんなに厳しい分野でも必要なのはナノ秒の数値までだろうし
143(2): デフォルトの名無しさん (ﾜｯﾁｮｲ 1f78-oCgE) [] 2024/10/14(月) 10:43:52.07 ID:iqlRL8W80(7/24) AAS
>>141
64ビットCPUは64ビットのレジスタと外部とのやりとりが64ビットだ。
彼は1/1000秒まで正確に求めたいらしいが、2進数は10進数の表現ができない。
例えば10進数の1000は2進数だと1024になってしまう。
コンピューターは10進数の計算が苦手、時分秒なんてコンピューターには概念すらない。
144: デフォルトの名無しさん (ﾜｯﾁｮｲ 1f78-oCgE) [] 2024/10/14(月) 10:44:50.51 ID:iqlRL8W80(8/24) AAS
>>141
質問しているやつは秒を分にする方法を知らない。
60で割るということもわからない。
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.030s