[過去ログ] Qiita 4 - キータぞ、来たぞ、キータだぞー (1002レス)
前次1-
抽出解除 必死チェッカー(本家) (べ) 自ID レス栞 あぼーん

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
リロード規制です。10分ほどで解除するので、他のブラウザへ避難してください。
26
(1): 2024/01/30(火)18:18 ID:5RcO4+lr(1/4) AAS
>>24
外部リンク:qiita.com

このコメントのこと言ってる?藤田じゃなくね?
28
(2): 2024/01/30(火)18:46 ID:5RcO4+lr(2/4) AAS
外部リンク:qiita.com
> f-string による 「形式の内容」 と, 実際の 「精度の違い」 に, 気付いていただけたようで, 嬉しく思います。説明し続けた甲斐があります。お疲れさまでした。

話的にまったく噛み合ってないところでの一方的な勝利宣言って相手ブロックしてリプライ封じた上でやってるんだろうなあ。ツイッターでは見掛けるやつだわw
29: 2024/01/30(火)19:09 ID:5RcO4+lr(3/4) AAS
外部リンク:qiita.com
>  今日は, もう寝ますが, 上記の例は, 単に f-string を使用して「数値の表示形式を加工」したに過ぎません。これは, 浮動小数点数の実際の精度や表現方法を直接反映している訳ではありません。完全に, 解釈違いです。f-string によるものです。
>
>  補足しますと f-string のフォーマット指定子 :60.30f は, 単に出力される数値を 「60文字幅, 小数点以下30桁の浮動小数点数として表示」 するためのものです。これは, 文字通り ( f は format の略) 「表示上の調整:表示を加工した結果」で在り, 数値の内部的な表現や計算精度には影響していません。
>
>  実際の浮動小数点数の精度は, 数値の大きさに応じて変化することが特徴です。この変動は, 浮動小数点数が仮数部と指数部を使って数値を表現する仕組みによるものです。数値が大きくなるにつれて, 仮数部で表現できる有効数字の桁数が減少し, その結果として小数点以下の桁数も変動します。

f-stringのせいという主張だけど、f-string使わなくてもPythonのfloatの精度が数値の大きさに関係なく15〜6桁であることは容易に確認できると思うんだが
省2
30
(1): 2024/01/30(火)19:53 ID:5RcO4+lr(4/4) AAS
>>25
> 16ビット全盛期を知らんニワカなんだろ

外部リンク:qiita.com
> 元、低レイヤーエンジニア。 現、サイバーセキュリティ研究者。
> 使用言語は、C, C#, Java, JavaScript/Node.js, Python,
> Perl, Lisp, シェルスクリプト, N88 BASIC。 書いたことがある
> アセンブリ言語は、Z80, 6502, 6809, 68000, SPARC, PowerPC, ARM, x86/x64。
省1
前次1-
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 0.045s