[過去ログ]
Qiita 4 - キータぞ、来たぞ、キータだぞー (1002レス)
Qiita 4 - キータぞ、来たぞ、キータだぞー http://mevius.5ch.net/test/read.cgi/tech/1705486836/
上
下
前次
1-
新
通常表示
512バイト分割
レス栞
抽出解除
レス栞
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
28: デフォルトの名無しさん [sage] 2024/01/30(火) 18:46:18.43 ID:5RcO4+lr https://qiita.com/toKoinX/items/ab1ec60f9062a81495dc#comment-86b460f88e97532927b5 > f-string による 「形式の内容」 と, 実際の 「精度の違い」 に, 気付いていただけたようで, 嬉しく思います。説明し続けた甲斐があります。お疲れさまでした。 話的にまったく噛み合ってないところでの一方的な勝利宣言って相手ブロックしてリプライ封じた上でやってるんだろうなあ。ツイッターでは見掛けるやつだわw http://mevius.5ch.net/test/read.cgi/tech/1705486836/28
42: デフォルトの名無しさん [sage] 2024/01/31(水) 12:34:23.88 ID:keQbGeRf >>39 >>28 http://mevius.5ch.net/test/read.cgi/tech/1705486836/42
60: デフォルトの名無しさん [sage] 2024/02/01(木) 19:13:13.19 ID:iy5DVynZ >>28に引用されてるコメントがいつの間にか大幅に編集されてる。 https://qiita.com/toKoinX/items/ab1ec60f9062a81495dc#comment-86b460f88e97532927b5 > f-string による 「形式の内容」 と 「実際の精度」 との 「違い」 に, 気付いていただけたようで, 嬉しく思います。説明し続けた甲斐があります。 > > また, もしかしたら, と思ったのですが 「変動可能」 とは 「保証可能:固定可能」 の意味ではありません。当たり前のことですが, float 型において, 表現可能な範囲が, 無限(永遠)な訳はありません。浮動小数点数は, 精度において 「向上することも低下することも可能:変動可能」 という意味です(敢えて 「向上と低下」 という表現をしましたが, 精度保持における相対的な精度として理解してもらえると嬉しく思います)。これに対して, 固定小数点数は, 精度において 「一定」になる, という意味です。つまり, この 「一定の範囲:定義された範囲」 内で, 精度が 「保証」 されます (小数点以下の桁数は変動しないと言うこと, つまり 「固定」 するということです)。 > > また, 具体的な説明においては, 提供していただいた結果を使用させて頂きますと, > > ? 小数点以下の桁数の変動において > 数値が小さい時 ( ex. 0.000000000033333333333333334548)においては, 多くの小数点以下の桁が正確に表現されています(3の部分)。これは数値が小さいため, 限られた範囲において, より 「多く」 の小数点以下の桁を表現していることを確認できます。 > > ? 精度の低下(変動)において > 上記に対し, 数値が大きくなるにつれて ( ex. 3333333333333333814280192.0〜)、小数点以下の桁数が減少(変動)し, つまり 「少なく」 なり, 最終的には小数部分が, 表現されなくなります。つまり, 小数点以下の精度が犠牲(変動)になることを確認できます。 > > 結果として, 上記の理由から 「小数点以下の桁数が数値の大きさに応じて変動可能」 で在ることを確認でき, また, この特性は, 浮動小数点数の精度が, どのように数値の大きさに依存し 「変動」 するかを反映していることも確認できます。つまり, 精度は 「保証:固定」 されず 「変動:浮動」 します。 > > これで, 納得していただけたと思います。楽しい時間を, ありがとうございました。 http://mevius.5ch.net/test/read.cgi/tech/1705486836/60
メモ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
1.635s*