[過去ログ]
プログラミングのお題スレ Part13 (1002レス)
プログラミングのお題スレ Part13 http://mevius.5ch.net/test/read.cgi/tech/1549160513/
上
下
前次
1-
新
通常表示
512バイト分割
レス栞
抽出解除
必死チェッカー(本家)
(べ)
自ID
レス栞
あぼーん
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
28: デフォルトの名無しさん [sage] 2019/02/04(月) 11:40:45.86 ID:GcH+yasd >>26-27 99,999,999,999,990,000,000~100,000,000,000,010,000,000の範囲には10,000,000,000しかないんだからcount=525ってのは演算誤差が出てるってことだよな? 99,999,999,980,000,000,001 (9,999,999,999^2) 100,000,000,020,000,000,001 (10,000,000,001^2) http://mevius.5ch.net/test/read.cgi/tech/1549160513/28
29: デフォルトの名無しさん [sage] 2019/02/04(月) 11:43:01.09 ID:GcH+yasd いや、intにしてないからそれを調べてるってわけじゃないのか http://mevius.5ch.net/test/read.cgi/tech/1549160513/29
32: デフォルトの名無しさん [sage] 2019/02/04(月) 14:20:39.50 ID:GcH+yasd >>30 いや、誤差出てるやん http://mevius.5ch.net/test/read.cgi/tech/1549160513/32
33: デフォルトの名無しさん [sage] 2019/02/04(月) 14:55:46.83 ID:GcH+yasd >>30 これ(count=49151)って99999999999999975424から100000000000000024575 (64bit浮動小数点数の16進表記で0x4415AF1D78B58C3Fから0x4415AF1D78B58C41)の平方根が、 10000000000 (64bit浮動小数点数の16進表記で0x4202A05F20000000)になって全部Trueになってるってことだろ http://mevius.5ch.net/test/read.cgi/tech/1549160513/33
メモ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.046s