[過去ﾛｸﾞ] プログラミングのお題スレ Part21 (1002ﾚｽ)

プログラミングのお題スレ Part21 http://mevius.5ch.net/test/read.cgi/tech/1668333636/

上下前次1-新
通常表示 512ﾊﾞｲﾄ分割 ﾚｽ栞
抽出解除 ﾚｽ栞

---

このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ

---

ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡

---

943: デフォルトの名無しさん [] 2023/07/15(土) 08:05:25.03 ID:DpclFvGX >>925 ツッコミどころが多すぎる 正しくはこうでは? 10^(-30) =1.010_0010_0100_0010_0101_1111_...×2^(-100) さらに、...部分は1111...と続くので、単精度にするなら切り上げになって、 1.010_0010_0100_0010_0110_0000×2^(-100) よって、単精度での内部表示は 0_00011011_010_0010_0100_0010_0110_0000 整数0xa24260をセットして2^123で割ればいける 2のべき乗での割り算すら信用できないなら、ldexpあたりを使うのはどうか。pythonならこちら (pythonは単精度が無いので結果は少しずれる) from math import ldexp print(ldexp(0xa24260, -123)) もしくは、バイト列経由で直接変換もあり。pythonならこちら from struct import pack, unpack print(unpack('f', pack('I', 0b0_00011011_010_0010_0100_0010_0110_0000))[0]) http://mevius.5ch.net/test/read.cgi/tech/1668333636/943

944: 915 [sage] 2023/07/15(土) 10:11:42.89 ID:HHeu+C79 今からIEEE754に準拠してない処理系が制作される事は無いでしょうから (ホビーや学習用途は別ね)、 今日の処理系で、2のべき乗での割り算で仮数部が変わるって事は 無いと思われます(アンダーフローやオーバーフローは除外)。 …IBM hexadecimal floating-pointって基数が16だったな。 (仮数部が変わらないのは16のべき乗での乗除算のみ) あれを常用してる人ってまだ居るのか？ｗ >>943 FORTRANならEQUIVALENCE文で… http://mevius.5ch.net/test/read.cgi/tech/1668333636/944

---

ﾒﾓ帳

(0/65535文字)

---

上下前次1-新書関写板覧索設栞歴

---

ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ

---

Google検索

Wikipedia

---

ぬこの手 ぬこTOP 0.042s