[過去ログ]
MSXの使い道 (1002レス)
上
下
前
次
1-
新
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
2
(1)
: 2020/01/12(日) 04:38:00
AA×
[240|
320
|
480
|
600
|
100%
|
JPG
|
べ
|
レス栞
|
レス消
]
2: [sage] 2020/01/12(日) 04:38:00 ぢつはBASICで数値計算するには他のマシンより好い所がある。 その他多くのマシンは2進数で浮動小数点値を保持しているため 十進数の0.1が二進数では無限小数となるため妙な丸め誤差が出る。 しかし、MSX-BASICは浮動小数点値の内部表現が10進数なので 計算誤差は10進数での丸め誤差なので挙動が判りやすい。 http://matsuri.5ch.net/test/read.cgi/i4004/1008790022/2
ぢつはで数値計算するには他のマシンより好い所がある その他多くのマシンは進数で浮動小数点値を保持しているため 十進数のが二進数では無限小数となるため妙な丸め誤差が出る しかしは浮動小数点値の内部表現が進数なので 計算誤差は進数での丸め誤差なので挙動が判りやすい
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 1000 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
ぬこの手
ぬこTOP
0.019s