[過去ログ] 現代数学の系譜 工学物理雑談 古典ガロア理論も読む60 (1002レス)
前次1-
抽出解除 レス栞

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
919
(1): ◆QZaw55cn4c [sage] 2019/02/15(金) 21:42:28.37 ID:JobMiHFE(1) AAS
>>883
>コンピュータなら、桁あふれかな?(^^
自分で好きなだけメモリーを確保して格納すればいいだけなのです…
936: 現代数学の系譜 雑談 古典ガロア理論も読む ◆e.a0E5TtKE [] 2019/02/15(金) 23:40:26.28 ID:YX3yzyCj(20/20) AAS
>>919
C++さん、レスありがとう(^^

(参考)
https://ja.wikipedia.org/wiki/%E3%82%B3%E3%83%B3%E3%83%94%E3%83%A5%E3%83%BC%E3%82%BF%E3%81%AE%E6%95%B0%E5%80%A4%E8%A1%A8%E7%8F%BE
コンピュータの数値表現
(抜粋)
浮動小数点表現
詳細は「浮動小数点数」を参照
絶対値が非常に大きな数や非常に小さな数を扱うには、浮動小数点方式を使う。

近年において最も一般的なものとして IEEE 754 があり、一例として以下のような「倍精度」の二進浮動小数点数形式(binary64)を定義している。

この方式で、十進にして約15桁の有効数字の以下の範囲の値を表現できる。

最大                         最小
正の数
1.797693134862231E+308 4.940656458412465E-324
負の数
-4.940656458412465E-324 -1.797693134862231E+308

プログラミング言語
低水準言語では、符号の有無や固定小数点か浮動小数点かを気にする必要がある。例えば浮動小数点の加算なのか整数の加算なのかによって、使用する命令が全く違ったものとなる。

LISPやPythonといった高水準言語では数値のデータ型はより抽象的であり、rational、bignum、complex などがある。それらの言語では、低水準言語と比べ、より抽象化され扱いやすいものとしてそれらの値が提供される。
しかし「どんな数値であっても算術演算を正しく処理することが期待できる」というのは間違いで、コンピュータでは真の実数を扱うことはできないのだから、これらのデータ型でも同様に、それぞれの性質に注意して扱わねばならないことに違いは無い。演算子オーバーロードなどによって、符号無し整数、符号付整数、浮動小数点数、複素数など、複数のデータ型に対して、同じ見た目の式になるような言語もある。
(引用終り)
前次1-
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 0.034s