[過去ログ] 現代数学の系譜11 ガロア理論を読む33 [無断転載禁止]©2ch.net (713レス)
前次1-
抽出解除 レス栞

このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
271
(2): 現代数学の系譜11 ガロア理論を読む 2017/05/29(月)15:47 ID:IKiw8fcW(14/58) AAS
>>268 1補足
>勿論、場面によっては、きっちり区別する場合もありだ。分かり易さや、記述の文字数、あるいは計算機の内部表現の事情*)などで

例えば、昔言われたのが、コンピュータプログラミングで、”割り算が入っていると気を付けろ”とか

例えば、10÷3X12= という計算があるとする。10÷3を先に計算すると、3+1/3だが、コンピュータの内部表現の関係で、正しく40が求まるとは限らない
なので、割り算は最後に纏めてすべきだと言われた

10X12÷3=40となる
この場合、1/3(分数表現)=0.3333・・・(10進少数表現)(無限小数)と、コンピュータの内部では扱われない
省22
272: 現代数学の系譜11 ガロア理論を読む 2017/05/29(月)15:53 ID:IKiw8fcW(15/58) AAS
>>271 つづき

なので、普通(人間系なら)「1/3(分数表現)=0.3333・・・(10進少数表現)」だが

コンピュータの内部表現の関係で、単純に「1/3(分数表現)=0.3333・・・(10進少数表現)」みたく思い込んじゃいけないので、注意も必要だと

それは、コンピュータの内部表現としては、普通は有限桁しか扱わないからなのだが
273: 現代数学の系譜11 ガロア理論を読む 2017/05/29(月)15:59 ID:IKiw8fcW(16/58) AAS
>>271 訂正 (下記に表現を変える)

10X12÷3=40となる
この場合、1/3(分数表現)=0.3333・・・(10進少数表現)(無限小数)と、コンピュータの内部では扱われない
 ↓
10X12÷3=40となる
この場合、1/3(分数表現)=0.3333・・・(10進少数表現)(無限小数)と、コンピュータの内部では扱われないから、計算の順序に配慮が必要だと
前次1-
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 0.032s