レス書き込み
スレへ戻る
写
レス栞
レス消
現代数学の系譜 工学物理雑談 古典ガロア理論も読む76
PC,スマホ,PHSは
ULA
べっかんこ
公式(スマホ)
公式(PC)
で書き込んでください。
名前
メール
引用切替:
レスアンカーのみ
>>12 > 以前も書いた気がするが、時枝は情報エントロピー理論に反する気がするなーw(^^; > > https://ja.wikipedia.org/wiki/%E6%83%85%E5%A0%B1%E9%87%8F > 情報量 > (抜粋) > 情報量(じょうほうりょう)やエントロピー(英: entropy)は、情報理論の概念で、あるできごと(事象)が起きた際、それがどれほど起こりにくいかを表す尺度である。 > > 「情報」とは、あくまでそのできごとの起こりにくさ(確率)だけによって決まる数学的な量でしかなく、個人・社会における有用性とは無関係である。 > > 選択情報量 > 事象 E} Eが起こる確率を P(E)とするとき、 事象 Eが起こったことを知らされたとき受け取る(選択)情報量 I(E) を > I(E)=log 1/P(E)=-log P(E) > と定義する。 > 上式中の対数 ( log ) の底として何を選んでも、情報量の値が定数倍変わるだけなので、本質的な差はないものの、底としては2を選ぶことが多い。 > > 歴史 > 現在の情報理論におけるエントロピーの直接の導入は1948年のクロード・シャノンによるもので、その論文『通信の数学的理論』でエントロピーの概念を情報理論に応用した[2]。 > シャノン自身は熱統計力学でこの概念と関連する概念がすでに使われていることを知らずにこの定義に到達したが、その名称を考えていたとき同僚フォン・ノイマンが、熱統計力学のエントロピーに似ていることから示唆したもので、 > フォン・ノイマンは「統計エントロピーが何なのかを理解してる人は少ないから、議論になったら有利であろう」と語ったとされる[3][4]。しかしシャノンはフォン・ノイマンの影響を否定している[5]。 > > https://eman-physics.net/statistic/info.html > EMANの物理学・統計力学・情報エントロピー > 情報科学と物理学はいつか融合するような気がする。 > (抜粋) > 二種のエントロピー > 情報科学の分野にもエントロピーという用語が出てくる。これは情報量の大きさ(情報の確かさ)を表すために導入された概念である。 > そもそもは統計力学とは無関係のアイデアだったのだが、統計力学に出てくるエントロピーの概念に似ていることに気付いて同じ名前を採用することになった。 > 物理学のエントロピーと区別するために「情報エントロピー」と呼ばれることがある。 > > つづく
ローカルルール
SETTING.TXT
他の携帯ブラウザのレス書き込みフォームはこちら。
書き込み設定
で書き込みサイトの設定ができます。
・
ULA
・
べっかんこ(身代わりの術)
・
べっかんこ(通常)
・
公式(スマホ)
・
公式(PC)[PC,スマホ,PHS可]
書き込み設定(板別)
で板別の名前とメールを設定できます。
メモ帳
(0/65535文字)
上
下
板
覧
索
設
栞
歴
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.011s