統計解析R たぶんpart3くらい (587レス)
統計解析R たぶんpart3くらい http://mevius.5ch.net/test/read.cgi/tech/1340339592/
上
下
前
次
1-
新
通常表示
512バイト分割
レス栞
407: デフォルトの名無しさん [] 2021/07/10(土) 20:16:42.51 ID:MrP/qszp ルジャンドル変換を一般化した凸共役についてまとまった表がある。 * [凸共役](https://en.wikipedia.org/wiki/Convex_conjugate) この記事中の表の下二行と次の記事を照らし合わせてみる。 1. [Softmax Cross-Entropy and Negative Sampling](https://arxiv.org/abs/2106.07250) 2. [Noise Contrastive Estimation](https://arxiv.org/abs/1202.3727) | 凸 | 凸共役 | Bregman情報量 | |:--|:--|:--| | ln (1 + e^x) | x^* ln x^* + (1 - x^*) ln (1 - x^*) | KL情報量 | | - ln (1 - e^x) | ln p (x^*) + x^* ln (1 - p (x^*)) | NCE | p (x) := 1 / (1 + x) 前に書いた四捨五入と対比すると、KLの方がフェルミ分布関数、NCEの方が ボーズ分布関数に対応する。四捨五入の場合はフェルミ分布関数とボーズ分布関数 の裏にテータ関数がいた。KLとNCEの裏にも何かいるかな? 論文をちゃんと読めば答えもしくはヒントがあるかもしれない。 JIS丸めの話がどうしてこうなった?JIS丸め恐るべし。 http://mevius.5ch.net/test/read.cgi/tech/1340339592/407
メモ帳
(0/65535文字)
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 180 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.012s