(情報科学)技術的特異点と科学･技術等 1 (ナノテク) [転載禁止]©2ch.net (840ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
541(3): 540 2016/11/11(金)13:06 ID:TfAJHR6G(3/14) AAS
Page 4
最初にお読み下さい！
本書は、この資料のドラフトである。読者が知っておくべき事柄のうち、欠落して
いるものがいくつかある。
本書に含まれること：
本書は Numenta が 2010 年に開発した学習と予測に関する新しいアルゴリズムの
詳細を説明している。この新しいアルゴリズムについて、プログラマが理解でき、もし
望むならこれを実装可能なほど十分詳細に説明している。最初の章で概念説明をしてい
る。もし読者が Numenta についてよく知っていて、我々のこれまでの論文のいくつか
を読んだことがあるなら、それらは馴染み深いであろう。それ以後の章は新しい事柄に
ついて述べる。
本書に含まれないこと：
この新しいアルゴリズムの実装に関するいくつかの話題は、この初期の草稿に含ま
れていない。
- アルゴリズムの多くの側面は実装及びテストされているが、テスト結果については
述べられていない。
- アルゴリズムを実際の問題にどのように適用可能であるかについての記述はない。
センサーないしデータベースからのデータを、このアルゴリズムに適した分散表現
に変換する方法の記述が抜けている。
- アルゴリズムはオンライン学習ができる。オンライン学習を完全に実装するために、
ある特殊な状況下で必要となるいくつかの詳細は記述されていない。
- 執筆予定のその他の議論として次のものがある。疎分散表現の特徴に関する議論、
利用例・応用例、付録への引用。
我々は現時点で紹介可能な範囲でこの資料を作成した。他の人々もこれに関心を持
つだろうと考えたためである。意欲のある研究者であれば、この資料の欠落している部
分は、アルゴリズムを理解し実験をする上で妨げにならないだろうと考える。我々は今
後の進展に伴って随時この資料を改訂する。
542(2): 541 2016/11/11(金)13:21 ID:TfAJHR6G(4/14) AAS
Page 5
目次
Numenta 翻訳ライセンス（参考和訳） . . . . . 2
序文 . . . . . . . . . . . 8
:
ソフトウェアのリリース . . . . . . . 9
:
Numenta 社について
著者について . . . . . . . . . 10
:
第１章： HTM 概説 . . . . . . . . 11
:
階層構造 . . . . . . . . . . 12
リージョン . . . . . . . . . 15
疎分散表現 . . . . . . . . . 16
時間の役割 . . . . . . . . . 17
学習 . . . . . . . . . . . 19
推論 . . . . . . . . . . . 20
予測 . . . . . . . . . . . 21
行動 . . . . . . . . . . . 23
HTM の実装に向けての進捗状況
613(1): 611 2016/12/29(木)22:47 ID:1nUl0klS(1/2) AAS
>611
>>541 >>555 >>562-563 >>570-571 >>578-579 >>604-605
619(4): 618 2017/01/10(火)06:41 ID:xuLIsBiQ(1/2) AAS
Page 30
。セルが ry セルとの横方向の接続によってアクティブ ry 「予測状態」と呼ぶ（図 ２-３）。
3) 以前の入力の文脈に基づいて、現在の入力からの予測をするリージョンの ry
予測はステップ 2)で作成した、すべての以前の入力からの文脈を含む表現に基づ ry
リージョンが予測をするときは、将来のフィード・フォワード入力によって
アクティブになると考えられるすべてのセルをアクティブ（予測状態）にする。
リージョンの表現は疎であるので、同時に複数の予測がなされ得る。
例えばカラムのうちの 2%が入力によってアクティブになるとすると、
カラムの 20%が予測状態のセルとなることで10 個の異なる予測がなされ得る。
ry 40% ry 20 個 ry 。各カラムが 4 個のセルからなり、一度に一つだけがアクティブ
になるとすれば、セル全体の 10%が予測状態 ry
今後、疎分散表現の章が追加されれば、異なる予測が混じり合っても、
リージョンは特定の入力が予測されたのかそうでないのかを高い確信 ry
リージョンはどうやって予測 ry ？ 入力パターンが時間と共に変化するとき、
カラムとセルの異なる組み合わせが順次アクティブになる。
あるセルがアクティブになると、周囲のセルのうちすぐ直前にアクティブだったセルの
部分集合への接続を形成する。これらの接続は、そのアプリ ry で必要とされる学習速度
に応じて早く形成されたりゆっくり ry 調整できる。
その後、すべてのセルはこれらの接続を見て、
どのセルが同時にアクティブになるかを探さなくてはならない。
もし接続がアクティブになったら、
セルはそれ自身が間もなくアクティブになることを予測することができ、予測状態に入る。
よってある組み合わせのセルがフィード・フォワード入力によってアクティブになると、
ひき続いて起こると考えられる他の組み合わせのセルが予測状態になる。 ry
歌を聞いていて次の音を予測 ry 瞬間と同様 ry
>>541 >>555 >>557-558 >>561-564 >>570 >>578-579
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.040s