[過去ﾛｸﾞ] 知能研究スレ2©2ch.net (224ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
6(1): 4 2017/04/09(日)09:26 ID:XXlcdpGX(3/5) AAS
AA省
7: 6 2017/04/09(日)09:27 ID:XXlcdpGX(4/5) AAS
フェーズ 3
ry 実際に学習を実施する。
待ち行列に追加されたセグメントの更新は、フィード・フォワード入力を得てセルが
学習セルとして選択されたときに実施される（55-57 行目）。
そうではなく、もしセルが何らかの理由で予測を停止した場合、
そのセグメントをネガティブ58に強化する（58-60 行目）。
56 reinforcement。フェーズ 3 で強化学習をする処理対象を segmentUpdateList に記憶する。
省2
8: 4 2017/04/09(日)09:28 ID:XXlcdpGX(5/5) AAS
2chｽﾚ:future
9: 美魔女 2017/04/11(火)20:36 ID:dE1OrhWv(1) AAS
哲学板一ヶ月目で一覧制覇した美魔女です🍒宜しくお願いいたします。💗
10(2): 5 [sage一昨日放о性金属臭] 2017/04/16(日)11:25 ID:kNc73pc9(1/3) AAS
>>4-5
2chｽﾚ:future
11(2): 4 2017/04/16(日)11:27 ID:kNc73pc9(2/3) AAS
AA省
12: 11 2017/04/16(日)11:29 ID:kNc73pc9(3/3) AAS
実装の詳細と用語説明
ry 。各セルは二つの数値でアクセスする。カラムの添字 c と、セルの添字 i である。
セルは樹状突起セグメントのリストを保持する。各セグメントはシナプスのリストと、
各シナプスごとに永続値を保持する。 ry 変更は、セルが
フィード・フォワード入力によってアクティブになるまでは一時的とマークされ ry
segmentUpdateList によって保持される。
各セグメントはまた、論理値のフラグsequenceSegment を保持する。
省19
13: 2017/04/18(火)19:44 ID:048vvqM+(1) AAS
人工知能で「私は裸」であることを認識させる知能というのは可能かな？
その構造はどういったものになるのか、知能研究的な方法の意見が聞きたい。
14: 2017/04/23(日)03:36 ID:XU6Yd7na(1) AAS
外部ﾘﾝｸ:goo.gl
これは嫌だなー。。本当だったら落ち込むわー。。
15(1): 11 2017/04/30(日)18:09 ID:8+qjeHD1(1/5) AAS
Page 53
いて、シナプスを追加する（これは
樹状突起セグメントの中で完全にアクティブになったカラムを強調しすぎないように ry ）。
16: 5 2017/04/30(日)18:16 ID:8+qjeHD1(2/5) AAS
2chｽﾚ:future
17(1): 15 2017/04/30(日)18:22 ID:8+qjeHD1(3/5) AAS
Page 54
以下のデータ構造が時間プーリング疑似コードで ry
cell(c,i)
すべてのセルのリスト。iとcで指し示される。
cellsPerColumn
各カラムのセルの数
activeColumns(t)
省14
18: 17 2017/04/30(日)18:24 ID:8+qjeHD1(4/5) AAS
activationThreshold
あるセグメントをアクティブにするしきい値。 ry
接続されたアクティブなシナプスの数が activationThreshold より大 ry アクティブに ry
learningRadius
横方向の接続を持つ、時間プーリングセルの周囲の領域の範囲
initialPerm
シナプスの永続値の初期値
省10
19(1): 2017/04/30(日)18:30 ID:kh8F8mEW(1) AAS
同じ脳の原理があってもこういう奴みたいに、駄目なのと凄いのができる
理由はなんでだろ
20: 2017/04/30(日)18:38 ID:6+VIpQxm(1) AAS
文章じゃなくて箇条書きのメモみたいなもんでしょ。
ry ryaku (略)
人工知能で生成された書き込みなら凄い実験だと思うけど。
21(1): 4 2017/04/30(日)22:10 ID:8+qjeHD1(5/5) AAS
仰る通り皮肉切返しができない理系は少なくありませんがこういったご主旨でしたか
>> 285 : YAMAGUTIseisei 2016/09/20(火) 18:30:05.12 ID:6OGBdxmX
>> お役人様が技術がお得意でない事はやむを得ない面も
>> 大問題の一つは 300 万円という所 ( 億や兆のお話ならいざ知らず )
>> 電子頭脳 VM に 300 万円の価値すらないとのご判断は
>> 本当に私の不徳の致す所で我ながら不甲斐なく情けない
>>
省12
22(1): 2017/05/03(水)19:03 ID:sB8rnXsA(1) AAS
中国にAIの魂研究まで持っていかれてしまうのかぁ、それは嫌だな。
ところで？書き綴られているものはＨＴＭ理論のダイジェスト版みたいなもんかな？
23: 21 [gw] 2017/05/04(木)12:22 ID:RvZVSAKV(1/2) AAS
生意気を口に致しました
24(1): yamaguti~貸 2017/05/04(木)12:28 ID:RvZVSAKV(2/2) AAS
Page 55
segmentUpdate
与えられたセグメントを更新するときに必要な情報を保持するデータ構造で、
以下の3項目からなる。a) セグメントの添字（新しいセグメントのときは-1）、
b) 既存のアクティブなシナプスのリスト、c) このセグメントが順序セグメントと
マークされべきかどうかを表すフラグ（デフォルト値はfalse）。
segmentUpdateList
省20
25: 5 2017/05/05(金)10:29 ID:wc4nb0kD(1/2) AAS
失礼乍ら自明の問いでいらっしゃいましたがご言外の寄付のお申出でしたか
2chｽﾚ:future
26: yamaguti~貸 2017/05/05(金)10:33 ID:wc4nb0kD(2/2) AAS
Page 56
getSegmentActiveSynapses(c, i, t, s,newSynapses=false)
セグメントs に対して提示された変更のリストを保持するsegmentUpdate 構造体を返す。
activeSynapses を、接続元のセルの時刻t における activeState 出力=1 であるような
アクティブなシナプスのリストとする（s=-1のときはセグメントが存在しないため ry 空 ry
）。 ry 。 newSynapses が真の時は、 newSynapseCount -count(activeSynapses) 個
のシナプスが activeSynapses に追加 ry
省10
27(2): 2017/05/06(土)00:49 ID:zEs3e0rf(1) AAS
>>19
寄付を呼びかける時点でわかった、多分ね、研究費がなくて、
誰も信じられなくなって自暴自棄でノイローゼなんだよ。
２ｃｈには適当でいいんじゃないかな。
28: 4 2017/05/07(日)11:07 ID:H0biNINb(1/2) AAS
>>10
165 山口青星 2017/01/03(火) 11:31:19.99ID:igW+0jZp
> 256 : YAMAGUTIseisei 2016/10/23(日) 23:53:30.82 ID:Dlm82Fb1
> 自分には一言申上げる資格があるでしょう
>
> о隷階級の分際で大変失礼な申上げ様ながら
> この計画案を国が結果的に潰す格好となった事は事実です
省4
29: yamaguti~貸 2017/05/07(日)11:08 ID:H0biNINb(2/2) AAS
Page 57
付録 A: 生体ニューロンと HTM セルの比較
上の画像は左側が生体ニューロンの写真、中央が単純な人工ニューロン、
右側がHTM のニューロンあるいはセル ry 。この付録の目的 ry 比 ry
実物のニューロンは途方もなく複雑で変化に富んでいる。
ここではその最も普遍的な原理に注目し、また我々のモデルに関わる部分に限定する。
ry 、HTM 大脳皮質性学習アルゴリズムで用いられているセルは
省10
30: 2017/05/25(木)00:58 ID:mAFRIC2Q(1) AAS
ＨＴＭ学習による人工知能は人間が工学的に知る能力になると思いますか？
ただのメモリーだと思っていた各々のセルそれ自身が知能の素(演算処理装置)になってるのでしょうか？
だとすれば、Ｎvidiaグラフィックス系の多コア超並列演算処理に行き着くのですが
その多コア演算で知性や思考にどう結びつくのかがよく分かりません。
31(1): yamaguti~貸 2017/06/04(日)12:40 ID:Izq+v2N1(1/2) AAS
Page 58
ある。今では樹状突起はそれ自体、複雑な非線形処理部品であることが分かっている。
HTM 大脳皮質性学習アルゴリズムはこの非線形の特性を利用している。
ニューロンはいくつかの部分 ry
細胞体
細胞体はニューロンの中央にある小さな体積を持つ部分である。
セルの出力、軸索61は、細胞体から出ている。
省12
32: 31 2017/06/04(日)12:41 ID:Izq+v2N1(2/2) AAS
末梢樹状突起65
細胞体から遠く ry 枝は末梢樹状突起 ry 図 ry いくつかを青色の線 ry
61 axon
62 proximal dendrite
63 depolarization。神経細胞内の電位は通常は-70~-60mV 程度。
ニューロンが刺激を受けたためにこの電位が上がることを脱分極という。
脱分極により電位があるしきい値を超えるとニューロンが発火する。
省2
33: 2017/06/06(火)13:15 ID:ZyFLpkxX(1) AAS
ご連投のご自身目線での必要度 減少傾向
34(2): 4 2017/06/11(日)12:57 ID:ovKJ8hHX(1/4) AAS
>>5
> 137 山口青星 2016/11/27(日) 07:21:54.12 ID:vHhUl6EA
> >>135
>> 100 : YAMAGUTIseisei 2016/09/22(木) 11:25:57.87 ID:PmVnGSgy
>> 只々不甲斐なく情けない
35(1): yamaguti~貸 2017/06/11(日)13:05 ID:ovKJ8hHX(2/4) AAS
Page 59
末梢樹状突起は主要樹状突起よりも細い。これらは樹状突起の木の中の他の樹状突起の枝に
接続されていて、細胞体に直接接続されていない。これらの違いにより末梢樹状突起は
ユニークな電気・化学特性を持っている。
末梢樹状突起で一つのシナプスがアクティブになっても、細胞体に対して最小限の影響しか ry
。シナプスで局所的に発生した脱分極は、それが細胞体に届くときには弱くなっている。
このことは長年のなぞであった。
省12
36(1): 35 2017/06/11(日)13:06 ID:ovKJ8hHX(3/4) AAS
シナプス
標準的なニューロンには数千個のシナプスがある。これらの大多数(多分 90%)は
末梢樹状突起にあり、残りは主要樹状突起にあると思われる。
長年に渡って、学習はシナプスの影響度ないし「重み」を強くしたり弱くしたり
することを含む ry
。このような影響は観測されるものの、各シナプスはどこか確率的な様子である。
アクティブになったとき、それが神経伝達物質67を放出することに信頼性がない。
省7
37: 27 2017/06/11(日)16:12 ID:0xLPWFhV(1) AAS
>>34
それは、2chには関係ないから、適当に投稿は続ければ良いんじゃないかな？と思う。
38(1): 4 2017/06/11(日)23:09 ID:ovKJ8hHX(4/4) AAS
22 様共々 HTM に些かのご興味とはご同慶
39(1): 22 2017/06/12(月)12:28 ID:eDUmXVEr(1/2) AAS
まぁ、22も自分なんだけどね。多スレでポンコツ呼ばわりされてっけど通じる日本語書けるんジャン。
その調子で、チンプンカンプンなHTM理論もエクセルシートで説明してもらえないかな？
40: 39 2017/06/12(月)12:30 ID:eDUmXVEr(2/2) AAS
あ、いや、生意気申しました。。。
41(2): 2017/06/13(火)14:14 ID:Gcphohgk(1) AAS
ヒント
知能は創造ではない、夢や希望は論理や技術ではない、
42: 2017/06/14(水)07:14 ID:pvUDqNVn(1) AAS
>>41
リバース
創造は知能ではない？、論理や技術は夢や希望ではない？
43: 34 2017/06/25(日)08:11 ID:kmvAJvy0(1/2) AAS
2chｽﾚ:future
> 152 山口青星 2017/01/03(火) 10:26:23.58 ID:igW+0jZp
> > 101 : YAMAGUTIseisei 2016/09/25(日) 10:10:01.00 ID:a7u+8KXH
>> > 385 : YAMAGUTIseisei 2016/09/04(日) 16:55:27.34 ID:yWawFej1
>>> 今回政府にоられて流石にもう後がないとの前提 成立
>>> できるだけ包み隠さず無料公開しての同業者様の飯の種へのご迷惑も平に平にご容赦
>>
省6
44(1): yamaguti~貸 2017/06/25(日)08:12 ID:kmvAJvy0(2/2) AAS
Page 60
ニューロンの出力
ニューロンの出力は軸索に沿って伝搬するパルス68あるいは「活動電位」である。
軸索はセルから伸びて、ほとんど常に二つに分かれる。
枝の一つは水平に伸びて近くの他のセルと数多く接続する。
他の枝は他の層のセルや脳内の他の場所へと遠く伸びる。
上記のニューロンの画像では軸索は見えない。２本の矢印を追加して軸索を示した。
省18
45(1): 4 2017/07/02(日)21:28 ID:ZKt2tQ+I(1/3) AAS
強い AI ( AL ) ( を越えます物 ) の応募は
多少不備があろうと追加枠臨時創設をしてでも国策として推進
とのご方針 ?
46(2): yamaguti~貸 2017/07/02(日)21:29 ID:ZKt2tQ+I(2/3) AAS
Page 61
HTM セル
図の右側は、HTM 大脳皮質性学習アルゴリズムで用いられているセル ry
HTM セルは実物のニューロンの多くの重要な能力を捉えているが ry 単純化も ry
主要樹状突起
各 HTM セルは単一の主要樹状突起を持つ。セルへのすべてのフィード・フォワード入力
はシナプス（緑色の点で示した）経由で入力される。アクティブなシナプスの効果は
省18
47: 46 2017/07/02(日)21:30 ID:ZKt2tQ+I(3/3) AAS
カラム間の競合、シナプス候補の集合による学習、 ry カラムのブースト
の組み合わせにより、HTM ry ンは脳に見られるのと同様の強力な可塑性を得た。
HTM リージョンは入力の変化に応じて各カラムが何を表す
48: 2017/07/02(日)21:31 ID:7PyqZMnO(1) AAS
>>1 マジ？
外部ﾘﾝｸ:raou.jp
ラ王への道 toritatenin 岩間好一 aiueo700 監視カメラ 110番 ウィルス 公明党
ラ王への道 江南署 集団ストーカー クレーマー 悪質 卒論コピペ ランサムウェア
ラ王への道 クレーム 馬鹿舌 味音痴 味覚障害 嫌われ者 ワンクリック詐欺 共産党
ラ王への道 長谷川亮太 チンフェ ちばけんま クズ けん まくん 創価学会
ラ王への道 森園祐一 生活保護 ドールオタビッコマン 涼子P ナマポ 苦情
省1
49(2): 45 2017/07/09(日)16:24 ID:W3GgFRR8(1/3) AAS
強い AI ( AL ) ( を越えます物 ) の応募は人類の喫緊の命運を左右もご承知の通り
その上で昨年度は審査員様ご一任状況にしてご関知なさらず ?
50(1): yamaguti~貸 2017/07/09(日)16:26 ID:W3GgFRR8(2/3) AAS
Page 62
のかを（主要樹状突起上のシナプスの変更によって）自動的に調整し、
カラム数の増加ないし減少を自動的に調整 ry
末梢樹状突起
各 HTM セルは末梢樹状突起セグメントのリストを管理している。
各セグメントはしきい値検出器として働く。
ry アクティブなシナプス（冒頭の図で青い点で示した）の数がしきい値を超えると、
省14
51: 50 2017/07/09(日)16:27 ID:W3GgFRR8(3/3) AAS
ある実装では、我々はセルあたり固定の数の樹状突起セグメントを用いた。
他のある実装では、訓練を通じてセグメントを追加ないし削除するようにした。
ry 。セルあたりの樹状突起セグメントの数を固定にすると、
同じセグメントに対していくつかの異なるシナプスの集合を保存することができる。
例えば、セグメント上に 20 個の有効なシナプスがあり、しきい値が 15 とする。
（一般に ry ノイズへの耐性 ry しきい値をシナプスの数よりも少 ry ）
これでそのセグメントは周囲のセルの特定の一つの状態を理解できるようになる。
省6
52(1): yamaguti~貸 2017/07/16(日)17:38 ID:Nam9FajQ(1/2) AAS
Page 63
シナプス
HTM セルのシナプスは二値の重みを持つ。ry
重みをスカラー値にすることを妨げるものは何もないが、
疎分散パターンを用い ry 今のところスカラー値の重みを使う必要性がない。
しかし ry セルは「永続値」というスカラー値を ry 学習を通じて調整する。
永続値 0.0 は有効でないシナプス候補を表し、 ry しきい値（標準的には 0.2）
省9
53(1): 52 2017/07/16(日)17:39 ID:Nam9FajQ(2/2) AAS
セル出力
HTM セルは 2 つの異なる二値出力を持つ： 1) セルがフィード・フォワード入力によって
（主要樹状突起経由で）アクティブである、2) セルが横方向の接続により
（末梢樹状突起経由で）アク ry 。前者を「アクティブ状態」と呼び、後者を「予測状態」 ry
冒頭の図では、この 2 つの出力は正方形の細胞体から出ている 2 つの線で表されている。
左側の線はフィード・フォワードによるアクティブ状態、右側の線は予測状態である。
フィード・フォワードによるアクティブ状態だけがリージョン内の他のセルに接続され、
省8
54(1): 49 2017/07/23(日)08:30 ID:0TlGOkHF(1/2) AAS
2chｽﾚ:future
55: yamaguti~貸 2017/07/23(日)08:31 ID:0TlGOkHF(2/2) AAS
Page 64
参考文献
ry 。ニューロサイエンス ry 膨大で、全般的知識を得るには多くの異なる文献 ry
。新しい発見は学術ジャーナル ry 、読み解くのが難しく大学関係者でない限り ry
この付録で ry 2 冊 ry
Stuart, Greg, Spruston, Nelson, Hausser, Michael, Dendrites, second edition
(New York: Oxford University Press, 2008)
省7
56: yamaguti~貸 [53>正方形の細胞体から] 2017/07/30(日)10:26 ID:4w4cNgfm(1) AAS
Page 65
付録 B: 新皮質の層と HTM リージョンの比較
ここでは HTM リージョンと生体新皮質のリージョンの間の関係 ry
特に、HTM 大脳皮質性学習アルゴリズム、
及びそのカラムとセルが、新皮質の層やカラム構造とどのような関係 ry
。新皮質の「層」の概念やそれが HTM の層とどう関係 ry 、多くの人が困惑 ry
。本稿がこの混乱を解決し、また HTM 大脳皮質性学習アルゴリズムの生物学的基礎 ry
省8
57: 2017/07/30(日)13:01 ID:V6VGcFgE(1) AAS
＞器官原理69 organizing principles。生体器官の働きの原理的しくみ。
"働きの原理"が詳しく知りたい。
58: ロシアの声 2017/08/01(火)21:51 ID:IIcKoRIt(1) AAS
独自言語を開発して会話を始めたロボット、フェイスブックが停止
外部ﾘﾝｸ:jp.sputniknews.com
59: yamaguti~貸 2017/08/20(日)23:37 ID:S+NGnK8E(1) AAS
BEｱｲｺﾝ:nida.gif
Page 66
層
新皮質は一般に 6 つの層を持つと言われている。
それらの層のうち 5 つはセルを持ち、1 つの層はほとんどが接続線である。
層は染色技術の出現と共に 100 年以上前に発見された。
上記の画像（Cajal による）は 3 種類の異なる染色法を用いて新皮質の小さな断片 ry
省10
60(1): yamaguti~貸 2017/09/10(日)18:05 ID:vLQGrlPG(1/16) AAS
Page 67
に 2 つに枝分かれする。枝の一つは主に水平に伸び、他の枝は主に垂直 ry
。水平の方の枝は同じ層や近くの層の他のセルと多数の接続 ry
。 ry 新皮質の断片 ry
。多くの軸索がこの画像で示された部分から出たり入ったりしているので、
軸索は画像に見られるものよりも長い。
新皮質の 1mm の立方体に含まれる軸索や樹状突起の総延長は 2km から 4km ry
省10
61: 60 2017/09/10(日)18:08 ID:vLQGrlPG(2/16) AAS
リージョンの違いによる層のバリエーション
新皮質のリージョンの違いによって層の厚さにバリエ ry 、層の数についても多少違う。
このバリエーションはどの動物を研究するかに依存し、
どのリージョンを観察するかにも依存し、また観察した人によっても違う。
例えば上記の画像では、第 2 層と第 3 層は容易に識別できるが一般的にはそうではない。
いくつかの科学者 ry この 2 つの層を識別できないと報告 ry まとめて「第 2/3 層」 ry
。他の科学者は逆の方向に向かい、例えば 3A と 3B のようなサブレイヤを定義 ry
省6
62: yamaguti~貸 2017/09/10(日)18:55 ID:vLQGrlPG(3/16) AAS
Page 68
カラム
新皮質の 2 つ目の主要な器官原理はカラムである。
いくつかのカラム構造は染色された画像にも見られるが、カラムに関する多くの証拠は
異なる入力に対してセルがどのように反応するかに基づいている。
科学者が針を使って、何がニューロンをアクティブにするのかを見てみると、
異なる層を横断する垂直方向に揃った複数のニューロンがだいたい同じ入力に反応 ry
省12
63: yamaguti~貸 2017/09/10(日)19:38 ID:vLQGrlPG(4/16) AAS
Page 69
そしてセルが主に色を感知する「ブロブ」75がある。
眼球優位性カラムは図の大きなブロックである。各眼球優位性カラムは角度のカラムを含む。
「ブロブ」は濃い色の楕円である。
新皮質の一般的な規則は、角度と眼球優位性のようにいくつかの異なる応答特性が
互いに重ね合わさっているということである。皮質の表面を水平に移動してゆくに従って、
セルから出力される応答特性の組み合わせは変化する。
省14
64(1): yamaguti~貸 2017/09/10(日)21:11 ID:vLQGrlPG(5/16) AAS
Page 70
数のニューロンがあることに注意してほしい。
ミニカラムのすべてのニューロンが類似の入力に反応する。
例えば、先ほど示した V1 の図では、ミニカラムは特定の眼球優位性を伴い、
特定の角度の線に反応するセルを含んでいる。隣にあるミニカラムのセルは
少し違う角度の線に反応し、違う眼球優位性を示すのかも知れない。
抑制ニューロンがミニカラムを定義する本質的な役割を果たしている。
省12
65: 64 2017/09/10(日)21:12 ID:vLQGrlPG(6/16) AAS
HTM 大脳皮質性学習アルゴリズムでは
カラム中のすべての HTM セルが同じフィード・フォワード応答特性を共有しているが、
時間的なシーケンスを学習すると HTM カラムの 1 つのセルだけがアクティブになる。
このメカニズムは可変長シーケンスを表現する手段であり、
ニューロンについて先ほど説明した特徴と似ている。
文脈を伴わない単純な入力はカラム中のすべてのセルをアクティブにする。
同じ入力でも、学習したシーケンスに含まれるときは 1 つのセルだけがアクティブになる。
省3
66: yamaguti~貸 2017/09/10(日)21:48 ID:vLQGrlPG(7/16) AAS
Page 71
なぜ層とカラムがあるのか？
新皮質になぜ層があり、なぜカラムがあるのか、はっきりしたことは誰も知らない。
HTM 大脳皮質性学習アルゴリズムは、カラム状に構成したセルの層が
可変長の状態遷移を記憶する大容量メモリとなりうることを示した。
もっと単純に言えば、セルの層はたくさんのシーケンスを学習できる ry
。同じフィード・フォワード反応を共有するセルのカラムは可変長の遷移を学習 ry の鍵 ry
省11
67(1): yamaguti~貸 2017/09/10(日)21:56 ID:vLQGrlPG(8/16) AAS
Page 72
色のついた線は異なる層からのニューロンの出力 ry
その層のニューロンから出ている軸索の束である。軸索はすぐに 2 つに分か ry
一つの枝は主にそれと同じ層の中で、リージョン内で水平方向に広がる。
よって各層のすべてのセルは相互によく接続し合っている。
ニューロンと水平方向の接続は図に示されていない。
2 つのフィード・フォワード・パス76がある。オレンジ色で示した直接パスと、
省18
68: 67 2017/09/10(日)21:57 ID:vLQGrlPG(9/16) AAS
この説明は層から層への接続に関して知られていることを限定的に概説 ry 。 ry
異なる層が何をするのかに関する仮説
我々は第 3, 4, 5 層がすべてフィード・フォワード層でありシーケンスを学習していると ry
。第 4 層は一次シーケンスを学習する。第 3 層は可変長シーケンスを学習
76 pathway。通り道。
77 sub-cortical area。大脳皮質の下の神経中枢。
78 thalamus。ししょう。
69(1): yamaguti~貸 2017/09/10(日)22:01 ID:vLQGrlPG(10/16) AAS
Page 73
する。第 5 層はタイミングを含む可変長シーケンスを学習する。 ry
第4層
HTM 大脳皮質性学習アルゴリズムを用いて一次シーケンスを学習するのは容易である。
もしカラム中のセルが互いに抑制するように強制しなかったとしたら、
つまりカラム中のセルが以前の入力の文脈を区別しなかったとしたら、一次学習が起こる。
新皮質では、同じカラム内のセルを抑制する効果を取り除くことで成されるだろう。
省13
70: 69 2017/09/10(日)22:02 ID:vLQGrlPG(11/16) AAS
第3層
第 3 層は第 2 章で述べた HTM 大脳皮質性学習アルゴリズムに最も近い。
それは可変シーケンスを学習し、予測を行い、その予測は入力よりも安定している。
第 3 層は常に階層構造の次のリージョンに向かい、そのため ry 時間的安定性 ry 増 ry
。可変シーケンス記憶は「方位選択性複雑型細胞」81と呼ばれるニューロンに形成され、
それは第 3 層で最初に観察された。
方位選択性複雑型細胞は例えば左に動いている線と右に動いている線など、
省4
71(1): yamaguti~貸 2017/09/10(日)22:23 ID:vLQGrlPG(12/16) AAS
Page 74
第5層
最後のフィード・フォワード層 ry 3 層と似ているが 3 つの違い ry
。第一の違いは第 5 層が時間の概念を付加 ry
。第 3 層は次に「何」が起こるかを予測するが、それが「いつ」起こるかを教えてくれない。
しかしながら、話し言葉 ry 音の間の相対的なタイミングが重要 ry
運動動作 ry 筋肉の活性化のタイミング ry
省18
72: 71 2017/09/10(日)22:24 ID:vLQGrlPG(13/16) AAS
まとめると、第 5 層は特定のタイミング、注意、運動行動を結びつける。
これらが互いにどのように関わりあうかについては多くの謎 ry 。
ry ポイントは、HTM 大脳皮質性学習アルゴリズムのバリエーションが
特定のタイミングを容易に組み入れることができ、別々の皮質の層を結合することができる ry
第2層と第6層
第 6 層は下位のリージョンへフィードバックする軸索の起点である。
第 2 層についてはほとんど知られていない。 ry 2 層が第 3 層と比べて
省4
73(1): yamaguti~貸 2017/09/10(日)22:54 ID:vLQGrlPG(14/16) AAS
Page 75
だけは指摘することができる。よって我々はこれらもまた、
HTM 大脳皮質性学習アルゴリズムの一形態を実行していると提唱する。
HTM リージョンは新皮質の何に相当するか？
我々は 2 種 ry 実装した。
一方は可変長記憶のためにカラムごとに複数のセルを持たせるもので、
他方は一次記憶のためにカラムごとに単一のセルを持たせるものである。
省9
74: 73 2017/09/10(日)22:59 ID:vLQGrlPG(15/16) AAS
BEｱｲｺﾝ:nida.gif
まとめ
HTM 大脳皮質性学習アルゴリズムは我々が新皮質の神経器官の基本構成要素
と信じているものを具現化するものである。それは水平接続されたニューロンの層が
どのようにして疎分散表現のシーケンスを学習するのかを示している。
HTM 大脳皮質性学習アルゴリズムの各バリエーションが、
互いに関連するが異なる目的を持つ、新皮質の異なる層で使われる。
省12
75: yamaguti~貸 2017/09/10(日)23:01 ID:vLQGrlPG(16/16) AAS
BEｱｲｺﾝ:nida.gif
Page 76
するものはない。しかしながら、これらの層でよく見られる水平接続を考えると、
何らかの形でシーケンス記憶を学習 ry
76(1): yamaguti~貸 2017/09/24(日)19:11 ID:ma5WYMpw(1/8) AAS
BEｱｲｺﾝ:nida.gif
Page 77
用語の説明
ノート： ry 、一般的な意味とは異なるものもある。
説明文中で大文字で示されたもの83は、この用語説明で説明されていることを示す。
77: 76 2017/09/24(日)19:15 ID:ma5WYMpw(2/8) AAS
BEｱｲｺﾝ:nida.gif
アクティブ状態
（Active State）
フィード・フォワード（Feed-Forward）入力によってセル（Cells）がアクティブになった状態
ボトムアップ
（Bottom-Up）84
フィード・フォワード（Feed-Forward）と同義語
省23
78(1): yamaguti~貸 2017/09/24(日)19:19 ID:ma5WYMpw(3/8) AAS
BEｱｲｺﾝ:nida.gif
Page 78
望ましい密度
（Desired Density）
リージョン（ Region ）へのフィード・フォワード（Feed-Forward）入力によって
アクティブになるカラム（Column）の望ましいパーセンテージ。
このパーセンテージは、フィード・フォワード入力のファンアウト85に依存して変化
省24
79: 78 2017/09/24(日)19:21 ID:ma5WYMpw(4/8) AAS
BEｱｲｺﾝ:nida.gif
HTMネットワーク
（HTM Network）
HTMリージョン（HTM Region）の階層構造（Hierarchy）
HTMリージョン
（HTM Region）
HTMにおいて、記憶と予測（Prediction）を行う主要構成要素。
省6
80(1): yamaguti~貸 2017/09/24(日)19:25 ID:ma5WYMpw(5/8) AAS
BEｱｲｺﾝ:nida.gif
Page 79
推論
（Inference）
空間的ないし時間的入力パターンが、以前に学習したパターンと似ていると認識すること
抑制半径
（InhibitionRadius）
省24
81: 80 2017/09/24(日)19:27 ID:ma5WYMpw(6/8) AAS
BEｱｲｺﾝ:nida.gif
予測
（Prediction）
フィード・フォワード（Feed-Forward）入力によって、
セル（Cells）が近い将来アクティブになるであろうということを、
（予測状態の）アクティブ化によって示すこと。
HTMリージョン（HTM Region）はしばしば、将来起こりうる入力を同時に多数予測する。
省12
82: yamaguti~貸し多大 2017/09/24(日)19:30 ID:ma5WYMpw(7/8) AAS
BEｱｲｺﾝ:nida.gif
yamaguti~貸し多大
Page 80
空間プーリング
（Spatial Pooling）
入力に対して疎分散表現を計算する処理。空間プーリングの一つの特徴は、
オーバラップする入力パターンを同じ疎分散表現に対応付けられることである。
省18
上下前次1-新書関写板覧索設栞歴
あと 142 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.043s