[過去ログ]
(強いAI)技術的特異点/シンギュラリティ171 (1002レス)
(強いAI)技術的特異点/シンギュラリティ171 http://rio2016.5ch.net/test/read.cgi/future/1567327896/
上
下
前次
1-
新
通常表示
512バイト分割
レス栞
抽出解除
レス栞
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
リロード規制
です。10分ほどで解除するので、
他のブラウザ
へ避難してください。
37: yamaguti [16sage] 2019/09/02(月) 00:08:11.73 ID:SPnkrttr >>34-35 >>34 >>35 先端樹状突起 シーケンスB 'C' D 'のフィードバックバイアス ← 入力C 表現C ' ← 入力Y 期待と一致しません ? ry 先端樹状 ry は全配列を ry 。 図4: 尖端樹状突起への フィードバックはシーケンス全体を予測する 、図2と同じネットワークおよび表現 >>34-35 「先端樹状突起」と表示された領域は、新皮質の第1層に相当 。 全 細胞からの頂端樹状突起(図示せず)はここで終結する。 図 、次のように仮定 ? ry 示されているように、 ークは以前にシーケンス ry を学習した。 図2に示されたシーケンスABCDをネットワークは以前に学習した。 ? 学習されたシーケンスの間、頂 起に一定のフィ パターンが提示され、配列B'C'D 'に参加する細胞はそれらの頂 起上に プスを形成して一定のフィ パ を認識した。 学習済シーケンスに亘って尖端樹状突起へと提示され ( てい ) るコンスタントなフィードバックパターン、をそして認識する為にシーケンス B'C'D ' 参加各細胞はそれら尖端樹状突起上にシナプス編成した。 ードバック接続が学習された後、頂端樹状突起へのフィードバッ ーンの提示は、シーケンス内で順次アクティブになるすべてのセルによって同時に認識される ? ry 、偏光解消状態になります( ry 。 赤で表示 これらのセルは、脱分極します(左ペイン)。 新 フィードフォワード入力が到着すると、予測されたシーケンスに関連するスパース表現になります(中央のパネル ? ry パターンが予想されるシーケンスの一部として解釈 ry 、選択された列の ry 。 ードフォワードパターンを予想シーケンスの一部として解釈できない場合(右パ )、選択 カラムのすべてのセルがアクティブになり、異常を示します ? ry 、頂端フ クは、予想されるシ の一部として入力を解釈するように ークをバイアスし、入力が予想されるシーケンス ry しないかどうか検出する。 このようにして、尖端フィードバックはネットワークを、どんな入力も予想シーケンスの一部としての解釈をする様にバイアスし、入力がもしも予想シーケンス内の要素のどれにも一致しない場合を検出する。 http://rio2016.5ch.net/test/read.cgi/future/1567327896/37
14: yamaguti [sage] 2019/09/01(日) 23:13:31.65 ID:vP6qbkkr >10 yamaguti 190823 1758 i4k6f2cA : |>37 yamaguti 190404 1901 CS6nD8sb? \| 46 yamaguti 190316 1624 oq9O0c4s? \>33 yamaguti 190308 1352 lgKqio1I? | : ||||>38 yamaguti 190224 2059 WFxvUogS? |||||>76 ー 190218 1040 qlXoGJqg : |||||>松尾先生「RNNのセルがトランスホォーマーに変わったものがBERTで、 | |>672 ー 190820 1855 5U/ICmMC : |>トランスフォーマー 汎用 に |>_ttp://tech.nikkeibp.co.jp/atcl/nxt/mag/ne/18/00046/00002/ | | DeepMind , dahara1 氏 : Universal Transformerを用いて翻訳を超える | _ttp://rio2016.2ch.net/test/read.cgi/future/1489922543/273-285#1518883298/12-14# SLING | _ttp://google.jp/search?q=2ch+future+tokuiten+hpky-universaltransformer-bert | _ttp://rio2016.2ch.net/test/read.cgi/future/1564778477/849-850# Honnyaku2022 http://rio2016.5ch.net/test/read.cgi/future/1567327896/14
46: yamaguti [sage] 2019/09/02(月) 00:25:28.69 ID:SPnkrttr 図3Aの最後のパネルのセルのうちの1つについて、セルが予測 に使用した3 接続を示 >>36 ? ry 、細胞は活動細胞 実際のニューロンでは、そして我々のシミュ では、細胞 1 つはアクティブ細胞のより大きな集団のサブセットへの15から40の接続を形成するでしょう 2.2.3。 頂端シナプスはトップダウンの期待を生み出す ? 新皮質領域間のフィードバック軸索は、細胞体 ry 5に ry 細胞の先端樹状突起とシナプス(層1)を形成することが多い。 シナプス ( レイヤ 1 ) 形成を新皮質リージョン間のフィードバック軸索は、細胞体が層2、3、 5 にある錐体神経細胞、の尖端樹状突起と共にすることが頻繁 。 これらの ードバック接続が何らかの形の期待またはバイアスを実行 と長い間推測されてきた(Lamme et al。、1998)。 我々の ーロンモデルは ップダウンの期待のメカニズムを示唆 。 図4は、頂端樹状突起への安定した ードバックパターンが、シーケンス内の複数の要素をすべて同時に予測 方法を示 >>37 新 ードフォワード入力が到着すると、それは予測シーケンスの一部として解釈されます ? ードバックは入力を特定の解釈にバイアスします。 繰り返しますが、 まばら 、多 パ 同時に予 >>37 [ここの図4原稿の終わりを見る] したがって、同時に発生 2種類の予測 ? 基底樹状突起への横方向の連結は次の入力を予測し、尖端側樹状突起へのトップダウンの連結は複数 ーケンス要素を同時に予測 ? ry )、おそらく推論 ry より微妙な解釈につながる ry 。 先端 と基底樹状突起との間の生理学的相互作用は活発な研究分野 (Larkum、2013)、推論や予測におけるそれらの役割のよりニュアンス重視な解釈を恐らくリードする 。 ただし、図2 3 4に示されているメカニズムが、その最終的な解釈において引き続き役割を果たす可能性が高いことを提案します。 >>34-37 http://rio2016.5ch.net/test/read.cgi/future/1567327896/46
メモ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.042s