[過去ﾛｸﾞ] (強いAI)技術的特異点/シンギュラリティ142 (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
9: yamaguti 2018/11/21(水) 09:03:30.68 ID:sfyGuXNf(4/54)調 BE AAS
2chｽﾚ:future YowaiAI Kiken ## KoutuuJiko
11: yamaguti 2018/11/21(水) 09:05:46.67 ID:sfyGuXNf(6/54)調 BE AAS
> Go to:
シミュ ry 結果
ットワークモデルのパフォーマンスを示すシミュ
ｰク構造は、先に説明したように、それぞれが2つの層を有する1つ以上の皮質柱からなる（図1）。 2chｽﾚ:future
? 第1組のシミュレーションでは、 ry 。
シミュレーションの最初のセットでは、各列の入力層は150個のミニカラムから成り、ミニカラム当たり16個のセルがあり、合計2,400個のセル
? ry
各列の出力レイヤーは、4,096個のセルで構成され、ミニカラムには配置されません。
?
出力レイヤは、各セルの末梢基底樹状突起を介したカラム間及びカラム内接続を含む。
? ry また、同じ列内の入力レイヤーの頂点樹状突起にも投影されます。
出力レイヤーは又、同カラム内の入力レイヤーの尖端樹状突起にもフィードバック投影されます。
すべての接続は、トレーニングプロセス中に継続的に学習され調整されます。
? ry ライブラリ上でネッ
、最大500個のオブジェクトのライブラリ上ネットワークを訓練した（図2A ）。 2chｽﾚ:future
各オブジェクトは、5?30個の可能な特徴のライブラリから選択された10個の感覚特徴からなる。
各フィーチャには、 ry ェクト上の対応する場所が割り当
? ry 共有されます。
各オブジェクトは固有のフィーチャ/ロケーションのセットで構成されますが、任意のフィーチャまたはフィーチャ/ロケーションは複数のオ ry トにわたって共有される事に注意。
?
したがって、単一の列による単一の感覚は、オブジェクトを非曖昧に識別するのには不十分
出力レイヤ内のアクティブなセルのセットは、ネットワークによって認識されるオブジェクトを表します。
? 推論の間に、ネットワークは、出力レイヤーの表現が、 ry ェクトを明白
推論に伴い、出力レイヤーの表現が、正しいオブジェクトの表現と大きく重なり、他のオ ry トの表現と重ならないとき、オブジェクトをネットワークが明白に認識すると言う。
? ry、「材料と
ェクトの構築と認識の詳 ry 、「資料と方法」
以下 ry 、まず、単一および複数列ネットワークを使用したネットワークコンバージェンスにつ
次に、 ry ｰクの容量について説明
12(1): yamaguti 2018/11/21(水) 09:07:55.27 ID:sfyGuXNf(7/54)調 BE AAS
ネットワークコンバージェンス
? ry 表現は、感知された特徴および位置の最近のシーケンスと一致
先に議論したように、出力層における表現は、特徴および位置の最近感知されたシーケンスと一致する。
複数の出力表現は、感知された特徴および位置が1つの特定の物体に固有でない場合に同時にアクティブになる。
? オブジェクトは移動によって探索されるので、出
ェクトは動きによって探索され、出力は単一オブジェクト表現に収束します。
図3は、1列ネッ ry と3列 ry ｰクの収束速度を示
一緒に働く複数の列は認識に必要な感覚の数を減らします。
図3
（A）出力層は、各オブジェクトを疎パターンで表現する。
? 私たちは最初のオブジェクトでネッ
私達はネットワークを初めてのオブジェクトでテストしました。
? （B）単一の列ネットワークの出力レイヤーにおけるアクティビティがオ ry トに接触するときのア
（B）オブジェクトに接触する時の単一カラムネットワークの出力レイヤにおけるアクティビティ。
ｰクは11回の感覚の後に収束する（赤い四角
? （C）3つの列のネットワークの出力レイヤーで、オ ry トに接触するときのア
（C）オブジェクトに接触する時の 3 カラムネットワークの出力レイヤでのアクティビティ。
? ry は、4つの感覚（赤い矩形）の後にはるかに速く収
ネットワークは遥かに速く、4つの感覚（赤い矩形）の後に収束します。
? 両方の（B、C）において、第1欄の表現は、収束後の目標物体と同じである。
両（B、C）において、カラム 1 の表現は、目標物体の表現と収束後同じである。
13(1): yamaguti 2018/11/21(水) 09:17:24.13 ID:sfyGuXNf(8/54)調 BE AAS
2chｽﾚ:future JidouToutatu
14(2): yamaguti 2018/11/21(水) 09:18:01.30 ID:sfyGuXNf(9/54)調 BE AAS
? ry 、トレーニングセット内のオ ry トの総数の関数としてオ ry トを明確に認識するのに必要な感覚の平均数をプ
図4Aでは、オブジェクトを曖昧でなく認識するのに必要な感覚の平均数をトレーニングセット内のオ ry トの総数の関数としてプロットしている。
予想されるように、必要な感覚の数は、格納されたオ ry トの総数とともに増加する。
しかし、すべての場合、ry ｰクは最終的にすべてのオブジェクトを正しく認識します。
感覚の数は、オブジェクトのセット間の全体的な混乱にも依存します。
? よりユニークなオ ry トであればあ
ェクトがよりユニークであればあるほど、ry ｰクはそれらをあいまい
図4
? ry ェクトの集合が増加するにつれて、単一の列 ry ｰクを持つオ ry トを明白に
（A）学習されたオ ry トのセットとしての単一カラム ry ｰクの増加に伴う、オブジェクトを曖昧でなく認識するのに必要な感覚の平均数。
ら100までの ry モデルを訓練し、単一のオブジェクトを明白に認識するのに必要な平均感覚数をプロットします。
? ry 構築される一意の特徴の総数 ry 。
異なる曲線は、オブジェクトが構築されるに当ってのユニークフィーチャの総数によって収束がどのように変化するかを示す。
ｰクは最終的 ry 認識する。
? 認識は、特徴のセットがより大きい場合、より少ない感覚を必要とする。
認識には、フィーチャセットがより多い場合、より少ない感覚を必要とする。
? （B）列の集合が増加するにつれて、マルチカラム ry ｰクを有するオ ry トを明確に認識するのに必要な観測の
（B）カラムのセットとしてのマルチカラムネットワークの増加に伴う、オブジェクトを曖昧でなく認識するのに必要な観測の平均数。
ｰクを100個のオブジェクトで訓練し、 ry トを明白に認識するのに必要な感覚の平均数をプロットします。
必要な感覚の数は、列の数が増加するにつれて急速に減少し、最終的に1
? （C）ロケーション（青色）、位置なし（オレンジ色）、および1列センサーセンサｰ ry ｰク（緑色）を有する理想的な観察者モデルの感覚数の関数として明白に認識できる物体の割合。
（C）理想的な観察者モデルでのロケーション（青色）あり、なし（オレンジ色）、及び 1 カラム感覚運動ネットワーク（緑色）での、感覚数の関数としての曖昧でなく認識できる物体の割合。
15: yamaguti 2018/11/21(水) 09:19:12.24 ID:sfyGuXNf(10/54)調 BE AAS
? 図4Bは、ネットワーク内の皮質柱の数の関数として物体を認識するのに必要な感覚の平均数を示す。
図4Bは、物体を認識するのに必要な感覚の平均数をネットワーク内の皮質柱の数の関数として示す。 >>14
このグラフは、複数の列を含む利点を示
必要とされる感覚の数は、列の数が増えるにつれて急速に減少する。
したがって、単一列 ry ｰクはオブジェクトを認識することができますが、複数列 ry ｰクははるかに高速です。
十分な数の列 ry 、非常に混乱しているオブジェクトでさえ、単一の感覚で曖昧さを解消する。
? ry 各列は、他の列ごとに横方向 ry 。
この実験では、各カラムは、他のカラムから横方向の入力
? ry 我々は、感覚の数の関数として明白に認識され得る物体の割合（「精度」）をプ
図4C において、我々は、曖昧でなく認識され得る物体の割合（「精度」）を感覚の数の関数としてプロットする。
? 単一列のネットワークを、場所の有無にかかわらず理想的なオブザーバーモデルと比較します（「材料と方法」を参照）。
単一カラムネットワークを、位置情報のありとなしに付いて理想的なオブザーバーモデルと比較します（「資料と方法」を参照）。
我々のモデルの性能は、場所を持つ理想的な観察者に近い。
? このモデルでは、物体を認識するための位置がなくても、モデルにはもっと多くの感覚があり、いくつかの物体は区別できません（平均感覚数をプロットするとグラフには表示されません）。
このモデルには物体を認識する為の、位置情報はなく、もっと多くの感覚はあり、そして、いくつかの物体を区別する事ができず（平均感覚数をプロットするとグラフには表示されません）、 位置情報の重要性を強調します。
また、マルチカラム ry ｰクは、感覚ごとに複数のフィーチャを同様に観察する理想的なオブザーバモデルに近いパフォーマンスを示しています（補足図9 ）。
? ry モデルの近くで動作することを示す。
まとめると、これらの結果は、本発明者らの生物学的に誘導された感覚運動ネットワークが、収束の正確さおよび速度に関して非生物学的理想モデルに近い動作をする事を示す。
16: yamaguti 2018/11/21(水) 09:20:19.75 ID:sfyGuXNf(11/54)調 BE AAS
容量
ここに示したネットワークモデルでは、各皮質柱は物体の予測モデルを構築する。
重要な質問は、1つの列が表すことができるオブジェクトの数です。
、より多くの列 ry 容量 ry ？
このセクションでは、正確に認識できるオブジェクトの数に対するさまざまなパラメータの影響を調べます。
?
容量は、ネットワークが混乱せずに学習し認識できる最大オブジェクト数と定義します。
容量に影響を及ぼす4つの異なる要因、すなわちネットワークの表現空間、入力層のミニカラムの数、出力層のニューロンの数、および皮質柱の数を分析する。
我々の分析では、実験データに報告された数値と同様の数値を使用した。
例えば、皮質柱は、直径が300μmから600μmまで変化する（Mountcastle、 1997 ）。ミニカラムの直径は30?60μmの範囲にあると推定される（Buxhoeveden、 2002 ）。
とシミュ ry 、皮質柱が150?250のミニカラムを含むと仮定
第1に、神経表現は、入力層および出力層が多数の固有の特徴/位置およびオブジェクトを表すことを可能にしなければならない。
図2に示すように、両方のレイヤーは疎な表現を使用します。
疎な表現は、非常に多数の要素の堅牢な表現を可能にするいくつかの魅力的な数学的性質を有する（Ahmad and H ry 、 2016
? With a network of 150 mini-columns, 16 cells per mini-column, and 10 simultaneously active mini-columns, we can uniquely represent
? Unknown node type: span
? sensory features.
With a network of 150 mini-columns, 16 cells per mini-column, and 10 simultaneously active mini-columns, we can uniquely represent (15010)~1015 sensory features.
? 150個のミニカラム、16個のミニカラム、および10個の同時にアクティブなミニカラムのネットワークにより、我々は、
? 感覚の特徴。
150個のミニカラム、16個のミニカラム、および10個の同時にアクティブなミニカラムのネットワークにより、我々は、 (15010)~1015 の感覚フィーチャを表現できる。
? 各機能は、16の固有の固有の場所で表現できます。
各フィーチャは、16^10 の固有のロケーションで表現できます。
17(2): yamaguti 2018/11/21(水) 09:25:37.19 ID:sfyGuXNf(12/54)調 BE AAS
? Similarly, the output layer can represent
? Unknown node type: span
? unique objects, where n is the number of output cells and w is the number of active cells at any time.
? 同様に、出力層は、
? 一意のオブジェクトであり、 nは出力セルの数であり、 wは任意の時間におけるアクティブセルの数である。
同様に、出力層は、 nを出力セルの、 wをアクティブセルの、任意の時間における数として、一意のオブジェクトを表現できる。
? ry 、2つのフィーチャ/位置のペアまたは2つのオブジェクトの表現が、 ry ビット（補足的なマテリアル）を持つことはほとんどありません。
そのような大きな表現空間では、2つのフィーチャ/位置ペアまたは2つのオ ry トの表現が、偶然にかなりの数のオーバーラップするビットを持つことはほとんどありません（補足資料）。
したがって、ユニークに表現することができるオ ry トおよびフィーチャロケーションペアの数は、 ry ｰク容量の制限要因ではありません。
学習されたオ ry トの数が増加すると、出力レイヤのニューロンは、入力レイヤのニューロンへの接続数が増加します。
出力ニューロンがあまりにも多くの入力ニューロンに接続すると、それは訓練されていないパターンによって誤って活性化される可能性
したがって、ネットワークの容量は出力レイヤーのプール能力によって制限されます。
数学的分析は、単一の皮質カラム ry 数百のオブジェ ry （補足資料
図5
認識の精度は、学習されたオブジェクトの数の関数としてプロットされます。
（A）入力層のミニカラムの数に対する ry ｰク容量。
出力セルの数は4,096に保たれ、40個のセルがいつでもアクティブになります。
（B）出力層のセル数に対するネットワーク容量。
アクティブな出力セルの数は40に保持されます。
入力層のミニカラムの数は150です。
（C）1つ、2つ、および3つの皮質欄（CC）の ry ｰク容量。
入力層のミニカラムの数は150であり、出力セルの数は4096である。
18: yamaguti 2018/11/21(水) 09:40:24.83 ID:sfyGuXNf(13/54)調 BE AAS
?
実際のネットワーク容量を測定する為に、私たちはオ ry ト数を増やしてネットワークを訓練し認識精度をプロットしました。
出力層に4,096セル、入力層に150個のミニカラムがある単一の皮質欄では、認識精度は400オ ry トまで完璧なままです（図5A、青）。 >>17
学習されたオ ry トの数が ry ｰクの容量を超えると、検索精度が低
? 増加することが期待されます。
数学的分析から、入力層と出力層のサイズが増加するにつれてネットワークの容量が増加 ry 。我々 ry 再びテストした。
アクティブセルの数を固定すると、入力層のミニカラムの数とともに容量が増加します（図5A）。 >>17
、入力層のセルが多くなると、活性化の希薄さが増し、出力セルが誤って活性化される可能性が低くなるためです。
入力層のサイズが固定されている場合（図5B）、出力セルの数によって容量も大幅に増加します。
、使用可能な出力セルがさらに多い場合、出力セルあたりのフィードフォワード接続の数が減少するためです。
個々の列のサイズが固定されている場合、列を追加すると容量が増加する可能性があります（図5C）。 >>17
? ry 限られています。
これは、個々の皮質柱がその容量限界に達すると、出力層の横方向の接続が入力の曖昧さを緩和 ry 、この効果は限られています。カラム数増による効果増は急激に減
上記のシミュ ry 、単一の皮質柱が数百の物体をモデル化して認識することが可能であることを示している。
容量は入力層と出力層のセルの数によって最も影響を受けます。
列の数を増やすと、容量にはほとんど影響しません。
複数列の主な利点は、オブジェクトを認識するのに必要な感覚の数を劇的に削減することです。
? 1列のネットワークは、わらを使って ry 。それはできますが、ゆっくりと難しいです。
1 カラムのネットワークでは、ストローを通して世界を見るようなものです。 それはできますが、遅くそして困難です。
19: yamaguti 2018/11/21(水) 09:41:24.54 ID:sfyGuXNf(14/54)調 BE AAS
2chｽﾚ:future RihaKigen 2018 Teisei
20(1): yamaguti 2018/11/21(水) 09:43:37.65 ID:sfyGuXNf(15/54)調 BE AAS
ノイズ耐性
図6
ノイズに対する単一列 ry ｰクのロバスト性。
（A）認識精度は、感覚入力（青色）および位置入力（黄色）における雑音量の関数としてプロットされる。
（B）感覚数の関数としての認識精度。
色付きの線は、位置入力のノイズレベルに対応
ry 単一列 ry 頑健性 ry
。 ネットワークが一連のオブジェクトを学習した後、 ry のランダムノイズを感覚入力と位置入力に ry
。このノイズは、入力のアクティブビットに全体的なスパース性を変更することなく影響を与えました（「マテリアルとメソッド」を参照）。
30回の接触後の認識精度をノイズの関数としてプロットした（図6A）。
?
感覚入力には最大20％のノイズ、位置入力には最大40％のノイズが認識精度に及ぼす影響はありません。
我々はまた、収束速度が位置入力における雑音の影響を受けることも見出した（図6B）。
場所の入力が騒々しいときは、オブジェクトを認識するのに多くの感覚
上下前次1-新書関写板覧索設栞歴
あと 982 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ ｱﾎﾞﾝOFF
ぬこの手 ぬこTOP 0.244s*