(情報科学)技術的特異点と科学･技術等 1 (ナノテク) [転載禁止]©2ch.net (840ﾚｽ)
(情報科学)技術的特異点と科学･技術等 1 (ナノテク) [転載禁止]©2ch.net http://rio2016.5ch.net/test/read.cgi/future/1427220599/
上
下
前
次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
610: 609 [sage] 2016/12/25(日) 23:41:11.12 ID:HhtfNWQ8 >>609 > 449 : YAMAGUTIseisei~kasi 2016/12/25(日) 03:30:09.16 ID:HhtfNWQ8 > シンギュラリティスレに相応しい大切な議論 ( 議題 ) > ※ 但し 失礼ながら些か脱線の傾向 ( 議題の中の肝の部分が大切 ) >496 : yamaguti~kasi 2016/12/25(日) 23:35:42.88 ID:HhtfNWQ8 > >>452 > 流れ > LSf1DgBH 氏文脈 http://rio2016.2ch.net/test/read.cgi/future/1476925488/210# SaiRyuudoKa http://rio2016.2ch.net/test/read.cgi/future/1476925488/949# Sukoari
ngu http://rio2016.5ch.net/test/read.cgi/future/1427220599/610
611: yamaguti~貸 [sage] 2016/12/28(水) 19:25:08.56 ID:cR1KnFY8 http://rio2016.2ch.net/test/read.cgi/future/1481515915/274#290 >274 : オーバーテクナナシー 2016/12/23(金) 16:01:53.21 ID:qoXUV7bO > ディープラーニングに必要な計算量を30分の1に省力化、デバイスに搭載できる人工知能 ─三菱電機インタビュー >http://iotnews.jp/archives/44190 > ry 係数が0になる部分をできるだけ増 ry 計算を簡略化 ry > ─重みづけに使う係数が0になるところを増やして計算をできるだけ簡略化 ry > ry データの特徴を分析して、
その枝の部分でも重要な枝 ry 決め打ちで残します。 > ─これは人が残すのでしょうか？ > 現時点では人が枝を選別しています。枝を大幅に削減しても性能が落ちない事を理論的に証明 ry > 数字がたくさんあるものは「密な行列」 ry 、従来のディープラーニングと一緒。 > そこで値をほとんど持たない「疎な行列」をどう構成 ry > ─その太い幹っていうのを見切るところがすごく難しそうです。 ry 、どれだけ残して、どれだけ切 ry > ry 、例えば入力のデータに対して主成分となり得るような重要なデータの個数がある程度限定 ry >
、情報を欠損させないで中間層に伝搬させる事は可能 ry 証明 ry 1/30に削減しても同様の効果 ry > ─これはこのデータだからという事はないのでしょうか？ > ry 制約条件はありません。 > ─人の顔の認識などデータが複雑だと難しいということはないのでしょうか？ > ry 、さっきのガンマに依存しないっていうのは実は驚異的 ry http://rio2016.2ch.net/test/read.cgi/future/1427220599/541#555#562-563#570-571#578-579#604-605 http://webcache.googleusercontent.com/search?q=cache:numenta.com/assets/pdf/whitepapers/hierarchi
cal-temporal-memory-cortical-learning-algorithm-0.2.1-jp.pdf#27#30-32#34-38#63#75#79#80 #16#26#27#30-32 http://rio2016.5ch.net/test/read.cgi/future/1427220599/611
612: 581 [sage] 2016/12/28(水) 19:30:59.82 ID:cR1KnFY8 >>581 深層学習 > 入力応用 ? ( 一層切出し 多層化 ? ) ↓ > ソフトウェアコード応用 ( 一層切出し 多層化 ) ? http://rio2016.5ch.net/test/read.cgi/future/1427220599/612
613: 611 [sage] 2016/12/29(木) 22:47:22.33 ID:1nUl0klS >611 >>541 >>555 >>562-563 >>570-571 >>578-579 >>604-605 http://rio2016.5ch.net/test/read.cgi/future/1427220599/613
614: yamaguti~貸 [sage] 2016/12/29(木) 22:48:56.89 ID:1nUl0klS >>610 攻殻機動隊 例 オペ子 >>http://rio2016.2ch.net/test/read.cgi/future/1482030012/794 http://rio2016.2ch.net/test/read.cgi/future/1480118427/481-485# Konekutoomu http://rio2016.5ch.net/test/read.cgi/future/1427220599/614
615: 604 [sage] 2017/01/02(月) 01:36:40.90 ID:DMzazahP Page 27 の疎表現は、抑制の後でどのカラムがアクティブでどれが非ア ry 。例え入力ビットのうちアクティブなビットの数が大幅に変化した場合であっても、 相対的に一定の割合のカラムがアクティブになるように抑制関数が定義される。 図 ２-１ カラムとセルからなる HTM リージョンの例。リージョンの一部分のみ ry 。各カラムは入力のユニークな部分集合によるアクティベーションを受け取る。 最も強いアクティベーションを受けたカラムが他の弱いアクティベーションを抑制する。 結果は
入力の疎分散表現である。（アクティブなカラムは灰色で示した） ry ほんの少しの入力ビットが変化したなら、 いくつかのカラムでは少し多く又は少し少ない入力ビットがオン状態になるが、 アクティブなカラムの集合はあまり大幅に変化しないだろう。 よって似た入力パターン（アクティブなビットの共通部分が非常に多いもの）からは アクティブなカラムの比較的安定した集合に対応付けられる。 コード化がどのくらい安定 ry 、各カラムがどの入力に接続しているかに大きく依存 ry この接続関係は、後述する方法で学習する。 これらのすべてのステッ
プ（入力の部分集合から各カラムへの接続関係を学習し、 各カラムへの入力レベルを決定し、アクティブなカラムの疎な集合をえらぶために抑制 ry ） を空間プーリングと呼ぶ。 ry 空間的に類似（アクティブなビットの共通部分が多い）の パターンがプールされる（それらが共通の表現に互いにグループ化される）ことを意味する。 http://rio2016.5ch.net/test/read.cgi/future/1427220599/615
616: 615 [sage] 2017/01/03(火) 02:58:43.04 ID:igW+0jZp Page 28 2) 以前の入力の文脈に基づいて、入力の表現を作成する リージョンで行われる次の機能は、入力をカラムで表現したものを、 過去からの状態ないし文脈を含む新しい表現に変換 ry 。新しい表現は各カラムの一部のセル、普通は１カラムにつき１つのセルを アクティブにすることで得られる（図 ２-２）。 「I ate a pear」と「I have eight pears」31の二つの話し言葉を聞く場合 ry 「ate」と「eight」は ry 発音が同じ ry 同じ反応をするニューロンが脳内のどこか ry また一方、 ry
異なる文脈にあると反応するニューロンが脳内の他のどこか ry 。「ate」という音に対する表現は「I ate」 ry 「I have eight」 ry 異なる ry 。 「I ate a pear」と「I have eight pears」の二つの文を記憶したと想像してみよう。 「I ate…」 ry 「I have eight…」 ry 異なる予測 ry よって ry 異なる内部表現 ry ある入力を異なる文脈では異なるコード変換をするというこの原理は、 認知とふるまいの普遍的な特徴であり、HTM リージョンの最も重要な機能の一つ ry http://rio2016.5ch.net/test/read.cgi/future/1427220599/616
617: 616 [sage] 2017/01/03(火) 03:06:42.48 ID:igW+0jZp ry カラムは複数のセルからなっている。 同じカラムのすべてのセルは同じフィード・フォワード入力を受け取る。 ry 。アクティブな各カラムごとに、どのセルをアクティブ ry 選択するかによって、 完全に同じ入力に対して異なる文脈では異なる表現をすることができる。 例 ry 。各カラムは 4 つのセルからなり、各入力は 100 個のアクティブなカラムで表現 ry 。カラムの中で一つのセルだけが一度にアクティブであるとすると、 完全に同じ入力に対して 4100 通り ry 。同じ入力は常に同じ組
み合わせの 100 個のカラムがアクティブになるが、 文脈が異なればカラム中の異なるセルがアク ry 非常に大きな数の文脈を表現 ry 、これらの異なる表現はどのくらいユニーク ry ？ 4100 個の可能なパターンのうちからランダムに選択した 2 個は、 ほとんどの場合、約 25 個のセルが重複 ry よって同じ入力を異なる文脈で表した 2 つの表現は、 約 25 個のセルが共通で 75 個のセルが異なっており、容易に区別 ry HTM リージョンの一般的な規則 ry カラムがアクティブ ry 、そのカラム中のすべてのセルを見る。 もしそのカラム中の一つ又はそれ以上の
セルが既に予測状態であれば、 それらのセルだけがアクティブになる。もしそのカラム 31 「私は梨を食べる」と「私は 8 個の梨を持っている」 >>561 >>578-579 >>590 >>599-600 >>604 http://rio2016.5ch.net/test/read.cgi/future/1427220599/617
618: 616 [sage] 2017/01/05(木) 05:20:22.69 ID:XytjA2E8 Page 29 中のすべてのセルが予測状態でないならば、すべてのセルがアクティブになる。 ry ：ある入力パターンが期待されるなら、システムは予測状態のセルだけをアクティブ にすることで期待通りであることを確認する。その入力パターンが期待と違うなら、 システムはカラム中のすべてのセルをアクティブにすることで、 「予期しない入力が発生したのであらゆる解釈が有りうる」ということを表す。 もし以前の状態が何もないなら、従って文脈も予測もないなら、 ry になるときは各カラム内
のすべてのセルがアクティブになる。 ry 歌の最初の音を聞いたときと似ている。 文脈がなければ、 ry 予測できない：すべての選択肢が有効である。 以前の状態があるが入力が予期したものと合致しないときは、 アクティブなカラムのすべてのセルがアクティブ ry 。この決定はカラムごとに 行われるので、予測 ry は「オール・オア・ナッシング」32ではない。 図 ２-２ カラムの一部のセルをアクティブにすることで、 HTM リージョンは同じ入力の多くの異なる文脈を表現 ry 。カラムは予測状態のセルだけをアクティブにする。 予測状態のセルがないカ
ラムでは、カラム中のすべてのセルをアク ry 。図は、あるカラムでは一つのセルだけがアク ry 、あるカラムではすべてのセルが ry ry HTM セルは３つの状態を取る。 セルがフィード・フォワード入力によってアク ry 単に「アクティブ」の用語 ry 32 all-or-nothing >>599-600 >>604-605 >>616-617 http://rio2016.5ch.net/test/read.cgi/future/1427220599/618
619: 618 [sage] 2017/01/10(火) 06:41:13.03 ID:xuLIsBiQ Page 30 。セルが ry セルとの横方向の接続によってアクティブ ry 「予測状態」と呼ぶ（図 ２-３）。 3) 以前の入力の文脈に基づいて、現在の入力からの予測をするリージョンの ry 予測はステップ 2)で作成した、すべての以前の入力からの文脈を含む表現に基づ ry リージョンが予測をするときは、将来のフィード・フォワード入力によって アクティブになると考えられるすべてのセルをアクティブ（予測状態）にする。 リージョンの表現は疎であるので、同時に複数の予測がなされ得る。 例
えばカラムのうちの 2%が入力によってアクティブになるとすると、 カラムの 20%が予測状態のセルとなることで10 個の異なる予測がなされ得る。 ry 40% ry 20 個 ry 。各カラムが 4 個のセルからなり、一度に一つだけがアクティブ になるとすれば、セル全体の 10%が予測状態 ry 今後、疎分散表現の章が追加されれば、異なる予測が混じり合っても、 リージョンは特定の入力が予測されたのかそうでないのかを高い確信 ry リージョンはどうやって予測 ry ？ 入力パターンが時間と共に変化するとき、 カラムとセルの異なる組み合わせが順次アクティブにな
る。 あるセルがアクティブになると、周囲のセルのうちすぐ直前にアクティブだったセルの 部分集合への接続を形成する。これらの接続は、そのアプリ ry で必要とされる学習速度 に応じて早く形成されたりゆっくり ry 調整できる。 その後、すべてのセルはこれらの接続を見て、 どのセルが同時にアクティブになるかを探さなくてはならない。 もし接続がアクティブになったら、 セルはそれ自身が間もなくアクティブになることを予測することができ、予測状態に入る。 よってある組み合わせのセルがフィード・フォワード入力によってアクティブになると、
ひき続いて起こると考えられる他の組み合わせのセルが予測状態になる。 ry 歌を聞いていて次の音を予測 ry 瞬間と同様 ry >>541 >>555 >>557-558 >>561-564 >>570 >>578-579 http://rio2016.5ch.net/test/read.cgi/future/1427220599/619
620: 619 [sage] 2017/01/10(火) 06:42:55.96 ID:xuLIsBiQ >>619 >>590 >>592 >>596 >>604 >>616-618 > 133 : YAMAGUTIseisei~貸 2016/11/13(日) 11:46:31.17 ID:5tF5+oR3 > > 87 : YAMAGUTIseisei 2016/09/02(金) 20:19:09.47 ID:dnyMZM3F >> 私の不徳の致す所であれまたしても国に支援をоられる事態に至ってしまった以上 >> 電子頭脳の仕組に付いて発表しても売о奴の誹りは免れ得ましょう >> 純国産の夢が潰える事になり申訳なく思います > > 256 : YAMAGUTIseisei 201
6/10/23(日) 23:53:30.82 ID:Dlm82Fb1 > 自分には一言申上げる資格があるでしょう > > о隷階級の分際で大変失礼な申上げ様ながら > この計画案を国が結果的に潰す格好となった事は事実です > > 257 : YAMAGUTIseisei 2016/10/24(月) 00:02:20.63 ID:trJeFV+a > 野暮な付け加えですがご関係各所様又先生方又支援者の皆様に > 言葉はよろしくありませんが上納金と申しますをお届けできなくなりました事を > 謹んでお詫申上げます http://rio2016.5ch.net/test/read.cgi/future/1427220599/620
621: オーバーテクナナシー [sage] 2017/01/10(火) 09:45:47.99 ID:8fimskyV まさにチラシの裏に書いとけ、だな、これ。 http://rio2016.5ch.net/test/read.cgi/future/1427220599/621
622: オーバーテクナナシー [] 2017/01/11(水) 07:14:36.34 ID:KoXy9jDD http://tamae.2ch.net/test/read.cgi/market/1484082034/ 投資家ＶＳ人工知能（未来予測） どう考えても人間の投資家が人工知能に勝てるとは思えんのだが http://rio2016.5ch.net/test/read.cgi/future/1427220599/622
623: 619 [sage] 2017/01/11(水) 20:58:42.31 ID:Tu17jTh4 Page 31 図 ２-３ ry リージョンのいくつかのセルがフィード・フォワード入力によってアク ry （薄い灰色で示した）。他のあるセルは、アクティブなセルからの横方向の入力を 受け取って予測状態になる（濃い灰色で示した）。 まとめると、新しい入力が到着すると、アクティブなカラムの疎な部分集合が選択される。 各カラムの一つ又はそれ以上のセルがアクティブになり、これはまた同じリージョン内 のセル間の接続の学習内容に応じて他のセルを予測状態にする。 リージョン内の接続によ
ってアクティブになったセルは、 ry 予測を表す。 次のフィード・フォワード入力が到着すると、 他のアクティブなカラムの疎な組み合わせが選択される。 新たにアクティブになったカラムが予期したものでないとき、 つまりどのセルも ry 予測しなかったとき、カラム中のすべてのセルをアクティブ ry 。新たにアクティブになったカラムが ry 予測状態のセルを持つなら、 それらのセルだけがアクティブになる。リージョンの出力はリージョン内のすべてのセル のアクティブ状態であり、フィード・フォワード入力によってアクティブになったセルと、 予測
状態のためアクティブになったセルとからなる。 既に述べ ry HTM リージョンの予測は将来のいくつかのステップに及ぶことも ry ry メロディの次の音を予測するだけではなく、例えば次の 4 つの音 ry 。 ry 出力（リージョン内のアクティブ状態のセルと予測状態のセルの和集合） は入力よりもゆっくりと変化する。 リージョンがメロディの次の 4 つの音を予測 ry 。メロディを文字 A, B, C, D, E, F, G のシーケンスで表現する。最初の 2 音を聞いた後、リージョン http://rio2016.5ch.net/test/read.cgi/future/1427220599/623
624: 623 [sage] 2017/01/11(水) 21:00:08.87 ID:Tu17jTh4 >>623 予測 >>616-619 http://webcache.googleusercontent.com/search?q=cache:numenta.com/assets/pdf/whitepapers/hierarchical-temporal-memory-cortical-learning- algorithm-0.2.1-jp.pdf#31-34#37-42#48-55#62-63#71#73-75#77-80 疎 >>611-615 >>619 >>547 http://webcache.googleusercontent.com/search?q=cache:numenta.com/assets/pdf/whitepapers/hierarchical-temporal-memory-cortical-learning- algorithm-0.2.1-jp.pdf#31-32#34-38#63#75#79#
80 >621 >>620 自分がそんなにバカに映っているとすれば尚の事 この度の不採択も併せまして私の不徳の致す所でございます http://rio2016.5ch.net/test/read.cgi/future/1427220599/624
625: yamaguti~貸 [sage] 2017/01/16(月) 13:06:28.66 ID:aN67nnkj >> http://rio2016.2ch.net/test/read.cgi/future/1483319596/801#882#938#960# supaasu 疎分散表現 不要 : 弱い AI ( AL ) 簡易版強い AI ( AL ) 長期記憶外部化強い AI ( AL ) 必要 : 長期記憶融合ニューラルネット型強い AL http://rio2016.5ch.net/test/read.cgi/future/1427220599/625
626: yamaguti~貸 [sage] 2017/01/16(月) 15:57:00.45 ID:aN67nnkj >> http://rio2016.2ch.net/test/read.cgi/future/1484485942/70 > 実行作業（自身のアルゴリズムを改良） 特に難関 * DNC 的巨大外部システム連携 * モジュール設計 ( ライブラリ関数相互乗入 ? ) → 上位版 : 基本的ニューラルネット 差替 更新 創発 * 特徴量抽出機構ベース ( 例 HTM 自動調整 ) : 根本から基本的ニューラルネット 差替 更新 創発 >>567 HTM 19 > 一つの HTM リージョンは学習の能力が限定されている。 > ry どれだけのメモリ ry 入力が r
y 複雑 ry に応じて何を学習するかを自動的に調整する。 http://webcache.googleusercontent.com/search?q=cache:numenta.com/assets/pdf/whitepapers/hierarchical-temporal-memory-cortical-learning-algorithm-0.2.1-jp.pdf#61#69 > HTM リージョンは入力の変化に応じて各カラムが何を表すのかを >（主要樹状突起上のシナプスの変更によって）自動的に調整し、 > カラム数の増加ないし減少を自動的に調整するだろう。 > カラム > 新皮質の一般的な規則は、角度と眼球優位性のようにいくつかの異なる応答特性が > 互いに重ね合
わさっているということである。 > 皮質の表面を水平に移動してゆくに従って、セルから出力される応答特性の組み合わせは変化する。 http://rio2016.5ch.net/test/read.cgi/future/1427220599/626
627: yamaguti~貸 [sage] 2017/01/19(木) 13:33:10.13 ID:t0dB5g0K >>626 http://rio2016.2ch.net/test/read.cgi/future/1484485942/89 >89 ：yamaguti~kasi：2017/01/16(月) 16:02:46.03 ID:aN67nnkj >→ 上位版 : 基本的ニューラルネットモジュール 差替 更新 創発 http://rio2016.5ch.net/test/read.cgi/future/1427220599/627
628: yamaguti~貸 [sage] 2017/01/19(木) 13:34:33.93 ID:t0dB5g0K http://rio2016.2ch.net/test/read.cgi/future/1484485942/484#494#360#387#295-382 http://itpro.nikkeibp.co.jp/atcl/column/17/011000004/011400004/?P=2 > コネクトームの一番単純な線虫だと、305個の神経細胞と6000個のシナプスしかない。 > 線虫のできることと我々ができること ry 。この違いは ry 、コネクトームの規模と複雑さしかない。 身体性 ( 物理文法 ) http://itpro.nikkeibp.co.jp/atcl/column/17/011000004/011400004/?P=4 >> シンギュラリティ ry
説明したようなアプローチしかないと私は考えている。 > 弱いシンギュラリティ = 簡易版強い AI プログラムストアード型 MPU : 垂直統合プロセッシング環境 http://rio2016.5ch.net/test/read.cgi/future/1427220599/628
629: 623 [sage] 2017/01/19(木) 14:00:47.01 ID:t0dB5g0K Page 32 はシーケンスを理解し、予測 ry C, D, E, F を予測する。 B のセル33は既にアクティブであるから B, C, D, E, F がそれぞれ 2 つのアクティブな状態のどちらかになる。 ry 次の音 C ry アクティブ状態のセルと予測状態のセルの集合は C, D, E, F, G を表す。 入力パターンは B から C へとまったく違うものに変化したが、20%のセルだけが変化 ry ry の出力はリージョン内のすべてのセルのアクティブ状態を示すベクトル で表されるので、この例の出力では入力に比べて 5 倍安定 ry
階層構造を上に登るに従って時間的な安定性が増加 ry 表現に文脈を追加して予測を行う 2 つのステップを「時間プーリング」 ry シーケンスに対してゆっくりと変化する出力を生成することで、 時間と共に順に現れる異なるパターンを「プールする」34。 ry 別のレベルで詳細化 ry 空間プーリングと時間プーリングで共通の概念から始 ry 共通概念 空間 ry と時間プーリングの学習は似て ry 、セル間の接続関係、あるいはシナプス の形成を含む。 時間プーリングは同じリージョン内のセル間の接続を学習する。 空間プーリングは入力ビットとカラムとのフ
ィード・フォワード接続を学習する。 二値ウェイト HTM のシナプスは 0 又は 1 ry 。多くの他のニューラルネットワークモデルでは 0 から 1 の範囲で変化するスカラー値のウェイトを用いるのと異な ry 33 英文では cells と複数形なので、B を表すセルは一つではないことが分かる。 A, B, C,...のそれぞれに対応する疎分散表現は、 リージョン全体の 2%のセルの組み合わせで表される。 34 何かを貯めこんで蓄積するというニュアンスから、時間に関する情報を蓄積 ry http://rio2016.5ch.net/test/read.cgi/future/1427220599/629
ﾒﾓ帳
(0/65535文字)
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 211 ﾚｽあります
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
Google検索
Wikipedia
ぬこの手
ぬこTOP
1.941s*