(情報科学)技術的特異点と科学･技術等 1 (ナノテク) [転載禁止]©2ch.net (840ﾚｽ)
上下前次1-新
531(3): YAMAGUTIseisei [sage_teoff] 2016/11/07(月)22:55 ID:AIXwnKii(1/4) AAS
Checko's Bookmarks
原來早就有PowerXCell 8i 的介面?了
外部ﾘﾝｸ:checko.soup.io
August 02 2008 checko

而且還比QS22(5/14)還早...._A_a
外部ﾘﾝｸ[html]:www.fixstars.com
フィックスターズ、最新型Cell/B.E.を搭載したアクセラレータボードを発売
外部ﾘﾝｸ:www.fixstars.com
Cell搭載アクセラレータボード GigaAccel180

GigaAccel 180製品カタログ
省7
532(3): 531 [sage_teoff] 2016/11/07(月)22:56 ID:AIXwnKii(2/4) AAS
----
外部ﾘﾝｸ[cfm]:www.realworldtech.com
Topic: Updated CELL/BE roadmap
外部ﾘﾝｸ[pdf]:www-06.ibm.com

- PowerXCell 32ii (2 x PPE' + 32 x SPE') is replaced by PowerXCell 32iv (4 x PPE' + 32 x eSPE)
- higher frequency (~3.8GHz)
- 100% backword compatible
- Performance on PPE significantly better
- Performance per SPE equal or better (Significantly better on applications that benefit from new instructions)
- Better inter-SPE latency
省9
533(3): 532 [sage_teoff] 2016/11/07(月)22:56 ID:AIXwnKii(3/4) AAS
PDF被抽掉了所以找不到原文，三月的還沒有提到PowerXCell 32iv這個名字。
外部ﾘﾝｸ[pdf]:www-06.ibm.com

939 ：MACオタ：2008/06/22(日) 00:27:13 ID:7EkjfsSX
6/10のセミナー資料、もう少し掘っていたら次世代CELLについて言及した別のがあったす。
外部ﾘﾝｸ[pdf]:www-06.ibm.com
　・従来型Cell/B.E.わ2009年に45nmプロセス化
　・以前のロードマップにあった2*PPE + 32*SPEの"PowerXCell 32ii"わキャンセル。代わりに
　　4*PPE + 32*SPEの"PowerXCell 32iv"へ。
　・PowerXCell 32ivの世代でPPEに手を入れる -> PPE' へ
　・同じくSPEわ"eSPE"に進化
省12
534(2): 533 [sage_teoff] 2016/11/07(月)23:04 ID:AIXwnKii(4/4) AAS
就算有POWER7的加持，PPE'相對SPE來?還是個很慢的東西，追加PPE的數量對成本來?是很大的負擔。(畢竟PPE+L2直接等於4x SPE的面積)
PowerXCell 32iv，iv代表4個PPE。而設置回到4PPE+32SPE，這點與現在的CELL比例完全相同，有點回到過去"PE"這個組成單位的意味。
也就是?CELL未來實際的強化是透過底層指令追加與結構改善來達成；相對來?，過去2PPE + 32SPE有點透過提高平行化來提高運算密度的味道....這似乎暗示的是運算模式的性能改善被半導體技術之類的製造因素?過去了。
如果真的是採用XDR3(TBI)的話，相當於512bit可以取得1TB/s的頻?，等於?個CELL分到了256GB/s，
介面則從64bit XDR變成128bit XDR3、傳輸速度則從XDR的3.2Gbps(400MHz x 8)，提升到XDR3的16Gbs(500MHz x 32)，
等於記憶體頻?比例也大了十倍，幾乎和浮點性能達成1:1的比例，這下看起來反而更像過去的general purpose CPU...(這回還要換成DDR系來衝容量的話就更困難了....)

總之想?的是，x86 PC和HPC only的processor可以使用到的資金規模實在差太多了?.....XD

----
補充?高速的Software Render：

外部ﾘﾝｸ:www.transgaming.com
省6
535(2): YAMAGUTIseisei [sage_teoff] 2016/11/08(火)17:14 ID:TGuKiqAY(1/2) AAS
>79 : オーバーテクナナシー 2016/10/20(木) 22:17:02.44 ID:/cm5eDtP
> 外部ﾘﾝｸ[html]:pc.watch.impress.co.jp

>86 : YAMAGUTIseisei 2016/10/20(木) 22:54:25.43 ID:XE3cG6Lw
> >>79
>> 基本最適化回路を複数 ry 並列 ry 設計 ry 、最適化回路間のデータの移動を極小化する構造 ry 高密度な並列 ry
>> 、基本最適化回路の内外で自由な信号のやりとりができる、全結合の構造 ry 多様な問題を扱う ry
>
> Google TPU ( や一部 D-Wave ) もだが AAP ( 系 ) のエッセンスを活かした ? 進化系
>2chｽﾚ:future
> 2chｽﾚ:future
536(1): 535 [sage_teoff] 2016/11/08(火)21:27 ID:TGuKiqAY(2/2) AAS
>>535
2chｽﾚ:future
537: 536 [nodosage] 2016/11/09(水)12:50 ID:NbR/xRE3(1) AAS
>>535-536
> 2chｽﾚ:future
> 外部ﾘﾝｸ:ascii.jp 東芝、ディープラ

パルス幅変調は古典ながら細粒度回路応用演算はセンスが良い
外部ﾘﾝｸ:google.jp
外部ﾘﾝｸ:google.jp

音源チップ PWM → カウント ?
TDNN PWM → ボリューム ?
538(2): YAMAGUTIseisei 2016/11/10(木)13:19 ID:BsZjitog(1) AAS
2chｽﾚ:future
学習済外部 DB 逐次連携 ( DNC ) ? ⇔ 別方式 日立跳躍学習

> オリオル・ビニアル研究員は、深層学習システム
> （ ry 構成要素の層のそれぞれの感度を調節することで物体を認識する仕組み）に記憶機能を追加した。
> 一般的に、深層学習システムは人工神経網の接続を微調整するために多くの画像が必要だ。

外部ﾘﾝｸ:arxiv.org
Google 翻訳 tnx

ワンショット学習のためのマッチングネットワーク
著者： オリオールVinyals 、 チャールズ・ブランデル 、 ティモシーLillicrap 、 Koray Kavukcuoglu 、 大安Wierstra
(Submitted on 13 Jun 2016) （2016年6月13日に提出）
省9
539(1): YAMAGUTIseisei 2016/11/11(金)13:01 ID:TfAJHR6G(1/14) AAS
This is the html version of the file 外部ﾘﾝｸ[pdf]:numenta.com .
Google automatically generates html versions of documents as we crawl the web.

Page 1

HIERARCHICAL TEMPORAL MEMORY
including
HTM Cortical Learning Algorithms

VERSION 0.2, DECEMBER 10, 2010
Numenta, Inc. 2010

Use of Numenta’s software and intellectual property, including the ideas contained in this
document, are free for non-commercial research purposes. For details, see
省4
540(1): 538 2016/11/11(金)13:03 ID:TfAJHR6G(2/14) AAS
Page 2

Numenta 翻訳ライセンス（参考和訳）

Copyright (c) 2010, 2011 Numenta, Inc.

All rights reserved.

ここに含まれる文章、アルゴリズム、サンプルコード、擬似コード、及びその他の記述は、
Numenta Inc.が発行した hierarchical temporal memory (“HTM”) 技術に関する記述の翻訳な
いしこれに基づいて得られたものである。原著の著作権及びここで翻訳された HTM やそのアル
ゴリズムに関する特許権は Numenta が保有している。独立した HTM システムの開発及び使用
に関して、それが商用目的ないし製品化目的ではなく、研究目的である限り、Numenta はその
特許権を主張しないことに同意する。Numenta の特許権に抵触する商用目的ないし製品化目的
省11
541(3): 540 2016/11/11(金)13:06 ID:TfAJHR6G(3/14) AAS
Page 4

最初にお読み下さい！
本書は、この資料のドラフトである。読者が知っておくべき事柄のうち、欠落して
いるものがいくつかある。

本書に含まれること：
本書は Numenta が 2010 年に開発した学習と予測に関する新しいアルゴリズムの
詳細を説明している。この新しいアルゴリズムについて、プログラマが理解でき、もし
望むならこれを実装可能なほど十分詳細に説明している。最初の章で概念説明をしてい
る。もし読者が Numenta についてよく知っていて、我々のこれまでの論文のいくつか
を読んだことがあるなら、それらは馴染み深いであろう。それ以後の章は新しい事柄に
省17
542(2): 541 2016/11/11(金)13:21 ID:TfAJHR6G(4/14) AAS
Page 5

目次

Numenta 翻訳ライセンス（参考和訳） .　　.　　.　　.　　. 2

序文 .　　.　　.　　.　　.　　.　　.　　.　　.　　.　　. 8
:
　ソフトウェアのリリース .　　.　　.　　.　　.　　.　　. 9
:
　Numenta 社について
　著者について .　　.　　.　　.　　.　　.　　.　　.　　. 10
:
省11
543: 542 2016/11/11(金)13:22 ID:TfAJHR6G(5/14) AAS
第２章： HTM 大脳皮質性学習アルゴリズム .　　.　　.　　. 24
:
　　セル状態
　　樹状突起セグメント .　　.　　.　　.　　.　　.　　.　　. 25
　　シナプス
　概要 .　　.　　.　　.　　.　　.　　.　　.　　.　　.　　. 26
　共通概念 .　　.　　.　　.　　.　　.　　.　　.　　.　　. 32
　　二値ウェイト
　　永続値 .　　.　　.　　.　　.　　.　　.　　.　　.　　. 33
　　樹状突起セグメント
省2
544(2): 542 2016/11/11(金)13:24 ID:TfAJHR6G(6/14) AAS
Page 6

　空間プーリングの概念 .　　.　　.　　.　　.　　.　　.　　. 34
:
　時間プーリングの概念 .　　.　　.　　.　　.　　.　　.　　. 36
:
　一次と可変長のシーケンスと予測 .　　.　　.　　.　　.　　. 39
第３章：　空間プーリングの実装と疑似コード .　　.　　.　　. 43
　　初期化
　　フェーズ 1: オーバラップ .　　.　　.　　.　　.　　.　　. 44
　　フェーズ 2: 抑制
省8
545: 544 2016/11/11(金)13:26 ID:TfAJHR6G(7/14) AAS
付録 A: 生体ニューロンと HTM セルの比較 　　.　　.　　.　　. 57
　生体ニューロン
　　細胞体 .　　.　　.　　.　　.　　.　　.　　.　　.　　. 58
　　主要樹状突起
　　末梢樹状突起
　　シナプス .　　.　　.　　.　　.　　.　　.　　.　　.　　. 59
　　ニューロンの出力 .　　.　　.　　.　　.　　.　　.　　. 60
　単純な人工ニューロン
　HTM セル .　　.　　.　　.　　.　　.　　.　　.　　.　　. 61
　　主要樹状突起
省6
546(1): 544 2016/11/11(金)13:27 ID:TfAJHR6G(8/14) AAS
Page 7

　　層 .　　.　　.　　.　　.　　.　　.　　.　　.　　.　　. 66
　　リージョンの違いによる層のバリエーション .　　.　　.　　. 67
　　カラム .　　.　　.　　.　　.　　.　　.　　.　　.　　. 68
　　ミニカラム .　　.　　.　　.　　.　　.　　.　　.　　. 69
　　カラム反応の例外 .　　.　　.　　.　　.　　.　　.　　. 70
　なぜ層とカラムがあるのか？ .　　.　　.　　.　　.　　.　　. 71
　異なる層が何をするのかに関する仮説 .　　.　　.　　.　　. 72
　　HTM リージョンは新皮質の何に相当するか？ .　　.　　.　　. 75
:
547(2): 546 2016/11/11(金)13:28 ID:TfAJHR6G(9/14) AAS
Page 8

序文

人間には簡単にできて、コンピュータには今のところできないようなことがたくさ ry

Hierarchical Temporal Memory (HTM) は、新皮質がこの様な機能を発揮する様子を
モデル化する技術である。 HTM は人間と同等あるいはそれ以上の多くの認識性能 ry

ry １章は HTM ry 階層構造 ry 、疎分散表現1、時間的な変化に基づく学習 ry
２章は HTM 大脳皮質性学習アルゴリズム2 ry
３章と第 4 章は HTM 学習アルゴリズムの疑似コードを、
空間プーリング及び時間プーリングの２つのパート ry
第２章から第４章を読めば、熟練したソフトウェア技術 ry 実装して実験 ry
省6
548(1): 547 2016/11/11(金)13:29 ID:TfAJHR6G(10/14) AAS
Page 9

ソフトウェアのリリース

ry ソフトウェアリリースは 2011 年中頃を予定している。

以前の文書との関係

HTM 理論の一部は 2004 年の On Intelligence3、Numenta 社から発行された
ホワイトペーパー、Numenta の従業員が執筆した論文など ry
２章から第４章で述べている HTM 学習アルゴリズムは、これまで発表されたことはない。
この新しいアルゴリズムは、Zeta 1 と呼ばれていた我々の第一世代アルゴリズムを置き換 ry
新しいアルゴリズムのことを “Fixed-density Distributed Representations” ないし “FDR”
と呼んでいた ry
省14
549(2): 548 2016/11/11(金)13:31 ID:TfAJHR6G(11/14) AAS
Page 10

してよい。我々は商業目的での技術サポートの提供、ソフトウェアライセンス販売、
知的所有権のライセンス販売で収益を得ている。
我々は常に開発パートナーを求めており、彼らと我々自身の成功 ry
Numenta 社はカリフォルニア州 Redwood City に拠点をおき、自己資本 ry

著者 ry

本書は Numenta 社の従業員の協力と努力 ry 名前は改訂記録 ry
550: 549 2016/11/11(金)13:32 ID:TfAJHR6G(12/14) AAS
改訂記録

各版の主な変更点 ry 。細かな修正や整形などは ry

版　　日付　　変更点　　主な著者

0.1 　　2010/11/9
1. 序文、1,2,3,4 章、用語集の初版
Jeff Hawkins, Subutai Ahmad, Donna Dubinsky

0.1.1 　　2010/11/23
1. 第 1 章のリージョンの節で、レベル、カラム、層などの用語を明確化するため編集した
2. 付録Ａの初版
Jeff Hawkins
省5
上下前次1-新書関写板覧索設栞歴
あと 290 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.021s