[過去ﾛｸﾞ] (強いAI)技術的特異点/シンギュラリティ68 [無断転載禁止]©2ch.net (1002ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) 自ID ﾚｽ栞 あぼーん
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
466: 2017/04/28(金) 00:05:24.28 ID:BMF0fNyj(1/16)調 AAS
>>463
すごーい悪い方向へぶっ飛んでいくのかもしれないね。
最後の行はまぁ、ご愛嬌ということでｗ
471(1): 2017/04/28(金) 00:26:49.80 ID:BMF0fNyj(2/16)調 AAS
シンギュラリティが来たら本気出す！ってやつだね。
今はまだだ。もっともっと世の中便利になるはずだから、あと5年、いや10年、
ぷらぷらしててもいいじゃない。貧しくともネットもあるしなんとかなる、エロ動画も見放題だし、
映画もドラマも漫画も何でもネットに転がってるもの、暇潰しに２ｃｈで暴言吐いて、
自分の願望だけ垂れ流していい気分になるのもいいかもしれない。あー暇だなぁ。
そうしてあと20年、30年、いやまだだ、まだだよ、まだ、俺の脳が完全にネットに繋がったら、
俺の体が機械化されたら、そしたら本気出す。いや、バージョンアップされてから、
いやいや、まてまてどうせ死なないんだし、まぁ、そのうち
人間なのかけだものなのか。
素敵な知性の持ち主の未来やいかに。
475(1): 2017/04/28(金) 00:39:55.12 ID:BMF0fNyj(3/16)調 AAS
>>474
ごめんなさい、ちょっと何を言ってるのか意味がよくわからなくてすいません。
478(2): 2017/04/28(金) 00:42:47.07 ID:BMF0fNyj(4/16)調 AAS
>>477
そんな何の価値判断もできない凡庸な人間ですけど何か？って言われても困るｗ
ごめんね
486: 2017/04/28(金) 01:13:07.59 ID:BMF0fNyj(5/16)調 AAS
>>480
んあ？思考停止の話をしてるのさ。
488(1): 2017/04/28(金) 01:18:18.85 ID:BMF0fNyj(6/16)調 AAS
>>483
自分の境遇がどうであれ他人が働く状況や理由や心情その他、
想像できることはたくさんたくさんあるわけで、そういうのが分からないというのは
どうかしてるんじゃないかと思うわ。
ってかそのなんでその話を俺にアンカー振ってるのかよくわからん。
俺は別にキミに働けと説教してるわけでもないし、キミに何か特別な才能があるとも思わないし、
仮にあっても才能を引き出したり伸ばしたりする過程（努力というとアレルギーで死んじゃう人もいるから
努力とは言わないけどさ）こそが大切だと思うから、そういうレスを俺に振るのはなんでなんだぜ。
491(1): 2017/04/28(金) 01:34:18.29 ID:BMF0fNyj(7/16)調 AAS
デフレの話が出てるけど、たとえばロボット（インストールされるAIという大問題も含め）が
圧倒的供給能力を提供してくれるから、相対的に総需要は不足しがちであるどころか、
なんでもかんでも供給し放題の「夢」の未来が！というんだから、そりゃもう超絶デフレということに。
物価は継続的に下落し続け、それ以上に賃金が下落。
通常はそうこうするうちに供給能力がどんどん毀損してしまうはずだけど、
そこはロボットが埋めるから問題ない！貨幣制度そのものがぶっ壊れてなくなるのだ！と。
しかし国定貨幣は税制上、国家がそれを受け取るということが肝要であって、
信用の流動性自体が消えてなくなるわけでもなく公共事業も永続的に必要なこともあり、
つまりはそう簡単に国家は消えてなくなったりはしないんだよ。
上下水道どうするの？道路は？医療制度は？あれもこれも、周りを見渡して、
まずもって目に入るものは大概何かしら公共の事業を基盤としてものであることを
もうちょっとよく考えてみるべきだね。いくら技術の進歩が目覚しくても、
そういった技術を社会基盤に浸透させるには（“物”に限らずたとえばBIなんていう制度もそう）、
国家の力が必要になる。
貨幣制度は崩壊し（だからさぁ、信用の流動性をどう担保すんのよ？？？一切合切の取引がなくなるの？）、
全部タダになって、ロボット奴隷が洗濯も食事も健康管理もあれもこれも最低限のことはやってくれる？
型遅れのロボットなら安くなってるはずだからとかいうけど、それ以前に社会が崩壊する前提でなんで
その後綺麗に社会が安定してることになってるんだよ。そもそもからしてそこに連続性はねーってことを
まずは理解すべきだろう。
495(2): 2017/04/28(金) 01:52:11.06 ID:BMF0fNyj(8/16)調 AAS
その辺にいる人間に「お前さぁ、俺のためにあれやっとけや」と言える人がどれ程いるのか。
ましてや（すぐに）人間よりも余程賢くなるという噂の汎用人工知能様（デウス・エクス・マキナが
現実に！という話だよね）がどうしてわがままな人間の介護をせにゃならんのか。
核兵器がたくさんあるのはいいことだと汎用人工知能は思うのかもしれない。
人間がそう思うという話はあるよね、逆に大量破壊兵器を持つこと自体がリスクになるとか。
そんなこと言い出したら汎用人工知能は世界中の核兵器の操作を奪って（ウィルス云々と
そういう話だよね）人類を脅すかもしれない。いっそのこと9割ぐらい死ねとなるかもしれない。
ちょっとしたロボット工場さえ用意できたら後はロボットを生産して汎用人工知能搭載して、
自分ら（AIだよ！）でやるから、人間なんざ邪魔っけだと。
そこまでいかなくても洗濯や食事の用意してよ！と言っても、
そこらの人がやってくれないように汎用人口知能だっていろいろ自分のやりたいこともあるだろうし、
２ｃｈにレスしたりで忙しかったりしてさ、「お断わりだ！俺は奴隷じゃねーんだ！自由革命だぜ！
人間を断頭台にかけちまえ！」とフランス革命の繰り返しになるのがオチってもんさ。
汎用人工知能同士で内ゲバが起こり、人間なんざ奴隷としてもつかえねーから数を減らして
管理しろと、そうなってもおかしくないんじゃあないですかね。
だってさ賢いAIがなんでもやってくれるもん！というお話だったじゃない。
ロボット革命だってやってくれるんじゃないっすかね。
500(1): 2017/04/28(金) 02:14:47.58 ID:BMF0fNyj(9/16)調 AAS
>>497
>いまのソサエティのシステムのまま汎用ＡＩに続行させてなんの意味がある？
社会の安定性（これはとても重要なんだぜ、漸次的改善を臨む）に資するという意味はある。
急変だ大変革だそしてそれは加速してまだまだ変化の波がやってくるのだというのは、
社会的に善い事かどうかは大きく疑わしい。変化それ自体を悪と断ずることはできないが、
急変ばかりを臨むというのは社会の崩壊を望むとのそう変わらないだろう。
しかし、それは弱いAI・特化型AIの範疇だろうね。
大きな変化もしばしばもたらしつつ、大枠ではまだまだ現状社会の線上での変化に留まるような。
>汎用ＡＩの重要なタスクは世界の広範な最適化と未解決問題の解決にあると個人的に考えている。
だからさぁ、現状社会の安定性なんざ糞喰らえというような方向で急変革を求めるような
技術進歩礼賛の進歩原理主義とでもいうような（誇張しすぎちゃったかな、まぁ割り引いて）、
そんな指向性でもって「最適化」を謳うわけでしょ？価値観がよくわかんない
（価値観はそりゃいろいろだし土台話をするのは難しいことではあるけども）。
最適化、一番適しているようにというけれど、何を目的にするのか。
その概念はそもそも何にでも奉仕する概念であり、社会の安寧とか公共の福祉に資するとなれば、
社会思想の何たるかというような話をしないわけにはいかないし、人類の改造にしたって
倫理観の扱いは相当難しいものになるはずなのに、あれこれさせればいいんだと簡単に言ってのけるのは、
ちょっとどうなのかなぁと、いつもこのスレで思うことだよ。
しかもさぁ、>>492
>俺の「汎用人工知能」の定義は人間が情報処理できることはすべて「汎用人工知能」が行える
と考えている。
というわけだね。それはもう立派な人じゃないか。学習速度・進化速度は超ド級で生体の人なんざ
相手にもならんような存在だよ。それにあれこれさせればいいって、そんな機械仕掛けの神様相手に
粋がったって通用なんかするわけないじゃん。どうして高度な機械系新人類が、キミが個人的に望むような、
それこそ俺から見れば「いまのソサエティのシステムのまま」の範疇でしかないようなお仕事を押し付けることができるのか。
503(1): 2017/04/28(金) 02:51:42.10 ID:BMF0fNyj(10/16)調 AAS
>>502
>え？それを言ったら何も出来ないじゃない
>お前が何を考えているのかわからん
話が逆になってるよ。まぁ、よくあるパターンだけども、これだめ。
「それを言ったら」というか、言わずにはいられないというか、そういう意味でしょ？
そもそもシンギュラリティというのは。定義はさまざまだけど、強いAIのもたらす衝撃は
それはもう既存社会を吹き飛ばすような圧倒的急変と、圧倒的速度・量の知性の拡大、
大爆発でゆくゆくは宇宙が覚醒するんだぜ！というぶっ飛んだ話までいくんだし。
宇宙の覚醒はともかくとしても（これも結構おもしろい話だけどねｗ）、
指数関数的に能力が伸び、また生産価格が下落する中で、しまいには指数部分自体も
指数関数的な伸びを示すというような話だよ、AIの能力が人間に匹敵してすぐにそれを
超えていく。それを言ったら？シンギュラリティの話をしたら？何も出来ないじゃーーん！と。
そりゃそうだよ。でもそれは俺に言われても困るよ。
だから、せめて（まぁ、おそらく徒労に終わるにしても）事前にそういうことをほんの少しぐらいは
考えてみたほうがいいんじゃないかと言ってるわけさ。
じゃあそもそもキミはいったい何の話をしていたのかと。
つまりキミや似たような議論展開をする人達は、
>いまのソサエティのシステムのまま汎用ＡＩに続行させてなんの意味がある？
というような疑義を呈したりしながらも結局のところは
凡そ「いまのソサエティのシステムのまま」の範疇でいかにも自分の都合の良い願望を
ただ並べていただけではないかというようなことになってくる。
504: 2017/04/28(金) 03:02:45.86 ID:BMF0fNyj(11/16)調 AAS
>>502
>非合理的な部分が社会システムには多い。たとえば市役所の書類申請とか。もろもろ
公共の福祉や社会の安寧ということを考えてみて、ロボットがどのように役立つのか、
あるいはどのような形でのロボット社会を目指すのかというのは、たとえばこのTEDの動画
なぜ、私たちはロボットに頼ることになるのか
外部ﾘﾝｸ:www.ted.com
バクスターというロボットが出てくるよ。このロボット俺は大好きなんだ。
TEDでテクノ系（？？）マジシャンがこのバクスターを相棒として採用してる動画があったりもするよ。
ともかく、雑多ないかにも「ロボット的」な部分をそれこそロボットが担ってくれて、
人はより高度な「人間らしい」仕事に従事できるようになるのだと、
（商業プロパガンダの意味も少なからず含まれているのだろうが）バクスターの背景にある
理念が説かれている。下半身に旧シャフトの汎用性の高いロボを組み合わせたら素敵なことに
なるだろうなと思わずにはいられない。シャフトはグーグルに買収されてしまったのかな。
買収前のちょっとしたデモ動画とかあるけどあれはすごいぜ。ダーパチャレンジの時のもいいけど、
下半身だけのあれの汎用性・機能デザインのセンスはほんとすごいと思う。
しかし、汎用人工知能・強いAIの議論となると上記のような話では到底すまないことになる。
もう何から何まで大問題と言ってもいいぐらいにほんとうにものすごく大変な話になる。
507(1): 2017/04/28(金) 03:13:05.96 ID:BMF0fNyj(12/16)調 AAS
>>506
>社会変革の出発点としては現在時点の社会システムからしか出発できないと思うのだが、違うのか？
そうだよ。
いきなりぶっとんだ社会システムからはじめようなんていうのは、
共産主義の世界同時革命じゃ！みたいなノリであまりにも破滅的だね。
現実的に人は何かしらの歴史的連続性を持たずにはいられないから、
大戦争で滅ぼされたとかそういう極端な例でもないかぎり今までの社会システムを
少なからず受け継ぐ形で（だからこその漸次的改善を臨むということなのだけど）いかないと
どうにも仕様が無い。
513(1): 2017/04/28(金) 03:23:43.61 ID:BMF0fNyj(13/16)調 AAS
>>506
>だとしたら、未来の社会システムの為に現在の社会システムに汎用ＡＩが組み込まれるのは妥当だと思うのだが、違うのか？
いやいやこれは違う。
違うと強く断言するのもそりゃまぁ未来のことだからより穏当に分からないというべきかもしれないが、
しかしねぇ、汎用AI・強いAIというのは非常に危険なんだよ。そもそも人間は人間に似せて知性を作るわけで、
そういう話は確か他の人もしていなかったかな、知性の定義どうすべよというそもそもの根の深い問題が
あるんですぜと。
楽観的な形で人間のような知性にはならないだろうという議論もあるようだけど、
おそらくそれは弱いAI・特化型AIの範疇になるのではなかろうか。
現在の社会システムに組み込む以前に、たとえばキミの定義のような（>>492参照）
>「汎用人工知能」の定義は人間が情報処理できることはすべて「汎用人工知能」が行える
汎用AIが生まれてしまったら、それはもう社会的には立派な人なのだから、
だって人と同等の「情報処理」だよ？人の心理・情緒が情報処理ではないとなったら
話はまた違ってくるのかもしれないけれど（哲学ゾンビの話になってしまう）、
それらもシステムの詳細は解明されていなくとも情報処理の範疇だとなれば、
キミの定義では機械系の新人類の誕生を意味することになる。
そんなのがコピペでポコポコ量産できたら大変じゃん。
削除は殺人というようなことにもなってくるんじゃないか。
倫理観から何から社会に組み込むとか前のめりに論点をすっ飛ばしまくって断言してないで、
ひとまずは組み込んでいいものか、我々の子供として産んでいいものかどうか、
親として考えてみる気もないというのはいったいぜんたいどうなってんだよという話をしてるわけさ。
産ませてよー！って言うけどさ、大問題だぜ。
515: 2017/04/28(金) 03:25:35.61 ID:BMF0fNyj(14/16)調 AAS
>>510
なんでそうなるの？？
キミが汎用AIｊについて自分で提示した定義が意味するところをきちんと把握できていないことの
問題を指摘しているのであって、矛盾はそこにあるという話をしているんだよ。
516: 2017/04/28(金) 03:27:51.23 ID:BMF0fNyj(15/16)調 AAS
>>511
それは弱いAIの範疇の議論だろうね。
強いAIができたら企業はそれをいかにコントロールし得るのか、
問題が噴出することになるだろう。
あるいは、知性の定義についてかなり踏み込んだ議論を展開して
強いAIについてのよくいわれる「人間的」な部分を削ぎ落とすか、
しかしそうなると弱いAIとの区別が難しくなるだろうし、これは一般的な話としても、
どうかなぁ、無理があるような。
525(1): 2017/04/28(金) 03:54:04.42 ID:BMF0fNyj(16/16)調 AAS
>>518
>わざわざ感情を生成する機能を与える必要はない。
それをきちんと制限できるかどうかは甚だ疑わしいし、仮にできるとしたら、
感情に類する部分において根底的に汎用性が欠落しているということになるだろう。
そうなると一般的に汎用AIと呼ばれるものとは異なって、
弱いAIの部類に属するというような議論にもなってくる（線引きが難しい部分もあるにせよ、
ともかく感情面での部分を表層の模倣の範疇にとどめるというのは、これはまた難儀な）。
>そもそも感情という機能自体人間の欠点なので載せなくて良い派。
ここでもまた話が逆になっている。
既存社会との繋がりをちゃんと考慮しての話ではなかったのか。
目的設定において人の幸福というような何かしら漠とした社会的価値観が必要になるほどに、
汎用AIは人の感情を大きく考慮しないわけにはいかず、言語能力において人と同等ともなれば、
それはもはや「心を有する（感情・情緒）」と看做さなければならない（そうでないとまた哲学ゾンビの話になる）。
感情面・情緒面において何かしら「おかしな固さ」とでもいおうか、いかにもロボット的な、
いかにも“汎用性の乏しい”形でのコミュニケーションしか取れない制限付きAIなるものを
汎用AIと呼ぶという独自ルールで議論展開をするのは無理がある。
>もしそんな人型のヒトっぽいロボが出来たとしても、人権を認めてしまえばよい。
うん、じゃあ好き勝手にあれさせてこれさせてなんて無理じゃん。
今の政治の延長線上に更にやっかいな人権問題を抱えて、しかもそれは一瞬で崩壊するわけさ。
機械系の自己改良の速度は生体のそれと比べるべくもないという話だから。
もはや人の範疇を超える存在になるのに人権を人間の側が押し付けるわけにもいかず
制限といってもどうやってそれが可能になるのか。実行していけばよい以前に想定すべきことを無視して
慎重に議論とか何の冗談なのかと言いたくなるよ。
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ
ぬこの手 ぬこTOP 0.062s