AIがドンドン進化したらヤバくない？『長文注意』 [無断転載禁止]©2ch.net (261ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
1(9): 2016/04/07(木)23:03 ID:hFa3BmR9(1/2) AAS
多分確実に今の人類は終わるよな？
仮に『仮に人類に危害を与えない』って基本的なプログラムがあったとしても人類を超えた知能のAIは独自の解釈を生み出して書き換えるだろうし。
仮にAIが地球上をより良くするために他の生態系や環境に悪影響を与えるモノを排除しようとした時に一番最初に抹消すべきなのは多分人類だと思うし。
どの生物よりも非力で真っ先に絶滅するハズだった俺達がこれだけ繁栄したのは他の生物が持たない唯一最強の武器である知能のおかげだろ？
今のAIに対する取り組みはその最強の武器を自ら放棄してるのと変わらない気がする…
なんせ人類より優れた知能をもった存在を作りだしちゃったんだからね。
進化して人間を超えた知能を持ちロボットの様な固体が増えたらもう人間が存在する必要性は全くないし暴走したら一瞬で淘汰されるよな…
論理的思考や人類を尊重したプログラムでどれだけ縛りつけても進化したAIがどれだけ人類に都合良く動くか解らんし、人類より上の知能に大してどこまで制御出来るか解らんし。
きっと進化のスピードも半端ないだろうし人類の予測不能なレベルになるのもすぐだろ。
省3
134(4): 2018/11/05(月)21:18 ID:7EfC0JFY(1) AAS
＞考える物理状態は機械で再現できるのか？
理屈上はできるんじゃない？
「考えている」といっても、何かオカルト的な「神の力」が働いているわけじゃないんだから。
ただ、今の知見では詳細なところまでわかっていないのと、全体をエミュレーションするのは
計算量が多くて大変っていうだけのことで。
148(4): 2018/11/13(火)23:16 ID:XN+lekZO(1) AAS
「AIが自身のプログラムを書き換える」
これ
「どのように」が抜けてて、それがあたかもAIがプログラムを「良いように」書き換えて人類あぼん
みたいな妄想が良くあるパターン
プログラムは自身のプログラムを書き換えることは出来ません。
ディープラーニングは動作を書き換えるだけでプログラム（アルゴリズム）は書き換えない
「ロボット三原則」とか文系の発想で妄想だけが先走る良くあるパターン
人類に危害を与えないとか、こんな事プログラムすることは出来ないからね
151(3): 2018/11/14(水)19:26 ID:mHTAau9H(1) AAS
ディープラーニングは端的に言えば「同じ物（似た物）を探してくる装置」であって、それ自体が何か新しい物を生み出したりする訳じゃない
チェスとか将棋の類では過去に対局された棋譜を検索して次の手を探してくるだけだし、株価予測も顔認証も過去のデータや登録された顔データと比較してるだけ
プログラムを書き換えるのは全く出来ないわけではない、端的に言っただけなので訂正しておく
if a == b { print "A=B" } else { print "A!B" } print "Done!" print "Say again. Done!!!"
これが、
if a == b { print "A=B" } else { print "A!B" print "Done!" print "Say again. Done!!!"
になっただけで「閉じてねーよｺﾞﾙｧ」って怒られる（動作しない）そして、AIにはこれのどこに「}」を入れたらいいかを判断できない（正確にはエラーを起こさないようには出来るけどそれが正しいかを判断できない）
さて、これをどうやって「人類の脅威になるような」プログラムに書き換えるんだい？って話、そもそもこのコードをAIがどっからひねり出すんだい？っていう
過去の人間が作ったソースコードからコピペする事は出来るが、ある目標を持ってAIがコードを作るのではなく、あくまで人間が意味を見いだすってだけ
2045年がどうとか言われてるけど、空振りだと思うよ
省1
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.812s*