[過去ﾛｸﾞ] AIのブラックボックス化を防ぐ「欠けている情報」の重要性 (31ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
1(1): 2018/06/03(日)11:36 ID:GXZdbkj/(1/3) AAS
名探偵シャーロック・ホームズを主人公とした短編小説「白銀号事件」で、ホームズは「本来はあるべきものが欠けている」ことから犯人を特定した。この作品の場合は、事件当夜に犬が吠えなかったことから、犯人は犬が慣れた人間であることを突き止めたのだ。
IBMの研究チームは、このような「欠けている情報」を用いてAIの意思決定理由を説明するメソッドを開発した。
「ディープラーニングの落とし穴の一つは、途中過程がブラックボックスのため、結論が導き出された理由がわからないことだ。答えが正確であっても、理由がわからなければ医療など人間の生命が関わる現場に導入することは難しい」と研究チームのメンバーであるAmit Dhurandharは話す。
IBMのチームが開発した「対比的説明メソッド」を用いることで、機械学習アルゴリズムがデータセットの分類を行う際に「欠けていなければならない情報」を見つけ出すことができるという。例えば、機械学習モデルが写真に写っている動物が犬であることを認識する上で必要な特徴（目や毛など）に加えて、「欠けていなければならない特徴」（翼など）を示すこともできるのだ。
続き
外部ﾘﾝｸ:forbesjapan.com
2: 2018/06/03(日)11:51 ID:GXZdbkj/(2/3) AAS
論文 外部ﾘﾝｸ:arxiv.org
3: 加津庸介 2018/06/03(日)12:44 ID:ngaJelJN(1) AAS
よくわかりません。
4: 2018/06/03(日)13:13 ID:GXZdbkj/(3/3) AAS
AIが直進せよと判断したので直進したら通行人を轢き殺しましたというときに
裁判官がAIになぜおまえは直進せよと判断したんだと訊いても答えてくれない
だからAIに責任ある判断を任せることはできない、という批判がある
しかしAI技術者はそんな批判を百も承知でAIに判断理由を答えさせる方法をいろいろと考えてきた
>>1 は「○○だったからこう判断しました」とAIに答えさせるのに加えて「○○でなかったからこう判断しませんでした」と答えさせることで
より人間を納得させやすくしたという研究
5(1): 2018/06/03(日)15:02 ID:nxvBYkfS(1) AAS
機械に意思はないでしょ
意思に見えるのは
あみだくじの進みかたをあみだくじ知らないやつが側から見るからだよ
6: 2019/04/10(水)03:11 ID:jENc08+G(1) AAS
４が分りみ
7: 2019/09/06(金)00:10 ID:GDxGg9Ub(1) AAS
機械に責任を負わせることはできないんだから結局普及せんよ。
AIに完全に置き換わるのは責任を伴わない分野だけ。
でもAIを導入することによって人的資源を節約できる分野は結構多い。
例えば内科医。
循環器科等の手技を伴う分野以外の一般的な内科医の仕事とは、検査情報を取り込んで治療情報を出力する事であり、これは情報工学的視点で言えば一つの関数だと捉える事ができる。
内科医の存在とは情報処理のアルゴリズムそのものだ。
今は医師一人一人が医学部で勉強し、多大な税金と時間を使い、自分の頭の中に診断アルゴリズムを構築した後に医者として働き始めるわけだが、こんなのは時間と税金の無駄でしかない。
正確なアルゴリズムが構築できない医者も多いし、金を稼ぎたいばかりに意図的に診療方針を曲げる医者もいる。
AIに置き換えればこうした所謂「ヤブ医者」もいなくなる。
今現在100人の内科医が働いている病院であれば、これを10人程度に減らすことが可能。
省4
8: オーバーテクナナシー [age] 2019/10/11(金)13:42 ID:2WVFPJ1b(1) AAS
(強いAI)技術的特異点/シンギュラリティ175
2chｽﾚ:future
9: 2019/10/11(金)16:36 ID:2Ar6xqf+(1) AAS
>>5がわかりみ
10(1): 2019/10/11(金)16:50 ID:32ZqhXWc(1) AAS
感情能力のないAIに高度な仕事を任せても
遠からずネトウヨおっさん医師やヘイト公務員みたいにダメダメな結果を出すよ
11: 2019/10/13(日)01:48 ID:DRxcl2eP(1) AAS
>>10
ネトウヨ住職も追加で
12: 2019/10/18(金)02:16 ID:WpA8fj1r(1) AAS
（本来の仕事だった学問分野での大量単純計算処理を除き）
AIの適職って
結局SNSのデータやネットショップのデータ分析して
広告屋のキュレーターやってるのが一番似合ってると思う
13: オーバーテクナナシー 2019/10/26(土)09:23 ID:oJMZKGtQ(1) AAS
(強いAI)技術的特異点/シンギュラリティ176
2chｽﾚ:future
14: オーバーテクナナシー [age] 2019/10/30(水)09:52 ID:SnSjZ1h8(1) AAS
(強いAI)技術的特異点/シンギュラリティ177
2chｽﾚ:future
15: オーバーテクナナシー [age] 2019/11/08(金)18:59 ID:nOLGb6+q(1) AAS
(強いAI)技術的特異点/シンギュラリティ178
2chｽﾚ:future
16(1): 2019/11/10(日)17:59 ID:RhBdLqVP(1) AAS
いまだにAIに強烈な夢を見てる人らがいるんだな
何十年経っても日本語変換すら未だにろくにできないのに
17(1): 2019/11/14(木)05:01 ID:jJRLPGc2(1) AAS
AIは日本語変換も翻訳も未だにクソだし
検索に至っては「棚 シェルフ 奥行40cm」みたいな超具体的なワード入れても
なぜかベッド（ワードに全く関係なし）だのクリスマス用の飾り（多分季節商品のアピール）だの
文字通りクソミソな検索結果をトップにあげてくるからな
ヒューリスティックだのアルゴリズムだのご大層に言ってても
現実の生活にこれだけ不便を強いてるAI様が今後どんな進化を見せてくれるのか笑えるわ
さぞ人間にとって不便な未来が待っていることだろう
18(1): 2020/05/10(日)02:00 ID:whdtZwNu(1) AAS
検索って年々便利になるどころか
まじで年々使いづらくなってるよね
特に尼
19: 2020/05/10(日)04:58 ID:dLihYw97(1) AAS
アメの Amazon だと
検索結果の上位が「Amazon おすすめ商品」
だらけに成るようになった。
20: 2020/05/10(日)07:50 ID:bpxP2AqF(1) AAS
そうそれ
あと「スポンサープロダクト」
しかも通常の検索結果に紛れ込ませるようにして入れてくる小狡さ
上下前次1-新書関写板覧索設栞歴
あと 11 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.229s*