診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も [すらいむ★] (28ﾚｽ)
上下前次1-新
12: 05/19(火)06:00 ID:l7NgnnTm(2/2) AAS
人間が行ってミスをする確率よりAIが行ってミスをする確率の方がはるかに低かった場合
人間がしたら１００％ミスをするけれどAIがミスをするのなら人間は９９％ミスをするのなら全員仕方ないミスと思うからな
AIがミスをする事を未然に人間が見つけたら鬼の首を取ったように騒ぐ人間が出てくる
偶然人間が発見しただけですけれど！
13: 05/19(火)06:22 ID:Yuy3ZVXY(1) AAS
間違えず、爆速でデータ処理できるのは
バグの無いレガシーシステムだけ。
ただし、頭がガチガチの専門バカ。
視野狭い。 融通は利かない。
再教育が大変。
14: 05/19(火)07:39 ID:AqvDDJo+(1) AAS
滑舌が悪かったのかな
15(1): 05/19(火)08:02 ID:qZ5Cj311(1/2) AAS
AIは人間と比べてミスが多いわけではないが人間は絶対にしないミスをするという印象
16: 05/19(火)08:03 ID:qZ5Cj311(2/2) AAS
>>15
AIは人間ではなく人間の真似をする別の生き物だと考えれば当然か
17: 05/19(火)08:17 ID:A/xgDgD3(1) AAS
> 「患者に不安症状がある」といった、録音には存在しない情報を記録した例
患者の音声から心理状態を推測してたらゴイスーｗ
18: 05/19(火)08:20 ID:USidEmyO(1) AAS
何でもAIってもてはやし過ぎだろ
まだまだ途上の技術なんだからAIに丸投げすんのまだ早いだろ
19: 05/19(火)08:22 ID:yiI42ya5(1) AAS
そもそも音声認識がポンコツなんじゃん
20: 05/19(火)08:25 ID:bN65A/y5(1) AAS
これは素直に怖い
21: 05/19(火)08:49 ID:1hSI1S7N(1) AAS
危険なだけじゃん
22: 05/19(火)08:56 ID:MtK8VJJT(1) AAS
承認済みというのが怖い。一体誰が承認したんだ。
23: 05/19(火)09:06 ID:ubxXhHFS(1) AAS
ＡＩには使う場面によって人間によるチェックが必要なのはしばらく続く
いずれＡＩに置き換わるだろうが、いまのＡＩブームに踊らされるのは愚かなユーザー
利益が出るのはあたかも経理不要、チェック不要、ＡＩにお任せをとか言ってるような業者、早い者勝ち
しかしながらいずれＡＩに取って代わられるのは明白な未来
24: 05/20(水)18:05 ID:ch1u3pQZ(1) AAS
>>6
6割で確認された、今後残りの4割も別症状の診断でミスをするかもしれない。
じゃないのかな？
25: 05/20(水)18:35 ID:xiaC+/z2(1) AAS
これをフィードバックして、また間違いを集めて、を繰り返していけば正確になっていく
しかし最新のモデルを使って同じことをするだけでも大幅に改善するだろう
26(1): 05/20(水)18:40 ID:uGazb1fE(1) AAS
AIが薬剤名を間違えるということは、学習データに間違えたデータが入っている
シュミレーションとシミュレーションみたいに
ふたを開けてみれば、特定のひとつの薬剤名が間違えられているのかもしれない
27: 05/20(水)19:26 ID:bKrKBxe2(1) AAS
>>26
なコトねえよ
ニューラルネットワークは
ルールベースの知識推論エンジンとは違うんだ
28: 05/20(水)22:51 ID:TN20Hcn4(1) AAS
ここまでハルシネーションに悩まされるとはな
架空の情報を作らないってそんな防げない事なのか
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.275s*