診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も [すらいむ★] (28ﾚｽ)
上下前次1-新
1(2): すらいむ ★ 05/18(月)22:18 ID:CPDiJSK+(1) AAS
診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も
カナダ・オンタリオ州の監査総長事務所が州政府で使われているAIシステムを調べたところ、医療機関向けのAI医療記録作成システムで重大な誤りが相次いでいたことが分かりました。
Office of the Auditor General of Ontario
外部ﾘﾝｸ[html]:www.auditor.on.ca
（以下略、続きはソースでご確認ください）
Gigazine 2026年05月18日 07時00分
外部ﾘﾝｸ:gigazine.net
9: [「王様は裸だ」と言えば炎上の時代] 05/19(火)00:40 ID:rPM5VM8V(1/2) AAS
>>1
「電子カルテは人間には防ぎきれない医療ミスを頻繁に起こしている」
「IMの変換ミスのレベルが半世紀の間悪化し続けているように、電子システムは想像を絶する幼稚な間違いを日常的に犯している」
「作ったやつは杜撰で不誠実で無責任だ」
俺がこう主張すると、だれもがなぜかIT業界を擁護し始めるんだよね
信者かよ・・・・・・
けれどみんなが気がつく時が来る、多分でかい事故が起こってから
10: 05/19(火)01:23 ID:rPM5VM8V(2/2) AAS
>>1
今の日本のIT業界のレベルで「自動車」や「医療」に参入すれば危険に決まっている
自動車業界や医療機器・薬剤業界は「自分の製品で人が死ぬ」ことに強い責任を持っているけど
IT業界は「長文の同意書にサインさせたら自分は免責」だからな
「正確で迅速な医療」どころか医療者の足を引っ張ってばかり
「会社員はパソコン入力がメインの仕事」というパソコン中心の設計も医療の世界には全く合わない
試しに受診してみるといい、患者入室時に「患者の方を向いている」医者は激減しているぞ
11: 05/19(火)05:56 ID:l7NgnnTm(1/2) AAS
６割も間違えていたのなら６割修正したら制度がかなり上がる良いことに成る
AIに仕事をとられて宅内から間違えたプログラムを作成したのかな？
一部の業種でも１００％仕事を任せられるのならAIに仕事を取られる速度が一気に上がるからな
ホワイトカラー全滅のお知らせかな？
12: 05/19(火)06:00 ID:l7NgnnTm(2/2) AAS
人間が行ってミスをする確率よりAIが行ってミスをする確率の方がはるかに低かった場合
人間がしたら１００％ミスをするけれどAIがミスをするのなら人間は９９％ミスをするのなら全員仕方ないミスと思うからな
AIがミスをする事を未然に人間が見つけたら鬼の首を取ったように騒ぐ人間が出てくる
偶然人間が発見しただけですけれど！
13: 05/19(火)06:22 ID:Yuy3ZVXY(1) AAS
間違えず、爆速でデータ処理できるのは
バグの無いレガシーシステムだけ。
ただし、頭がガチガチの専門バカ。
視野狭い。 融通は利かない。
再教育が大変。
14: 05/19(火)07:39 ID:AqvDDJo+(1) AAS
滑舌が悪かったのかな
15(1): 05/19(火)08:02 ID:qZ5Cj311(1/2) AAS
AIは人間と比べてミスが多いわけではないが人間は絶対にしないミスをするという印象
16: 05/19(火)08:03 ID:qZ5Cj311(2/2) AAS
>>15
AIは人間ではなく人間の真似をする別の生き物だと考えれば当然か
17: 05/19(火)08:17 ID:A/xgDgD3(1) AAS
> 「患者に不安症状がある」といった、録音には存在しない情報を記録した例
患者の音声から心理状態を推測してたらゴイスーｗ
18: 05/19(火)08:20 ID:USidEmyO(1) AAS
何でもAIってもてはやし過ぎだろ
まだまだ途上の技術なんだからAIに丸投げすんのまだ早いだろ
19: 05/19(火)08:22 ID:yiI42ya5(1) AAS
そもそも音声認識がポンコツなんじゃん
20: 05/19(火)08:25 ID:bN65A/y5(1) AAS
これは素直に怖い
21: 05/19(火)08:49 ID:1hSI1S7N(1) AAS
危険なだけじゃん
22: 05/19(火)08:56 ID:MtK8VJJT(1) AAS
承認済みというのが怖い。一体誰が承認したんだ。
23: 05/19(火)09:06 ID:ubxXhHFS(1) AAS
ＡＩには使う場面によって人間によるチェックが必要なのはしばらく続く
いずれＡＩに置き換わるだろうが、いまのＡＩブームに踊らされるのは愚かなユーザー
利益が出るのはあたかも経理不要、チェック不要、ＡＩにお任せをとか言ってるような業者、早い者勝ち
しかしながらいずれＡＩに取って代わられるのは明白な未来
24: 05/20(水)18:05 ID:ch1u3pQZ(1) AAS
>>6
6割で確認された、今後残りの4割も別症状の診断でミスをするかもしれない。
じゃないのかな？
25: 05/20(水)18:35 ID:xiaC+/z2(1) AAS
これをフィードバックして、また間違いを集めて、を繰り返していけば正確になっていく
しかし最新のモデルを使って同じことをするだけでも大幅に改善するだろう
26(1): 05/20(水)18:40 ID:uGazb1fE(1) AAS
AIが薬剤名を間違えるということは、学習データに間違えたデータが入っている
シュミレーションとシミュレーションみたいに
ふたを開けてみれば、特定のひとつの薬剤名が間違えられているのかもしれない
27: 05/20(水)19:26 ID:bKrKBxe2(1) AAS
>>26
なコトねえよ
ニューラルネットワークは
ルールベースの知識推論エンジンとは違うんだ
28: 05/20(水)22:51 ID:TN20Hcn4(1) AAS
ここまでハルシネーションに悩まされるとはな
架空の情報を作らないってそんな防げない事なのか
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.277s*