診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も [すらいむ★] (28ﾚｽ)
診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も [すらいむ★] http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/
上
下
前
次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
1: すらいむ ★ [] 2026/05/18(月) 22:18:58.10 ID:CPDiJSK+ 診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も カナダ・オンタリオ州の監査総長事務所が州政府で使われているAIシステムを調べたところ、医療機関向けのAI医療記録作成システムで重大な誤りが相次いでいたことが分かりました。 Office of the Auditor General of Ontario https://www.auditor.on.ca/en/content/specialreports/specialaudits/en2026/AR_2026_AI_EN.html （以下略、続きはソースでご確認ください） G
igazine 2026年05月18日 07時00分 https://gigazine.net/news/20260518-doctor-ai-blow-basic-fact/ http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/1
9: 名無しのひみつ [「王様は裸だ」と言えば炎上の時代] 2026/05/19(火) 00:40:40.44 ID:rPM5VM8V >>1 「電子カルテは人間には防ぎきれない医療ミスを頻繁に起こしている」 「IMの変換ミスのレベルが半世紀の間悪化し続けているように、電子システムは想像を絶する幼稚な間違いを日常的に犯している」 「作ったやつは杜撰で不誠実で無責任だ」 俺がこう主張すると、だれもがなぜかIT業界を擁護し始めるんだよね 信者かよ・・・・・・ けれどみんなが気がつく時が来る、多分でかい事故が起こってから http://egg.5ch.io/test/read.cgi/sciencep
lus/1779110338/9
10: 名無しのひみつ [] 2026/05/19(火) 01:23:26.46 ID:rPM5VM8V >>1 今の日本のIT業界のレベルで「自動車」や「医療」に参入すれば危険に決まっている 自動車業界や医療機器・薬剤業界は「自分の製品で人が死ぬ」ことに強い責任を持っているけど IT業界は「長文の同意書にサインさせたら自分は免責」だからな 「正確で迅速な医療」どころか医療者の足を引っ張ってばかり 「会社員はパソコン入力がメインの仕事」というパソコン中心の設計も医療の世界には全く合わない 試しに受診してみるといい、患者入室時に「患者の方を向いている」医者は
激減しているぞ http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/10
11: 名無しのひみつ [] 2026/05/19(火) 05:56:46.65 ID:l7NgnnTm ６割も間違えていたのなら６割修正したら制度がかなり上がる良いことに成る AIに仕事をとられて宅内から間違えたプログラムを作成したのかな？ 一部の業種でも１００％仕事を任せられるのならAIに仕事を取られる速度が一気に上がるからな ホワイトカラー全滅のお知らせかな？ http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/11
12: 名無しのひみつ [] 2026/05/19(火) 06:00:13.53 ID:l7NgnnTm 人間が行ってミスをする確率よりAIが行ってミスをする確率の方がはるかに低かった場合 人間がしたら１００％ミスをするけれどAIがミスをするのなら人間は９９％ミスをするのなら全員仕方ないミスと思うからな AIがミスをする事を未然に人間が見つけたら鬼の首を取ったように騒ぐ人間が出てくる 偶然人間が発見しただけですけれど！ http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/12
13: 名無しのひみつ [] 2026/05/19(火) 06:22:16.92 ID:Yuy3ZVXY 間違えず、爆速でデータ処理できるのは バグの無いレガシーシステムだけ。 ただし、頭がガチガチの専門バカ。 視野狭い。 融通は利かない。 再教育が大変。 http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/13
14: 名無しのひみつ [sage] 2026/05/19(火) 07:39:03.75 ID:AqvDDJo+ 滑舌が悪かったのかな http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/14
15: 名無しのひみつ [] 2026/05/19(火) 08:02:14.85 ID:qZ5Cj311 AIは人間と比べてミスが多いわけではないが人間は絶対にしないミスをするという印象 http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/15
16: 名無しのひみつ [] 2026/05/19(火) 08:03:10.36 ID:qZ5Cj311 >>15 AIは人間ではなく人間の真似をする別の生き物だと考えれば当然か http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/16
17: 名無しのひみつ [] 2026/05/19(火) 08:17:51.35 ID:A/xgDgD3 > 「患者に不安症状がある」といった、録音には存在しない情報を記録した例 患者の音声から心理状態を推測してたらゴイスーｗ http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/17
18: 名無しのひみつ [] 2026/05/19(火) 08:20:33.91 ID:USidEmyO 何でもAIってもてはやし過ぎだろ まだまだ途上の技術なんだからAIに丸投げすんのまだ早いだろ http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/18
19: 名無しのひみつ [] 2026/05/19(火) 08:22:17.19 ID:yiI42ya5 そもそも音声認識がポンコツなんじゃん http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/19
20: 名無しのひみつ [sage] 2026/05/19(火) 08:25:59.74 ID:bN65A/y5 これは素直に怖い http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/20
21: 名無しのひみつ [] 2026/05/19(火) 08:49:38.00 ID:1hSI1S7N 危険なだけじゃん http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/21
22: 名無しのひみつ [] 2026/05/19(火) 08:56:40.65 ID:MtK8VJJT 承認済みというのが怖い。一体誰が承認したんだ。 http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/22
23: 名無しのひみつ [] 2026/05/19(火) 09:06:52.58 ID:ubxXhHFS ＡＩには使う場面によって人間によるチェックが必要なのはしばらく続く いずれＡＩに置き換わるだろうが、いまのＡＩブームに踊らされるのは愚かなユーザー 利益が出るのはあたかも経理不要、チェック不要、ＡＩにお任せをとか言ってるような業者、早い者勝ち しかしながらいずれＡＩに取って代わられるのは明白な未来 http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/23
24: 名無しのひみつ [] 2026/05/20(水) 18:05:30.78 ID:ch1u3pQZ >>6 6割で確認された、今後残りの4割も別症状の診断でミスをするかもしれない。 じゃないのかな？ http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/24
25: 名無しのひみつ [] 2026/05/20(水) 18:35:17.59 ID:xiaC+/z2 これをフィードバックして、また間違いを集めて、を繰り返していけば正確になっていく しかし最新のモデルを使って同じことをするだけでも大幅に改善するだろう http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/25
26: 名無しのひみつ [] 2026/05/20(水) 18:40:55.29 ID:uGazb1fE AIが薬剤名を間違えるということは、学習データに間違えたデータが入っている シュミレーションとシミュレーションみたいに ふたを開けてみれば、特定のひとつの薬剤名が間違えられているのかもしれない http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/26
27: 名無しのひみつ [] 2026/05/20(水) 19:26:33.75 ID:bKrKBxe2 >>26 なコトねえよ ニューラルネットワークは ルールベースの知識推論エンジンとは違うんだ http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/27
28: 名無しのひみつ [sage] 2026/05/20(水) 22:51:22.85 ID:TN20Hcn4 ここまでハルシネーションに悩まされるとはな 架空の情報を作らないってそんな防げない事なのか http://egg.5ch.io/test/read.cgi/scienceplus/1779110338/28
ﾒﾓ帳
(0/65535文字)
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.295s*