[過去ﾛｸﾞ]
プログラマの雑談部屋 ★366 (1002ﾚｽ)
プログラマの雑談部屋 ★366 http://medaka.5ch.net/test/read.cgi/prog/1750587828/
上
下
前次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
抽出解除
ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索
歴削→次ｽﾚ
栞削→次ｽﾚ
過去ﾛｸﾞﾒﾆｭｰ
597: 仕様書無しさん [] 2025/07/05(土) 21:51:45.89 チームみらいのファクトチェック用AIの問題点 GeminiにGitHubのコードを読ませて 相談しながらまとめてもらった https://x.com/mainichi/status/1926937605033386079 https://github.com/team-mirai-volunteer/fact-checker 承知いたしました。このシステムの仕組みと、考えられる問題点をそれぞれ箇条書きでまとめます。 このシステムの仕組み * ・ 定期的にバッチ処理が自動実行され、特定のキーワード（「チームみらい」など）を含む最新のツイートを最大30件取得します。 * ・ 取得したツイートの本文を、OpenAIのAI（GPTモデル）に渡してファクトチェックを依頼します。 * ・ AIは、あらかじめ登録された公式文書データベース（ベクターストア）の情報とツイート内容を照合します。 * ・ AIは、まずその文章が客観的に検証可能か（意見や感想ではないか）を判断します。 * ・ 検証可能な内容の場合、データベースの情報と矛盾がないかを判定し、「OK」「NG」「判定不能」のいずれかの結果を出します。 * ・ 「NG」と判定されたツイートがあった場合のみ、Slackに「要確認」の通知が投稿されます。 * ・ Slackの通知には、元のツイート内容、NGと判断した根拠、そして「承認してXに投稿」というボタンが表示されます。 * ・ 人間の担当者が内容を確認し、ボタンを押すことで、ファクトチェック結果を引用する形でXに自動で返信投稿できます。 http://medaka.5ch.net/test/read.cgi/prog/1750587828/597
598: 仕様書無しさん [] 2025/07/05(土) 21:52:41.75 >>597 考えられる問題点 ・ 話題のツイートを優先する機能はなく、処理する30件から漏れた、より拡散された偽情報を見逃す可能性があります。 ・ AIが文脈（皮肉や比喩など）を誤解し、問題ない内容を「問題あり（NG）」と、あるいはその逆で「問題なし（OK）」と誤判定するリスクがあります。 ・ AIの知識は提供された文書に限定されるため、その文書に記載のない巧妙な偽情報は「問題なし」と判断してしまう可能性があります。 ・ 事実と意見の境界が曖昧な文章を、AIが「意見」と判断し、チェック対象外として誤って見過ごしてしまう可能性があります。 ・ 過去に判定した内容を記憶する機能がないため、同じような偽情報が繰り返し投稿されるたびに、何度もSlackに通知が届いてしまいます。 http://medaka.5ch.net/test/read.cgi/prog/1750587828/598
ﾒﾓ帳
(0/65535文字)
上
下
前次
1-
新
書
関
写
板
覧
索
設
栞
歴
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.039s