「AIのファクトチェック」を誰がする? 「AIのウソ」を検証する新サービスとは
生成AI作成文やSNS投稿の事実関係を、法令や政府統計、国会会議録などの一次情報と照合するアプリが登場した。ワイズ合同会社は「ファクトチェックAI」を正式提供し、根拠となる資料や出典を示す仕組みを採用している。
生成AIで書かれた文章において、その真偽を確かめる「ファクトチェック」は重要だ。しかし、AIが作成した文章が自然で読みやすいほど、誤った情報を人の手で見つけるのは困難だ。
そのような課題を解決するサービスとして、生成AIが作成した文章やSNS投稿に含まれる事実関係を、一次情報までさかのぼって確認できるアプリが登場した。
AIとコードの組み合わせで「AIがファクトチェック」の精度を高める
ワイズは2026年10月6日、文章中の事実に関する主張を公的記録や原典などと照合する「ファクトチェックAI」の正式提供を開始した。リリース時点では「iOS」「Android」アプリとしての提供だが、Web版の提供も予定している。
同サービスは、入力された文章から事実として検証可能な主張を論点として抽出し、各論点について関連資料と照合する。法令や条例、国会会議録、政府統計、閣議決定、各省の大臣記者会見録、判例、学術論文に加え、必要に応じて報道などの二次情報も参照する。結果は「資料と一致」「おおむね一致」「資料と一致せず」「資料・見解が分かれる」「裏付け確認できず」などのラベルで示して、根拠の説明と出典へのリンクも添える。根拠を十分に確認できない場合は無理に結論を出さず、「裏付け確認できず」として調べた範囲を示す。
確認作業をAIに任せる場合、その確認結果の正確性に疑問が残る。そこで同社は「ミルフィーユAI方式」と呼称する仕組みを採用した。検証処理には、生成AIによる理解・推論と、ルールに基づくコードによる検証・制御を複数層で組み合わせた独自の検証エンジンを利用している。AIとコードそれぞれの特性を生かした処理を何層にも重ねることで、どちらか一方だけに判断を委ねない構造にしたという。
同社はサービスの特徴として、AI自身に単純に「正しい」「間違っている」と判断させるのではなく、主張と資料の関係を示す点を挙げる。AIに真偽を委ねず、根拠となる一次情報を示すことで、確かめる手間を数分に短縮することを目指す。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
ニュースピックアップ
この記事の著者
こんなメディアも見られています
キーマンズネットに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
6TBファイルのサーバ移行、M365ユーザーの八雲町がSharePointでなく「あえてBox」の理由
-
2
Claude Codeに「仕事を丸投げ」して事故らないための基本運用ルール
-
3
今日から始める「AIエージェント」入門 ~Gemini Enterprise編~
-
4
AIエージェントでサイバー攻撃は100倍速に 2026年最新事例から見る防御策とは
-
5
SlackやTeamsで「辞めそうな社員」が分かる? 退職予兆を探るAI登場
-
6
AIの“それらしい答え”、そのまま出していませんか――誤り・著作権・見えない指示への備え
-
7
20年物の基幹システム刷新に、マクロミルがあえて「全てを変えない」と決めた理由
-
8
「閉じた環境」で生成AIをどう使うか 大分市が「庁内だけで使える環境」を構築
-
9
「Claude」3倍高速化の裏で、Anthropic開発者が「あえてしなかったこと」:899th Lap
-
10
Javaアプレットは、なぜ今も情シスを悩ませる? 残った業務システムの“延命”問題
キーマンズネット SNS
インフォメーション
注目情報をチェック
キーマンズネットをフォロー