2027年2月試験 新シラバス版
この記事は、2027年2月試験から適用される新しいシラバス(出題範囲)に対応しています。改訂版の公式テキストの発行後に、内容を見直して改善する予定です。
生成AIが出した答えを、どこまで、どうやって確かめればよいかをまとめます。用途と影響度で確かめ方の深さを変える考え方と、事実・論理・表現の順に確かめる手順、最後に「使う・直す・捨てる・専門家に聞く」を決める方法が分かります。
この単元を講義動画で見るIT資格の森の会員向け

講義4-4「AI出力の評価と検証」(9分57秒)。この単元の内容を、動く図解で約10分にまとめています。この回の動画は、IT資格の森の会員向けです。各章の1本目は無料で見られます(4-1「生成AI利用者の基本マインドセット」)。(IT資格の森とUdemyの違い・料金)
承認されたAIでも出力確認が必要な理由
会社が認めた生成AI(承認済みツール。「シャドーAIとは?企業コンプライアンスと従業員が守るルール」)なら、そのまま使ってよいのでしょうか。答えはいいえです。会社が承認するときに確かめているのは、入力した情報が学習に使われないか、どこに保存されるかといった情報の扱いです。出てくる答えが正しいかどうかまでは、承認では保証できません。
どのツールを使っても、生成AIの答えには次のようなものが混ざりえます。
- 誤情報:事実と違う内容(ハルシネーションを含む)
- 権利侵害:他人の作品に似た文章や画像、実在の人を傷つける記述
- 差別・偏見:学習データの偏りから出る決めつけ
このため、AIの出力は使う前に必ず人間による確認を通します。とはいえ、すべてを同じ深さで確かめていたら、AIを使う意味が薄れます。そこで出てくるのが検証レベルの考え方です。
用途と影響度に応じた検証レベル
検証レベルとは、出力をどこまで深く確かめるかの段階のことです。決め手は影響度、つまり間違っていたときに、誰に、どれだけの損害が出るかです。

| 影響度 | 例 | 確かめ方 |
|---|---|---|
| 小さい | 自分用のメモ、アイデア出し | さっと目を通す。おかしな所があれば自分で気づける |
| 中くらい | 社外に出す文章、上司への報告書 | 事実と数値を一次情報で確かめる。前提と論理も見直す |
| 大きい | 契約・医療・お金に関わる判断 | 上の確認に加えて、専門家に確認する |
同じ答えでも、使い道で影響度は変わります。たとえば、AIがまとめた「新製品の特長」の文章は、自分の頭の整理に使うだけなら小さな影響です。同じ文章を取引先への案内に載せるなら、間違いは会社の信用に関わるので中くらいになります。公開範囲(その文章を誰が読むか)が広がるほど、影響度は上がります。

確かめる中身は、次の3つの段に分かれます。
ファクトチェック:事実・数値・出典・最新情報の確認
最初に確かめるのは、書いてあることが事実かどうかです。これをファクトチェックと言います。見るのは次の4点です。
| 確かめること | 見落としやすい例 |
|---|---|
| 事実 | 実在しない制度や製品の機能が書かれている |
| 数値 | 割合や年の数字が、どこにも根拠が無い |
| 出典 | AIが示した出典のページを開くと、そんなことは書いていない。または出典そのものが存在しない |
| 最新情報 | 法律や料金、製品の仕様が、改定前の古いままになっている |
確かめる先は一次情報です。法律なら e-Gov の条文、統計なら発表した省庁のページ、製品なら提供元の公式サイトを見ます。別の生成AIに同じことを聞いて答えが一致しても、裏付けにはなりません。どちらも同じように間違えることがあるからです。
妥当性レビュー:前提・論理・抜け漏れの確認
一つひとつの事実が正しくても、全体として使えるとは限りません。中身の筋が通っているかを見るのが妥当性レビューです。
- 前提条件:答えが置いている前提は、自分の状況に合っているか。たとえば、海外の法律を前提にした説明を、日本の話として受け取っていないか
- 論理:理由と結論がつながっているか。「AだからB」の「だから」に無理が無いか
- 抜け漏れ:大事な観点が抜けていないか。メリットだけ書いて、費用や注意点が無い、など
抜け漏れはファクトチェックでは見つかりません。書いてあることは正しくても、書いていないことに問題がある場合があるからです。その分野の事情を知っている人が読むと見つけやすくなります。
表現・権利・個人情報・機密情報の確認
中身が正しく筋も通っていたら、最後に「このまま出してよいか」を確かめます。特に社外に出すものは、この段を飛ばさないようにします。
| 確かめること | 見るポイント |
|---|---|
| 適切な表現 | 読む相手に失礼な言い方や、誤解される言い回しが無いか。差別・偏見につながる決めつけが無いか |
| 第三者の権利 | 他人の文章や画像に似ていないか(著作権)。実在の人の顔や名前を勝手に使っていないか(肖像権・パブリシティ権)。詳しくは「AIと著作権・肖像権(著作権・知的財産・生成物の権利)」 |
| 個人情報 | 特定の人が分かる情報が、出力に入り込んでいないか。詳しくは「個人情報保護法と生成AI(個人情報・プライバシー・秘密保持)」 |
| 機密情報 | 社内でしか使えない数字や計画が、社外向けの文章に混ざっていないか |
最後の2つは、入力したときだけでなく、出力にも出てくることがあります。社内資料を材料に要約させた文章を社外に出すときは、材料に入っていた情報がそのまま残っていないかを見ます。
採用・修正・破棄・専門家確認の判断
確かめ終わったら、その出力をどう扱うかを決めます。選ぶのは次の4つのどれかです。
| 判断 | 選ぶとき |
|---|---|
| 採用 | 確かめた結果、問題が無い。そのまま使う |
| 修正 | 一部に誤りや足りない所があるが、直せば使える。直した所はもう一度確かめる |
| 破棄 | 前提から違う、誤りが多い、権利の問題が解消できない。使わずに捨て、自分で書くか、頼み方を変えて作り直す |
| 専門家確認 | 自分では正しいか判断できない。または影響度が大きい。弁護士、医師、税理士、社内の法務などに確かめてもらう |
直す手間がゼロから書く手間より大きいなら、破棄したほうが早くて安全です。また、専門家確認は「自分で確かめきれない」と分かった時点で選びます。分からないまま採用するのが、いちばん危ない選び方です。

1つの出力を最後まで確かめてみる
たとえば、生成AIに「取引先向けに、来月から始まる新しいサポート窓口の案内文を書いて」と頼み、次のような文章が出てきたとします。
「新しいサポート窓口は年中無休で受け付けます。業界でもっとも早い対応時間を実現しました。ご不明点は担当の佐藤までお寄せください。」
社外に出す文章なので、影響度は中くらいです。順に確かめると、次のことが分かります。
| 段 | 見つかったこと |
|---|---|
| ファクトチェック | 社内の決定資料を見ると、窓口は平日のみ。「年中無休」は誤り |
| 妥当性レビュー | 「業界でもっとも早い」には根拠が無い。受付の方法(電話かメールか)が抜けている |
| 表現・権利・情報の確認 | 「佐藤」は頼むときに入れた社内メモの名前。社外に出してよい担当者名か確かめる必要がある |
前提から外れてはいないので、判断は修正です。受付日を直し、根拠の無い比較を消し、受付の方法を足し、担当者名は社内で確認してから載せます。直したあとの文章も、もう一度読み直してから送ります。

流れをまとめると、影響度で検証レベルを決める → ファクトチェック → 妥当性レビュー → 表現・権利・情報の確認 → 4つから判断、となります。影響が小さいものは途中の段を軽く済ませ、大きいものは全部の段を丁寧に通します。
この単元のまとめ
- 承認済みツールでも、出力の正しさは保証されない。使う前に人間が確かめる
- 確かめる深さ(検証レベル)は、用途と影響度で決める。公開範囲が広いほど影響度は上がる
- ファクトチェックは事実・数値・出典・最新情報を一次情報で、妥当性レビューは前提・論理・抜け漏れを確かめる
- 社外に出す前に、表現・第三者の権利・個人情報・機密情報を確かめる
- 最後に採用・修正・破棄・専門家確認のどれかを選ぶ。判断できないときは専門家確認
この単元の問題6問
読んだ内容を1問ずつ確かめられます。選ぶとすぐに正誤と、選択肢ごとの解説が出ます。
生成AIのリスク予防・AI倫理・ガバナンスの単元
