ハルシネーションとは
ハルシネーションとは、生成AIが、事実に基づかない内容や、存在しない情報を、あたかも正しいかのように自然な文章で出力してしまう現象です。もともとは「幻覚」を意味する言葉で、AIが「幻を見ている」ように誤った内容を作ることにたとえられます。
たとえば、実在しない論文を引用したり、存在しない関数の使い方を説明したり、誤った日付や数字を断定的に述べたりすることがあります。
原因は、AIが「事実を調べて答えている」のではなく、「言葉のつながりとして自然なもの」を生成しているという仕組みにあります。そのため、正しさの確認なしに自然な文章を作り続けてしまいます。
仕組み・ポイント
ハルシネーションが起きやすい状況と、対策を整理します。
| 起きやすい状況 | 対策の例 |
|---|---|
| 学習していない情報を聞く | 資料を渡し、その範囲で答えさせる（RAG） |
| 最新の情報を聞く | 最新の資料を検索して与える |
| 曖昧で漠然とした質問 | 目的や条件を具体的に指示する |
| 数字や固有名詞が多い内容 | 出典を確認する、人が検証する |
対策の基本は、AIの出力を無条件に信じないことです。特に、対外的に出す情報、法律・医療・お金に関わる情報、事実の確認が必要な内容は、必ず人が元の資料にあたって確認します。
仕組みの面では、根拠となる資料を示させる、「分からない場合は分からないと答える」よう指示する、回答を別の仕組みで検証する、といった方法があります。ただし、いずれも完全にはなくせないため、リスクに応じて、人の確認を残す設計が現実的です。
実務での使い方・具体例
架空の例として、市場の調査の下調べに、生成AIを活用する場面を考えます。AIが、ある市場の規模や成長の数字を、自信ありげに示しました。そのまま資料に載せると、誤りだった場合に判断を誤らせます。
そこで、AIの出力は「調べるべき論点の整理」までに留め、数字や事実は、必ず公的な統計や元の資料で確認するルールにします。出典のない数字は資料に載せない、という基準を共有しておくと、チーム全体で誤りを防げます。社内向けのAIでは、回答に出典を併記する設計も有効です。
利用者向けのサービスに組み込む場合は、画面上で「内容は誤っている場合があります」と注意を示し、出典の確認を促す設計も有効です。
判断のチェックポイント
- AIの出力を確認する工程を、残しているか
- 数字、固有名詞、出典を、元の資料で照合しているか
- 重要な判断は、AIだけに任せていないか
- 資料に基づいて答えさせる仕組みを検討したか
- 「分からない場合は分からない」と答えさせる指示を入れたか
- 誤りを見つけたときの報告と、改善の流れがあるか
よくある誤解と注意点
- ときどきの例外ではなく、起こり得る前提で設計する：完全にはなくせません。
- 自信のある口調でも正しいとは限らない：文章の自然さは根拠になりません。
- 高性能なモデルでもゼロにはならない：確認の仕組みが必要です。
- 専門的な内容ほど気づきにくい：専門家による確認が欠かせません。
- 使うのをやめるべきという意味ではない：リスクに応じた使い方を選びます。
関連用語
- 生成AI：ハルシネーションが起きる技術
- RAG（検索拡張生成）：資料に基づいて答えさせる構成
- グラウンディング：回答を根拠となる情報に結びつけること
- ヒューマン・イン・ザ・ループ（HITL）：人の確認を工程に組み込む考え方
Otsumuに相談できること
生成AIの誤りは、事前に想定して設計すれば、事業上のリスクを抑えられます。Otsumuでは、活用する業務の重要度に応じて、確認の仕組みの強さを、ご一緒に整理できます。
MVP開発のご支援内容もご覧いただけます。進め方に迷う段階であれば、30分の無料相談でお話しください。
執筆：Otsumu株式会社 ／ 編集日 2026.10.04