Anthropicが軽量モデル「Claude Haiku 5.5」を発表。前のHaikuより費用は約75%安く、パソコン操作の試験で大きく伸びる
キラ
Special Life
AIの「ハルシネーション」とは？もっともらしいうそが起きる場面と、仕事で使うときの確かめ方
キラ
記事内に商品プロモーションを含む場合があります
・ハルシネーションとは、AIが事実と違うことを、もっともらしく答えてしまうこと。「幻覚」という意味の英語から来ている
・最新のモデルでも、なくなってはいない。OpenAIは、わざと難しくした質問で、新しいモデルの回答の約4%に事実の誤りが含まれたと公表している
・名前・日付・数字・出典は特に確かめる。各社もヘルプで「使う前に確認して」と書いている
AIに質問すると、すらすらと自信のある答えが返ってきます。ところが、その中に、実在しない数字や、存在しない資料の名前が混じっていることがあります。
こうした「もっともらしいうそ」は、ハルシネーションと呼ばれます。この記事では、各社の公式の情報をもとに、ハルシネーションとは何かを整理したうえで、ふだんの仕事でAIを使うときの確かめ方を考えます。
ハルシネーションは「事実と違うことを、もっともらしく答える」こと
まずは、ハルシネーションとは何かを見ていきます。
ハルシネーションは、英語で「幻覚」を意味する言葉です。AIが、事実と違う内容や、存在しないものを、本当のことのように答えてしまう現象を指します。
AIは、文章のつながりとして自然な言葉を選んで答えを作ります。そのため、知らないことや、あいまいなことを聞かれても、「分かりません」ではなく、それらしい答えを作ってしまうことがあります。
しかも、間違った答えも、正しい答えと同じように自然な文章で返ってくるため、読む側が気づきにくいのが厄介なところです。
最新のモデルでも、誤りはなくなっていない
次に、今のAIでどれくらい起きるのかです。
OpenAIは、9月29日に発表した「GPT-6.1 Sol」について、次の数字を公表しています（詳しくはGPT-6.1 Solの記事で紹介しました）。
・わざと難しくした質問で、事実の誤りを1つ以上含む回答の割合は、前のモデルの4.5%から4.1%に下がった
・最上位のGPT-6 Astraでも4.0%
OpenAIは、これらはわざと誤りを誘う質問で測ったもので、ふだんの使い方では誤りはもっと少ないと説明しています。それでも、最新のモデルでも、誤りがゼロにはなっていないことが分かります。
各社のヘルプにも、確かめるよう呼びかける文があります。
・OpenAI（ChatGPT Space）：ページを使ったり共有したりする前に、名前・日付・計算・出典を確認してください（ChatGPT Spaceの記事）
・OpenAI（dots）：dotは間違えることもあるため、重要な影響を伴う作業は必ず確認してください（dotsの記事）
スポンサーリンク
起きやすいのは「数字・固有名詞・出典・最新の情報」
では、どんな場面で起きやすいのでしょうか。
OpenAIの注意書きにある「名前・日付・計算・出典」を中心に整理すると、特に確かめたいのは次のような部分です。
| 起きやすいもの | 例 |
|---|---|
| 数字 | 料金、割合、日付、人数 |
| 固有名詞 | 会社名、商品名、人の名前、法律の名前 |
| 出典 | 存在しない論文やWebページを「出典」として挙げる |
| 最新の情報 | AIが学習した時期より後に変わった料金や制度 |
| 計算 | 合計や割合の計算 |
仕事はどう変わるか：AIは「下書き係」、確かめるのは自分
ここからは、公式の情報をもとにした僕の見方です。
ハルシネーションを知ると変わるのは、AIとの「役割分担」だと考えています。
AIは、たたき台を速く作るのが得意です。一方で、その中身が正しいかを最後に保証してくれるわけではありません。AIを「下書き係」と考え、事実を確かめて仕上げるのは自分、と分担を決めておくと、速さと正確さを両立できます。
特に、数字や名前、出典は、AIの答えをそのまま使わず、元の資料や公式のページで1つずつ確かめるのが基本です。
取引先に出す資料や見積もりを1人で作っている個人事業主ほど、1つの誤りが信用に直結します。AIで時間を短縮したぶん、確かめる時間を必ず残しておきたいところです。
使う前に、確かめておきたいこともあります。
・AIの答えに出てきた数字・名前・日付は、元の資料や公式のページで確かめる
・AIが挙げた出典は、実際にそのページや資料が存在するかを開いて見る
・最新の料金や制度は、AIに聞くより、各社の公式ページを直接見る
・AIに「分からないときは分からないと言って」「出典を示して」と頼むと、確かめやすくなる
まとめ：ハルシネーションは最新のAIでも起きる。数字・名前・出典は自分で確かめる
ハルシネーションは、AIが事実と違うことをもっともらしく答えてしまう現象です。最新のモデルでも誤りはゼロになっておらず、各社も確認を呼びかけています。
AIを下書き係と考え、事実を確かめて仕上げるのは自分、という役割分担が、AIを仕事で安全に使う基本です。
まずは、AIの答えに出てきた数字と名前を、元の資料で確かめる習慣から始めるのがよさそうです。
出典
・OpenAI「GPT-6.1 Sol のご紹介」 https://openai.com/ja-JP/index/introducing-gpt-6-1-sol/
・OpenAI ヘルプセンター「ChatGPT Space 入門」 https://help.openai.com/ja-jp/articles/20001549-getting-started-with-space-in-chatgpt
・OpenAI ヘルプセンター「dot スタートガイド」 https://help.openai.com/ja-jp/articles/20001530-getting-started-with-your-dot
ABOUT ME
ブログ「Spesial Life」を運営しているキラと申します。
当ブログでは、たった一度の人生を豊かに彩るための情報を発信しています。
目まぐるしく変化する現代社会の中で、思うような人生を送ることができずに困っていることはありませんか？
僕自身、大学卒業後、サラリーマンとして生きていくなかで、想像していた人生とはかけ離れた不満だらけの日々を送っていました。
それがある本と出会い、考え方と行動を変えることで、自分が望むような人生が手に入ることを知ったんです。
それ以来、自分自身の考え方と行動を変えることを実践して、人生を素晴らしいものへと変えている真っ最中です。
このブログでは僕自身の実体験を踏まえた人生を変える情報や考え方を発信しています。
あなたにとって素晴らしい人生が手に入るよう、一緒に行動していきましょう！
