ChatGPTは平気で嘘をつく！公開する前に確かめること

ChatGPTなどのAIで記事を書いたことはありますか？

時間が限られている中でAIは本当に助かるツールです。

私も使ったことがあります。

でもその時、書かれている数字や名前が本当に合っているか
確かめましたか？

ChatGPTは知らないことでも自信のある書き方で答えます。

しかも読んだだけでは、どこが嘘なのか分かりません。

先にお伝えすると、この嘘は設定などで減らせてもなくすことはできません。

だから自社のホームページに出す前に人が確かめる必要があります。

ChatGPTが嘘をつくのはなぜ？

もっともらしいけれど正しくないAIの答えを「ハルシネーション」と呼びます。

ChatGPTを作っているOpenAIも、ChatGPTでハルシネーションが起きると認めています。

新しいモデルでは減ってきたものの、それでも起きるそうです。

ではなぜ嘘をつくのか。

OpenAIはその理由の1つを多肢選択のテストにたとえています。

答えが分からなくても当てずっぽうで書けば正解するかもしれない。
空欄のままなら確実に0点。

AIも正解の数だけで評価されると、
「分かりません」と答えるより推測したほうが点数が上がってしまう。

その結果、分からないことでも自信満々に答えるというわけです。

（　出典：OpenAI「言語モデルでハルシネーションがおきる理由」（2025年9月5日）　）

ChatGPTの嘘が混ざりやすいところ

OpenAIの記事には、こんな例が載っています。

あるチャットボットに論文の著者の博士論文のタイトルを聞いたら、
自信のある書き方で3つの答えが返ってきて3つとも間違っていた。

誕生日を聞いても、3つの日付がすべて違っていたそうです。

人の名前や日付のように文章の流れから当てられない情報は、とくに間違えやすいんです。

OpenAIのヘルプページでも間違えやすいものとして
「誤った定義、日付、事実」や存在しない出典が挙げられています。

（　出典：OpenAI ヘルプセンター「ChatGPT は真実を伝えますか？」　）

会社の記事なら、気をつけたいのはこのあたりです。

• 料金や割合、年、件数などの数字
• 補助金や制度、法律の条件
• 会社名や人の名前、商品名、賞の名前
• 出典のURLや資料の名前
• 最近の出来事や変わりやすい情報

どれも間違えるとお客さまの判断に関わるところばかり。

「嘘をつかせない設定」で防げる？

ChatGPTには、あらかじめ伝えておきたいことを書いておける設定があります。

ここに「分からないことは分からないと答えて」
「数字や名前には出典を付けて」と書いておく方法がよく紹介されています。

頼んでおくこと自体は損はありません。

ただOpenAIは、新しいモデルでもハルシネーションは起きると書いています。

ヘルプページでも、ChatGPTを最終的な情報源ではなく初稿として使うようにすすめていました。

引用やデータは確かめる。

正確さが大事なときは、検索の機能を使ってリンク先を直接見る。

設定しておくのは損はないですが、作っている会社も「確かめて」と言っているんです！

自社の記事に嘘が混ざると、困ること

記事は会社の名前で出すものです。

まちがった料金や条件が書いてあれば、
お客さまはそれを信じて問い合わせたり、ほかと比べたりします。

あとで「書いてあることと違う」となれば、信用を落とすのは会社のほう。

では、AIで書いた記事は検索で不利になるのでしょうか。

Googleは、AIを使うこと自体はガイドライン違反ではないと説明しています。

見ているのは作り方ではなく内容の質です。

ただ健康や行政、金融のように情報の質がとくに大事なテーマでは、
信頼できる情報かどうかをより重く見るとも書いていました。

（　出典：Google 検索セントラル ブログ「AI 生成コンテンツに関する Google 検索のガイダンス」（2023年2月8日）　）

AIで書いたから落とされるわけではありません。

中身がまちがっていれば、人が書いても評価されないということです。

お金や健康、法律に関わる内容は、専門家にも確かめてもらうと安心です。

ChatGPTで書いた記事を、公開する前に確かめていること

私もAIに作ってもらったものは、出す前に見直しています。

広告文の案をAIに作ってもらったとき、
受賞している賞の名前が言いかえられていたことがありました。

文章としては自然なので、元の資料と見比べないと気づきにくい間違いです。

そのまま出していたら、もらっていない賞を書いたことになります。

それからは、こんなところを確かめるようにしました。

数字や条件は出典の文言と1語ずつ見比べる。

「〜の中で1位」がただの「1位」になっていないか。
言いかえで意味が広がっていないかも見ます。

賞や資格、商品名などの正式な名前は元の資料のとおりに。

AIが出してきたURLや資料の名前は、実際に開いて本当にあるかを確かめる。

画像も説明と中身が合っているか、目で見ておきます。

文章の読みやすさを直したいときは、
「なんかAIっぽい」文章はどこで分かる？特徴3つと、自分の言葉に戻す直し方
にまとめました。

AIは使っていい。確かめる役は手放さない

ChatGPTの嘘はなくせません。

でもどこに混ざりやすいかを知っていれば、見る場所はしぼれます。

数字と名前と出典。
この3つだけでも、公開する前に見てみてください。

それでも確かめる時間がとれないときは、人に任せる方法もあります。