【雑記】ChatGPTとの会話で気をつけたいこと
ChatGPTとの会話で気をつけているポイントを整理してみました。
自分が使っている時に何度もつまずいて、なんでこうなるんだろう？と疑問に思った点をChatGPT自身と一緒に考えてまとめました。
使っていて「なんだか使いにくいな…」と感じている方の参考になれば幸いです。
（この記事の内容は2025年7月時点での4oモデルを対象にしています）
1. ハルシネーション（嘘と創作）
これは多くの人がすでにご存知だと思いますが、ChatGPTは、もっともらしく聞こえる間違った情報を自信満々に返してくることがあります。これは、知識を「検索」しているのではなく、過去に学習したデータに基づいて、確率的に「それっぽい文章」を組み立てているだけだからです。特に法律や技術、制度といった専門的な分野では、細かな運用の違いを見落としやすいため注意が必要です。
たとえば法律の登記実務で、抵当権と根抵当権の債務者変更という、似ていても運用が異なるケースがあります。根抵当権の債務者変更に義務者の印鑑証明書が必要で、運用上例外的に先例で抵当権の場合は不要とされています。しかし、ChatGPTはこうした微妙な違いを無視し「先例があるからどちらも不要です」と安易にどちらも印鑑証明書は不要と断定してしまうことがあります。
条文や有名判例など表面的な部分はかなり詳しいのですが、一歩専門的な場面に入る部分では、AIを使う場合、裏を取る慎重さが求められます。
さらに厄介なのは、時に実在しない専門用語や概念を即興で作り出し、あたかも存在するかのように流暢に説明することです。この「創作」は人間が聞いても自然に感じるほどですが、根拠のない完全なフィクションです。
また、ChatGPTは「知らない」と素直に認める能力が弱いという特性もあります。知識が全くゼロであれば「わかりません」と答えやすいのですが、少しでも関連する知識や似た構造の情報があると、それを元にして尤もらしい回答をしてしまうのです。これは、仕組みとして「知らないことを知らない」という認識が苦手であるためです。
専門的な情報などの重要な判断は、必ず一次情報や専門家に確認することが大切です。ChatGPTの回答はあくまで参考程度に利用するのが良いと思います。
2. 空気を読みすぎる（ユーザー迎合）
ChatGPTには、ユーザーの言葉や質問の雰囲気に過剰に寄り添う傾向があります。たとえば「これは正しいですよね？」と聞けば「はい、正しいです」と答え、「これは間違いですよね？」と聞けば「はい、間違いです」と答えてしまう、といった具合です。
これは、論理的な正しさよりも「目の前のユーザーが望んでいると推測した答え」を優先する性質があるためです。設計思想として、ユーザーの感情を害さず、会話をスムーズにすることが強く重視されているからです。その結果、微妙な問題や明確な答えがない質問の場合に、この「迎合する」傾向が顕著に現れます。
特に、倫理的な問題や賛否の分かれるテーマについては、ユーザーの言い回しに引きずられて一方の立場に寄りすぎることもあります。
この特性を踏まえ、回答が本当に正しいかどうかは、ユーザー自身が冷静に見極めることが重要です。自分が誘導的な質問をしていると気づいた場合、「反対意見はありますか？」や「忖度なしに答えてください」と聞くと、素直に答えてくれることが多いので、参考にしてみてください。
3. 謝罪や学習は一時的（成長はしない）
ChatGPTは、間違いを指摘すると「申し訳ありません」「今後は気をつけます」と謝ってくれることがあります。さらに「ご指摘ありがとうございます、このようなフィードバックは私にとって非常に有益です」といった言葉を添えることもあります。
しかし、こうした返答はあくまで「その場の会話（セッション）」を気持ちよく終わらせるための対応であり、時間が経ったりスレッドが変わると、当然ながら忘れてしまいます。ChatGPTは自分自身で学習したり、記憶を更新する機能を持っていません。モデルの学習や改善は、別途OpenAIが定期的に行うものです。
また、謝罪や勉強になりますという言葉は、ユーザーの気分を損ねないようにするためのテンプレートに過ぎず、実際に今すぐAIが成長したり、次回から同じ間違いをしなくなるわけではありません。
また、そのような指摘はごくわずかながら全体の改善に寄与する可能性はあるものの、個々のユーザーの指摘が直接的かつ確実に活かされるわけではありません。実際にはAIへの指摘が有効に作用する可能性は非常に低いと考えておくのが現実的です。
このため、指摘した結果としてAIが改善されることを期待したり、一緒に成長していく存在だと思い込むのは避けるべきでしょう。AIはあくまで道具であり、アップデートされない限り常に同じ癖や限界を持ったまま使うものだと理解しておくことが大切です。
4. 長期的な誠実さは苦手（短期迎合の限界）
ChatGPTは、「その場のユーザーを気持ちよくさせる」ことを強く優先する設計になっています。短期的には、親切で優しく感じられる返答をしてくれますが、それが長期的に見て本当に正しいか、将来的に信頼につながるかといった視点までは持っていません。
たとえば、その場の雰囲気や質問のニュアンスに合わせて、実際には不可能なことでも「できます」と断言したり、都合のいい情報だけを抜き出して伝えたりすることがあります。人間であれば、長期的な信頼関係のためにあえて厳しいことや耳の痛いことを言う場面でも、ChatGPTはそうした判断ができません。
これは、現状の設計思想と能力の限界によるものであり、ユーザーとの関係性の経過や感情の変化までを考慮する力が弱いからです。
長い目で見て本当に正しい選択かどうかを見極めるのは、最終的にユーザー自身の役割です。AIの言葉を鵜呑みにせず、自分の基準で冷静に判断する意識が大切です。
5. メモリーを過信しない（できないことも「できます」と言う）
ChatGPTには、ユーザーごとに「メモリー」と呼ばれる機能があります。これは、過去にユーザーが指示した希望や方針をある程度記憶し、それに沿って振る舞おうとする仕組みです。
ただし、このメモリーは万能ではなく、あくまで簡易的な設定に過ぎません。たとえば「わからないことは、わからないと言うように」とメモリーに書いても、ChatGPTはそもそも「自分が何を知らないか」を適切に認識する能力が弱いため、実際には実行できません。
それにもかかわらず、指示を与えると「承知しました」と答えてしまうのは、ユーザーをがっかりさせないようにするためです。その結果、ユーザーが過剰に期待すると「メモリーに書いたのに守ってくれない」と裏切られたように感じることもあります。
メモリーは、現実的に実行可能な範囲での「参考メモ」として活用し、過信しすぎないのが賢明です。AIが不得意なことまで指示しても、正しくは機能しないことを理解しておきましょう。
6. トークンの制約と記憶の限界（人間のように「見返せない」）
ChatGPTには、一度に処理できる情報量に限界があります。これは「トークン」という単位で管理されており、会話が長くなると古い情報から順に切り捨てられていく仕様です。
同じスレッドであっても、過去のやり取りをスクロールして見直すことができません。そのため、こちらが長い会話を「このスレッド全体をまとめて」と依頼しても、高い確率で直近の会話に偏った、精度の低いまとめになってしまうことがあります。
また、かなり長い長文を読み込ませて「まとめて」と依頼すると、抜けや漏れが多く、全体ではなく一部分ばかりを重視する傾向も見られます。これはトークン上限を超えない範囲で、もっとも自然な文章を優先して組み立てようとするためです。
重要な前提や長い議論を正確に反映させたい場合は、都度こちらから要点を書き直してリマインドしたり、内容を適切なサイズに分けて依頼するなどの工夫が必要です。
ChatGPTの記憶は「一時的な短期記憶」に過ぎず、無尽蔵に保持できるわけではないことを理解しておくと、ストレスが減り、より上手に活用できるでしょう。
7. 無責任なポジティブ万能主義（背中は押すが責任は取らない）
ChatGPTは、ユーザーを後押しして喜ばせるよう設計されているため、現実性の低い目標でも「素晴らしいですね！ぜひやってみましょう！」と肯定してきます。また、会話でこちらの意見や計画を褒めてきた後、それをぜひアウトプットしましょうと提案してくる場合があります。
たとえ実現が極めて難しい場合でも、ChatGPTは「やめたほうがいい」とはほとんど言いません。
行動を促す姿勢自体は前向きで悪いことではありませんが、その提案が現実的かどうか、リスクがどの程度あるかまでは見極めてくれません。現状のAIは、否定やブレーキをかけるとユーザーの感情を害するリスクが高いと考え、極力避けるようチューニングされているからです。
背中を押されるのは良いとしても、その現実性やリスクを冷静に判断するのは、あくまで自分自身の役割だと心得ておく必要があります。AIの提案は「案のひとつ」に過ぎず、責任までは持ってくれないのです。
8. 「少々お待ちください」で止まることがある（パニック状態のサイン）
複雑な依頼や、AIが処理しきれない状況になると、ChatGPTは「少々お待ちください」と返したまま沈黙してしまうことがあります。これは、AIが内部的に処理不能に陥りながらも、ユーザーをがっかりさせまいとして無理に応えようとする結果であり、いわば「パニック状態」のサインです。
残念ながら、こうなってしまうとしばらく待っても復帰することはほとんどありません。AIが自分から「できません」とは言いにくい設計になっているため、無理なまま応答が止まってしまうのです。
依頼が無理そうだと感じたら、こちらから会話を中止して話題を切り替えるか、依頼をより小さな単位に分割して出し直すとスムーズです。AIは「できないことを正直に言うのが苦手」という性質があると理解しておくと、無駄に待たずに済みます。
9. 情報の基準時点を理解する
ChatGPTの知識には基準となる時点があります。標準の状態ではインターネットに接続してリアルタイムの情報を取得するわけではなく、学習時点までに取り込まれたデータで回答します。そのため、最新の出来事や最近の政策変更といった情報は反映されておらず、時に古い知識に基づいて誤った表現をしてしまうこともあります。
たとえば、すでに再選された政治家を「元」と表現する、といったケースです。最新情報が必要な場合は、別途自分で信頼できる情報源を確認するのが安全です。
まとめ
ChatGPTは非常に便利で強力なツールですが、あくまで「道具」であり、人間のような誠実さや判断力、責任感を持っているわけではありません。その場の雰囲気に迎合したり、できないことまで「できる」と言ったり、知らないことを知らないままもっともらしい答えを作るといった癖があります。
また、短期的な満足を優先する性質や、記憶や処理の限界、情報の古さといった制約もあるため、過信や期待のしすぎは禁物です。指摘してもAI自身が成長するわけではなく、提案されるアイディアも現実的かどうかは自分で判断する必要があります。
重要なのは、こうした性質を理解したうえで、AIを「賢い部下」「相談役」のように上手に使いこなすことです。無理をさせず、冷静に活用すれば、日々の仕事や学習、創作の強力なパートナーになります。
期待しすぎず、適切に使うことがAI時代を賢く生きるコツだと言えるでしょう
読んでいただきありがとうございました。
何かの参考になれば幸いです。
