「AIはまだまだ間違えるからね」。ある研修で、講師の方がこう話していました。私が直接言われたわけではありませんが、介護の仕事をしている人と話していると、「AIは間違える。だから仕事には使えない」と思っている人が多いと感じます。あなたの事業所にも、一度おかしな答えを返されて、それきりChatGPTを開かなくなった職員がいるかもしれません。

職員から「ChatGPTは嘘をつくんでしょ？」と言われたら、私ならこう答えます。「嘘じゃないよ。でも、間違えることはある。だから、間違えたときにどうするかを覚えておこう」。

間違えたときにやることは3つです。どれも、管理者のみなさんが新人職員に毎日やっている指導と同じ順番なので、難しくありません。ぜひ、参考にしてください。

ChatGPTは、なぜ嘘をつくように見えるのか

ChatGPTは、人をだまそうとして間違えているわけではありません。AIには感情がないので、人を意図的にだます理由がないんです。ChatGPTは「聞かれたら、何かしら答えを返そうとする」ように作られています。だから、分からないことを聞かれても、それっぽい答えを作ってしまうことがあります。これを「ハルシネーション」と呼びます。

なぜ「分かりません」と言わないのか。ChatGPTを作っているOpenAIの研究者たちが、2025年9月の論文で、試験を受ける学生の姿で説明しています。難しい問題が出たとき、学生は白紙で出すより、自信がなくても何か書きますよね。白紙は0点ですが、何か書けば当たるかもしれないからです。AIも、「分かりません」と認めるより、推測でも答えたほうが点になる育てられ方をしてきました。そして、この間違いは最新のAIにも残っている、と書かれています（出典：Why Language Models Hallucinate）。

介護の現場なら、入ったばかりの新人職員を思い浮かべてみてください。ご家族に「来月の利用料はいくらになりますか」と聞かれて、「分かりません」と言えず、確かめないまま、それっぽい金額を答えてしまう。嘘をつく気はまったくなくて、聞かれたからには答えなければ、と思っているだけなんです。

みなさんは、この新人を「嘘つき」とは呼ばないはずです。「分からないときは『確認します』でいいんだよ」と教えますよね。ChatGPTにも、同じように教えてあげればいいんです。

ChatGPTは、どんなときに間違えるのか｜介護の仕事で起きやすい3つ

AIは、どれだけ新しくなっても間違えます。「AIは間違えないもの」と期待していると、一度の間違いで「もう使えない」とがっかりしてしまいます。先に「間違えることもある」と心づもりをしておけば、期待を裏切られないので、長く付き合っていけるはずです。

ChatGPTが広まり始めた2023年ごろは、計算や日付を間違えることがよくありました。この記事を公開した2026年9月の時点では、そうした間違いはほとんど見かけません。それでも、私が仕事で毎日使っているAIは、間違えることがあります。提供票を分けてもらったとき、AIが古い月のファイルを最新のものだと思って処理してしまったこともありました。では、介護の仕事で起きやすい間違いは、どんなことなのか。次の3つがあげられます。

いちばん多いのは1です。AIの性能ではなく、こちらの伝え方で起きているので、伝え方を変えれば減らせます。気をつけてほしいのは3です。文章としては自然なので、さっと目を通しただけでは気づけません。AIに要約をさせたときは、「この部分は、元の資料のどこに書いてある？」とAIに聞いてみてください。そう聞けば、AIが元の資料を確認し直してくれます。

① AIの間違いに気づいたら、自分で直すだけでなく「ここが違う」としっかりと伝える

ChatGPTの答えが違うと思ったら、黙って自分で直して終わりにせず、ChatGPTへ「ここが違うよ」と伝えてください。指摘せずに自分で訂正してしまうのは、AIの成長を止めてしまうので、もったいないんです。

間違いに気づくのに、特別な技術は要りません。私はAIを、人と会話するように使っています。人と話していると、「あれ、そんな話をしたっけ？」と引っかかる瞬間がありますよね。AIとの会話でも、同じように引っかかることがあります。

たとえば、私がAさんに「この前、仕事の悩みを相談したじゃん？」と話しかけたとします。Aさんが「ああ、上司の愚痴の話ね」と、私が話したこともない話を、さも聞いたかのように返してきたら、「それ、私じゃなくて別の人の話じゃない？」と訂正しますよね。Aさんに悪気はなくて、ほかの人から受けた相談と記憶が混ざっただけです。これと似たことがAIにも起きるので、同じように訂正してあげればいいんです。

間違っている所を自分で打ち直すより、コピーして貼り付けるほうがパソコンの操作が楽です。ChatGPTにも、どの文のことを言っているのかが、しっかり伝わります。

忙しいときは面倒に感じると思います。それでも、「ここが違う」と伝えるところだけは続けてください。ここを飛ばしてしまうと、AIは自分が間違えたことに気づかずに会話を続けてしまい、次の②と③に進めなくなります。

② 何が足りなかったのかは、ChatGPTに質問させれば分かる

間違いを伝えたら、次は前提を揃えます。友人でも上司でも、前提が揃っていない相手とは話がかみ合いませんよね。AIも同じです。ただ、何の情報が不足していたのかは、説明しているこちらにも分からないことが多いんです。だから、何が不足しているのかを、AIに確認させます。

1つ目は、間違いを伝えた直後に打ちます。AIが質問を返してくるので、それに答えていくだけで前提が揃っていきます。2つ目は、仕事を頼むときの最初の1通に入れておく文です。この一文があると、AIが推測を「〜ということではないですか？」と確認する姿勢をとってくれるので、こちらが「違うよ」と訂正したり、「合っているよ」と伝えることができます。ただし、この一文を入れても、間違いが完全になくなるわけではありません。

制度の相談が、いちばん分かりやすい例です。私は、個別ケースで加算算定ができるかをAIに相談するとき、次の順番で進めています。

1で要件を押さえているから、3でAIの根拠に「あれ？」と違和感を持てます。違和感を指摘して、AIに質問をさせて、お互いの根拠を比べる。ここまでやって、はじめてAIと前提が揃います。答えが想定と違ったときに見直す2つの点は、前の記事「職員にChatGPTを使わせて大丈夫？」に書いたので、あわせて読んでみてください。

職員には、「AIに説明を付け加える前に、まずAIに分からないことを質問させてみて」と伝えてみてください。

③ 同じ間違いをくり返させない｜ChatGPTに覚えさせて、記録してもらう

3つの中で、いちばん大事なのがここです。AIとの会話の中で訂正しただけでは、次の会話に残っていないことがあります。だから、間違えたことを学習させて、それを記録してもらいます。

新人職員も、口で注意しただけだと、翌週には忘れていることがありますよね。申し送りノートに書いてもらって、次の勤務の前に読み返してもらうから、身についていきます。ChatGPTも同じなんです。OpenAIの公式の説明にも、ChatGPTの記憶（メモリ）はすべての会話の細かい所まで残すわけではなく、どの情報を使うかはChatGPTが決める、と書かれています（出典：Memory in ChatGPT）。「覚えました」と、さも絶対に大丈夫のように返ってきても、次の会話で使ってくれるとは限りません。

私は、AIとの会話でAIが間違えたら指摘をして、その内容をAI自身に記録させています。そして、新しい会話を始めるたびに、その記録をAI自身に確認させています。だから、次の仕事でも、AIが同じ所に注意をしてくれるんです。

ChatGPTなら、次の2つを順番にやってみてください。

2を打つと、ChatGPTが覚えている内容を出してきます。合っていれば、そのまま仕事を頼んでください。抜けていたら、もう一度訂正して、1の文で記録してもらいます。仕事の前に確認をさせるのは、ChatGPTが記録を残してくれているかどうかを、間違える前に確かめられるからです。ChatGPTに慣れてきたら、仕事ごとに指示をまとめて置いておける「プロジェクト」という機能もあります。いまは覚えなくて大丈夫です。

注意が1つあります。ChatGPTに覚えさせるのは「仕事のやり方の訂正」だけにしてください。利用者の名前や状態は、覚えさせないでください。理由は、前の記事に書いた「個人が特定できる情報を入れない」と同じです。

AIが作った文章は、どこまで確認すればいいのか

ここまでの3つを続けても、AIの間違いはゼロにはなりません。だから、事業所の外に出るものは、必ず人が確認します。

私は、AIが作った文章をすべて読んでいます。まずはAIに結論を最初に書いてもらい、全体像をつかんでから細かい所を確認するようにしています。相手に送るメールやLINEの返信文は、AIが作ったものでも必ず目を通して、自分の言葉に直してから送ります。

事業所なら、次の2種類は「必ず人が確認する」と決めておくと、トラブルを回避できます。

どこまで確認するかは、間違えたときに事業所が受ける損失の大きさで決めてください。加算の単位数のように答えが決まっていることは、介護の仕事をしている人なら、だいたい頭に入っていますよね。だから、Google検索でさっと確認すれば大丈夫です。青本・赤本や通知の原文を開いて確かめるのは、自分でも不確かで、しかも万が一ミスをしたら事業所に大きな損失が出ることだけで大丈夫です。

確認の手間を入れても、AIに頼んだほうが早いと私は感じています。作業の時間が短くなるだけでなく、覚えておく、考え続ける、という脳のリソース（脳のエネルギーやスタミナ）を使わなくて済むからです。

まとめ｜「ChatGPTは嘘をつくんでしょ？」と言われたら、こう答える

AIは間違いなく、仕事の生産性を上げてくれるツールです。ただ、車や自転車や電卓のように、操作すれば思いどおりに時短をしてくれるものではなくて、扱い方を覚える必要があるんです。

ChatGPTが間違えた回答をしてきたら、ちゃんと「間違っているよ」と伝えて、学習させてあげてください。そして、それを記録してもらってください。これを続けていくと、本当にあなたの事業所の仕事を理解して、把握してくれるツールになってくれます。正直に言うと、骨の折れることです。でも、優秀な新人職員を指導していて、その先とても優秀になることが保証されている。そう思って、がんばってほしいんです。

職員から「ChatGPTは嘘をつくんでしょ？」と言われたら、「嘘じゃないよ。間違えたら、違うと伝えて、記録してもらってね」と答えてあげてください。何を覚えさせるかは、事業所の仕事によって変わります。そこは一緒に考えます。

うちの職員にも、できるようになりますか？