AI & TECH ／ 2026.05.15

AIに「なぜ」を語らせない ― 介護現場で生成AIを使うときの境界線

AIに「なぜ」を語らせない ― 介護現場で生成AIを使うときの境界線

はじめに ― 導入から「使いこなし」のフェーズへ

おはようございます。木下です。

本日5月15日、金曜日。新年度から1ヶ月半が経ち、新人職員も少しずつ現場の流れに馴染み、各事業所の「春のばたつき」がようやく落ち着いてくる時期です。法人としての新年度方針もそろそろ第一四半期の中間点に差し掛かり、私自身、四半期の数値と現場の体温を照らし合わせる週でもあります。

さて、ここ1〜2年で介護現場の生成AI活用は、もはや「導入するかどうか」のフェーズを完全に過ぎました。問いは確実に 「どう使い分けるか」「どこまでは任せないか」 に移っています。本日は、介護現場で生成AIを使う際に私が経営者として最も大切にしている境界線――「AIに『なぜ』を語らせない」 という原則について、書き残しておきたいと思います。

生成AIが介護現場で“流暢”すぎる時代

直近、当法人の各事業所でも、生成AIが扱う場面は急速に広がっています。

職員からは「圧倒的に楽になった」「文章を考える時間が減った」と好評で、これ自体は本当にありがたい変化です。

ただし、現場のリーダーや管理者と話していると、共通の違和感を口にする方が増えてきました。それは、「AIの文章が、上手すぎる」 ということです。

事実関係はざっくりとしか入力していないのに、AIは堂々とした、もっともらしい文章を返してきます。原因分析も、再発防止策も、家族への謝罪文も、まるで「すべてを理解した上で書いたかのように」綺麗な日本語で出力されてしまうのです。

ここに、介護現場における生成AI活用の最大の落とし穴があります。

「事実」と「解釈」と「理由」を分けて考える

私は事業所の管理者研修で、生成AIを使う際の判断軸として、文章を次の三層に分けて考えるよう伝えています。

  1. 事実層：いつ、誰が、どこで、何をしたか。バイタル、時刻、量、回数など客観的に確認できる情報。
  2. 解釈層：その事実がどういう状態を意味するか。「脱水傾向の可能性がある」「不穏が増えている」など。
  3. 理由層：なぜそうなったのか。原因と背景の説明。「ご家族との面会が減ったため」「服薬調整の影響」など。

生成AIが極めて得意なのは、事実層をきれいに整形すること。語尾を整え、敬体に揃え、冗長な部分を削り、読みやすい形にする作業はほぼ完璧にこなします。ここはどんどん任せてよい領域です。

問題はその次です。生成AIは、頼まなくても勝手に「解釈」と「理由」まで書いてしまう のです。それも、いかにも介護専門職が書いたかのような文体で。

たとえば「昨日入浴を拒否した」とだけ入力すると、AIは平気で「ご本人の意思を尊重しつつ、皮膚状態の悪化が懸念されるため、ご家族と連携し、入浴環境の見直しが必要と思われます」といった解釈と提案まで添えてきます。

一見、立派な記録です。しかし――その「皮膚状態の悪化が懸念される」という解釈は、本当にその日の事実に基づいていますか？

AIに「なぜ」を語らせない、という原則

私が経営側として現場に繰り返し伝えているのは、「AIに『なぜ』を語らせない」 というルールです。

具体的には、次の三つに線を引いています。

なぜここまで厳しく線を引くのか。理由は明確で、介護現場の「なぜ」には、ご利用者の人生、家族関係、医療情報、過去の出来事、そして職員の身体感覚といった、極めて多層的な文脈が含まれている からです。

これを生成AIが推測で埋めると、もっともらしい嘘――いわゆるハルシネーション（虚偽生成）が、誰にも気づかれないまま記録として残ってしまいます。

そして介護記録は、行政指導、家族説明、訴訟、損害賠償の場面でいずれ「証拠」として扱われる文書です。現場の誰も書いていない「理由」が、いつの間にか公式記録になっている という状態は、経営リスクとして本当に怖いものがあります。

ヒヤリハットと事故報告での落とし穴

特に注意したいのが、ヒヤリハット報告書と事故報告書です。

これらの書類は、本来「事実を時系列で記録し、複数人で原因を分析し、再発防止策を組織で決める」ためのものです。原因分析と再発防止は、現場・管理者・場合によっては医療職や外部専門家を交えて議論すべき領域です。

ここに生成AIを安易に挟むと、起きやすいのは次のような事態です。

つまり、AIが組織の学習機会を奪ってしまうのです。

私自身、現場からの相談で「AIが書いてくれた原因分析がこちらです」と提出されたとき、いつも同じ問いを返します。

「その原因は、AIが書いたものですか。それとも、皆さんがカンファレンスで話し合った結論ですか」

この問いに「ええと……AIが」と詰まる場面があるなら、組織の安全文化はじわじわと侵食されています。事故の原因は、人が肉声で語ったときにしか、組織の血肉にならない ――私はそう考えています。

ケアプランと家族向け文書での線引き

ケアプラン素案や家族向け説明文は、生成AIが特に活躍する領域です。これ自体を否定するつもりはありません。むしろ、ベテラン職員のノウハウを下敷きに、AIがたたき台を作る運用は、業務効率の観点で極めて有効です。

ただし、ここでも線引きは必要です。

要するに、「読み手の人生に関わる重さがある文章ほど、AIに任せる比率を下げる」 という単純なルールに尽きます。

経営者として整備すべき三つのルール

ここまでを踏まえ、各事業所で最低限整備しておきたいルールを三つだけ挙げます。

  1. AI出力の「理由」「原因」「考察」部分は、必ず人間が書き直す。AI生成のままで残してはいけない
  2. AIに入力した情報と、AIが出力した文書のセットを、一定期間ログとして残せる仕組みにする
  3. 生成AIを使ったことを、必要に応じてご家族・利用者に説明できる準備をしておく

特に三つ目は、今後の介護業界で確実に問われるテーマになります。「あの家族向けお手紙、AIが書いたものなんですか」と問われたとき、誠実に経緯を説明できる事業所であるかどうか。ここに AI時代の介護経営の信頼の土台 があると、私は考えています。

介護福祉学校の学生にも同じことを

北海道介護福祉学校の授業でも、AI活用は外せないテーマになっています。学生たちに伝えているのは、たった一つです。

「AIに『書いてもらう』ことと、『考えてもらう』ことは違います。皆さんが現場に出たとき、文章を整えるのはAIに任せていい。でも、『なぜこのケアが必要なのか』を考えるのは、絶対に皆さん自身でやってください。それが、専門職として給料をもらうということです」

文章を書く力よりも、「なぜを言語化する力」が、これからの介護専門職の中核的なスキル になります。AIが普及するほど、この力の有無で差がつくようになります。

キャリアコンサルタントの視点 ― AI時代の専門性

キャリアコンサルタントの立場から付け加えると、AI普及期の介護職に求められるのは、次の三つの力です。

  1. AIに任せる仕事と、人がやる仕事を、自分で切り分けられる力
  2. AIの出力を読んで、違和感を持てる力
  3. 「なぜ」を自分の言葉で語れる力

新人職員ほど、AIの出力を「正解」と思ってしまいがちです。だからこそ、現場のリーダーや教育担当が、「AIに書かせた文章を、自分の言葉に翻訳し直す訓練」 を意識的に組み込む必要があります。

これは、新年度から1ヶ月半が経った今、ちょうど取り組みやすいテーマです。新人がAIに頼り始める前に、「自分の言葉で書く」基礎体力を作っておく。ここを飛ばすと、3年後に職員のスキル分布が大きく歪みます。

本日の宿題 ― 経営・管理層へ

最後に、本日中にできるささやかな宿題を三つ。

  1. 自事業所の介護記録・ヒヤリハット・家族向け文書のうち、AIが「理由」を書いている箇所が混じっていないか、サンプルで確認する
  2. 生成AIの活用ルールを、A4一枚で職員に共有できる形にまとめる
  3. 次のカンファレンスで、「AIが提案した原因」ではなく「私たちが議論した原因」を必ず一行加える運用を始める

ルールは細かすぎないほうが守られます。「AIに『なぜ』を語らせない」――この一行だけでも、組織に貼っておく価値があります。

おわりに ― AIと共に「考える」現場へ

AIに任せられる仕事は、これからもどんどん増えます。それ自体は素晴らしいことです。職員の負担が減り、ご利用者と向き合う時間が増えるなら、これほどありがたい技術はありません。

ただし、「楽になる」ことと「考えなくなる」ことは違います。

介護という仕事の中核には、いつも「なぜこの方に、いまこのケアが必要なのか」という問いがあります。この問いだけは、絶対にAIに譲ってはいけない。経営者として、教育者として、そしてキャリアコンサルタントとして、私はそう考えています。

本日は金曜日。週末を前に、ぜひ一度、自事業所のAI運用を点検してみてください。機械に流暢さを任せ、人間は「なぜ」を語る ――そんなチームを、これからも作っていきたいものです。

良い一日を、お過ごしください。

木下 浩志
NPO法人ちとせの介護医療連携の会 理事長
株式会社MCL 取締役
北海道介護福祉学校 非常勤講師

コメントを残す

メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です