8月30日、日曜日です。8月も明日で終わります。
先日、職員から「議事録をまとめるのに、AIを使ってもいいですか」と聞かれました。いい質問だと思いました。聞いてくれたということは、使う前に一度立ち止まってくれたということです。
ただ、その場ですぐに「いいよ」とは言えませんでした。何をどう使うのかによって、答えが変わるからです。
介護の現場で生成AIを使うとき、多くの事業所が最初に迷うのがここだと思います。禁止にすれば安全だけれど、便利さは手に入らない。かといって自由に使ってくださいと言えば、いつか事故が起きる。今日は、その中間をどう設計するかという話を書きます。
禁止にすると、見えないところで使われる
まず、いちばん危ないのは「うちは生成AIは禁止」と決めてしまうことだと思っています。
理由は単純で、禁止しても使う人はいるからです。しかも禁止された環境では、自分のスマートフォンで、私物のアカウントで、誰にも言わずに使うことになります。何を入力したのかを法人が把握できない状態が、いちばん危険です。
私が知る限り、生成AIをめぐる事故の多くは、悪意から起きていません。「早く仕事を終わらせたかった」「良いものを作りたかった」という善意から起きています。だからこそ、禁止という一言では止まらない。
止めるのではなく、安全な道を用意して、そこを通ってもらう。これが基本の考え方です。
1. 要配慮個人情報は、入力しない
最初にして最大の約束がこれです。
利用者の氏名、生年月日、住所、病名、障害の内容、ケアの記録。これらは個人情報のなかでも「要配慮個人情報」にあたり、扱いに特別な注意が必要な情報です。これを外部の生成AIサービスに入力しない。ここだけは、例外なしで線を引いています。
株式会社MCLで運用している社内ポータルも、この考え方で設計しました。勤怠、シフト、有給、研修、経費といった労務の情報は載せますが、ケア対象者の情報は載せません。載せないと決めれば、そこから漏れることはありません。一番大きなリスクは、源流で断つのが確実です。
現場で気をつけたいのは、名前を消せば大丈夫だと思ってしまうことです。「90代女性、要介護4、〇〇病、当施設3階居住」まで書けば、地域によっては個人が特定されます。名前を伏せることと、匿名化することは、同じではありません。
事例検討や研修資料をAIに手伝ってもらいたいときは、実在の事例をそのまま入れるのではなく、一般化した架空の事例で作らせて、あとから自分たちの言葉に直す。この手順にしておけば、まず安全です。
2. 学習に使われる設定を、確認して切る
無料のサービスの多くは、初期設定のまま使うと、入力した内容がサービス側の改善に使われる可能性があります。設定画面から切り替えられるものも多いのですが、放っておけばそのままです。
法人として導入するなら、業務利用向けのプランを選ぶか、少なくとも設定を確認して切ることを前提にしてください。個人の判断に任せると、確認する人としない人が出ます。
これは職員を疑う話ではなく、設定の話は誰かがまとめてやらないと揃わないという話です。うちでも、使い方の説明会では必ず画面を出して一緒に確認するようにしています。
3. 出所の分からないツールは、入り口で止める
ここ数年、無料で使える便利そうなツールが次々に出てきます。「音声を文字にします」「写真を読み取って表にします」といったものです。
便利なものもありますが、どこの誰が運営しているのか分からないサービスに、業務の情報を渡すのは避けてください。無料である以上、どこかで対価を回収しています。それが広告なのか、データなのかは、外からは見えません。
法人として使ってよいツールを一覧にして、それ以外は管理者に相談してから、という形にしておくのが現実的です。禁止のリストを作ろうとすると、次から次に出てくる新しいものに追いつけません。許可したものを並べるほうが、運用が続きます。
4. もらったファイルを、そのまま読ませない
意外と見落とされがちなのが、これです。
外部から届いたPDFやWordを、内容を確認せずにAIに読ませて要約させる。作業としては自然ですが、そのファイルに何が書かれているかを自分が知らないまま渡している、という状態でもあります。
添付ファイルを開くときと同じ注意が必要だと考えてください。誰から来たものか、業務上受け取る理由があるものか。そこを一度見てから渡す。当たり前のようですが、忙しいときほど飛ばしてしまう手順です。
5. 出てきたものは、必ず人が見て直す
生成AIは、それらしい文章を作るのが上手です。上手すぎて、間違っていても違和感がありません。
介護の制度についてはとくに注意が必要です。加算の要件、人員配置基準、報酬の単位数。このあたりは改定のたびに変わりますし、AIが古い情報や、別の制度と混ざった答えを返してくることがあります。私も何度か、もっともらしく書かれた誤りに出会いました。
だから、制度に関わる部分は必ず一次資料に当たります。厚生労働省の通知、都道府県や市町村の要綱、国保連の資料。AIは、その資料を探す入口としては優秀ですが、答えそのものにはしない。
書類の下書き、文章の整え、要点の抽出。この辺りは任せていい。判断が入るところは、人が引き取る。この線引きだけ共有できていれば、大きな失敗は起きにくいと思っています。
6. 頼りすぎない、という約束
最後は、少し性質の違う話です。
AIを使うと、確かに速くなります。ただ、速くなったぶんだけ、自分で考える時間が減っているとしたら、それは長い目で見て損だと思っています。
とくに新人や若手が、最初から「まずAIに聞く」という習慣で仕事を覚えていくことには、少し慎重でありたい。自分の頭で組み立てて、うまくいかなくて、先輩に聞いて、やっと分かるという回り道が、力になる場面はやはりあります。
私自身、便利さに寄りかかりすぎていないかと、ときどき自分に問い直します。答えは出ていませんが、問い続けることは必要だと思っています。
6つを、1枚の紙にする
以上の6つを、私たちは1枚にまとめて共有しています。
- 利用者の情報は入力しない
- 学習に使われない設定にする
- 法人が認めたツールだけを使う
- 出所の分からないファイルを読ませない
- 出てきたものは必ず人が確かめる
- 頼りすぎない
分量としては、これで十分だと思っています。規程を10ページ作っても、誰も読みません。1枚で、詰所に貼れるくらいがちょうどいい。
そのうえで、「困ったら管理者に聞いてください、聞いたことで怒られることはありません」と付け加えています。これがないと、判断に迷った人が黙って自己判断してしまいます。
聞いてくれた職員に、どう答えたか
冒頭の質問に、私は最終的にこう答えました。
議事録なら使っていい。ただし、利用者の名前が出てくる部分は削ってから渡すこと。出てきた文章は、その場にいた自分の記憶と突き合わせて直すこと。そして、AIを使って作ったことを議事録の中で隠さないこと。
3つ目は、少しこだわっている点です。使ったことを言えない道具は、職場に定着しません。堂々と使えて、堂々と直せる。その状態にしておきたいと思っています。
9月17日のCareTEX札幌のセミナーでも、このあたりは時間を取って話すつもりです。便利になった話だけでは、たぶん役に立たないので。
明日から9月です。夏の疲れが出やすい時期でもあります。どうぞご自愛ください。
木下浩志（NPO法人ちとせの介護医療連携の会 理事長／株式会社MCL 取締役／北海道介護福祉学校 非常勤講師／キャリアコンサルタント）
コメントを残す