事務仕事に生成AIを使う話を、この場でも繰り返し書いてきました。下書きや要約は本当に速くなります。ただ、ひとつだけ、私が最初から強く注意していることがあります。介護保険や障害福祉の制度そのものを、AIにそのまま尋ねて鵜呑みにしないということです。
もっともらしい嘘に、何度もひやりとした
生成AIには、事実でないことを、いかにも本当らしく答えてしまう癖があります。いわゆるハルシネーションです。
正直に書くと、私も最初のころ何度かひやりとしました。加算の要件や算定の可否を軽い気持ちで聞いてみると、実にすらすらと、条文の番号まで添えて答えが返ってくる。ところが元の通知を当たってみると、要件が一つ足りていなかったり、そもそも古い基準の話だったりする。文章が整っているぶん、うっかりすると信じてしまいそうになるのです。
制度の世界では、この「なんとなく合っていそう」がいちばん危ない。加算の解釈を一つ間違えれば、返還の話にもなりかねません。運営指導で「AIがそう言ったので」は、当然ながら通用しません。
だから、知識ベースを自分で作った
こうした経験があったので、法人では介護制度を答えるチャットボットを作るときに、少し回り道をしました。
AIに自由に答えさせるのではなく、介護保険法や障害福祉の通知、実際の運用資料をこちらで用意して、その資料の中からしか答えさせないという仕組みにしています。手元の正しい資料を下敷きにして答えを組み立てさせる、という考え方です。手間はかかりますが、根拠のない作り話を大きく減らせます。
ここまでして、ようやく現場で安心して使える。制度に関しては、それくらい慎重でちょうどいいと思っています。
日々の実務での、私なりの線引き
とはいえ、皆が仕組みを作れるわけではありません。普段ChatGPTなどをそのまま使う場面のために、私が自分に課している線引きを書いておきます。
- 文章づくりは任せる、事実の判断は任せない。 お便りの下書きや言い回しの整えは大いに頼ります。けれど、加算の可否や期限、金額といった「間違えたら困る事実」は、必ず一次資料で裏を取る。
- 答えではなく、当たりをつける道具として使う。 「どのあたりを調べればよいか」を教えてもらう。最後に開くのは、厚労省の通知や自治体の要綱そのものです。
- 迷ったら人に確認する。 保険者や国保連、社労士の先生に一本電話を入れる。この一手間を、AIは省いてくれません。
便利さと、責任は別
AIはとても便利になりました。それでも、出てきた答えの責任まで引き受けてくれるわけではありません。最終的に判断し、間違いを背負うのは、いつも私たち人間の側です。
だからこそ、任せるところと、自分で確かめるところを、はっきり分けておく。速く答えが出る時代になったからこそ、その線引きは前より大事になったと感じています。便利さに甘えすぎず、大事なところは自分の目で確かめる。地味ですが、これが今のところの私の付き合い方です。
木下浩志（NPO法人ちとせの介護医療連携の会 理事長／株式会社MCL 取締役／北海道介護福祉学校 非常勤講師／キャリアコンサルタント）
コメントを残す