医療・ヘルスケア領域でのAI・LLM実装と、社内システムの内製。実際に手を動かして分かったことを、2週間おきに公開しています。守秘義務のため、企業名・案件名は出していません。
生成AIを仕事に組み込むとき、試すところから先に何が必要になるか。判断と言葉の分け方、根拠の持たせ方、安全の作り方、測り方、効果の見方。全10回。
判断と言葉を分ける
生成AIを仕事に組み込むとき、最初に決めるのは「どこまでをAIにやらせるか」です。ここを曖昧にしたまま進めた仕組みは、あとで正しさを確かめられなくなります。
調べてから答えるもの、答えないもの
一つの案件の中に、生成AIを使う画面が三つありました。並んで見えるので同じ仕組みに見えますが、中身はまったく別です。どこで分かれるのかという話です。
資料を渡してから答えさせる
生成AIは、知らないことも堂々と書きます。防ぐ方法は「知らないことは書くな」と指示することではなく、答えの材料を外から渡し、どれを使ったか報告させることです。
一冊では揺らぐ
調べてから答えさせる仕組みは、調べる先の資料が整っていなければ空回りします。何を入れ、どう切り分けるか。地味ですが、精度をいちばん左右する工程です。
文章を数値に変える部分は、間違えても止まらない
検索が外れても、エラーは出ません。動きはするが精度が落ちる、という形でしか表面化しない。だからこそ、最初に確かめて固定します。
AIに渡す手前に、一枚はさむ
どれだけ指示を練っても、生成AIの応答には揺れが残ります。いちばん避けたい失敗だけは、AIに渡す前にルールで止める。それが結果的にいちばん効きました。
意地悪な質問を並べて、初めて分かること
うまくいく質問で試しているうちは、仕組みの弱いところは出てきません。崩しにかかる質問をまとめて浴びせて、ようやく危ない箇所が見えました。
測ってから決める
自社データでAIを鍛える。よく出てくる相談ですが、効く場所は限られています。しかも、やるとかえって困る場所がある。順番の話です。
AIの性格を、どこに持たせるか
同じ内容を、地域の言葉づかいと相手に合わせた語り口で返す。やってみると、AIの性格をどこに書くかという設計の問題でした。
経営と現場は、違う尺度で見ている
現場からは「楽になった」と言われている。それなのに経営会議では「効果が出ていない」と言われる。どちらも嘘ではありません。同じ仕組みに、別々の採点表が当てられているだけです。
チャットのコマンドだけで日報と作業時間を揃える社内の仕組みを、常駐サーバーなしで作った記録。外部サービスと連携する仕組みなら必ず出てくる問題を扱います。全6回。
サーバーを持たずに社内の手間をなくす
日報の転記と月末の報告書づくりを、誰の手も動かさずに終わらせたい。そのために組んだ社内の仕組みと、何を作らないと決めたかの話です。
「実装済み」という言葉が意味しないこと
「実装は済んでいます」と渡されました。読むかぎり、機能は揃っている。ところが動かしてみると、外部サービスとのやり取りが片っ端から失敗しました。
先に返して、後から差し替える
外部サービスには応答時間の制限があります。超えると、利用者からは「押しても何も起きない」という形で見えます。作り方を一段変える必要がありました。
一段では必ず漏れる
作業時間が二重に登録される。よくある事故ですが、一段の対策では防げませんでした。どこで漏れるかを分解した話です。
表示名で記録すると、ある日から別人になる
名前の持ち方は、地味ですが後戻りの効かない設計です。動作としては正しく動いてしまうぶん、気づいたときには手遅れになります。
いつ走らせるか、何を対象にするか
月次の締めを自動化すると、二つのことを決める必要が出ます。どちらも、素直な答えでは取りこぼしました。連載Bの最終回です。