同じ生成AIでも、三つの作り分けがある

一つの案件の中に、生成AIを使う画面が三つありました。並んで見えるので同じ仕組みに見えますが、中身はまったく別です。どこで分かれるのかという話です。

前回、判断と言葉を分ける話を書きました。今回はその続きで、一つの案件の中に生成AIの使いどころが複数あるとき、どう作り分けるかという話です。

実際に担当した案件では、利用者から見える窓口が三つありました。画面上は並んでいるので、同じ仕組みに見えます。ところが中身は、共通点のほうが少ないくらい違いました。

三つの窓口

一つめ。記録した数値をもとに、声をかける。

利用者が日々の測定値や体調を記録します。それを見て、様子を見てよいのか、相談したほうがよいのか、すぐ受診してほしいのかを伝える。利用者は何も質問しません。こちらから自発的に出すタイプです。

二つめ。自由に書かれた質問に答える。

「最近むくみが気になります」のような、決まった形のない文章が来ます。それに対して、根拠のある範囲で答える。利用者が問い、こちらが答える対話型です。

三つめ。アプリの使い方に答える。

「画面が開かない」「登録のやり方が分からない」といった、製品の使い方の質問です。想定される質問と答えが、あらかじめ用意されています。そして、この窓口だけ答えを方言で返します。

分かれ目は「調べるかどうか」

三つを並べると、いちばん大きな違いは答える前に調べるかどうかでした。

①は、生成AIを使っていません。 前回書いたとおり、判断はルールで決まります。そして、どの判断のときにどう伝えるかは、あらかじめ用意して承認を得た文があります。つまり、条件を判定して、対応する文を選んで出すだけ。調べる必要も、文章を作る必要もありません。だから一瞬で返るし、同じ入力なら必ず同じ結果になります。

②だけが、調べてから答えます。 質問の形が決まっていないので、あらかじめ答えを用意しておけません。そのつど、拠りどころになる文書から関係のありそうな箇所を引き、それを材料に答えを組み立てる。時間がかかるのはこのためです。

③は、調べません。 想定問答の全件を、そのままAIへの指示に詰め込んでいます。数十件なら入りきるからです。探す仕組みを作らずに済むぶん、実装は軽い。

③のやり方が成立する条件

「全部まとめて渡す」は、一見すると手抜きに見えます。ただ、条件が揃えば合理的です。

成立するのは、答えの候補が有限で、全部渡しても収まる量のときです。想定問答が数十件なら問題になりません。

崩れるのは、件数が増えたときです。渡す文章が件数に比例して長くなり、そのぶん応答が遅くなる。とくに手元の機械で動かしている場合、長さは速度に直結します。

もう一つ、③には出典の裏取りがありません。②では「どの箇所を使ったか」を出させて照合しますが、③は全件を渡しているので、その仕組みが働きません。使い方の質問なら誤りの影響が小さいので許容していますが、扱う内容によっては同じ形にはできません。

どちらが正しいという話ではなく、件数と重さで選ぶということです。

「同じものに見える」ことの怖さ

この案件でいちばん神経を使ったのは、技術ではなく呼び方でした。

三つは画面上で並んでいるので、打ち合わせでは「あのAIの画面」と一括りに呼ばれます。すると、①の話をしているつもりの人と、②の話をしているつもりの人が、同じ言葉で別のことを議論する。

途中から、資料の中で三つに番号を振り、必ず番号で呼ぶようにしました。「①は生成AIを使っていません」と一度共有してからは、議論が噛み合うようになりました。

中身が違うものには、違う名前を付ける。 設計書の話に聞こえますが、実際には打ち合わせの効率の話でした。