「AIにどこまで任せるか」の
線引きをどう作るか

二択で考えると行き詰まる

この話をすると、議論はたいてい2つの案に収束します。ひとつは「全部任せる」。もうひとつは「AIの出力を全部人が確認する」です。

前者は事故が怖くて踏み切れません。後者は安全に見えますが、確認の手間が元の作業と変わらず、導入する意味が薄れます。

さらに、全件確認は件数が増えるほど形骸化します。最初の1週間は丁寧に見ます。3週目には、中身を読まずに承認するようになります。これは担当者の意志の問題ではありません。全件確認を前提にした設計そのものが、続かない仕組みだということです。

判断軸は「賢さ」ではなく「取り返しがつくか」

私は人事・労務の実務を約20年、就業規則や各種規程の策定を担当してきました。人間の組織でも、まったく同じ問題を解いています。

決裁規程は、社員の能力で線を引いていません。金額と、その行為が取り返しのつくものかで線を引いています。「優秀な社員だから100万円まで決裁してよい」という規程は書きません。

AIも同じです。線を引く基準は性能ではなく、その行為が取り返しのつくものかどうかです。弊社では実際にこの基準で運用しています。

この一枚で、日々の判断の多くは片づきます。迷ったときに「AIは賢いか」を議論する必要がなくなるためです。

「取り返しがつかない」は思ったより少ない

実際に業務を書き出してみると、不可逆な行為は全体のごく一部です。

議事録を例にします。録音を文字にする、要点をまとめる、担当と期限を抽出する。ここまではすべてやり直せます。取り返しがつかないのは「参加者へ配布する」の一手だけです。

弊社では、この設計で議事録の作成時間が30分から3分になりました。人が触るのは最後の配布だけです。

この数値は議事録の作成に限った実測値です。他の業務の所要時間には当てはまりません。

確認を「人の注意力」に頼らない

不可逆な行為の手前に人を置く。それでも、人が見る量は減らしたいところです。

弊社では、作る側と通す側を別のAIに分けています。文面を作るAIと、それを基準に照らして判定するAIを分離します。判定は合格か不合格の二値で、不合格なら理由を構造化して返します。

重要なのは、判定する側に外部の正解データを持たせることです。作る側と同じ情報しか持たない判定は機能しません。同じ勘違いをそのまま通してしまいます。

人がやるのは、判定基準を最初に決めることと、落ちたものを週に一度見て基準を直すことです。一件ずつ承認することではありません。弊社ではこの構成でAIエージェント12体を稼働させています。

最初の一歩は、3つの問い

明日から始めるなら、対象の業務について3つだけ書き出してください。

3番目が最も難しく、そして最も価値があります。基準を言葉にできない業務は、人がやっていても品質が安定していません。AIを入れる前に、そこが可視化されます。

まとめ

AIにどこまで任せるかは、AIの性能では決めません。取り返しがつくかで決めます。

止める仕組みを作るのではなく、任せられる範囲を決める。これが権限委譲設計です。空いた時間の使い道は、経営者が決めることだと考えています。