AIの承認ポイントの設計──どこで人が確認し、誰が決めるか

AIに何を任せるかを決めたら、次に決めるべきは「どこで人が確認し、誰が決めるか」です。AI経営とはで紹介した手順3を掘り下げ、承認ポイントをどう設計するかを解説します。

AIができるかどうかと、任せてよいかどうかは別

AIの技術的な精度が高くても、任せてよいかどうかは別の問題です。承認ポイントの設計とは、「AIが何をできるか」ではなく「間違えたときに何が起きるか」を基準に、実行前の確認を残す場所を決める作業です。

承認が必要かを判断する3つの基準

ある行為に承認を残すべきかは、次の3点で判断します。

1. 間違えた場合の影響は大きいか
2. 実行後に元へ戻せるか
3. 顧客、従業員、取引先などの権利に影響するか

影響が大きく、元に戻しにくい行為ほど、実行前に人が確認します。逆に、社内データの集計や下書きなど、失敗を検知しやすく修正可能な業務は、AIへ任せる範囲を広げやすい領域です。

少なくとも承認を残すべき行為

業種を問わず、次のような行為には人の判断を残すことを推奨します。

• 金銭の支払い、送金
• 契約の締結や重要条件の変更
• 顧客への重要な連絡
• 公開後の影響が大きい投稿や発表
• 採用、評価、解雇に関する判断
• 顧客情報や機密情報の外部送信
• 元に戻せないデータの変更や削除

基本原則

AIに任せるのは、重要な実行の直前まで。実行するかを決めるスイッチは、人が持つ。

運用が安定し、誤りを検知する仕組み・停止条件・実行記録が整った業務は、段階的に自動化の範囲を広げられます。ただし、承認を外す理由を「これまで問題がなかったから」だけにしないことが重要です。問題が起きた場合に、検知・停止・復旧ができることを確認したうえで判断します。

承認ポイントは一人に集中させない

高額な支払いや取引先の振込先変更など、特にリスクの大きい行為は、作成する人・承認する人・実行する人の役割を分けることをおすすめします。人員が限られる場合でも、金額の上限設定や、変更時の別経路での再確認といった補完策を検討してください。

まとめ

承認ポイントの設計は、AIの性能ではなく「間違えたときの影響」を基準に考えます。3つの判断基準に沿って、任せる範囲と人が確認する範囲の境界をあらかじめ決めておくことが、AI経営における具体的なガバナンスの実践です。AI経営とはで紹介している他の手順とあわせて、自社の運用に落とし込んでみてください。