AIエージェント導入前に整理すべきこと｜業務・データ・運用のチェックリスト

AIエージェントは、質問への回答だけでなく、目標に応じて手順を選び、外部のデータやツールを使って業務を進める仕組みです。

メール送信、データ更新、予約、発注まで任せる場合、誤りの影響は文章の修正だけでは済みません。導入前に「何を任せるか」「どのデータを使うか」「どこで人が確認するか」を決める必要があります。ここでは、PoC（概念実証）前の確認項目を整理します。

問い合わせ1件で考える処理の流れ

以下は導入を検討するための架空の設計例です。実際の顧客情報を使う前に、参照権限と利用する環境を確認します。

例えば、資料に返品期限がない場合、AIに期限を補わせず確認事項へ回します。資料の参照から回答案の作成までは試行しても、外部送信の権限を最初から与える必要はありません。

1. 対象業務を「一連の流れ」で書き出す

最初に、導入したい業務を「問い合わせ対応」のような大きな言葉だけで捉えず、開始から完了まで分解します。

• 何をきっかけに処理が始まるか
• どの情報を読み、何を判断するか
• どのシステムを参照・操作するか
• 最終成果物は何か
• 例外時に誰へ引き継ぐか
• 結果に責任を持つ担当者は誰か

判断ルールが明確で、結果を検証できる業務は候補にしやすくなります。例外が多い業務や、誤りが契約・安全・金銭に直結する業務には、人の判断を残します。

操作をリスク別に分ける

「閲覧」「下書き」「社外送信」「更新・削除」「決済」では影響が異なります。取り消せるか、顧客や金銭に影響するかで分類し、初期段階は閲覧や下書きから始めます。

2. 利用するデータと扱い方を決める

社内文書、顧客情報、メール、Webページなど、データごとに管理者、更新頻度、機密区分、個人情報の有無、利用目的、保存期間、AIへの入力可否を一覧化します。サービス提供者の契約条件とデータ保持条件も確認します。

外部のWebページやメール、添付ファイルには、信頼できない指示が含まれる可能性があります。それがツール操作へ伝わると、意図しない処理につながります。必要な項目だけを固定形式で次の処理へ渡し、入力チェックと出力検証を組み合わせます。単一の対策でリスクがなくなるわけではありません。

3. 接続先と権限を必要な範囲に絞る

CRM、ストレージ、メール、会計など、接続先と操作内容を一覧にします。参照できるデータ、呼び出せるツール、実行できる操作を必要な範囲へ限定し、閲覧だけで足りる業務には送信や削除の権限を与えません。

認証情報、接続先、利用量の上限、操作ログも設計します。高リスクの処理には承認画面を設け、人が内容を確認してから進めます。

4. 人が確認する場面と停止条件を決める

人の確認は、影響が大きい箇所に置き、通常処理と例外処理を分けます。

社外送信、契約・金銭、個人情報、削除や上書きは承認対象として検討します。判断材料が足りない、同じ処理を繰り返す、許可外の操作を求められた場合の停止条件も必要です。停止後の連絡先、手動で業務を続ける方法、記録担当者まで決めます。

5. 本番前の評価基準を作る

「動いた」「便利そう」という印象だけでは不十分です。成功条件と許容できない失敗を定義し、次の項目を評価します。

• 正しい情報を参照し、必要な根拠を示せるか
• 適切なツールと引数を選べるか
• 禁止された操作を実行しないか
• 判断できない場合に人へ引き継げるか
• 処理時間と利用コストが想定内か

評価データには、通常ケースに加え、情報不足、曖昧な依頼、表記ゆれ、長文、攻撃的な入力も含めます。自動評価だけに頼らず、業務担当者が結果を確認します。モデル、プロンプト、データ、接続先の変更時も再評価します。

6. 小さなPoCで運用まで確認する

PoCでは、対象部署、利用者、データ、権限、期間を限定します。精度だけでなく、承認の手間、例外件数、ログで原因を追えるか、停止後に業務を戻せるかも確認します。

NISTのAIリスクマネジメントフレームワークは、リスク管理を「Govern（統治）」「Map（状況把握）」「Measure（測定）」「Manage（管理）」で捉えます。AIエージェントも一度設定して終わりではなく、利用状況とエラーを記録し、権限・評価データ・運用ルールを更新します。

RAGかAIエージェントかを先に切り分ける

根拠付き回答で業務が進むならRAG、検索後の作成・更新・通知まで必要ならAIエージェントが候補です。 方式選定は「RAGとAIエージェントの違い」5つの判断基準で確認できます。

導入前チェックリスト

• 対象業務の開始条件と完了条件が明確か
• AIに任せる判断と、人が行う判断を分けたか
• 利用データの管理者・機密区分・入力可否を確認したか
• 信頼できない外部データを分離・検証できるか
• 接続先と操作権限を必要な範囲に限定したか
• 承認、停止、引き継ぎの条件を決めたか
• 通常・例外・攻撃的入力を含む評価データを用意したか
• ログ、変更管理、障害対応の担当者を決めたか

すべてを一度に自動化する必要はありません。まず一つの業務を選び、閲覧・整理・下書きなど影響を限定できる範囲で試し、評価と人の確認を通じて実行範囲を判断します。

よくある質問

Q1. AIエージェントと通常の生成AIは何が違いますか？

通常の生成AIは文章や画像などの生成が中心です。AIエージェントは、目標に応じて手順を選び、外部データやツールを使って複数の処理を進めます。実際の境界は曖昧ですが、外部システムを操作する範囲が広いほど、権限と監督の設計が重要になります。

Q2. 人の承認を外して完全自動化できますか？

技術的に可能な処理でも、影響の大きさを基準に判断します。送信、削除、決済など、取り消しにくい処理は人の承認を残す設計が安全です。十分な評価と運用実績が得られた後も、停止条件と監査ログは維持します。

Q3. PoCでは何を成果として見ればよいですか？

正答率だけでなく、業務完了率、誤操作、エスカレーション、処理時間、利用コスト、担当者の確認負荷を見ます。実際の業務データに近い条件で評価し、本番移行の可否と残るリスクを記録します。

AIエージェントの設計・運用を学びたい方へ

GenUpの「業務AI実装研修」では、全10回・各60分のライブ講義で、自分の業務で使うAIエージェントの設計・実装・検証に取り組みます。講座内容は業務AI実装研修をご確認ください。自社業務に合わせたPoCやシステム設計は、AI開発・導入相談からご相談いただけます。

参考にした公式情報

1. OpenAI, A practical guide to building agents
2. OpenAI Developers, Evaluation best practices
3. NIST, AI Risk Management Framework Core
4. IPA掲載, 生成AIおよびAIエージェントを安全に活用するための手引書（受講者作成資料。内容は著者の見解で、IPA・ICSCoEの公式見解を代表しません）
5. 経済産業省, AI事業者ガイドライン（第1.2版）