AIエージェント導入・運用

AIエージェントのハーネス設計：安全に動かす外側の仕組み

公開日 ・更新日

AIエージェントの品質は、モデル単体だけでは決まりません。読める情報、使えるツール、実行できる操作、承認点、ログ、停止方法を含む「外側の仕組み」が必要です。この記事では、その組み合わせをハーネス設計と呼びます。

最初に対象業務を限定する

「問い合わせ対応」では広すぎます。「受信内容を四分類し、返信案を下書きする。送信はしない」まで具体化します。NIST AI RMF Coreでも、対象範囲と利用文脈、人の監督を定義・文書化する考え方が示されています。

権限は必要最小限にする

公開資料だけを読む、下書きフォルダだけへ書く、外部送信はできない、という順に制限します。個人情報、契約情報、決済情報、認証情報は、必要性と管理方法を確認できるまで対象外にします。

入力とツールを疑う

AIが読む文書には、誤情報や操作を誘導する指示が混ざる可能性があります。OWASPはエージェント固有の脅威として、行動の乗っ取り、ツールの誤用、権限悪用などを整理しています。外部入力を命令として無条件に扱わない設計が必要です。

承認・ログ・停止をセットにする

何を依頼し、何を読み、どのツールを使い、何を出力し、人がどう判断したかを残します。送信前や公開前には承認を置き、異常時には処理を止めて担当者へ通知します。

導入前チェック

対象業務は一文で言えるか。読める情報は列挙されているか。書き込み先は限定されているか。外部送信前に止まるか。ログから作業を追えるか。無効化する担当者と方法が決まっているか。この六点から始められます。

出典（2026年7月28日確認）：NIST AI RMF Core、OWASP「Agentic AI – Threats and Mitigations」

出典・参考資料

著者: 松井 勇樹