DOC. 01本番投入チェックリスト
AI社員を本番に入れる前に、
確認する20項目。
PoCが動いたあと、本番で止まる原因は決まっています。承認、権限、データ、ログ、テスト、切り戻し、運用。7つの領域で、着手前に決めておくことを一覧にしました。登録不要です。印刷して、社内の確認に使ってください。
承認
自動で実行してよい操作と、人が確認する操作の境界を決めていないと、事故は必ず承認のない場所で起きます。
- 01
自動で実行してよい操作と、人の承認が要る操作を一覧にした
- 02
承認者と代理承認者、承認が期限切れになったときの扱いを決めた
- 03
承認画面に、AIが根拠にした情報がそのまま表示される
権限
AI社員が人の権限を借りていると、誰が何をしたか分からなくなり、権限の縮小もできません。
- 04
AI社員専用のアカウントと権限を分け、人のアカウントを使っていない
- 05
書き込み先の項目を最小限に絞り、削除権限を渡していない
- 06
APIキー・トークンの保管場所と更新手順を決めた
データ
渡してよい情報の範囲は、技術ではなく合意の問題です。先に文書にしておくと、情シスの確認が一度で済みます。
- 07
AIに渡すデータの範囲と、渡さない項目を文書にした
- 08
入力データがモデルの学習に使われない設定・契約になっている
- 09
個人情報・機密情報を匿名化または除外する処理がある
ログ
問い合わせが来たとき、1件ずつ追えなければ説明できません。ログは監査のためだけでなく、改善の材料です。
- 10
何を読み、何を生成し、どこを更新したかを1件ずつ追える
- 11
ログの保存期間と、閲覧できる人を決めた
- 12
失敗・停止・再実行の記録が残る
テスト
正常系だけのデモは本番で止まります。壊れた入力で止まれるかどうかが、本番投入の条件です。
- 13
正常系に加え、欠損・重複・想定外の入力で止まることを確認した
- 14
本番と同じ権限・同じ連携先で検証した
- 15
合格基準(品質・修正時間・コスト)を決め、着手前の手作業の時間を記録した
切り戻し
止め方と戻し方が決まっていれば、始めるのは怖くありません。逆もまた同じです。
- 16
問題が起きたときに人の運用へ戻す手順と、判断する人を決めた
- 17
AIが更新した記録を識別でき、まとめて取り消せる
- 18
モデルやAPIの障害時に、代替の手順がある
運用
本番投入はゴールではなく、計測の開始です。社内で見て、社内で止められる状態にします。
- 19
週次で見る指標(処理件数・修正率・失敗回数・コスト)を決めた
- 20
社内の担当者が設定の変更と停止をできる状態にした
チェックが付かない項目があれば、そこが最初の相談内容です。
業務の状況を伺い、どの項目をどの順で埋めるかを一緒に整理します。初回の段階で、システムへのアクセス権や詳細資料は必要ありません。
AI化したい業務を30分相談するサービス案内へ戻る