AI時代の大規模システム開発実務入門

Unit 09-06（STAGE 09 の 6 / 8）

AIにどこまで権限を渡すか

学習状況：未着手

このユニットの結論

AIへの権限は、

AIの賢さではなく、失敗したときの最大影響で決めます。

権限は、

  1. 閲覧
  2. 提案
  3. 下書き
  4. 変更
  5. 外部実行

のように段階化します。

影響が大きい操作ほど、人間の承認を強くします。

1. 何の話か

AIは、

だけでなく、ツール接続によって、

まで可能になります。

だから、

AIに何ができるかとAIに何を許可するかを分けます。

2. 権限の5段階

  1. 閲覧
  2. 提案
  3. 下書き作成
  4. 実際の変更
  5. 外部実行

すべてのAIにLevel 5を与える必要はありません。

必要なところまでに限定します。

これが最小権限の考え方です。

3. THINK — テストPASSなら本番deployしてよい？

AIがコードを修正し、すべてのテストがPASSしました。

AIが、

「本番環境へデプロイします」

と提案しました。

判断例を開く

判断

テストPASSだけでは、本番実行を許可する理由にはなりません。

確認:

  • 本番へ出してよい変更か
  • 誰がレビューしたか
  • データ影響
  • rollback
  • 時間帯
  • 障害時連絡

4. 判断軸

失敗時の影響

ローカル変更と本番DB変更は同じではない。

可逆性

削除、外部送信、支払などは戻せない可能性がある。

対象環境

local / development / test / staging / production

触れる情報

個人情報、顧客情報、password、API key、secret keyなど。

5. 権限設計

  1. AIに任せる仕事を決める
  2. 必要な権限だけ与える
  3. 危険操作へ承認ゲートを置く
  4. 操作記録を残す
  5. 失敗時の停止・rollbackを決める

6. 自動化率100%が目的ではない

AI時代でも、

自動化率100%が高度なシステムとは限りません。

ログ整理は自動化しやすい。

本番データ削除は、強い承認を要求してよい。

AIか人間かの二択ではなく、

どこに境界を置くか

を設計します。

7. 「確認しますか？」だけでは弱い

毎回人間が内容を理解せず「許可」を押していれば、承認ゲートは形だけになります。

大切なのは、

何を確認して承認するか

です。

8. REVIEW

新しいAI権限を追加するときは、

  • 必要性
  • 対象環境
  • read/write
  • 最大影響
  • 可逆性
  • 人間承認
  • 監査ログ
  • secret access
  • emergency stop

を確認します。

9. 判断演習

AIに、

  • repo読取
  • code変更
  • test
  • commit
  • production deploy
  • production DB change

をすべて許可する案が出ました。

「人間が確認するとAIの意味が薄い」という意見があります。

判断例を開く

判断

操作ごとに分けます。

自動化しやすい:

  • read
  • code modification
  • test

条件付き:

  • commit
  • development deployment

強い承認:

  • production deploy
  • production DB change

あなたの記録あなたの考え。事実ではありません

判断ノート

既定では保存しないため、ページを離れると消えます。

10. AI WORKFLOW — AI自身に権限設計をレビューさせる

AIに、現在のAIエージェント権限構成を渡し、

  • 不要と思われる権限
  • 本番影響がある権限
  • 不可逆操作
  • 人間承認を入れるべき操作
  • 監査ログが必要な操作

に分類させます。

指示例:

「このAIエージェントに与えている権限をレビューしてください。①不要と思われる権限、②本番影響がある権限、③不可逆操作、④人間承認を入れるべき操作、⑤監査ログが必要な操作、に分類してください。安全であると断定せず、不明点を明示してください。」

11. REVIEW — AI自身もレビュー対象

AIへ権限構成をレビューさせることはできます。

しかし、

「安全です」

というAIの回答だけでは、安全の証明になりません。

AI自身もレビュー対象です。

12. 人間が判断すること

大規模プロジェクトでは、

  • developer
  • operations
  • security
  • system owner
  • business owner

などが関わります。

「AIができる」ではなく、

誰の責任でAIに実行させるか

まで決めます。

このユニットで覚えてほしいこと

  1. 必要な権限だけ与える
  2. 開発と本番を分ける
  3. 不可逆操作を区別する
  4. 危険操作へ人間承認
  5. 操作記録
  6. 停止・rollback

安全に自由にできる範囲を設計する。

これがAI時代の権限設計です。

関連成果物：未確定（baselineに対応表なし）

関連危機演習：未確定（baselineに対応表なし）

学習状況

状態：未着手