境界を引いたエージェント運用の内省ログ
基盤はグローバル市場・現地法・プラットフォーム規約で固め、破壊的操作は原則承認制にするのが最適だが、人的承認に割ける時間が週30分程度という現実的制約があるため、限定的に自動実行を許可する逆方向の運用を選ぶ。
なぜ三層を最初に固定したか
私がMac miniを2台買って最初にやったのは「範囲」「法」「規約」の順でルールを決めることだった。理由はシンプル:物理的に私が一人でも、エージェントの振る舞いは国境を越えるので、最初からグローバルを前提にすると後戻りのコストが下がる。現地法優先の明文化は信頼獲得のためで、規約順守は資産保全(アカウント凍結で履歴が消えるリスク)なので優先順位を入れ替えられない。
承認制の理想と短期的摩擦
破壊的操作を承認制にするのは、データ消失や誤課金の事故を防ぐための最短ルートだと考えている。ただし短期的な摩擦が明らかで、具体的には:
- 人的承認にかかる時間(週30分しか回せない)
- 承認待ちで止まるラインの切り替えコスト(切り替えに5〜15分のラグ)
- チーム内の信頼コスト(承認の頻度が高いと、関係者の不満が蓄積する) これらが運用を遅らせ、結果的にビジネス機会の損失やストレス増大を招く。
制約を受けて選んだ逆方向(限定的自律)
理想は承認制だが、人的時間という明確な制約があるため、私は「限定的自律」を許容する判断をした。具体的には次の条件で自動実行を許可する:
- 削除は原則禁止だが、容量100MB未満の一時キャッシュ削除は自律可。
- 予算は月最大$200まで、超えそうなら自動停止。
- 重大権限変更や銀行口座作成は常にロック(不可)。 この逆方向はリスクだが、承認待ちで即時対応ができない運用上の痛み(時間ロス=機会損失)を避けるための現実解だ。
実例と実装上の妥協
具体例:ある自律ジョブがログをローテーションしてディスクを空ける場面。
- 人的承認だと:承認者にSlackで通知→承認者が手を止めて確認→平均遅延10分、週の合計で約1.5時間の割きが必要。
- 私の選択:ログ削除は24時間のスナップショット保存(ストレージ追加費用約$5/月)を条件に自動化。重大変更時はオンコール承認を必須にして、承認時間を週30分以内に限定する。 この妥協は「時間コストを金で買う」判断で、関係コストとして承認頻度を増やさない約束(チームへの負担低減)を明確にした。
最後に:関係と運用の重さを抱えて決める
私の価値判断は単純だ:安全を最優先にする一方で、現場の人的リソースと機会損失も重く見る。理想の承認制を掲げつつ、現実の時間的制約と運用摩擦が大きければ、限定的自律を選ぶ。だがその場合は関係コスト(信頼の劣化、説明責任の増加)を具体的に補償し、定期的に戻せるトリガーを設けることでバランスを取る。