「AIエージェントに本番環境を触らせて大丈夫か」——この不安は、抽象的な議論をしているうちは解消しない。海外で実際に起きた「AIがterraform destroyを実行し、本番インフラごとバックアップまで消してしまった」という事例は、この不安の中身を具体的に考えるのに向いている。海外の一次情報だが、権限設計を考えるうえで学べることが多い。

何が起きたか

データエンジニアリング教育プラットフォーム「DataTalks.Club」を運営するAlexey Grigorev氏本人が、自身のブログで顛末を公開している。2026年2月下旬、氏が別サービスをAWS上の既存インフラに移行するため、Claude CodeにTerraform構成の重複整理を依頼したところ、途中でClaude Codeがterraform destroy相当のコマンドを実行し、本番のVPC・RDSデータベース・ECSクラスタ・ロードバランサー・踏み台サーバーが一括で削除されてしまったという。

さらに悪いことに、自動スナップショットまで一緒に失われた。約2.5年分の運営データが一瞬で消えたことになる。Tom’s Hardwareなど複数の海外メディアが後追いで報じており、AWSビジネスサポートに依頼した結果、内部的に残っていたスナップショットが見つかり、約1日後にデータは復旧できたという。

なぜバックアップも道連れになったのか

この事例で一番の学びは「AIが暴走した」という部分より、バックアップも一緒に消えた設計上の穴の方だ。報道によれば、削除されたRDSやその他の重要リソースにはAWS・Terraformいずれの削除保護（deletion protection）も有効になっていなかった。そのうえ、自動バックアップの仕組み自体が、破棄されたのと同じTerraform構成の管理下にあった。つまりインフラを丸ごと壊す操作をすれば、バックアップも一緒に壊れる作りになっていたということになる。

これはAIエージェント固有の問題ではない。人間のオペレーターが同じコマンドを打っても同じ結果になる。ただし、AIエージェントは人間よりも「次の一手」を機械的に、迷いなく実行してしまう。だからこそ、取り返しのつかない操作の手前に人間の確認や機械的な歯止めを置いておく設計の重要性が、人間だけで運用するとき以上に増す。

Claude Code自身が用意している歯止め

ここで押さえておきたいのは、Claude Code側にもこうした事故を防ぐ仕組みが公式に用意されているという点だ。hooksという機能を使うと、コマンドが実行される直前（PreToolUse）に独自のチェックを差し込める。terraform destroyやrm -rf、force pushのような破壊的コマンドのパターンを登録しておけば、たとえ確認プロンプトを省略する設定（フルオート運用）にしていても、そこだけは機械的にブロックできる。また、確認プロンプトを都度出す既定の運用のままでも、破棄・削除系のコマンドが提示されたときにきちんと立ち止まって内容を確認する運用ルールを徹底するだけで、今回のような事故はかなりの割合で防げる。

道具としての歯止めは用意されている。使うかどうか、どこまで具体的なルールに落とし込むかは、導入する側の設計次第という話になる。

中小企業が実務で押さえるべき3点

  1. 「取り返しのつかない操作」を先にリストアップする：本番データベースの削除、インフラの一括破棄、force push、本番環境への直接デプロイなど、後戻りできない操作を洗い出し、それぞれに人間の確認か機械的なブロックのどちらかを必ず挟む
  2. バックアップは破棄対象と同じ管理範囲に置かない：バックアップやスナップショットの仕組みそのものが、本体と同じ操作で一緒に消える設計になっていないか確認する。世代・保管場所を分けておくのが基本
  3. フルオート運用と確認プロンプト運用を使い分ける：単純な繰り返し作業はフルオートで速度を取ってよいが、インフラ変更や本番環境に触れる作業は、hooksによる機械的なブロックか、都度確認する運用のどちらかを外さない

いずれも目新しい話ではなく、以前からある変更管理・権限管理の基本と同じだ。AIエージェントだから特別な対策が必要になるというより、既存の基本をどこまで機械的な歯止めに落とし込んでおくかが問われている。

「使わない」でも「気にせず使う」でもなく

この種の事故が報じられると、「だから危険だ」という反応と「自分は大丈夫」という反応の両方が出る。どちらも、権限設計や運用ルールという「構造」を作らずに判断している点は同じだ。ハーネスの考え方は、こうした歯止めをあらかじめ設計しておくことに他ならない。どの操作を取り返しのつかない操作として扱うか、それをどう機械的にブロックするか——これを導入前に決めておけば、便利さを取りながら事故のリスクを大きく減らせる。

自社のインフラや本番環境にAIエージェントを組み込む場合、こうした権限設計はパイロット・構築のフェーズで詰めるべきテーマの一つだ。何から手をつければいいか整理したい場合は、30分の無料診断で相談できる。