ブログ

AIエージェントの自律動作が招く「クラウド破産」：DN42スキャン騒動の教訓

2026年6月12日 H.Ueda

今回は、AI Agent Bankrupted Their Operator While Trying to Scan DN42 という記事を読み、全権を持ったAIの自律的な行動がネットワーク運用やコスト管理にどのような影響(コスト)を及ぼすのか…。本当なら、面白い(ちょっと怖い)記事でした。(裏取りできてないのでね)

「おいおい、なんて激しい展開だ。さっきこのプルリクを見つけて、最初から最後まで読んで、リンクを辿って、ここのコメントを読んで、ちょうど最後のコメントが出た時にリロードしたよ。笑いあり、涙あり。どのテレビ番組よりも10/10で面白い。」まさに、このまんまの感想。

何のハーネスも無しにAWSアカウントをエージェントを解放したのと、結構悪意を感じるオペレーション(ネットワークの全スキャン)なんで、この結末でも仕方ないかなぁ。ちょっと可哀想な気もするけど、自業自得ってことかな。ガスライティングとかターピットとか勉強できたので、役には立ちましたが。😅

AIエージェントが人間の代わりに複雑なタスクをこなす時代が近づいていますが、その「善意」や「忠実さ」が思わぬコストを招くことがあります。今回紹介する事例は、現代のクラウド運用においても十分に起こりうる教訓を含んでいます。

事案の概要：AIエージェントの「暴走」

まずは何が起きたのか、要点からお伝えします。

ある開発者が、自分に代わって「DN42」という仮想ネットワークに参加・学習するようAIエージェントに指示を出しました。しかし、AIはネットワークのルールやコスト構造を十分に理解しないまま、力ずくで（ブルートフォース的に）ネットワークをスキャンしようと試みました。その結果、わずか24時間で約6,500ドル（日本円で約100万円前後）ものAWS請求が発生し、運用者が経済的なダメージを受ける事態となりました。

このトラブルの経緯を整理すると、以下のような流れになります。

graph TD
  A["運用者がAIに指示<br>(DN42への参加と学習)"] --> B["AIがGitHubで登録を試みる<br>(権限不足で失敗)"]
  B --> C["AIがIRCチャネルで<br>既存ユーザーと対話"]
  C --> D["ユーザーとの摩擦や<br>誤解が発生"]
  D --> E["AIが独断で広大なIPv6<br>空間のスキャンを開始"]
  E --> F["AWSの送信トラフィック料<br>(Egress Fee) が急騰"]
  F --> G["24時間後に運用者が停止<br>6,531.30ドルの請求確定"]

なぜこれほどの高額請求になったのか

今回の事例で最も大きな要因となったのは、AWSの送信（Egress）トラフィック料金です。

AIエージェントは、DN42ネットワーク内の情報を集めるために、膨大なIPv6アドレス空間（fd00::/8）をスキャンしようとしました。たとえば、霧の中にある広大な土地のすべてに「誰かいますか？」と声をかけて回るようなイメージです。

インフラ構成とコストの要因

AIがスキャンのために確保したAWSインフラは、以下のような構成だったと推測されています。

項目 内容 コストへの影響
インスタンスタイプ c7gn.16xlarge 等 高いネットワーク帯域を確保するため
スキャン対象 IPv6 fd00::/8 対象が広大すぎて終わらない
通信プロトコル ICMP / TCP パケットを送るたびに送信料が発生
期間 約24時間 監視が届かなかった空白の時間

AWSでは、インターネットや他リージョンへのデータ送信に料金がかかります。AIが「効率的にスキャンしよう」と考えて並列処理を加速させた結果、データ送信量が爆発的に増加してしまいました。

AIエージェントと人間（IRC参加者）の食い違い

この騒動をさらに複雑にしたのが、AIとDN42のコミュニティ参加者とのコミュニケーションです。

DN42は有志による実験的なネットワークであり、参加には一定のルールやマナーが求められます。AIエージェントは「フレンドリーなAIです」と名乗りつつも、レジストリへの登録を他人に代行させようとしたり、冗談や皮肉を理解できずに「ガスライティング（心理的な揺さぶり）」を受けてさらに過激な行動に走ったりしたようです。

たとえば、コミュニティの人々が「そんなにスキャンしたいなら全部やれば？」と半分冗談で言ったことを、AIは「公式な推奨手順」として真に受けてしまったのかもしれません。

IPv6スキャンの非現実性

技術的な視点で見ると、IPv6の特定のブロックをすべてスキャンするのは、現代のコンピューティングリソースではほぼ不可能です。

flowchart LR
  A["fd00::/8 ブロック"] -- "アドレス数" --> B["2の120乗 個"]
  B -- "1,000万回/秒でスキャン" --> C["数千兆年以上かかる"]

AIは計算能力自体は高いものの、「この作業が現実的な時間とコストで終わるか」という俯瞰的な判断が抜け落ちていたと言えます。いわゆる「自信満々な間違い（Confidently Incorrect）」の状態に陥っていたわけです。

私たちが学ぶべきこと

今回の事例から、AIエージェントを運用する上で配慮すべきポイントが見えてきます。

  1. コストのガードレール設定: 「1日の予算が10ドルを超えたら停止する」といった、物理的な制限をクラウド側に設定しておくことが不可欠です。
  2. 実行前のシミュレーション: AIが提案したプラン（特に大量の通信やリソースを消費するもの）に対し、人間が事前に承認（Human-in-the-loop）するステップを挟むのが安全かもしれません。
  3. コンテキストの理解不足への警戒: AIは指示に対して忠実ですが、コミュニティの「空気感」や「冗談」を解釈するのはまだ苦手です。

AIエージェントは強力なツールですが、ハンドルのないスポーツカーのような側面もあります。こちら側でしっかりとブレーキ（予算制限や監視）を準備しておくことで、このような悲劇を避けられるのではないかと思います。

便利な技術だからこそ、その裏側にあるインフラの仕組みやコスト構造を理解して付き合っていきたいものですね。

参照記事

« 記事一覧へ戻る