AI リスクコラム2026年11月18日(水)

⑥ LLMJacking:盗まれたクラウド認証情報から AI 利用枠と請求を守る

Google と Mandiant が企業のモデル利用枠の不正利用を調査。人の認証、サービス ID、モデルゲートウェイ、利用量と請求を一体で守ります。

01

本文

攻撃者は AI チャット画面を操作しなくても、盗んだクラウドアカウント、サービス ID、モデル API キーで企業のモデル利用枠や計算資源を消費できます。Google Threat Intelligence Group(GTIG)と Mandiant が2026年11月16日に公表した事例では、未承認の請求が1日10万米ドルを超えたケースがあり、最も深刻なケースは対応前に累計100万米ドルに達しました。これは調査事例であり、すべての被害額を示すものではありません。

調査では公開リポジトリやフィッシングから認証情報やセッションを取得し、無許可のサービスアカウントや権限を追加したうえで、モデルサービスを有効化し、利用枠を拡大したりプロキシ経由で転売したりする行動が確認されました。別のケースでは LiteLLM ゲートウェイの欠陥により、制限付き Virtual Key が管理権限へ昇格されました。これは特定の経路であり、すべてのモデルサービスに同じ欠陥があるという意味ではありません。

GTIG は盗んだ資源を LLM ツールや Agent フレームワークに使う攻撃者も観察しています。利用枠の盗用、攻撃者による Agent の使用、モデル自身の権限逸脱は別の事象です。報告書に型番の記載がないケースでは、ツール名からモデルを推定しません。

攻撃の流れ認証情報・セッションの窃取 → 請求と業務への影響
  1. 01

    認証情報・セッションの窃取

    リポジトリ、端末、フィッシングから取得

  2. 02

    クラウドとゲートウェイの権限拡大

    サービス ID や権限を追加、特定事例ではゲートウェイ欠陥を悪用

  3. 03

    モデル・計算資源の不正利用

    モデル呼び出し、GPU 調達、プロキシでの転売

  4. 04

    請求と業務への影響

    請求急増、利用枠の枯渇、持続的な不正アクセス

対応:外部の境界から内部の中核まで

対応の流れ対応:外部の境界から内部の中核まで
  1. 01

    入口と ID を棚卸し

    クラウド管理者、サービス ID、モデル API キー、委託先と CI の認証情報を棚卸しし、人のログインと機械用キーを区別します。

    対応策を見る関連情報 3件

    TWISA会員企業の対策

    入口と ID を棚卸し

    クラウド管理者、サービス ID、モデル API キー、委託先と CI の認証情報を棚卸しし、人のログインと機械用キーを区別します。 Keyper は連携済み管理画面における人の認証・ID 管理を支援します。モデル API キーの管理機能を意味するものではありません。TWISA 優待は2026年12月31日まで。構築、教育、10システム連携を含む Keyper 購入時、IAM 版には IAM 20ユーザー、IGA 版には IGA 10ユーザーを追加します。追加ライセンスは購入版と同一です。

  2. 02

    ゲートウェイ更新と認証情報の失効

    LiteLLM の対象版は公式ガイダンスに従い更新。異常なキーとセッションを失効し、無許可の ID・権限を除去して露出した秘密情報を更新します。

  3. 03

    利用量と請求を監視

    アカウント、モデル、プロジェクト、時刻ごとの利用・請求基準を作り、新規サービス、異常な送信元と急増を検知します。

    対応策を見る関連情報 1件

    TWISA会員企業の対策

    利用量と請求を監視

    アカウント、モデル、プロジェクト、時刻ごとの利用・請求基準を作り、新規サービス、異常な送信元と急増を検知します。

  4. 04

    調査、復旧、再テスト

    ID、ゲートウェイ、クラウド監査、請求ログを保全して影響範囲を確認し、復旧後に再テストと監視を続けます。

    対応策を見る関連情報 1件

    TWISA会員企業の対策

    調査、復旧、再テスト

    ID、ゲートウェイ、クラウド監査、請求ログを保全して影響範囲を確認し、復旧後に再テストと監視を続けます。

許可された範囲で資産探索、脆弱性スキャン、ペネトレーション・API テスト、攻撃シミュレーション及び再テストを実施し、Virtual Key とテナント間の認可境界を確認します。Web の WAF は要求、警告、実際の遮断とバックエンド結果を照合し、クラウド ID と内部経路は別に検証します。WAF はキー管理や提供元の修正を代替しません。

防御の構成入口からモデルと中核データを守る多層防御

クラウド管理者、サービス ID、モデル API キー、委託先と CI の認証情報を棚卸しし、人のログインと機械用キーを区別します。

許可された業務通信のみを通し、各層で防御を行います。

  1. 01

    入口と人の ID

    管理画面の認証と操作を保護

    ログイン保護管理画面の認証と操作を保護

  2. 02

    モデルゲートウェイとサービス ID

    キー権限の制限、更新とローテーション

    API を管理キー権限の制限、更新とローテーション

  3. 03

    クラウド資源とデータ

    権限、利用枠、データアクセスを分離

    権限を制限権限、利用枠、データアクセスを分離

各層のログと通信データを集約し、監視と対応に活用します。

  1. 利用量と請求を監視クラウド監査、モデル API、請求アラートを関連付け、記録保全と復旧を行います。

  • 入口と ID を棚卸し

    クラウド管理者、サービス ID、モデル API キー、委託先と CI の認証情報を棚卸しし、人のログインと機械用キーを区別します。

    Keyper は連携済み管理画面における人の認証・ID 管理を支援します。モデル API キーの管理機能を意味するものではありません。TWISA 優待は2026年12月31日まで。構築、教育、10システム連携を含む Keyper 購入時、IAM 版には IAM 20ユーザー、IGA 版には IGA 10ユーザーを追加します。追加ライセンスは購入版と同一です。

  • 利用量と請求を監視

    アカウント、モデル、プロジェクト、時刻ごとの利用・請求基準を作り、新規サービス、異常な送信元と急増を検知します。

  • 調査、復旧、再テスト

    ID、ゲートウェイ、クラウド監査、請求ログを保全して影響範囲を確認し、復旧後に再テストと監視を続けます。

インシデント対応:技術と財務の連携

初動では記録を保全し、異常の開始時刻、送信元、モデル、アカウント、資源を記録します。権限を持つ担当者が不正利用を止め、クラウド提供元へ連絡します。

認証情報の失効・更新前にアプリの依存関係と継続方法を確認します。対応後は有効なセッション、サービスアカウントと権限を再確認します。

財務とクラウドの担当者は請求、利用量、予算通知を照合し、未承認請求の証拠を保全して、提供元と請求への対応及び監視を確認します。

モデル利用量の異常には ID、API、クラウド運用が同時に関わります。クラウド・セキュリティ・財務の各担当は、IAM 変更と利用量をどう関連付けるか、不正利用を誰が停止できるかを持ち寄り、今後の CIX 交流会で議論できます。CIX 第2回の多層防御も関連する参考情報です。次回の開催・申込は告知をご確認ください。

製品・サービスの詳細については、TWISA 会員にお問い合わせください。

專欄更新日:2026/11/18。