AI 風險專欄2026 年 11 月 18 日(三)

【AI 風險專欄⑥】LLMJacking:模型額度被盜用,從雲端身分到帳單一起防守

Google 與 Mandiant 調查企業雲端模型資源遭盜用,攻擊者利用憑證、權限與閘道缺口取得推論額度。企業應從身分、API、費用監控到事件應變共同防守。

01

內文

攻擊者不必操縱聊天介面,也可能盜用雲端帳號、服務身分或模型 API 金鑰,直接消耗企業的 AI 額度。Google GTIG 與 Mandiant 於 2026 年 11 月 16 日彙整實際事件:部分案例單日未授權費用超過 10 萬美元,最嚴重案例在修復前累計達 100 萬美元;這些不是每個事件的損失。

Mandiant 觀察到攻擊者從公開程式碼或釣魚取得憑證與工作階段,建立未授權服務帳號或授與高權限,啟用模型、提高額度,甚至透過代理轉售。另有案例透過 LiteLLM 閘道缺口,將受限 Virtual Key 提升為管理權限。這是特定路徑,不能推定所有模型服務都受影響。

GTIG 另觀察到部分攻擊者使用被盜資源運行 LLM 工具或 Agent 框架。模型額度遭盜用、攻擊者使用 Agent,以及模型自主越界是不同情境。來源未公開特定涉事模型型號,不能由工具名稱推定。

攻擊流程憑證或工作階段外洩 → 帳單增加及後續風險
  1. 01

    憑證或工作階段外洩

    公開程式庫、端點或釣魚暴露憑證

  2. 02

    擴大雲端與閘道權限

    建立服務帳號、附加權限,特定案例利用 LiteLLM 缺口

  3. 03

    濫用模型與運算資源

    啟用模型、呼叫 API、申請 GPU 或經代理轉售

  4. 04

    帳單增加及後續風險

    額度被耗盡、費用暴增,且可能留存其他後門

行動建議:從外部邊界查到內部核心

應變流程行動建議:從外部邊界查到內部核心
  1. 01

    盤點入口與權限

    盤點雲端帳號、服務身分、模型金鑰與 CI 憑證,區分人員登入及程式金鑰。

    看看能怎麼應對3項資源

    TWISA 會員方案

    盤點入口與權限

    盤點雲端帳號、服務身分、模型金鑰與 CI 憑證,區分人員登入及程式金鑰。 Keyper 零信任無密碼管理平台協助已整合入口的人員登入與身分管理,不代管模型 API 金鑰。TWISA 優惠至 2026/12/31:採購平台含建置、教育訓練及 10 套整合,IAM 版加贈 IAM 20U,IGA 版加贈 IGA 10U;贈送版本與採購版相同。

  2. 02

    修補閘道與撤銷憑證

    更新受影響閘道;停用異常金鑰及工作階段,移除未授權身分與權限。

  3. 03

    監控用量與費用

    依帳號、模型、專案與時間建立用量及費用基線,偵測異常來源與突增。

    看看能怎麼應對1項資源

    TWISA 會員方案

    監控用量與費用

    依帳號、模型、專案與時間建立用量及費用基線,偵測異常來源與突增。

  4. 04

    調查、復原及複測

    保全身分、閘道、雲端及計費紀錄,確認影響、復原並持續監測。

    看看能怎麼應對1項資源

    TWISA 會員方案

    調查、復原及複測

    保全身分、閘道、雲端及計費紀錄,確認影響、復原並持續監測。

在取得授權的範圍內,執行資產探測、弱點掃描、滲透、API 測試、攻擊模擬及複測;測試虛擬金鑰邊界與跨租戶授權。對網站請求,分別核對 WAF 請求、告警、實際阻擋及後端結果;雲端身分、服務帳號與內網風險須另行驗證,WAF 無法取代金鑰管理與原廠修補。

防禦架構從入口到模型與核心資料的分層防護

盤點雲端帳號、服務身分、模型金鑰與 CI 憑證,區分人員登入及程式金鑰。

業務連線依授權放行,各層分別落實防護

  1. 01

    入口與管理身分

    保護人員登入及管理操作

    加強登入保護人員登入及管理操作

  2. 02

    模型閘道與服務身分

    限制金鑰權限、修補與輪替

    控管 API限制金鑰權限、修補與輪替

  3. 03

    雲端資源與資料

    專案分權、額度治理與資料存取

    限制權限專案分權、額度治理與資料存取

各層日誌與流量,送往監控與應變流程

  1. 監控用量與費用整合雲端稽核、模型 API 與費用告警,保全證據並依事件影響復原。

事件應變時,技術與財務一起看

第一時間先確保證據不被覆寫,記錄異常起始時間、來源、使用的模型、帳號與資源,並由具權限的應變人員封鎖濫用與通知雲端供應商。

撤銷或輪替前先確認應用依賴,安排備援並避免中斷必要服務;完成後核對現有工作階段、服務帳號及角色授權,確認攻擊者沒有保留進入管道。

財務與雲端團隊應共同比對帳單、使用量及預算通知,保留未授權費用證據,並與供應商確認爭議處理及持續監控方式。

模型用量異常牽涉身分、API 與雲端維運。建議雲端、資安及財務團隊參加後續 CIX 交流,討論如何關聯 IAM 變更與模型用量、由誰停止濫用。CIX 第二場的縱深防禦可供參考;後續場次以公告為準。

歡迎洽詢各會員,取得更詳細的產品與服務介紹及說明。

專欄更新日期:2026/11/18。