行業新聞與部落格

新的 “LLM 劫持” 攻擊利用被盜的雲憑證

Sysdig 威脅研究團隊 (TRT) 最近進行的一項研究揭示了一種名為“LLMjacking”的新型網路攻擊,該攻擊利用被盜的雲憑據來攻擊雲託管的大語言模型 (LLM) 服務。 

根據 5 月 6 日釋出的一篇部落格文章,攻擊者透過 Laravel 的易受攻擊版本 (CVE-2021-3129) 獲取了這些憑證的訪問許可權。  

與之前圍繞基於 LLM 的人工智慧 (AI) 系統的討論不同,這次攻擊的目的是LLM 訪問權出售給其他網路犯罪分子,而合法的雲帳戶所有者則承擔費用。

“攻擊者正在尋找比我們最初預期更多的方法來利用人工智慧模型。這一發現再次證明攻擊者具有創新性——這證明他們不僅想要你輸入法學碩士的資料,他們還想要訪問 Sysdig 的網路安全策略師 Crystal Morin 告訴Infosecurity

在這種情況下,攻擊者竊取了雲憑據以獲取對雲環境的訪問許可權,他們的目標是由雲提供商託管的本地 LLM 模型。例如,他們針對的是 Anthropic 的本地 Claude (v2/v3) LLM 模型,如果不被發現,可能會導致受害者每天花費超過 46,000 美元的 LLM 消耗成本。

“LLM 的使用成本高昂。攻擊者可能出於各種原因消耗 LLM 資源(提出問題並接收答案),而這些資源由您承擔。他們可能會提出問題,試圖提取您的敏感資料、開發惡意程式碼或查詢漏洞在這一點上,選擇是無窮無盡的,”莫林補充道。

研究人員還發現了反向代理被用來訪問受損帳戶的證據。此外,攻擊者表現出了跨不同服務訪問 LLM 模型的興趣,利用工具檢查十種不同 AI 服務的憑據,包括 AWS Bedrock、Azure 和 GCP Vertex AI 等。

“攻擊者知道其他人會對法學碩士及其資料感興趣,”莫林總結道。 “如果他們可以出售對資料的訪問權,他們為什麼要費心自己整理所有資料呢?”

為了減輕此類攻擊,Sysdig 建議實施漏洞和秘密管理實踐,以及雲安全態勢管理 (CSPM) 或雲基礎設施授權管理 (CIEM) 解決方案,以最大限度地減少許可權並防止未經授權的訪問。

需要幫助嗎?聯絡我們的支援團隊 線上客服