行業新聞與部落格

谷歌發現了一種新型的人工智慧惡意軟體，它在執行過程中使用大型語言模型（LLM）動態生成惡意指令碼並逃避檢測。

谷歌威脅情報小組 (GTIG) 昨天釋出的一份報告重點介紹了兩個使用“即時人工智慧”的惡意軟體家族——PromptFlux 和 PromptSteal。

報告解釋說：“這些工具能夠動態生成惡意指令碼，混淆自身程式碼以逃避檢測，並利用人工智慧模型按需建立惡意功能，而不是將其硬編碼到惡意軟體中。”

“雖然仍處於起步階段，但這代表著向更自主、更具適應性的惡意軟體邁出的重要一步。”

PromptFlux 是一個用 VBScript 編寫的投放器，它利用 Google Gemini API 進行“再生”。它會提示 LLM 動態重寫自身的原始碼，然後將混淆後的版本儲存到啟動資料夾以實現持久化。GTIG 表示，該惡意軟體還會嘗試透過將自身複製到可移動驅動器和對映的網路共享來傳播。

PromptSteal 是一個用 Python 編寫的資料探勘器，它查詢 LLM Qwen2.5-Coder-32B-Instruct 以生成單行 Windows 命令，收集特定資料夾中的資訊和文件，並將資料傳送到命令與控制 (C2) 伺服器。

GTIG 表示，他們觀察到俄羅斯恐怖組織 APT28 在烏克蘭使用了 PromptSteal，而 PromptFlux 仍在開發中。

報告重點提及的其他人工智慧惡意軟體家族包括：

• FruitShell：一個用 PowerShell 編寫的反向 shell，它可以建立遠端 C2 連線，並在目標系統上執行命令。它使用硬編碼提示符來規避基於 LLM 的安全機制的檢測。
• PromptLock：一種用 Go 語言編寫的勒索軟體，它利用 LLM 在執行時動態生成惡意 Lua 指令碼，用於偵察、資料加密和資料竊取。
• QuietVault：一款 JavaScript 憑證竊取工具，它利用 AI 提示和主機上安裝的 AI CLI 工具來搜尋和竊取金鑰。

人工智慧惡意軟體市場日趨成熟

谷歌警告稱，人工智慧工具在網路犯罪領域的市場正在快速發展。該公司指出，“市面上出現了多種旨在支援網路釣魚、惡意軟體開發和漏洞研究的多功能工具”，這可能會進一步助長網路犯罪的蔓延。

報告還指出，有人持續試圖透過在提示中使用“類似社交工程的藉口”來繞過 Gemini 的安全防護措施。此外，GTIG 警告稱，一些國家行為體正在濫用該聊天機器人，以協助其攻擊的各個階段——從偵察和建立釣魚誘餌到指揮控制網路的構建和資料竊取。

AppOmni 的首席安全官 Cory Michal 表示，GTIG 的報告與他的公司在 SaaS 威脅形勢中看到的情況相呼應。

“人工智慧惡意軟體會改變其程式碼，使得傳統的基於特徵碼的檢測方法失效。防禦者需要的是行為型 EDR，它關注的是惡意軟體的行為 ，而不是它的外觀，”他補充道。

“檢測應重點關注異常程序建立、指令碼活動或意外的出站流量，尤其是指向 Gemini、Hugging Face 或 OpenAI 等 AI API 的流量。透過關聯端點、SaaS 和身份遙測資料中的行為訊號，企業可以發現攻擊者何時濫用 AI，並在資料洩露之前阻止他們。”

Cofense 的網路情報團隊經理 Max Gannon 認為，在攻擊鏈的每一步使用人工智慧都應該引起網路防禦者的關注。

“這與去年人工智慧的使用非常有限，主要集中在網路釣魚郵件和工具包方面，是一個顯著的變化，”他補充道。

“我預計在不久的將來，一些有進取心的威脅行為者將會出售包含所有必要功能的 AI 工具包，這些工具包可以生成攻擊鏈的每個部分，而且不需要任何專業知識——唯一的准入門檻就是訂閱費。”