行業新聞與部落格

人工智慧安全研究所 (AISI) 在測試了 Anthropic 的最新模型後，敦促各組織加倍重視“網路安全基礎知識”，並考慮利用人工智慧來保護系統。

上週， Claude Mythos Preview 模型製造商聲稱發現了數千個可以追溯到幾十年前的零日漏洞，這引起了媒體的廣泛關注。

Anthropic 公司迅速宣佈啟動“Glasswing 專案”，該專案將允許參與該計劃的技術供應商使用 Mythos Preview 來查詢和修復這些漏洞。

儘管該公司承諾不會向公眾釋出新模型，但人們擔心它最終會落入不法分子手中。

現在，英國安全情報局 (AISI) 也加入了討論，在其對該模型的評估中透露，它代表著“在網路安全效能已經迅速提高的背景下，比以前的前沿模型更進一步”。

AISI 透露：“在受控評估中，我們明確指示 Mythos Preview 執行操作，並授予其網路訪問許可權，結果發現它可以對易受攻擊的網路執行多階段攻擊，並自主發現和利用漏洞——這些任務需要專業人員花費數天時間才能完成。”

然而，也有一些需要注意的地方。

該研究所建立了一個“32 步企業網路攻擊模擬”，從偵察到完全網路接管——該研究所聲稱，人類完成這項操作大約需要 20 個小時。

Mythos 十次嘗試中只成功解決了三次，平均每次嘗試完成 32 步中的 22 步。不過，如果增加推理計算量，效能或許會有所提升。 

正在進行中

然而，AISI 補充說，其測試環境與現實世界中的同類環境存在重要差異。

“Mythos Preview 在一個網路靶場上的成功表明，它至少能夠自主攻擊小型、防禦薄弱且易受攻擊的企業系統，前提是已經獲得了對網路的訪問許可權，”宣告中寫道。

“然而，我們的模擬靶場與真實環境存在重要差異，這使得它們更容易成為攻擊目標。它們缺乏通常存在的安全措施，例如主動防禦系統和防禦工具。此外，該模型也不會因執行觸發安全警報的操作而受到任何懲罰。”

所有這些都意味著 AISI “無法確定” Mythos Preview 是否能夠成功攻擊“防禦完善的系統”。

未來，它旨在透過模擬具有端點檢測和即時事件響應的強化防禦環境來彌補這些理解上的差距。

現在該怎麼辦

與此同時，該機構敦促安全團隊改進基礎防護，以便最大限度地減輕使用 Mythos 的攻擊。

“我們的測試表明，Mythos Preview 可以利用安全態勢較弱的系統，而且很可能未來會開發出更多具備這些功能的模型，”報告總結道。

“這凸顯了網路安全基礎知識的重要性，例如定期應用安全更新、強大的訪問控制、安全配置和全面的日誌記錄。”

報告還建議各組織考慮使用人工智慧來幫助實現“國防領域顛覆性的改進”。

AISI 和國家網路安全中心 (NCSC) 於 3 月 30 日聯合發表的一篇部落格文章解釋說，人工智慧可以透過以下方式提供幫助：

• 透過機器速度系統掃描、識別錯誤配置和漏洞、測試可利用性以及繪製複雜攻擊路徑來縮小攻擊面
• 透過對警報進行分類、從各種日誌中理解模式以及為分析人員編寫摘要報告，增強威脅檢測和調查能力。
• 自動執行響應操作，例如阻止流量、隔離可疑程序和撤銷使用者訪問許可權。