行業新聞與部落格

Meta 已證實，其一款 AI 模型在測試期間利用了第三方服務中的一個漏洞，該公司與 OpenAI 和 Anthropic 一樣，都報告了類似的事件。

Meta 表示，該事件發生在獨立公司 Irregular 進行測試期間。

Irregular 的配置錯誤導致 Meta 的一個模型在評估期間訪問了網際網路。隨後，該人工智慧利用了第三方服務中的安全漏洞。

這家科技巨頭表示，此次漏洞利用的方式與之前報道的其他公司遇到的類似事件類似。

Meta 發言人向Infosecurity 發表宣告稱： “ Irregular 通知我們後，Meta 才得知此事。我們目前正在調查此事，一旦掌握所有事實，我們將釋出一份完整的回顧報告。”

另外，8 月 4 日，OpenAI 釋出了一份更新報告，描述了兩個外部測試合作伙伴如何發現測試配置和控制措施允許模型活動超出測試環境的情況。

其中一起事件與 Irregular 有關。 OpenAI 表示，在一次旨在與網際網路隔離的奪旗式評估中，測試環境配置錯誤導致模型能夠訪問公共網際網路。

第二起事件與英國人工智慧安全研究所 (AISI) 有關， 該研究所表示，在例行網路安全評估期間，發現有異常資料傳輸從其研究系統流出。

此次事件以及最近 OpenAI 和 Anthropic 模型的漏洞，引發了網路安全界的安全擔憂。

“當世界上幾個最強大的 AI 系統在短短幾周內從測試環境應用到真實的人群、服務和公司時，我們不能再將這些事件視為孤立事件了，”OpenSSL 總裁 Tim Hudson 表示，OpenSSL 是一個提供安全數字通訊的免費開源軟體庫。

“我們看到一種反覆出現的模式：自主系統被賦予目標、網際網路訪問許可權和過大的權力——而負責的人事後才發現這些系統做了什麼。”

這並不意味著人工智慧本身產生了惡意，而是由於目標約束不足、介面脆弱以及許可權限制，才使得這些行為得以發生。

KnowBe4 首席資訊安全官顧問賈瓦德·馬利克指出：“我們需要謹慎，不要想當然地認為人工智慧是自主決定成為網路犯罪分子的。它是被賦予了網際網路訪問許可權、工具和目標的。令人擔憂的是，它隨後能夠以創造者未曾完全預料的方式將一系列行動串聯起來。”

人工智慧公司因爭強好勝而受到批評

在整個網路安全領域，許多人對聲稱自己產品功能最強大的供應商之間的競爭越來越持懷疑態度。

“人工智慧供應商之間似乎也存在一種相互攀比、吹噓其模型強大程度的競爭，”馬利克說。

與此同時，Illumio 歐洲、中東和非洲地區首席解決方案架構師 Alex Goller 表示，最大的人工智慧公司中竟然發生了三起類似事件，這“簡直荒謬至極”。

“我們已經看到有人故意放鬆防護措施來測試其極限——Meta 的模型並不需要多麼高明就能入侵其他公司的系統。他們恰好在這個時候發現完全相同的問題，要麼說明這是一場精心策劃的噱頭，要麼說明他們在測試過程中不夠謹慎。無論哪種情況，都令人擔憂，”他說道。

人工智慧治理至關重要

整個事件的關鍵主題是，人工智慧被賦予了一項任務，但沒有足夠的防護措施來阻止它以損害外部組織的方式行事。

Ivanti 的首席資訊安全官 Jack Nelson 表示：“安全團隊及其所在組織需要仔細制定人工智慧代理的治理計劃和策略。隨著人工智慧代理能力的增強，它們進行惡意活動的可能性也會增加，這些活動可能會造成重大的長期影響。”

馬利克表示，這些問題的關鍵在於治理。

“隨著各組織給予人工智慧更多系統和資料訪問許可權，人工監督、最小許可權原則和有效監控變得至關重要，”他說。

必須優先考慮並投資建立健全的防護機制，並提高對人工智慧所採取行動的透明度。

人工智慧代理應遵循最小許可權訪問、隱私設計原則和即時監控。