行業新聞與部落格

一家領先的標準機構警告稱，隨著企業領導者急於採用這項新技術，卻沒有首先建立必要的控制和流程，因此“人工智慧治理差距”正在擴大。

英國標準協會 (BSI) 在一份新報告中發表了上述評論。該報告是透過人工智慧輔助分析 100 多份跨國公司年度報告以及對 850 多位高階商業領袖進行的兩項全球調查編制而成。

一方面，近三分之二（62%）的企業領導者計劃在未來一年增加人工智慧投資，以提高生產力、效率並降低成本。超過半數（59%）的受訪者表示，他們認為人工智慧對未來的增長至關重要。

然而，另一方面，只有四分之一 (24%) 的企業聲稱已制定人工智慧治理計劃，而大型企業中這一比例僅為 34%。

閱讀更多關於人工智慧治理的內容：英國企業因人工智慧風險平均損失 290 萬英鎊

BSI 的研究還發現，只有：

• 半數（47%）企業透過正式流程控制人工智慧。
• 三分之一（34%）採用自願性行為準則。
• 四分之一（24%）的人會監控員工對人工智慧工具的使用情況。
• 不到三分之一（30%）的企業制定了評估人工智慧風險和緩解措施的流程。
• 五分之一（22%）的公司限制員工使用未經授權的人工智慧。

人工智慧治理的缺失似乎源於高層管理。僅有三分之一的高管認為人工智慧會帶來業務風險。一半的高管表示，他們會將人工智慧相關的風險納入合規計劃，這一比例低於六個月前的 60%。

英國標準協會 (BSI) 表示，只有 30% 的企業制定了正式的風險評估流程，以檢查人工智慧可能在哪些方面引入新的漏洞。

標準制定機構警告稱，用於訓練大型語言模型（LLM）的資料管理是關鍵風險來源。然而，只有 28%的企業領導者知道其組織的資料來源，低於 2月份的 35%。僅有 40%的企業領導者聲稱其組織已制定流程來管理用於訓練的機密資料。

當事情出錯時

只有三分之一的受訪機構告訴 BSI，他們有記錄人工智慧相關問題或不準確之處的流程，而有及時管理人工智慧事件的流程的機構則更少（29%）。

該研究還運用關鍵詞分析，以更好地瞭解企業在其報告中對“治理”概念的重視程度。研究發現，“治理”一詞在英國企業報告中的出現頻率比印度企業高出 80%，比中國企業高出 73%。

關鍵詞“自動化”的出現機率是“技能提升”、“培訓”或“教育”的七倍——這暗示了人們對當前技能水平的過分自信。

BSI 執行長蘇珊·泰勒·馬丁對人工智慧治理方面存在的明顯漏洞表示擔憂。

她認為：“雖然人工智慧可以成為一股向善的力量，但如果沒有戰略監督和明確的保障措施，它並不能解決增長緩慢、生產力低下和成本高昂的問題——事實上，如果沒有這些措施，企業可能會面臨新的風險。”

“不同組織和市場在人工智慧應用方法上的差異，會造成有害應用帶來的切實風險。過度自信，加上分散且不一致的治理方法，會使許多組織面臨本可避免的失敗和聲譽損害的風險。企業必須超越被動的合規模式，轉向積極主動、全面的人工智慧治理。”