多數 Apple 企業正在導入 AI。但能掌握 AI 實際運作狀況的企業,卻少得多。這裡所指的 AI,並非 Apple 內建於作業系統中的功能。而是團隊自行採用的第三方工具:例如 AI 助理、開發者工具,以及內建於既有軟體中的 AI 功能。
我們訪問了 687 位來自 Apple 優先組織的 IT 與資安領導者。將近四分之三(72.9%)已透過某種形式部署 AI,然而超過八成(81.7%)已遭遇或預期將發生 AI 相關事件。數字背後的趨勢才值得深究:AI 導入最深入的組織,事件發生率反而最高。
我們將此稱為「可視性缺口」。AI 導入速度遠快於治理工具與政策的建置速度;組織導入越深,這項缺口往往越大。資料帶來的好消息是,領先的團隊已不再將治理與賦能視為取捨關係。
Apple 企業面臨的 AI 現實
1.AI 部署越深,事件發生率越高。
一般會預期 AI 導入越成熟,意外狀況越少。但資料顯示的趨勢恰恰相反。在已深度整合 AI 的組織中,27.1% 在過去一年內曾發生 AI 相關事件。仍在 AI 探索階段的組織則為 19.4%。換句話說,那些理應已掌握基礎管理的團隊,事件發生率反而高出 40%。
快速導入 AI 的組織,其 AI 應用範圍的擴張速度,往往快於對其可視性的建立速度。每新增一個工具,就會增加端點、雲端呼叫、裝置端處理、代理程式與整合項目,但這些都缺乏對應治理機制。這會在實際運作與 IT 可視範圍之間形成落差,而這個不斷擴大的缺口,正是事件發生的源頭。
2.AI 導入已跨過臨界點,但可視性卻未能同步跟上。
我們調查的組織中,將近四分之三(72.9%)已將 AI 投入某種形式的應用,從團隊層級試行到深度整合於日常工作流程皆有。業界關於「是否導入 AI」的討論大致已落幕。當前待解決的問題是:隨著部署規模擴大,如何維持可視性與治理。
當我們請受訪者以自身語言描述尚未解決的 AI 挑戰時,共有 178 人回覆。反覆出現的主題集中在以下四項:
- 影子 AI:員工未經 IT 核准自行使用 AI 工具,並且經常透過 IT 無法掌握的私人帳號將敏感資料輸入其中
- AI 代理程式與開發者 AI 工具:包含命令列工具、IDE 擴充功能、嵌入式模型與第三方套件,執行在傳統監控工具原本未規劃監控的範圍內
- AI 工具過度擴散:既有供應商在裝置群已部署的產品中快速加入 AI 功能,團隊審查速度遠跟不上
- 成本失控:以用量計價的模式使支出無法預測
一名受訪者精準點出這股內部衝突:「所有人都想立刻全面使用 AI。我們想放慢腳步完成驗證、測試與資安把關,但抗議的聲浪已經在醞釀了。」另一位受訪者表示,現有監控工具「大多無法偵測 CLI 工具、IDE 擴充功能、瀏覽器外掛與第三方套件。」主要的網站容易攔截,其餘則不然。
3.領先的團隊同步推進治理與賦能。
多年來,治理與賦能一直被視為對立的兩股力量,彷彿每增加一道控管,就要犧牲一分速度。但資料顯示,領先的團隊已拋棄了這種想法。當我們請 IT 與資安領導者為未來一年的 AI 優先事項排序時,前三名幾乎並駕齊驅:自動化 IT 維運(44.4%)、部署 AI 生產力工具(41.0%),以及建立 AI 治理(36.7%)。
這類團隊同步追求速度與資安,因為他們已意識到,兩者從未真正對立。
將部署與治理視為同一項工作,而非二選一的抉擇,正是「事後處理事件」與「事前避免事件」的分水嶺。早期建立可視性與存取控管的團隊,並未因此放慢腳步。他們只是為自己省去了後續收拾善後的麻煩。及早落實治理,才是讓快速部署得以永續的關鍵。
填補可視性缺口
這項調查清楚傳達了一個訊息。隨著 AI 日益深入 Apple 企業的運作方式,檢視與治理裝置上運作內容的能力,已變得前所未有的重要。
有一個專屬 Apple 環境的細微差異值得瞭解。Apple 的隱私模型與平台內建的管理控制項,為 IT 團隊提供了穩固的基礎。要發揮此優勢,關鍵在於從一開始就使用專為 Apple 打造的工具。網路型工具僅能監控網路流量,掌握使用者連線的雲端 AI 服務與使用頻率,但監控範圍僅止於網路邊界。即使 AI 本身運行於雲端,存取行為仍發生在裝置上:安裝了哪些工具、這些工具產生哪些處理程序以及存取了哪些檔案。這些都不會出現在 DNS 日誌中。要掌握並治理這些活動,就必須監控裝置本身,而不僅是周圍的流量。
落實這套機制的組織,並未因此放慢 AI 導入的腳步。他們投入資源建置可視能力以掌握 AI 運作狀況、制訂規範管控使用行為,同時開放員工取用所需 AI 工具。
探索完整調查結果,包含本次研究歸納的四大治理原則。