Der Einsatz von KI ist mittlerweile weit verbreitet. Doch die Governance hinkt hinterher.

Die meisten Apple-Unternehmen setzen auf KI. Doch nur wenige Menschen können erkennen, was KI tatsächlich macht. Bei der betreffenden KI handelt es sich nicht um die, die Apple in das Betriebssystem integriert. Es sind Tools von Drittanbietern, die die Teams selbständig einsetzen: KI-Assistenten, Tools für Entwickler und die KI, die in der Software enthalten ist, die sie ohnehin schon nutzen.

Wir haben 687 IT- und Sicherheitsverantwortliche aus Unternehmen befragt, die bevorzugt Apple-Produkte einsetzen. Fast drei Viertel (72,9 %) nutzen bereits in irgendeiner Form KI, doch mehr als vier von fünf (81,7 %) verzeichneten bereits einen KI-bezogenen Vorfall oder rechnen mit einem solchen. Das Muster hinter den Zahlen ist besonders interessant: Diejenigen, die bei der KI am weitesten fortgeschritten sind, melden die meisten Vorfälle.

Wir nennen es die Transparenzlücke. Künstliche Intelligenz setzt sich schneller durch als die Instrumente und Richtlinien, die zu ihrer Regulierung gedacht sind, und je weiter eine Organisation dabei voranschreitet, desto größer wird diese Kluft. Die gute Nachricht: Erfolgreiche Teams sehen Governance und Enablement nicht mehr als Widerspruch.

KI-Realitäten, mit denen Apple-Unternehmen konfrontiert sind

1. Je umfassender die Bereitstellung von KI ist, desto höher ist die Vorfallsrate.

Man würde erwarten, dass ein ausgereifteres KI-Programm weniger Überraschungen mit sich bringt. Doch die Daten zeigen genau das Gegenteil. Unter den Unternehmen mit umfassend integrierter KI erlitten 27,1 % im vergangenen Jahr einen KI-bezogenen Vorfall. Unter denjenigen, die sich noch in der Findungsphase befinden, lag der Anteil bei 19,4 %. Das ist eine um 40 % höhere Quote bei den Teams, bei denen man annehmen würde, dass sie die Grundlagen im Griff haben.

Unternehmen weiten ihre KI-Nutzung meist schneller aus als deren Überwachung. Jedes neue Tool bringt Endpunkte, Cloud-Aufrufe, gerätespezifische Verarbeitung, Agenten und Integrationen mit sich – und all das ohne eine Kontrollebene. Dadurch entsteht eine Kluft zwischen dem, was tatsächlich läuft, und dem, was die IT-Abteilung sehen kann – und genau in dieser immer größer werdenden Lücke treten Vorfälle auf.

2. Die Akzeptanz hat den Wendepunkt überschritten, doch die Sichtbarkeit hinkt noch hinterher.

Fast drei Viertel der von uns befragten Unternehmen (72,9 %) setzen KI bereits in irgendeiner Form ein – von Pilotprojekten auf Teamebene bis hin zur umfassenden Integration in die täglichen Arbeitsabläufe. Die Debatte darüber, ob KI eingeführt werden soll, ist weitgehend abgeschlossen. Jetzt muss noch geklärt werden, wie man bei einer Skalierung dieser Bereitstellung Transparenz und Kontrolle gewährleisten kann.

Als wir die Befragten baten, mit eigenen Worten zu beschreiben, welche Herausforderung im Bereich KI sie noch nicht gelöst hatten, erhielten wir 178 Antworten. Es waren immer dieselben vier Themen, die genannt wurden:

• „Schatten-KI“: Dabei nutzen Mitarbeiter Tools ohne Genehmigung der IT-Abteilung und geben oft sensible Daten über Accounts ein, von denen die IT-Abteilung nichts weiß
• Agentic AI und KI für Entwickler, einschließlich Befehlszeilentools, IDE-Erweiterungen, eingebetteter Modelle und Pakete von Drittanbietern, die an Stellen ausgeführt werden, für deren Überwachung herkömmliche Überwachungstools nicht konzipiert wurden
• Die Anbieterflut nimmt zu, da bestehende Anbieter ihre bereits flottenweit bereitgestellten Produkte schneller mit KI-Funktionen ausstatten, als die Teams diese prüfen können.
• Unvorhersehbare Kosten: Die nutzungsabhängige Preisgestaltung macht eine Prognose der Ausgaben unmöglich.

Ein Befragter brachte dieses Problem direkt auf den Punkt: „Jeder will die KI sofort haben.“ „Wir wollen lieber einen Gang zurückschalten und die Dinge überprüfen, testen und absichern, aber die Leute machen uns Druck.“ Ein anderer beschrieb seine Tools als „weitgehend unfähig, CLI-Tools, IDE-Erweiterungen, Browser-Erweiterungen und Pakete von Drittanbietern zu erkennen“. Die wichtigsten Websites sind leicht zu finden. Alles andere bleibt unentdeckt.

3. Die Teams, die sich an die Spitze setzen, setzen sich auch für Governance und Enablement ein.

Jahrelang galten Governance und Enablement als Widerspruch, als ob jede zusätzliche Kontrollmaßnahme einen Verlust an Geschwindigkeit bedeuten würde. Die Daten zeigen, dass die führenden Teams diese Idee aufgegeben haben. Als wir IT- und Sicherheitsverantwortliche baten, ihre wichtigsten KI-Prioritäten für das kommende Jahr zu benennen, lagen drei davon fast gleichauf: die Automatisierung des IT-Betriebs durch KI (44,4 %), die Bereitstellung von KI-Produktivitätswerkzeugen (41,0 %) und die Etablierung einer KI-Governance (36,7 %).

Diese Teams streben gleichzeitig nach Geschwindigkeit und Sicherheit, da sie erkannt haben, dass diese beiden Ziele nie wirklich im Widerspruch zueinander standen.

Dieser Wandel – die Betrachtung von Bereitstellung und Governance als ein einheitliches Vorhaben statt als eine Entscheidung zwischen beiden – macht den Unterschied aus zwischen der Bewältigung von Vorfällen und deren Vermeidung. Teams, die frühzeitig Maßnahmen zur Transparenz und Zugriffskontrolle einführen, werden dadurch nicht langsamer. Sie ersparen sich später die Aufräumarbeit. Eine frühzeitig umgesetzte Governance ist der Schlüssel zu einer nachhaltigen, schnellen Bereitstellung.

Die Transparenzlücke schließen

Die Umfrage zeigt eines deutlich. Da KI immer stärker in die Arbeitsabläufe von Apple-Unternehmen integriert wird, ist es wichtiger denn je, den Überblick darüber zu behalten, welche Prozesse auf den Geräten laufen, und diese zu steuern.

Es gibt eine Besonderheit in Apple-Umgebungen, die man kennen sollte. Apples Datenschutzmodell und die in die Plattform integrierten Verwaltungskontrollen bieten IT-Teams eine solide Grundlage, auf der sie aufbauen können. Um diesen Vorteil voll auszuschöpfen, ist es jedoch erforderlich, Tools zu nutzen, die von Anfang an speziell für Apple entwickelt wurden. Netzwerkbasierte Tools zeigen Ihnen, welchen Datenverkehr es gibt, welche Cloud-KI-Dienste die Benutzer aufrufen und wie oft dies geschieht – doch diese Informationen enden am Netzwerkrand. Selbst wenn KI in der Cloud läuft, erfolgt der Zugriff auf dem Gerät: Welche Tools sind installiert, welche Prozesse werden von ihnen gestartet und auf welche Dateien greifen sie zu? Nichts davon taucht in einem DNS-Protokoll auf. Um dies zu erkennen und zu steuern, muss man das Gerät selbst im Blick behalten und nicht nur den Datenverkehr drumherum.

Die Organisationen, die hier alles richtig machen, werden nicht müde. Sie investieren in die Transparenz, um zu sehen, was ihre KI tut, in Richtlinien zur Regelung ihrer Nutzung und in die Freiheit, den Mitarbeitern den Zugriff auf die Tools zu ermöglichen, die sie benötigen.