Was ist KI-Governance?

Was ist KI-Governance?

KI-Governance umfasst die Gesetze, Richtlinien, Standards, Prozesse, Funktionen und Vorgaben, die dazu dienen, sicherzustellen, dass künstliche Intelligenz angemessen, sicher und ethisch einwandfrei eingesetzt wird.

Durch die Kombination der oben genannten Aspekte mit den richtigen Tools, Diensten und Frameworks können Unternehmen die entsprechenden Arbeitsabläufe implementieren, die einen sicheren Einsatz von KI fördern. Darüber hinaus trägt es dazu bei, Betriebsrichtlinien aufzustellen und neue Anwendungsfälle mit integrierten Sicherheitskontrollen zu entwickeln, um die Konformität zu wahren.

Grundpfeiler der KI-Governance

Der Ansatz von Jamf im Bereich der KI-Governance basiert auf drei Säulen, die zusammenwirken – denn keine einzelne davon reicht für sich allein aus.

Sichtbarkeit

Sie kennen jedes KI-Tool, jeden Agenten und jeden MCP-Server, der in Ihrer Apple-Flotte läuft, noch bevor auch nur eine einzige Richtlinie erstellt wurde.

Kontrolle

Die Bereitstellung herstellerkonformer Konfigurationen in großem Maßstab, zugeschnitten auf die richtigen Teams, direkt über die von Ihnen bereits genutzte Verwaltungsebene.

Verwaltung

Jede strategische Entscheidung, jede Bereitstellung und jede Durchsetzungsmaßnahme wird automatisch erfasst, sodass CISOs über eine nachweisbare Dokumentation der Konformität verfügen und CIOs dem Vorstand einen Überblick über den Sicherheitsstatus geben können.

Gemeinsam verwandeln diese Säulen die KI-Governance von einem reaktiven, manuellen Prozess in einen kontinuierlichen, nachprüfbaren Arbeitsablauf, der mit der rasanten Entwicklung der KI Schritt hält.

Wo KI-Governance auf die Organisation trifft

KI kommt in vier Bereichen zum Einsatz: Agenten, Cloud-Infrastruktur, Apps und Endgeräte. Jedes birgt Risiken. Die meisten Diskussionen zum Thema Governance beschränken sich jedoch auf die Cloud oder die Anwendungsebene. Das bedeutet, dass die Endgeräte ungeschützt bleiben.

Agenten

KI-Agenten reagieren nicht nur – sie agieren eigenständig. Sie rufen Tools auf, greifen auf Dateien zu, führen Skripte aus und stellen über MCP-Server eine Verbindung zu Unternehmensdaten her.

Cloud

Das Modell befindet sich in der Cloud, doch die Einstellungen, Berechtigungen und Mandantensteuerungen, die sein Verhalten bestimmen, werden auf dem Gerät festgelegt.

Apps

„Genehmigt“ ist nicht dasselbe wie „reguliert“. Letzteres stellt sicher, dass genehmigte KI-Apps vom ersten Tag an bereitgestellt, konfiguriert und konform sind.

Endpunkt

Hier finden Governance und Management statt. Konfigurationen werden auf Betriebssystemebene bereitgestellt und gemeinsam mit Richtlinien geräteübergreifend verwaltet.

Was KI-Governance nicht ist – und wo sie scheitert

KI-Governance wird oft mit verwandten Disziplinen verwechselt oder auf ein einzelnes Instrument oder eine Richtlinie reduziert, die diese Aufgabe allein nicht bewältigen können. Jeder einzelne Aspekt spielt eine wichtige Rolle. Keines davon allein ist schon Governance.

KI-Governance ist keine einmalige Bereitstellung

KI-Anbieter aktualisieren die verwalteten Einstellungen ständig und nehmen dabei manchmal wöchentlich Änderungen vor. Eine Governance-Strategie, die auf einer Momentaufnahme einer bestimmten Konfiguration basiert, ist bereits veraltet, bevor ihre Bereitstellung vollständig abgeschlossen ist.

KI-Governance ist keine Kopie Ihrer Browserrichtlinie

Das Zweckentfremden von Browser- oder App-Richtlinien für KI-Tools mag zwar effizient erscheinen, doch die KI entwickelt sich schneller, als es jedes herkömmliche Regelwerk bewältigen könnte. Die Diskrepanz zwischen den durchgesetzten und den empfohlenen Präferenzen nimmt rasch zu, und genau in dieser Lücke liegt das Risiko.

KI-Governance ist kein Problem, das nur ein einziges Team betrifft

Die IT-Abteilung nimmt die Konfiguration vor. Überwacht die Sicherheit. Die Rechtsabteilung bewertet das Risiko. Berichtet über die Konformität. Die KI-Governance betrifft jeden einzelnen dieser Bereiche, und wenn die Zuständigkeiten unklar sind, entstehen schnell Lücken. Governance fungiert als Bindeglied zwischen den einzelnen Teams und stellt sicher, dass Konfigurationen durchgesetzt, Verhaltensweisen überwacht und entsprechende Berichte für alle Beteiligten zugänglich sind.

KI-Governance ist kein reines Beschaffungsthema

Die Freigabe eines KI-Tools ist nicht gleichbedeutend mit dessen Governance. Selbst eine vollständig genehmigte App kann sensible Daten preisgeben, Anforderungen an die Konformität verletzen und völlig außerhalb der organisatorischen Sicherheitsgrenzen betrieben werden.

KI-Governance ist nicht dasselbe wie die Steuerung des KI-Modells selbst

Das Modell befindet sich in der Cloud. Die Konfigurationen, Berechtigungen und Einstellungen, die das Verhalten der App bestimmen, befinden sich jedoch auf dem Gerät. Die Steuerung des Modells ohne Verwaltung des Endpunkts führt zu einer kritischen Lücke. Ein Bereich, der immer mehr an Bedeutung gewinnt, je umfassender die KI in die Apple-Geräte eingebettet wird.

Inwiefern unterscheidet sich KI-Governance von IT-Governance?

Die traditionelle IT-Governance basierte auf einem Perimeter: einer definierten Netzwerkgrenze, innerhalb der IT-Teams die von den Mitarbeitern genutzten Tools überwachen, steuern und sichern konnten. Dieses Modell funktionierte, weil sich die Infrastruktur an bekannten Orten befand: auf Servern, in Cloud-Umgebungen und auf verwalteten Endgeräten.

Die KI hat diese Situation verändert.

Da Apple Intelligence direkt in Apple Silicon integriert ist, läuft leistungsstarke KI nun nativ auf Macs, iPhones und iPads – ohne dass Daten in die Cloud gesendet werden. Die Informationen befinden sich nicht mehr am Netzwerkrand, sondern direkt auf dem Gerät.

Deshalb ist KI-Governance nicht nur eine Erweiterung der IT-Governance, sondern eine völlig eigenständige Disziplin. Unternehmen benötigen Richtlinien, die den Einsatz von KI überall dort regeln, wo sie zum Einsatz kommt.

Warum KI-Governance wichtig ist

„Die meisten Sicherheitsverantwortlichen, mit denen wir sprechen, möchten der Einführung von KI zustimmen. Und „Nein“ zu sagen führt nicht immer zu den erwarteten Ergebnissen: Es sorgt selten dafür, dass ein Tool verschwindet. Das Tool läuft unverändert auf dem Laptop einer Person, ohne dass dafür eine Richtlinie vorliegt. „Die Entscheidung lautete also nie ‚Ja‘ oder ‚Nein‘. Es geht um ‚reguliert‘ oder ‚unreguliert‘.“ – Josh Stein, VP, Product Strategy

Die wichtigsten Auswirkungen auf das Geschäft sind:

Dringlichkeit der Regulierung

Die Aufsichtsbehörden warten nicht darauf, dass sich dieser Bereich weiterentwickelt. Das KI-Gesetz der EU ist ein Rahmenwerk, das geschaffen wurde, um sicherzustellen, dass KI-Systeme für Endbenutzer sicher und in ihrer Funktionsweise transparent sind und die Grundrechte der Menschen wahren. Dies geschieht mithilfe eines vierstufigen Systems, das KI-Systeme nach Risikostufen klassifiziert. Während die Bestimmungen schrittweise in Kraft treten, wird der Kerntext am 2. August 2026 wirksam.

In den USA wurde das NIST AI Risk Management Framework (AI RMF) entwickelt, um den öffentlichen und privaten Sektor dabei zu unterstützen, „die mit künstlicher Intelligenz (KI) verbundenen Risiken für Einzelpersonen, Organisationen und die Gesellschaft besser zu bewältigen.“ Im Gegensatz zum KI-Gesetz der EU ist das AI RMF ein freiwilliger Leitfaden, der dazu dient, die Konzeption, Entwicklung, Nutzung und Bewertung von KI-Produkten, -Diensten und -Systemen zu verbessern. Das NIST hat außerdem das Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (auch als NIST AI 600-1 bezeichnet) veröffentlicht. Ziel ist es, „Organisationen dabei zu helfen, die spezifischen Risiken generativer KI zu identifizieren, und Maßnahmen für das Risikomanagement im Bereich generativer KI vorzuschlagen, die am besten zu ihren Zielen und Prioritäten passen.”

Zuletzt gibt es die Norm ISO/IEC 42001, eine internationale Norm, die strukturierte Anforderungen für Organisationen zur Einführung, Umsetzung, Aufrechterhaltung und Verbesserung von KI-Managementsystemen (AIMS). Die Norm richtet sich an Organisationen, die KI-basierte Systeme anbieten und/oder nutzen, und bietet Leitlinien, die sich direkt auf die KI-Governance beziehen und sich auf Möglichkeiten zur Bewältigung von Risiken wie ethische Aspekte, Transparenz und kontinuierliches Lernen konzentrieren.

Marktrealität

Aufsehenerregende Vorfälle im Zusammenhang mit unregulierten KI-Systemen beeinträchtigen nicht nur die öffentliche Sicherheit, sondern wirken sich auch negativ auf den Datenschutz der Benutzer und deren Vertrauen in KI-Systeme aus. Darüber hinaus betreffen diese Auswirkungen auch Unternehmen, die KI-Tools einsetzen, die in ihre Produkte und Dienstleistungen integriert sind. Mit erheblichen Risiken für das öffentliche Ansehen und den Geschäftsbetrieb durch:

• Training der Modelle mit unregulierten Daten
• Weitergabe sensibler und vertraulicher Informationen
• Konfrontation mit feindlichen Bedrohungen und Angriffen
• Verstöße gegen Vorschriften und Mängel bei der Konformität
• Fragmentierte Abläufe bei Schatten-KI
• Erweiterte Haftung aufgrund einer Verletzung von Rechten des geistigen Eigentums
• Lücken, die zu unkontrollierten Kosten bzw. doppelten Ausgaben führen

Anstatt Modelle anhand von Benutzerdaten in der Cloud zu trainieren, setzt Apple auf On-Device-Intelligenz. So bleiben sensible Daten dort, wo sie hingehören:

• Auf dem Gerät
• Und unter der Kontrolle des Benutzers

Dieser bewusste, auf den Datenschutz ausgerichtete Ansatz im Bereich der KI spiegelt die Vision von Apple wider, die auch von Jamf geteilt wird: Es soll sichergestellt werden, dass Leistung und Verantwortung koexistieren können, ohne einander zu beeinträchtigen.

Betriebskosten

Neben regulatorischen und marktbezogenen Aspekten überschneiden sich diese beiden Bereiche im Rahmen der KI-Governance und bringen damit einen dritten entscheidenden Faktor ins Spiel: die Betriebskosten. Faktoren wie Wettbewerbsvorteile und optimierte Innovation sind für moderne Geschäftsabläufe so entscheidend, dass eine ausbleibende oder nur langsame Einführung von KI die Geschäftskontinuität nachhaltig beeinträchtigen kann.

Darüber hinaus sind die Kosten einer mangelnden Vorbereitung aus Sicht der KI-Governance nicht theoretisch, sondern eine quantitative und qualitative geschäftliche Realität. Laut Gartner entwickelt sich KI-Governance von einem „Nice-to-have zu einer unverzichtbaren Notwendigkeit.“ Im Jahr 2026 werden die Ausgaben voraussichtlich 492 Millionen US-Dollar erreichen und bis 2030 auf über 1 Milliarde US-Dollar ansteigen, da Unternehmen ihre Strategien und Tools zur Minimierung regulatorischer und operativer Risiken zusammenführen.

Was die Betriebskosten direkt betrifft, so wird erwartet, dass eine effektive KI-Governance nicht nur „die Kosten für die Einhaltung gesetzlicher Vorschriften um 20 % senken wird“, sondern es Unternehmen auch ermöglicht, diese Einsparungen in Wachstumsinitiativen wie die Förderung von Innovationen und die Marktexpansion zu reinvestieren.

Wie eine gute KI-Governance aussieht

Eine gute KI-Governance für Mac macht den Unterschied zwischen dem bloßen Wissen, dass es eine KI-Richtlinie gibt, und der Fähigkeit, nachzuweisen, dass sie auch funktioniert. Das bedeutet, dass jedes KI-Tool, das auf Ihren Apple-Geräten läuft, sichtbar ist, jede Konfiguration herstellerkonform ist und auf Betriebssystemebene durchgesetzt wird und jede Richtlinienentscheidung automatisch in einem Prüfprotokoll erfasst wird, das Ihr Compliance-Team nutzen kann. Das bedeutet, dass die Bereiche IT, Sicherheit, Recht und Konformität auf derselben verlässlichen Informationsquelle basieren – und keine separaten, sich überschneidenden Maßnahmen verwalten. Und es bedeutet, dass sich die KI-Einführung durch Governance beschleunigt, statt gebremst zu werden.