AIガバナンスとは

AIガバナンスとは

AIガバナンスとは、人工知能（AI）を適切、安全かつ倫理的に使用していくための諸活動であり、これには法律、ポリシー、標準・規格、プロセス、機能・職能、技術的対策（ガードレール）など、様々な要素が絡み合っています。

AIの安全な利用を促進する業務フローを実現するためには、上記要素を考慮すると同時に、適切なツール、サービス、フレームワークを駆使することが欠かせません。そのような取り組みは、さらに運用ガイドラインの確立にもつながっていくほか、多層的なセキュリティ対策を組み込み、各種規制に対するコンプライアンスを確保した新しい使用例の開発にも役立ちます。

AIガバナンスの3本柱

AIガバナンスに対するJamfのアプローチの中核となるのが、以下の3本柱です。いずれも1本だけでは十分ではなく、3本すべてが揃って初めてその効果を発揮します。

可視性

ポリシーの策定に先立ち、組織内のAppleデバイスで利用しているAIツール、エージェント、MCPサーバのすべてを洗い出すことが重要です。

統制

ベンダーが推奨する正しい構成を、既存の管理基盤を使って各部門に大規模に導入します。

ガバナンス

ポリシーの決定、導入、適用に関わるあらゆる活動を自動で記録します。CISOにとっては自社の正当性を証明するコンプライアンス記録、CIOにとっては取締役会で自社のセキュリティ状態を説明する際の資料として役立ちます。

この3本柱は、AIガバナンスを事後的な手作業から、AIの進歩のスピードに対応した継続的で監査可能な業務フローへと転換するものです。

組織でAIガバナンスが必要になる場面とは

AIを運用する領域には、エージェント、クラウドインフラストラクチャ、アプリケーション、エンドポイントの4つがあります。それぞれが固有のリスクを抱えていますが、ガバナンス関連の議論のほとんどはクラウドやアプリケーションに関するものにとどまっており、エンドポイントのリスクは放置されがちです。

エージェント

AIエージェントは単に質問に対して回答するだけにとどまらず、自律的に処理を実行することができます。つまり、ツールを起動してファイルにアクセスしたり、スクリプトを実行したり、MCPサーバを介してエンタープライズデータに接続したりすることができるのです。

クラウド

モデルがクラウドにあっても、その振る舞いを左右する環境設定、権限管理、テナンシー制御はデバイス側で実行されます。

アプリケーション

承認済みであるからといって、ガバナンスが効いているとは限りません。ガバナンスとは、承認済みのAIアプリケーションを導入初日から利用できるよう、コンプライアンスを確保した正しい構成で導入しておくことにほかなりません。

エンドポイント

ガバナンスと管理が実際に実行される場所が、エンドポイントです。構成はOSレベルで導入され、多数のデバイスにわたってポリシーと並行して管理されます。

AIガバナンスに対する誤解

AIガバナンスは、隣接分野と混同されたり、何か1つのツールやポリシーを指すものと誤解されたりしていることが少なくありません。そのような要素はいずれも、ガバナンスに一定の役割を担ってはいるものの、それ自体がガバナンスではありません。

AIガバナンスは、1回限りの導入で完結するものではない

AIベンダーは管理対象環境設定を絶えずアップデートしています。場合によっては、変更を毎週リリースしていることすらあります。一時の構成だけに基づいたガバナンス戦略では、組織全体に導入が終わる前の時点で既に時代遅れになっていてもおかしくありません。

AIガバナンスは、ブラウザポリシーの延長ではない

ブラウザやアプリケーションのポリシーをAIツールに流用すれば効率的だと考える方もいるかもしれません。しかし、AIは進歩のスピードが速く、旧式のポリシーフレームワークで扱えるようなものではありません。無理にポリシーを流用すれば、実際の環境設定と推奨設定の乖離が急速に広がっていき、やがてリスクの温床になります。

AIガバナンスは、一部門の問題ではない

構成はIT部門の担当ですが、監視はセキュリティ部門の担当です。このほか、リスク評価には法務部門、レポート作成はコンプライアンス部門も、それぞれ関与します。AIガバナンスは、このように様々な部門が関与する取り組みであるため、その責任が不明確になっていると、セキュリティギャップが急速に拡大するおそれがあります。その点、ガバナンスが確保できていれば、構成の適用や挙動の監視、関係者へのレポートなどが可能になります。ガバナンスは、いわば部門間の結合組織のようなものなのです。

AIガバナンスは、単なる調達の問題ではない

AIツールを承認しても、それに対してガバナンスを確保できていることにはなりません。承認済みのアプリケーションであっても、機密データの漏洩やコンプライアンス違反が発生する可能性は排除できません。また、組織のガードレールの外部で使われる事態も起こりえます。

AIガバナンスは、AIモデル自体のガバナンスと同じではない

AIモデル自体はクラウドに存在していても、その振る舞いを左右する構成や権限、環境設定はデバイス側に置かれています。そのため、エンドポイントを管理することなくモデルのガバナンスに取り組むことは、重大なセキュリティギャップとなります。このギャップは、AIがAppleデバイスに深く組み込まれるようになるにつれて、さらに深刻さを増していきます。

ITガバナンスとAIガバナンスの違い

従来のITガバナンスは、境界防御が中心でした。つまり、一定のネットワークの内側で従業員が使用しているツールをIT部門が監視、制御、保護するという形になっていました。このような手法がうまく機能していたのは、技術スタックのすべてが既知の場所（サーバ、クラウド環境、管理対象エンドポイント）に置かれていたからです。

この状況は、AIの登場によって一変しました。

Macコンピュータ、iPhone、iPadに関しても、Apple シリコンにApple Intelligenceが直接埋め込まれるようになった結果、クラウドにデータを送ることなく強力なAIをネイティブに実行できるようになりました。AIはもはや、ネットワークのエッジではなく、デバイスそのものに宿るようになったのです。

これこそ、AIガバナンスが単なるITガバナンスの延長ではなく、まったく新しい領域であると言える理由です。現代の組織には、AIがどこで実行されていても対応できるポリシーが求められています。

AIガバナンスが重要な理由

「Jamfが対話するセキュリティ責任者のほとんどは、AIツールの使用を許可したいと考えています。使用を禁止しても思ったとおりの結果になるとは限らず、AIツールが使われなくなることは稀だからです。結局は適切なポリシーが適用されないまま、誰かのノートパソコンでツールが使われ続けます。つまり、本質的な選択肢は「許可するか否か」ではなく、「ガバナンスを効かせるか野放しにするか」なのです」製品戦略担当VPのJosh Steinはそう語っています。

これをビジネスに対する影響という観点から捉えると、以下のようなことが見えてきます。

規制対応の緊急性

規制当局がAIという分野の成熟を待つ様子はありません。例えば、EU AI法の成立が挙げられます。EU AI法は、AIシステムの（エンドユーザにとっての）安全性確保、運用の透明性向上、基本的人権の保護を目的として制定されたフレームワークであり、AIをそのリスクレベルに応じて4段階に分類しています。その規定は段階的に施行されますが、根幹となる部分については2026年8月2日に発効することが決まっています。

米国では、国立標準技術研究所（NIST）がAIリスクマネジメントフレームワーク（AI RMF）を発行しています。これは、公共部門・民間部門を問わず「個人、組織、社会に対する人工知能（AI）のリスクを効果的に管理」できるようにすることを目的として策定されたガイドラインです。EU AI法と異なり自主的なガイドラインではあるものの、AIを使った製品・サービス・システムの設計から開発、利用、評価に至るまで広く用いられています。NISTが公開しているフレーフワークとしては、ほかにも人工知能リスクマネジメントフレームワーク：生成AIプロファイル（NIST AI 600-1）があります。こちらの目的は、「組織が生成AI固有のリスクを特定できるよう支援するとともに、目標や優先事項に応じた最適なリスク管理を実現するための取り組みを提案する」こととされています。

最後に取り上げるのが、ISO/IEC 42001です。こちらは、組織が人工知能管理システム（AIMS）を確立、実装、維持、改善していくための要件を体系的に整理した国際規格です。AIベースのシステムを提供または利用する組織を想定して作られただけあって、倫理的配慮、透明性、継続的な学習などに関するリスクを管理する具体的な方法が取り上げられており、AIガバナンスの直接的な指針として有益です。

市場の現実

ガバナンスを欠いたAIシステムが原因となって重大インシデントが発生した場合、その影響は公衆の安全だけにとどまりません。ユーザのプライバシーが侵害され、AIシステムそのものに対する信頼が失われる点も問題です。そのような事態が起これば、自社の製品やサービスにAIツールを組み込んでいる組織に対しても厳しい目が向けられることになります。つまり、評判が悪化するだけでなく、広くビジネスの運営という点でもリスクとなります。具体的な原因となる要素は以下のとおりです。

• 規制されていないデータセットを使った学習
• 機密情報の漏洩
• 脅威や攻撃にさらされた状態の放置
• 法令違反、コンプライアンス違反
• シャドーAIによる業務の不統一
• 知的財産権の侵害による賠償責任の発生
• ギャップによる無駄な出費・重複した出費

Appleでは、ユーザのデータをクラウド上のモデルに学習させるのではなく、デバイス上のAIに処理させるアプローチを採用しています。そのため、機密情報が本来あるべき場所に保たれます。つまり、

• デバイス上で
• ユーザの管理下に

データが維持されるのです。AIに対するこうしたプライバシー最優先の慎重なアプローチには、パフォーマンスと責任のどちらも犠牲にすることなく共存させるという（Jamfも賛同する）Appleの信念がよく表れています。

運用コスト

ここまでに説明した規制と市場の2つの要素に加え、AIガバナンスにはもうひとつ重要な要素があります。それが、運用コストです。競争優位性の確保や無駄のない高速なイノベーションの実現は、現代のビジネスの存続・成長に欠かせない原動力です。そのため、AIの導入が遅れれば（あるいは、AIを一切導入しなければ）、ビジネスの存続そのものにも悪影響が及びかねません。

さらに、AIガバナンスを怠ることによるコストは、けっして机上のものではありません。定量的にも定性的にも、実際に大きな問題となっています。Gartner社は、AIガバナンスが「あれば望ましいものから必要不可欠なものへと変わりつつある」と指摘しています。同社によれば、現在多くの組織が規制上のリスクと運用上のリスクの緩和に向けて戦略やツールの統合を進めています。そのため、AIガバナンス関連の支出は、2026年には4億9,200万ドル、2030年までには10億ドル超に達する見込みです。

運用コストに関して言えば、優れたAIガバナンスは単に「規制関連の支出を20％削減する」だけにとどまりません。浮いた資金をイノベーションの促進や市場拡大に向けた取り組みに投資できるようになることも、大きなメリットです。

優れたAIガバナンスとは

MacのAIガバナンスでは、単にAIに関するポリシーを周知するだけでなく、それが正しく機能していることを証明できるかどうかが重要です。具体的には、Appleデバイスで運用しているあらゆるAIツールを可視化すること、ベンダーが推奨する構成のすべてをOSレベルで適用すること、ポリシーに関する意思決定を自動で監査証跡に記録し、コンプライアンス部門が利用できるようにすることが必要になります。また、IT部門、セキュリティ部門、法務部門、コンプライアンス部門が別々に重複してAIを管理するようなことがないよう、同一の情報源に基づいて連携することも重要です。AIガバナンスがAIの導入を遅らせることがあってはなりません。むしろ、ガバナンスの結果としてAI導入が加速するようなあり方が理想です。