企業がAIを導入するかどうかを議論する段階は、事実上終わりました。今、より重要なのは、AIの導入スピードと同じ速さで、企業がAIを適切に管理し、安全性とトラストを確保できるかという点です。

デジサートの最新調査によると、この2つの間にはすでに大きなギャップが生じています。

米国、英国、オーストラリアのITおよびサイバーセキュリティの意思決定者1,001人を対象にした調査では、75%の組織が、わずか過去6カ月間で4つ以上のAI搭載システムを導入したと回答しました。さらに35%は10を超えるシステムを導入しています。

しかし、この急速な導入にはリスクも伴います。78%の組織が、すでにAIに関連するセキュリティインシデントを経験した、またはAI関連の脆弱性を発見したと回答しています。

この結果は、企業におけるAIをめぐる議論が重要な転換点を迎えていることを示しています。AIは実験段階を脱し、企業の中核的な業務プロセスへと移行しています。その中で、企業は「AIで何ができるか」だけでなく、次のような新たな問いに答える必要があります。

自社環境では、どのAIが稼働しているのか。誰が、あるいは何が、自社のシステムやデータへのアクセスを許可されているのか。AIエージェントのIDを検証できるのか。侵害された場合、そのアクセス権を無効化できるのか。そして、AIシステムが重大な判断を下したとき、なぜその判断に至ったのかを説明できるのか。

こうした問題は、もはや単なるAIの問題ではありません。ID、説明責任、そしてトラストの問題です。

AIは本番環境へ。セキュリティはその後を追っている

AIシステムは現在、業務運用、顧客対応、ソフトウェア開発、セキュリティ運用など、さまざまな企業ワークフローで利用されています。

これにより、求められるものも変わります。

実験段階では、主にモデルが正常に機能するかどうかに注目できます。しかしAIが本番の業務プロセスに組み込まれると、性能だけでは十分ではありません。セキュリティ、ガバナンス、説明責任が必須になります。

調査結果からも、この移行がいかに急速に進んでいるかが分かります。75%の組織が6カ月以内に少なくとも4つのAI搭載システムを導入した一方で、3つ以下にとどまった組織は22%でした。

こうした導入の一つひとつが、新たな認証情報、API、接続、マシン間通信を生み出す可能性があり、企業はそれらを把握して管理する必要があります。さらにAIエージェントには、従来とは異なる側面があります。単に回答を生成するだけでなく、情報を取得し、アプリケーションとやり取りし、意思決定を行い、ユーザに代わってアクションを実行できるからです。

課題はもはや、単一のAIアプリケーションを安全にすることだけではありません。企業は、自社環境内で活動する急増する非人間主体を保護する必要があります。

すべてのAIエージェントにIDが必要

AIエージェントの自律性が高まるにつれ、どのエージェントがアクセスを要求しているのか、そしてそのエージェントを信頼してよいのかを把握することが極めて重要になります。

多くの組織がすでにこの課題を認識している点は前向きです。回答者の約90%が、AIのID管理に関する取り組みを開始していると答えています。約半数の組織は、すべてのAIエージェントに固有のデジタルIDを割り当てており、さらに約40%は一部のエージェントにIDを割り当てています。

しかし、IDを付与することは始まりにすぎません。

企業は、そのIDを検証し、エージェントに何を許可するかを決定し、その行動について説明責任を確保する必要があります。エージェントが侵害された場合には、そのアクセス権を取り消す手段も必要です。

つまり、AIエージェント自体は新しい存在でも、根底にあるセキュリティ課題は新しいものではありません。企業は長年にわたり、ユーザ、アプリケーション、デバイス、その他のマシンIDを認証し、権限を付与する仕組みを構築してきました。今後は、同じ原則をAIにも適用していく必要があります。

言い換えれば、「すべてのボットに身分証明書が必要」ということです。

AIエージェントは、企業環境内に存在しているという理由だけで信頼されるべきではありません。自身のIDを証明し、役割に応じて定義された権限の範囲内で動作する必要があります。

ガバナンスの議論を、実効性のある管理へ

経営層もAIリスクに明確な関心を示しています。

調査対象組織の90%が、AIガバナンスについて経営層または取締役会レベルで議論していると回答しました。一方で、専用予算と正式なガバナンスプログラムを設けているのは半数にとどまります。また、AIシステムを特定し、インベントリを作成するという基本的な取り組みを実施している組織も64%にすぎません。

このギャップは重要です。

存在を把握していないシステムを、適切に管理することはできません。

そのためAIガバナンスは、ポリシー策定や会議室での議論を超え、実際の運用管理へと移行する必要があります。企業は、どのAIシステムやエージェントが稼働しているのか、どのデータやアプリケーションにアクセスできるのか、誰が責任を負うのか、問題が発生した場合に何が起こるのかを把握する必要があります。

また、AIガバナンスをセキュリティ部門だけの責任にできない理由もここにあります。リスクはサイバーセキュリティ、プライバシー、コンプライアンス、法的責任、ブランド、業務運用にまで及ぶからです。

調査結果にも、こうした認識の広がりが表れています。約90%の回答者が自社のAI関連の責任リスクを評価し、57%がAIセキュリティ専用予算を確保しています。また86%が、侵害されたAIシステムを無効化するための正式または非公式のプロセスを設けています。

企業はAIリスクがもたらす結果に備え始めています。次の課題は、こうした管理をAI導入そのものと同じ規模まで拡張できるようにすることです。

説明可能性のギャップが、トラストのギャップになる可能性

今回の調査で特に重要な結果の一つは、一見すると単純な次の問いに関するものです。

「なぜAIはその判断をしたのか？」

AIの判断を、その判断を生み出したモデルや元データまで完全に追跡できると回答したのは53%にすぎません。さらに39%は、部分的にしか追跡できないと回答しています。

AIが低リスクのタスクを実行している場合には、大きな問題にならないかもしれません。しかし、顧客、従業員、金融取引、重要な業務プロセスに影響を与える予期しない判断をAIが行った場合には、状況は大きく異なります。

顧客は説明を求めます。経営層、監査担当者、規制当局も同様です。

「分かりません」では、通用しなくなります。

AIの自律性が高まるほど、追跡可能性は機能そのものと同じくらい重要になる可能性があります。企業は、AIが何をしたかだけでなく、そのアクションにどのモデル、データ、IDが関与したのかも把握する必要があります。

説明責任を果たすには、その一連の流れを再構築できることが不可欠です。

この課題を完全に解決した組織はまだない

もう一つ注目すべき点は、こうした課題が地域を問わず非常によく似ていることです。

規制環境やAIへのアプローチが異なるにもかかわらず、AIの判断を完全に説明できると回答した組織は各市場で約半数にとどまりました。米国53%、英国54%、オーストラリア52%です。

AIインベントリも3地域すべてで不完全な状態が続いており、作成率は59～68%でした。AIセキュリティ専用の予算を設ける組織も増えていますが、まだ一般化しているとは言えません。

AIの説明責任という課題を完全に解決し、他の地域を大きくリードしている市場はありません。

業界別でも同様です。AI関連のインシデントまたは脆弱性を報告した割合は、科学・テクノロジ業界で83%、銀行・金融サービスで82%、通信・メディアで81%、小売で79%、ハイテクで78%、ヘルステック／メドテックで76%、製造業で65%でした。

業界によって進展の速度は異なっても、ほぼすべての組織が同じ根本的な問題に直面しています。AIの導入スピードが、トラストを確立するための仕組みの整備を上回っているのです。

AIとともにトラストも拡張する

これらの結果は、企業がAI導入を止めるべきだという意味ではありません。必ずしも導入スピードを落とす必要があるわけでもありません。

ただし、AI成熟度を導入数だけで評価することはできないということです。

企業AIの次の段階で優位に立つのは、最も多くのモデルを導入した組織や、最も多くのエージェントを立ち上げた組織とは限りません。自社環境で稼働するAIを把握し、システムとやり取りするエージェントのIDを検証し、アクセスを制御・無効化でき、重要な判断をその発生源まで追跡できる組織です。

AIは急速に、企業のコンピューティング環境における新たな主体となりつつあります。ネットワーク内にいるという理由だけで、すべての従業員、アプリケーション、デバイスに無制限のアクセスを許可しないのと同様に、AIエージェントにも検証可能なID、明確な権限、説明責任が必要です。

したがって、AIの次の段階は、単にAIをより高性能にすることではありません。

大規模に運用できるだけのトラストをAIに備えることです。

そしてAIがより重要な業務プロセスに組み込まれるほど、トラストを後から付け加えることはできなくなります。企業AIを成立させるインフラそのものに、トラストを組み込む必要があります。

DigiCert AI Trust Pulse レポート（英語）についてはこちらをご確認ください。