人工知能は、私たちの働き方、コミュニケーション、学習、創造の方法を変革しています。AI は、物理世界とデジタル世界の両方において、ますます高い自律性を持って動作するようになっており、私たちの個人生活とビジネスの両方を強化することが期待されています。しかし、AI システムがますます複雑化し広範囲に普及する中で、重要なものが崩れ始めています。それが「トラスト」です。

数十年にわたり、トラストはデジタル世界の基本前提でした。私たちは自分自身の目や耳による証拠を信頼してきました。利用するシステムの安全性を信頼してきました。そして、組織が自らのデジタル環境を管理できていると信頼してきました。

AI は、これらすべての前提に課題を突きつけています。デジタルインタラクションには常に一定のリスクが伴っていましたが、AI はその不確実性を大規模に増幅しています。その結果、私たちが見たり聞いたり依存したりするものが、もはや信頼できないかもしれないという感覚が広がっています。

AI は可能性を拡張する一方で、「何を信じられるか」を再定義しています。

シャドー AI と組織レベルのトラスト

企業は競争圧力、生産性向上、経営層からの指示に後押しされ、急速に AI を導入しています。しかし、AI ガバナンス、可視性、セキュリティはそのスピードに追いついていません。その結果、組織内部にトラストギャップが生まれています。

その最も明確な兆候の一つがシャドー AI の増加です。従業員が未承認の AI ツールに依存するようになった結果、現在では90%以上の組織でシャドー AI が存在しています。

出典：Business Insider

シャドー AI の利用自体は、ほとんどの場合悪意あるものではありません。多くの従業員は、単に作業を効率化し、反復作業を自動化したいだけです。しかし、未承認 AI の利用は、データ処理や再利用に対する組織の統制を低下させます。組織は、データがどこへ行き、どのように利用されているのかの可視性を失いつつあります。

AI は説明責任も複雑化させます。どのシステムが意思決定を行ったのか、誰が責任を負うべきなのかが不明確になることがよくあります。この透明性の欠如は、AI セキュリティおよびコンプライアンスリスクを生み出します。しかし、厳格なガバナンスフレームワークが必ずしも有効とは限りません。従業員はそれを回避する巧妙な方法を見つけるからです。

この状況は内部トラスト、すなわち従業員、経営層、パートナーがビジネスを支えるシステムに対して持つ信頼を損ないます。そして、消費者がこうした組織と取引する際の外部的な不信感も増幅させます。

AI によって消費者トラストは低下している

AI 主導の脅威は、人間が検知できる能力を上回る速度で拡大しています。

ディープフェイク技術はその明確な例です。ディープフェイクファイル数は、2023 年の約50万件から 2025 年には800万件以上へ急増しました。また、AI に関連する詐欺の試行件数は、わずか1年で最大 3,000% 増加しています。

出典：Business Insider

同時に、ディープフェイクの品質は、人間が本物と偽物を確実に見分けられないレベルにまで向上しています。実験では、人々が AI 生成画像を正しく識別できた割合は約 62% に過ぎず、ほとんど偶然と変わらない水準でした。

この不確実性は、視覚メディアを超えて広がっています。消費者のわずか 40%しか AI を信頼できる情報源だと考えていません。さらに、70% が企業による AI の責任あるデータ利用を信頼していません。

これこそが AI 時代を特徴づける緊張関係です。生成 AI の利用が爆発的に拡大する一方で、トラストは崩壊しています。

AI トラスト実現を阻む3つの大きな障壁

組織が内部および外部のトラストを回復したいのであれば、今日の新たな AI トラスト課題に真正面から向き合う必要があります。そのためには、以下の3つの重要な問題に対応しなければなりません。

• AI エージェントが適切なガードレールなしで動作している：エージェントはタスク実行、システムアクセス、意思決定を行いますが、明確な ID、説明責任、ガバナンスを欠いている場合が多くあります。組織がエージェントの存在を認識していても、その行動を完全に可視化できず、問題発生時の責任も不明確なことがあります。
• モデルが新たなセキュリティギャップを生み出している：AI モデルは医療診断や高度な予測分析などを革新しています。しかし、モデルには改ざん、不正利用、データ漏えいのリスクがあります。モデル開発者は知的財産を懸念し、利用者はデータセキュリティを懸念しています。そして双方にとって、モデル精度低下は重大なリスクです。
• コンテンツを本物だと前提にできなくなっている：合成メディアは現在、簡単かつ低コストで生成でき、検知が困難です。その結果、ニュース、SNS、企業コミュニケーションなど、あらゆる場面でコンテンツ真正性の確認が難しくなっています。

これらすべてが「トラストサーフェス」、すなわちトラストを確立・維持すべき領域を拡大させています。そして、この拡大するサーフェスには新たなアプローチが必要です。

AI 時代のインテリジェントトラスト

従来のトラストアプローチは、より単純なデジタル世界向けに設計されていました。その世界では、ソフトウェアは決定論的に動作し、システムは明確な境界内で運用され、コンテンツは人間によって生成されていました。

AI がこれらの前提を覆す世界では、トラストは前提ではなく、検証可能かつ証明可能でなければなりません。

そのため、デジサートは AI Trust イニシアチブを立ち上げました。当社は長年培ってきたデジタルトラスト基盤を AI エコシステムへ拡張し、実証済みの暗号技術原則によって AI システムと生成コンテンツを検証可能な形で保護することを目指しています。

そのために、当社は3つの主要領域に注力しています。

1. AI エージェントへのトラスト：自律型ワークフォースの統制

AI エージェントは新しいタイプのデジタル主体です。大規模かつ限定的な監督のもとで動作しますが、多くの組織は以下を欠いています。

• エージェント活動の明確な可視性
• 強固なエージェント ID
• 詳細な行動制御
• 監査性と明確な人間の責任

デジサートは以下を提供することで、これらの課題に対応します。

• エージェント向け暗号 ID
• ポリシーベース認可
• 継続的検証と監査性
• エージェントガバナンスとライフサイクル管理

これにより、エージェントは不透明なプロセスから、説明責任を持つ統制対象へ変わります。

2. AI モデルへのトラスト：意思決定層の保護

AI モデルは今や重要インフラです。金融、医療、コンプライアンスなどに影響する意思決定を支えています。しかし完全性制御がなければ、新たなリスクを生み出します。

• 知的財産の窃取と競争優位性の低下
• データ漏えいと規制違反
• 改ざんやモデルドリフトによる不正確な結果
• 保護されていない実行環境

デジサートはモデルライフサイクルへ暗号保証を導入し、以下を提供します。

• 検証可能なモデル来歴
• 継続的完全性検証
• 信頼環境での安全な配布と実行
• モデルライフサイクル制御

デジサートのインテリジェントトラストフレームワークにより、モデルはその強力さと同様に信頼できる存在になります。

3. コンテンツへのトラスト：検証済み真正性による疑念の払拭

合成メディアの世界では、人々はもはや目に見えるものを信頼できません。画像や動画はカメラ由来かもしれませんし、完全に AI 生成かもしれません。その結果、人々は以下の基本的な問いに答えられなくなっています。

• 元コンテンツは本物か、AI 生成か
• コンテンツは後から改変されたか
• コンテンツ配信元は信頼できるか

C2PA のような標準は、この不確実性を解消しようとしています。この標準に従って署名されたコンテンツには暗号署名済みメタデータが付与され、誰でも真正性を独立検証できます。C2PA 準拠の Content Trust ソリューション により、デジサートは以下を示す信頼できる情報源を提供します。

• コンテンツ生成方法
• 生成日時
• 改変有無とその内容

C2PA 標準への準拠により、デジサートは第三者による検証済み透明性を提供し、デジタルコンテンツへのトラストを回復します。

競争優位としてのトラスト

シャドー AI が拡大し、消費者トラストが崩壊し続ける中、AI トラストへ対応できない組織は、運用、財務、規制、ブランド面でリスクに直面します。

しかし、トラストを実現できる組織は競争優位を獲得します。

より迅速に AI を拡張し、新たなセキュリティリスクに巻き込まれることなく運用メリットを享受できます。消費者や従業員からの信頼も強化できます。そして、コンプライアンス課題にも備えることができます。

つまり、トラストを重視する組織は、新たなリスクを生み出すことなく AI を拡張できる自信を持って運用できるのです。

デジサートがトラスト回復を支援する方法

AI は今後も進化し続けます。そして、その方向性を決定づけるのはトラストです。

デジサートは20年以上にわたり、デジタルトラストの基盤を構築してきました。この基盤は現在、エージェント、モデル、コンテンツ全体に ID、完全性、説明責任、暗号検証を適用するインテリジェントトラストアプローチを通じて、AI エコシステムへ拡張されています。

AI Trust ソリューションをご覧いただき、AI 時代に十分耐えうるトラスト基盤をどのようにデジサートが支援できるかをご確認ください。