見たものをそのまま信じられる時代は終わりました。

何十年もの間、デジタルコンテンツには暗黙のトラストが存在していました。写真や動画は反論の余地のない証拠として扱われていました。しかし、その後、こうしたデジタルメディアを改ざんできる技術が登場しました。当初の改変は不自然で分かりやすく、容易に見分けることができました。しかし時が経つにつれ、本物と偽物を見分けることは難しくなっていきました。

そして生成 AI が登場しました。現在では広く利用可能となり、誰でも簡単に使えるようになったことで、その暗黙のトラストはほぼ失われています。

生成 AI によって、極めてリアルな合成メディアを大規模に作成したり、既存のメディアを完全に別物に変換したりすることが可能になりました。ディープフェイクコンテンツは、2023 年の約 50 万件から 2025 年には推定 800 万件へと急増しており、この技術を悪用した詐欺の試みも劇的に増加しています。

同時に、人間が改ざんを見抜く能力は限界に近づいています。粗雑なディープフェイクには余分な手足や不自然な文字などの特徴がありますが、高品質なディープフェイクは非常に説得力があります。実際、人々が高品質なディープフェイク動画を正しく識別できる割合は25% 未満です。

かつては決定的な証拠だったデジタルメディアは、今やリスクになり得るのです。

技術の進歩とともに拡大するトラストギャップ

コンテンツ生成が容易になる一方で、組織の対応は追いついていません。従来のアプローチでは、次の理由からトラストギャップを埋められません。

• 目視確認は信頼できない
• メタデータは改ざんまたは削除できる
• プラットフォームによるモデレーションは後追いで一貫性がない
• 集中型トラストモデルはエコシステム全体にスケールしない

これらのアプローチは偽物を見つけようとするものであり、本物を証明するものではありません。

トラストを回復するには、コンテンツの作成から配信まで、ライフサイクル全体をカバーする明確かつ検証可能な証明が必要です。

コンテンツライフサイクルにおける脆弱性の特定

あらゆるデジタルコンテンツは次のライフサイクルをたどります。

1. 作成
2. 編集・加工
3. 公開
4. 配信・閲覧

各段階でコンテンツは改変、操作、または誤認させる形で利用される可能性があります。そして現在では合成メディアの作成が容易かつ高品質になっているため、各段階のトラストギャップを埋めることが極めて重要です。

ステージ 1：コンテンツ作成

コンテンツは次のいずれかの方法で生成されます。

1. カメラ、顕微鏡、スキャナーなどのハードウェアによる取得
2. ソフトウェアによる生成（AI 画像生成を含む）

現在では生成 AI ツールを利用できる人なら誰でも、数分で説得力のあるメディアを作成できます。参入障壁は低く、生成物はますますリアルになっています。

しかしコンテンツが閲覧される時点では、その生成方法への検証可能なリンクが失われていることが一般的です。利用者はトラストを失っているため、出所の透明性がないことで、本物のコンテンツですらディープフェイクと疑われたり、逆にディープフェイクが本物として受け取られたりします。

コンテンツ作成段階でトラストギャップを解消する方法

コンテンツ生成方法と生成されたメディアの間に永続的なリンクを作ることが重要です。コンテンツは検証済みデバイスまたはシステムと紐付けられ、その情報はコンテンツライフサイクル全体を通じて保持される必要があります。また、作成日時を示す明確なタイムスタンプが必要であり、それらすべてが改ざん防止かつ検証可能でなければなりません。

ステージ 2：編集・加工

編集段階は、真実が曖昧になるポイントです。AI が普及する以前からコンテンツ編集は一般的でした。AI はそれをさらに容易かつ高速にしただけです。

切り抜き、補正、圧縮、変換など、コンテンツは作成から公開までの間にさまざまな変更を受けます。複数のソフトウェアを経由する場合もあり、その変更は軽微なものから大幅なものまで多岐にわたります。編集によって意味や文脈が変化することもあり、メタデータは削除または改ざんされる可能性があります。

編集段階でトラストギャップを解消する方法

利用者は、コンテンツが生成後にどのように変更されたのかを理解できる必要があります。カメラのような正当なハードウェアから生成されたことを知るだけでは不十分です。その画像が大きく加工されているかどうかも重要です。コンテンツには、何が、いつ、誰によって変更されたのかを示す改ざん検知可能な履歴を埋め込む必要があります。

ステージ 3：公開

コンテンツは完成後、Web サイト、メディア、SNS などで公開されます。この段階では偽コンテンツが「公式情報」として提示される可能性があります。攻撃者はブランドや公的機関になりすますことができます。また、正規メディアが確認不足によって偽情報を公開してしまうリスクもあります。

実際の事例を見ると、その影響がいかに大きいかが分かります。政治家、経営者、ブランド、有名人は、利用者を欺いたり詐欺を行ったりするディープフェイクの標的になっています。

公開段階でトラストギャップを解消する方法

コンテンツは信頼できる発行者によって署名され、その真正性と発行者の正当性を独立して検証できなければなりません。また、作成方法、編集履歴、公開者といった前段階の情報も同時に確認できる必要があります。

ステージ 4：配信

公開されたコンテンツは、プラットフォームやネットワークを通じて急速に拡散します。ここでリスクは最大化されます。ディープフェイクや誤情報は訂正されるよりも速く広がり、共有されるたびに文脈や出典情報が失われます。検証はプラットフォーム依存となり、多くの場合存在しません。

その規模は驚異的です。消費者は現在、毎日複数のディープフェイクに接しており、多くのプラットフォームはそれらを継続的に検知・削除できていません。

配信段階でトラストギャップを解消する方法

コンテンツライフサイクル全体の集大成がこの段階です。デジタルメディアがインターネット上を移動する際には、作成方法、作成日時、変更履歴、公開元に関する改ざん防止情報も一緒に保持され続ける必要があります。

コンテンツへのトラスト回復には検証可能な証明が必要

今こそコンテンツトラストギャップを解消することが重要です。ディープフェイクコンテンツは指数関数的に増加しており、消費者の約半数がディープフェイクによってデジタルメディアへの不信感を抱いていると回答しています。

同時に攻撃はより高度かつ標的型になっています。リスクの増大を受け、各国政府も新たな規制や刑事罰を導入し始めています。

トラストを回復するためには、「何が偽物か」を証明しようとするのではなく、「何が本物か」を疑いなく証明する方向へ転換しなければなりません。

Content Trust Manager とコンテンツ真正性標準

このレベルのトラストを現実的かつ大規模に実現するために、組織は Coalition for Content Provenance and Authenticity（C2PA）のような標準ベースのアプローチを採用しています。C2PA は、暗号署名された来歴データ（マニフェスト）をデジタルコンテンツへ埋め込み、コンテンツの作成・変更・公開履歴を保持する改ざん検知可能な仕組みを提供します。

デジサートの Content Trust Manager は C2PA 準拠ソリューションであり、コンテンツ署名、検証済みデバイスやシステムとの紐付け、ライフサイクル全体にわたる来歴管理を可能にするエンタープライズ向け基盤を提供します。また、画像機器メーカーや OEM 向けには、Device Trust Manager を利用してデバイスへ直接 C2PA 証明書を組み込み、生成コンテンツへ自動署名することも可能です。その結果、コンテンツとともに移動する独立検証可能な真正性を実現し、組織は何が本物であるかを明確に証明できます。

あらゆるものが生成・改変・偽造可能な世界において、デジサートはコンテンツライフサイクルのあらゆる段階でトラストギャップの解消を支援します。

Content Trust についてさらに詳しく知りたいですか？今すぐ デモをご覧ください。