AI に既存の写真をほぼ好きなように修正させたり、完全に人工的な画像を生成するよう指示したりできるようになった今、私たちは再び写真を信頼できるようになるのでしょうか?

Apple は 2 つの方法でこの問題に取り組んでおり、コンテンツの信頼性に関する新たな標準にも Apple が加わることを期待している人は多いでしょう…

これは新しい問題ではない

写真の真実性を信頼できるかどうかは、もちろん新しい問題ではありません。写真家は、単にフレーミングの中に何を入れ、何を省くかを選択するだけで、私たちの現実に対する見方に影響を与えることができました。

レンズの選択によって、同じ景色でも様々な歪みが生じます。例えば、被写体が近くに見えたり、遠くに見えたりします。露出を調整することで、被写体を暗くしたり、明るくしたりできます。フィルムやフィルターの選択によって、色の見え方にも変化が生まれます。長時間露光を使えば、人物が歩いている様子を消すことができます。他にも様々な方法があります。

そして暗室が登場しました。マスク、焼き込み、覆い焼きといった処理は、シーンの見た目を劇的に変える可能性がありました。従来の写真編集ソフトウェアは、調整できる範囲を広げるだけでした。

AI による写真編集と作成は、写真が私たちに影響を与えたり、あからさまに騙したりするために使われる数多くの方法の中で最新のものにすぎません。

しかしAIはそれをさらに大きな問題にする

これまで、写真編集にはある程度のスキルが必要であり、説得力のある偽の画像を作成することは誰にでもできるものではありませんでした。

今や誰でも、しかも数秒でできます。上の偽画像は、もちろん意図的に議論の余地がないように作られていますが、誰かや何かを非常に好ましくない形で見せかけているように見せかけることも容易にできます。参考写真をPhotoshopにアップロードし、テキストプロンプトを作成し、結果を待つというプロセス全体で約30秒しかかかりませんでした。

誰でも数秒でそれができ、結果がますます現実的になってきているということは、将来に大きな問題を引き起こす可能性がある。

Appleは2つの方法でこれに取り組んでいる

Apple Intelligenceの（段階的な）導入により、AI画像作成ツールがさらに数百万人に利用されることになり、問題が悪化する可能性がある。しかし、Appleはこうした危険性を強く認識しており、2つの予防策を講じている。

まず、iPhone ユーザーがテキストの説明から完全に架空の画像を作成できるようにする Image Playground では、写真のようにリアルな結果は意図的に排除されています。

Image Playgroundは、アニメーション、イラスト、スケッチの3つのスタイルをサポートしています。[…] Image Playgroundでデモされている画像はすべてアニメーション化されており、非現実的なスタイルであることは注目に値します。明らかに、Appleはリアルに見える偽の写真を作成するためのツールを提供したくないようです。

第二に、AIツールを使って実際の写真を操作すると、Appleはその事実をタグ付けします。これは、クレイグ・フェデリギ氏がWSJのインタビューで語ったことです。

写真には素晴らしい歴史があり、人々は写真コンテンツを信頼できるもの、現実を示すものとして捉えてきました。私たちの製品、つまりスマートフォンは多くの人に利用されており、空想ではなく正確な情報を伝えるお手伝いをすることが私たちにとって重要です。

写真の小さなディテール（水のボトルなど）を削除した場合でも、写真のメタデータを更新して、誰かが戻ってそれが変更された写真であることを確認できるようにします。

コンテンツの真正性に関する取り組み

これまでのところ、Apple はメタデータのアップデートを独自の方法で進めていますが、その基本的なアプローチは、Content Authenticity Initiative (CAI) として知られるものを通じて多くの企業や報道機関によってサポートされているものです。

目的は、AI による作成や編集が標準的な方法で画像メタデータに反映され、検出されてフラグが付けられるようにすることです。

コンテンツ認証情報を使用すると、コンテンツのライフサイクルのあらゆる段階で、コンテンツに関する最も重要な詳細を記録して表示できます。

作成: コンテンツ作成に使用されるサポート AI ツール、ソフトウェア、デジタル カメラ、その他の
デバイスを表示します。

編集と生成 AI: 切り取り、追加、削除、AI の変更など、あらゆる変更を記録できます。

公開: 消費者はコンテンツ資格情報の作成
と編集履歴に簡単にアクセスできます。

CAI の支持者には、Adobe、ABC News、Associated Press、BBC、Canon、Leica、Microsoft、Nikon、The New York Times、Nvidia、Qualcomm、Reuters、Wall Street Journal などが含まれます。

この標準はオープンソースであるため、誰でも採用でき、業界標準となる可能性は十分にあります。Appleが自社のメタデータ編集をこの標準に準拠させることが、明らかに有益となるでしょう。

画像: Vision Pro の写真とテキストプロンプトから Photoshop で AI を作成

havebin.com を Google ニュース フィードに追加します。 

FTC: 収益を生み出す自動アフィリエイトリンクを使用しています。詳細はこちら。