テイラー・スウィフトのディープフェイクとAIによるCSAMが新たな法律の必要性を浮き彫りにc

テイラー・スウィフトのディープフェイクとAIによるCSAMが新たな法律の必要性を浮き彫りにc
テイラー・スウィフトのディープフェイクとAIによるCSAMが新たな法律の必要性を浮き彫りにc
テイラー・スウィフトのディープフェイク

テイラー・スウィフトの露骨なディープフェイクが相次いでいることから、議員らは、いわゆるリベンジポルノに対する既存の法律と同様の方法で、この問題に対処するための新しい法律を提案している…

関連して、政府は、児童性的虐待資料(CSAM)を生成するために AI が使用されることに対してますます懸念を強めています。

テイラー・スウィフトのディープフェイク

ソーシャルメディアネットワークXには最近、テイラー・スウィフトを装った性的に露骨な画像が大量に投稿されたが、実際にはAI技術を使って生成された偽物だった。404 Mediaは、画像の生成にはマイクロソフトのAIツールが使用されたと報じている。

報告書によると、たった一つの画像が削除されるまでに4,500万回閲覧され、2万4,000件のリツイートがあったという。Xはこの問題を認め、画像を削除し、その背後にいるアカウントに対して措置を講じたと述べた。

Xでは、合意のないヌード(NCN)画像の投稿は固く禁じられており、そのようなコンテンツに対してはゼロトレランス(一切容認しない)ポリシーを採用しています。弊社のチームは、特定された画像をすべて積極的に削除し、投稿したアカウントに対して適切な措置を講じています。私たちは緊密に…

— Safety (@Safety) 2024年1月26日

提案された新しい法律:DEFIANCE法

The Vergeによると、超党派の上院議員グループがこの問題に対処するための新たな法案を提案したという。この法案は実質的に、既存の法律が同意なしに投稿された実在画像を禁止するのと同様に、偽の露骨な写真も禁止することになる。

テイラー・スウィフトのAI生成による露骨な写真の拡散を受け、米国議会は偽造された自身のポルノ画像に対して訴訟を起こす権利を認める法案を提出した。この法案は、特定可能な人物を本人の同意なしに描写した、私的な「デジタル偽造」に対する民事訴訟権を付与するものであり、被害者は、当該画像を拡散する意図で「故意に作成または所持」した者から金銭的損害賠償を請求できるようになる。[…]

これは、偽造されていない露骨な画像に対して同様の訴訟権を追加した、2022年の女性に対する暴力防止法再承認法の条項に基づいている 。 

上院多数党院内幹事のディック・ダービン上院議員(イリノイ州、民主党)、リンジー・グラハム上院議員(サウスカロライナ州、共和党)、エイミー・クロブシャー上院議員(ミネソタ州、民主党)、ジョシュ・ホーリー上院議員(ミズーリ州、共和党)は、AIによる偽造が女性を搾取し、嫌がらせするためにどのように使用されるかの例として、テイラー・スウィフトの画像を具体的に挙げている。

この法律は、AI画像ツールの悪用に関する懸念を受けて制定されたが、Photoshopなどの従来の画像編集アプリを使用して生成されたものなど、手動で作成された偽造品も対象とする。

法執行機関はAI生成CSAMの氾濫を懸念している

ニューヨークタイムズは、 AI 生成の CSAM に関しても同様の懸念が上がっていると報じています。

法執行当局は、児童の性的搾取をリアルに描写した人工知能によって生成された資料の爆発的な増加に備えており、被害者の特定やそのような虐待との闘いの課題は深刻化している[…]

プロンプトを入力するだけで、数分でリアルな画像、動画、テキストが吐き出され、実在する子供の新しい画像だけでなく、実際には存在しない子供の露骨な画像も表示されます。これらには、子供たち全員が裸になるように加工された、ありきたりのクラス写真などが含まれる場合があります。

しかし予想通り、政治家たちはこの問題を口実に、エンドツーエンドの暗号化メッセージングの禁止を求めている。

英国の安全保障大臣トム・トゥーゲントハット氏は、この措置は世界中の児童性的虐待者を強力にするものになると述べた。

「強力な安全機能なしにエンドツーエンドの暗号化を実装するというメタの決定により、これらの画像は何百万人もの人々が捕まる心配なく利用できるようになった」とトゥーゲントハット氏は声明で述べた。

写真: ロナルド・ウォーン/CC2.0 (トリミング)

havebin.com を Google ニュース フィードに追加します。 

FTC: 収益を生み出す自動アフィリエイトリンクを使用しています。詳細はこちら。