OpenAIは、中国がChatGPTを密かに利用してソーシャルメディア上にプロパガンダ投稿を作成し、デジタル監視を行っていた証拠を発見した。標的となったプラットフォームには、Reddit、TikTok、Facebook、Xなどが含まれる。

AI企業は、こうした活動のうち10件をブロックしたと発表しており、そのうち4件は「中国発の可能性が高い」という。このサービスを悪用しているとみられる他の国としては、ロシア、イラン、北朝鮮が挙げられる。

NPRによると、このチャットボットはオリジナルの投稿を生成するだけでなく、投稿へのエンゲージメントを高めるためにも使用されていたとのことです。面白いことに、犯人はChatGPTを使って、ツールの悪用に関する独自のパフォーマンスレビューも作成していました。

OpenAIの研究者によると、中国のプロパガンダ活動家は、ソーシャルメディアサイトに投稿やコメントを書くためにChatGPTを使用しているほか、上司のためにその仕事を詳細に記述した業績評価も作成しているという。[…]

「中国では、ますます多様な戦術を用いた秘密作戦が拡大しているのが見られます」と、OpenAIの情報調査チームの主任研究員であるベン・ニモ氏は、同社の最新の脅威レポートに関する記者との電話会議で述べた。[…]

OpenAIが「Sneer Review」と名付けた中国の活動は、ChatGPTを用いて短いコメントを生成し、TikTok、X、Reddit、Facebookなどのウェブサイトに英語、中国語、ウルドゥー語で投稿した。投稿内容には、トランプ政権による米国国際開発庁（USIDA）の解体（この動きを称賛する投稿と批判する投稿の両方があった）や、プレイヤーが中国共産党を打倒することを目指す台湾のゲームへの批判などが含まれていた。多くの場合、この活動は投稿とそれへの返信コメントの両方を生成していた。

皮肉なことに、AI が生成したパフォーマンス レビューにより、業務に関する洞察が得られました。

Sneer Reviewの背後にいるアクターたちは、OpenAIのツールを内部作業にも使用しており、「作戦の立ち上げと実行に要した手順を詳細に記述したパフォーマンスレビュー」の作成もその一つだとOpenAIは述べている。「ネットワーク全体で観察したソーシャルメディアの行動は、このレビューで説明されている手順と非常によく似ていました。」

もう一つの要素は、明らかに情報収集活動の一環として、ジャーナリスト、アナリスト、政治家への電子メールを生成するために ChatGPT を使用することでした。

注目のアクセサリー

• AppleのAmazonストアでApple Watchとバンドを販売
• Anker 511 Nano Pro 超小型iPhone充電器
• SpigenのiPhone 16e用MagFitケースがMagSafe対応に
• iPhone 16モデル用25W出力のApple MagSafe充電器
• 上記に対応するApple 30W充電器
• Anker 240W 編組 USB-C - USB-C ケーブル

UnsplashのMax Benderによる写真

havebin.com を Google ニュース フィードに追加します。