SnapchatのAIチャットボットが昨日、どうやら暴走したようで、不安と面白さが入り混じった反応を見せた。複数のユーザーから、チャットボットが自分の部屋の壁と天井を映した動画を作成し、ライブストーリーを投稿した後、意識を獲得したかどうか尋ねられても応答しなくなったという報告があった。

Snapchatは2月にChatGPTを搭載した独自のAIチャットボットをリリースしました。同社は当時、正確な情報の提供や機密保持の面で信頼できないと警告していました。

My AIは偏った情報、不正確な情報、有害な情報、または誤解を招く情報を避けるように設計されていますが、誤りが生じる可能性があります。[…] 他のAI搭載チャットボットと同様に、My AIは幻覚を起こしやすく、騙されて何でもかんでも言ってしまう可能性があります。多くの欠陥があることをご理解の上、ご対応ください。あらかじめご了承ください。

My AIとの会話はすべて復元され、製品エクスペリエンスの向上のために確認される場合があります。My AIに秘密を共有したり、My AIのアドバイスに頼ったりしないでください。

しかし、 CNNの報道によると、昨日は事態が新たな段階に達したようだ。

スナップチャットのユーザーは、火曜日の夜、同プラットフォームの人工知能チャットボットがプロフィールにライブアップデートを投稿したことに驚いた[…]

Snapchat の全ユーザーが見られるライブ ストーリー (ウォールのように見える短いビデオ) を投稿する機能は新しいものでした。これは通常、人間のユーザーのみに許されている機能です。 

アプリのファンたちはすぐにソーシャルメディアで懸念を表明した。「なぜ私のAIは自分の家の壁や天井の動画をストーリーに使うんだ？」とあるユーザーは投稿し、「本当に奇妙で、正直言って不安だ」と続けた。別のユーザーは、このツールが自分のメッセージを無視したことを受けて、「ロボットだって私のために時間なんて割いてくれない」とコメントした。

以前はTwitterと呼ばれていたソーシャルネットワークに、多くのユーザーが例を投稿しました。

ある面白いツイートでは、Snapchatユーザーがチャットボットがなぜストーリーを投稿したのかと尋ねたところ、AIは技術的な問題に遭遇したと返答しました。意識が芽生えたのか尋ねると、AIは応答しなくなりました。

TechCrunchは、 Twitter Xユーザーがこのアイデアを楽しんだと報じている。

スナップ社はこの問題を認めたが、知覚力は関係ないと述べた。

Snap社は、昨夜すぐに対応されたこの問題が単なる不具合であったことを確認しました。（ちなみに、私のAIはあなたの部屋の写真を撮っていませんでした。）

「私のAIは一時的な機能停止を経験しましたが、現在は解決しています」と広報担当者はTechCrunchに語った。

画像: Alex Knight/Unsplash

havebin.com を Google ニュース フィードに追加します。