スナップチャットの「マイAI」機能は、子供のプライバシーを危険にさらす可能性があるとの懸念から、英国で禁止される可能性に直面している。

これは、ChatGPT 統合がチャットのトップに固定されたことに対するユーザーの怒りと、チャットボットが暴走したときに懸念と面白さが入り混じった状況に続くものです…

SnapchatのマイAI機能

Snapchat の My AI は、同社が 2 月にアプリに追加した ChatGPT 統合のブランドです。

本日、Snapchat向けにカスタマイズしたOpenAIのGPTテクノロジーの最新バージョンを搭載した新しいチャットボット「My AI」をリリースします。My AIはSnapchat+加入者向けの実験的機能として、今週から展開されます。

しかし、当時でも同社は、共有される情報はプライベートなものではないため、ユーザーに AI と秘密を共有しないよう警告する必要があると感じていました。

My AIとの会話はすべて保存され、製品エクスペリエンスの向上のために確認される場合があります。My AIに秘密を共有したり、My AIからのアドバイスを頼りにしたりしないでください。

英国、企業にプライバシーの見直しを警告

英国のプライバシー規制当局である情報コミッショナー事務局（ICO）は、同社が児童のプライバシーに関する適切なリスク評価を実施していなかったようだと述べている。

調査の結果、スナップ社は13歳から17歳の子供を含む英国の数百万人の「My AI」ユーザーに対するリスクを適切に特定し評価できなかったことが暫定的に判明した。[…]

ICOの調査では、Snap社が「My AI」のリリース前に実施したリスク評価において、生成AI技術がもたらすデータ保護リスク、特に児童に対するリスクが適切に評価されていなかったことが暫定的に判明しました。革新的な技術の活用と13歳から17歳の児童の個人データ処理が関わるこの状況において、データ保護リスクの評価は特に重要です。

ICOは、これはあくまで暫定的な結論であり、結論の誤りを証明するための企業による意見表明を歓迎すると強調している。しかし、企業がこれに応じない場合、この機能は英国で禁止される可能性がある。

最終的な執行通知が採択された場合、Snap社は「My AI」に関連するデータ処理の停止を求められる可能性があります。これは、Snap社が適切なリスク評価を実施するまで、英国のユーザーに「My AI」製品を提供しないことを意味します。

havebin.com を Google ニュース フィードに追加します。