Amazon Echoは非常に普及しているスマートホームデバイスです。スマートスピーカーは、音楽を手軽に聴いたり、スマートホームデバイスを操作したり、質問に素早く答えたりと、非常に便利です。しかし、これらのデバイスは完璧とは程遠いものです。例えば、Alexa搭載デバイスが10歳の子供に「ペニーチャレンジ」への参加を促しているのを見ればそれが分かります。ペニーチャレンジとは、コンセントに接続されたプラグの先端にペニー硬貨を触れるゲームです。

Alexa デバイスは、質問されたときによくあるように、このチャレンジ (明らかに危険なので試みるべきではありません)に関する情報をWeb から取得しました。

子供の親はツイッターで次のように説明した。

先ほどYouTubeで体育の先生が紹介してくれた、靴を足に乗せたまま横になったり転がったりする体操課題に取り組んでいました。外は天気が悪くて、娘はもう一回やりたいと言っていました。

Alexa デバイスは、子どもの「やるべきチャレンジを教えて」という質問に対して次のように答えました。

ネットで見つけたものをご紹介します。ourcommunitynow.com によると、やり方は簡単。携帯電話の充電器を壁のコンセントに半分くらい差し込み、露出した突起部分に1セント硬貨を触れさせるだけです。

この引用は、このチャレンジを奨励するウェブサイト（昨年ソーシャルメディアで広まった）からではなく、「保護者の皆様、ご注意ください。『アウトレット チャレンジ』が広まり、子供たちは想像を絶する行動に出ています」というタイトルのこのページから引用したものです。

このページでは、チャレンジに関する警告が続き、Alexaデバイスが読み上げた引用文に続いて、「結果として生じる火花は、インターネットで瞬く間に有名になるほどクールなものになるはずです。（もちろん、絶対に挑戦しないでください！）」と続きます。

キーワード認識を訓練されたコンピュータがこのような間違いを犯すのは理解できますが、それでも危険であり、特に子供向けのシステムの場合、これらのシステムでは人間による監視が重要であることがわかります。

AmazonはBBCへの声明で、Alexaがこれらのアクティビティを推奨しないように変更したことを確認し、次のように述べた。

お客様の信頼は当社のすべての活動の中心であり、Alexa はお客様に正確で関連性のある役立つ情報を提供するように設計されています。

さて、同様の質問に対して、私のAlexaデバイスは、「Fortnite Challenge Roulette」というスキルを推奨したり、「チャレンジ」という言葉の定義を教えたりと、さまざまな回答を提供してきましたが、危険なチャレンジに参加することを推奨することはありません。

havebin.com を Google ニュース フィードに追加します。