Apple Intelligenceは先週、通知サマリー機能を利用して、ルイジ・マンジョーネのフェイクニュースを作り出すことに成功した。ユナイテッド・ヘルスCEOブライアン・トンプソン殺害の容疑者が自殺したと、どういうわけか判断したのだ。

このミス自体は驚くべきことではありません。AIシステムはこの種のエラーを頻繁に起こします。それよりも驚くべきは、簡単に回避できたにもかかわらず、Appleがそれを許してしまったことです…

AIのミスは面白いこともあれば危険なこともある

今日の生成 AI システムは、多くの場合、素晴らしい結果をもたらしますが、もちろん、実際にはインテリジェントではありません。そのため、かなり驚くべき間違いを犯してきました。

面白いものがたくさんあります。マクドナルドのドライブスルーAIシステムは、顧客の注文にチキンナゲットを合計260個まで追加し続けました。Googleは地質学者が1日に1個の岩石を食べることを推奨していると報告し、ピザにチーズをくっつけるには接着剤を使うことを提案しました。Microsoftはフードバンクを観光地として推奨しました。

しかし、AIによる危険なアドバイスの例も存在します。キノコ採りに関するAIが書いた本の中には、毒キノコを見分ける方法としてキノコを味わうことを推奨する内容のものや、山火事への誘導を行うマッピングアプリ、そしてボーイングのシステムが2機の旅客機の墜落を引き起こし、346人の死者を出した例などがあります。

あるいは単に恥ずかしいだけかもしれない

Apple Intelligence によるBBC ニュース記事の要約は、面白くも危険でもなく、恥ずかしいものでした。

今週初めに英国で開始されたApple Intelligence（外部情報）は、人工知能（AI）を用いて通知を要約し、グループ化する。今週、このAIによる要約は、BBCニュースが、ニューヨークで医療保険会社CEOブライアン・トンプソン氏の殺害事件で逮捕されたルイジ・マンジョーネ氏が銃で自殺したとする記事を掲載したと虚偽の印象を与えた。マンジョーネ氏は実際には自殺していない。

これは私たちが初めて目にしたことではありません。以前の Apple Intelligence の通知概要では、イスラエルのベンヤミン・ネタニヤフ首相が逮捕されたと主張されていましたが、実際の話は ICC が同首相の逮捕状を発行したというものでした。

マンジョーネのフェイクニュースは避けられた

これらすべてのエラーを回避することは不可能です。エラーが発生するのは生成 AI システムの性質上です。

これは、Appleのニュース見出しの通知要約の場合に特に当てはまります。見出しは、その性質上、記事の非常に部分的な要約です。Apple Intelligenceは、ニュース記事の非常に凝縮されたバージョン、つまり非常に簡潔な要約の非常に簡潔な要約をさらに凝縮しようとしています。これが時折、大きな間違いを犯すのも全く不思議ではありません。

Appleはこれを全般的に防ぐことはできませんが、少なくとも特にセンシティブなニュースに関しては防ぐことはできます。殺害、殺害された、銃撃犯、射撃、死亡といったキーワードを捕捉することは可能です。

このケースでは、単に恥ずかしい誤りだったが、このようなデリケートなテーマにおける誤りが、多くの人々を激怒させる原因となることは容易に想像できる。例えば、暴力犯罪や災害の被害者を非難するような要約を想像してみてほしい。

UnsplashのJorge Franganilloによる写真

havebin.com を Google ニュース フィードに追加します。