Appleの共同創業者スティーブ・ウォズニアック氏（通称ウォズ）は、AIの開発を一時停止するよう呼びかけながらも、AIの進歩を止めることはできないと述べ、AIを悪用して見破りにくい詐欺を仕掛ける人々に備えなければならないと語った。

背景

人工知能の先駆者たちでさえ、それがどれほど危険かについて意見が一致しておらず、今週は2人の著名人が正反対の意見を表明した。

ジェフリー・ヒントンはしばしば「AIのゴッドファーザーの一人」と呼ばれます。彼はニューラルネットワーク開発における重要人物であり、数多くの論文を執筆し、この分野での功績により数々の賞を受賞しています。

彼は現在のAI研究の危険性を非常に懸念していたため、そのリスクについて自由に発言できるようにGoogleでの役職を辞任した[…]

ユルゲン・シュミットフーバーは、SiriやGoogle翻訳の基盤技術であるニューラルネットワークを用いた自然言語処理の研究により、「AIの父」と呼ばれています。彼はまた、膨大な数の論文を執筆し、その研究で数々の賞を受賞しています。

シュミットフーバー氏とヒントン氏は多くの点で意見が一致しないものの、AIの発展を止めることはできないという点では両者とも同意している。しかし、シュミットフーバー氏は ガーディアン紙に対し、  AIの危険性は誇張されていると考えていると語った。

スティーブ・ウォズニアック氏はより慎重なアプローチを支持する人物の一人であり、最近、GPT-4を超えるAI開発を一時停止するよう求める公開書簡に署名した。

しかし、彼は AI の進歩は止められないという点ではヒントン氏とシュミットフーバー氏の両者と同意見のようだ。

ウォズ「AIは止められない、詐欺に備えなければならない」

ウォズ氏はBBCに対し、「テクノロジーを止めることはできない」とし、規制が役に立つかどうか疑問視している。

同氏は、生成型AIの主な危険性の一つは詐欺を見抜くのが難しくなる可能性があることであり、私たち全員がこれに備える必要があると述べた。

ウォズニアック氏は、この技術が「悪意のある人物」によって悪用されるのではないかと懸念していると述べた。[…] 同氏は、「AIは非常に知能が高いため、悪意のある人物、つまり自分が誰なのかを騙そうとする人物に狙われやすい」と述べた。[…]

ウォズニアック氏は、AIには感情がないため人間に取って代わるとは考えていないが、ChatGPTのようなプログラムは「非常に知的に聞こえる」テキストを作成できるため、悪意のある行為者がさらに説得力を持つようになるだろうと警告した。[…]

同氏は、規制当局が適切な対応をとるかどうかについて懐疑的な見方を示した。「金銭を求める勢力が勝つことが多いと思う。それはある意味残念なことだ」

詐欺やフィッシング攻撃を見抜くのはますます難しくなるため、鍵となるのは詐欺やフィッシング攻撃について人々を教育することだと彼は考えている。

havebin.com を Google ニュース フィードに追加します。