Appleの共同創業者スティーブ・ウォズニアック氏は、イーロン・マスク氏やAI分野の著名な研究者らに加わり、高度なAI開発の一時停止を訴えました。具体的には、GPT-4よりも強力なAIシステムの開発を少なくとも6ヶ月間停止するよう求める公開書簡を発出しています。

書簡では、現在のAI開発は制御不能であり、「社会と人類に深刻なリスク」をもたらす可能性があると述べられている。

広く支持されているアシロマAI原則に述べられているように、 高度なAIは地球上の生命の歴史に大きな変化をもたらす可能性があり、相応の注意とリソースを投じて計画・管理されるべきです。しかし残念ながら、このレベルの計画と管理は実現されていません。ここ数ヶ月、AI研究所は、誰も――たとえその作成者でさえ――理解、予測、そして確実に制御できない、かつてないほど強力なデジタルマインドを開発・展開するという、制御不能な競争に巻き込まれています。

AI システムは多くの雇用を危険にさらすと述べており、いくつかの疑問が提起されています。

 機械が情報チャンネルをプロパガンダと虚偽で溢れさせるままにしておく べきでしょうか？ やりがいのある仕事も含めて、あらゆる仕事を自動化す べきでしょうか ？いずれ人間を凌駕し、賢く、時代遅れになり、人間に取って代わるかもしれない、非人間的な知性を開発す べきでしょうか ？文明の制御を失う危険を冒す べきでしょうか？

ChatGPTの開発元であるOpenAI自身も以前、そのような一時停止がいつか必要になるかもしれないと示唆しており、この手紙ではその日が来たと述べています。

OpenAIは最近、汎用人工知能（AI）に関する声明で、  「ある時点で、将来のシステムの訓練を開始する前に独立したレビューを受けることが重要になる可能性があり、また、最先端の取り組みにおいて、新しいモデルの作成に使用される計算能力の増加率を制限することに合意する必要がある」と 述べています。私たちもこれに同意します。まさに今がその時です。

この書簡では、署名者がすべてのAI開発の一時停止を求めているのではなく、「新たな能力を備えた、これまで以上に巨大で予測不可能なブラックボックスモデルへの危険な競争」を求めているだけであることを慎重に強調している。

その他の注目すべき署名者には、AIを専門とする多数の学者や、テクノロジー企業の上級幹部などが含まれている。

手紙の全文はここでお読みいただけます。

写真: アレッサンドロ・ヴィアピアーノ/ CC4.0

havebin.com を Google ニュース フィードに追加します。