OpenAIの取締役会がCEOサム・アルトマン氏を解雇するという性急な決断に至った謎が、ついに解明されたかもしれない。新たな報告書によると、複数の研究者が、人類を脅かす可能性のある新たなブレークスルーについて取締役会に警告していたという。アルトマン氏はその警告を怠ったようだ。

委員会への書簡の中で、研究者らは、Q*（Qスターと発音）と名付けられたこの画期的な技術により、AIが「経済的に価値のあるタスクのほとんどで人間を上回る」可能性があると示唆した。

これまでの話

OpenAIは金曜日、取締役会メンバー4名がアルトマン氏を解雇し、ブロックマン氏を取締役会から解任したと発表した。解任理由は曖昧で、アルトマン氏が「取締役会とのコミュニケーションにおいて一貫して率直ではなかった」とされているだけだった。

テクノロジー業界はアルトマン氏を支持し、OpenAIの主要投資家は彼の復職を求めました。取締役会と上級幹部の間で交渉が行われましたが、成功しませんでした。

マイクロソフトは、アルトマン氏、ブロックマン氏、そしてOpenAIチームのメンバーで同社への参加を希望する全員に職を提供しました。その後、ほぼ全員が取締役会に公開書簡を送り、アルトマン氏が復職し取締役会が解任されない限り辞任すると表明しました。

OpenAIは当初、CTOのミラ・ムラティ氏が暫定CEOを務めると発表していたが、48時間以内にTwitchの共同設立者であるエメット・シアー氏が後任に就くと発表した。こちらも暫定採用となる。

その後、2度目の交渉が行われました。その結果、取締役は1人を除いて全員が解任され、サム・アルトマンがCEOに復帰しましたが、いくつかの注目すべき妥協点もありました。

Q* ブレークスルーとは何ですか?

現在、ChatGPTに数学の問題を解くように指示すると、巨大なテキストデータベースを用いて単語ごとに人間がどのように答えるかを判断するという、ステロイド強化版のテキスト予測アプローチが用いられます。つまり、正しい答えを出す場合もあれば、出ない場合もありますが、いずれにせよChatGPTには数学的なスキルは備わっていません。

OpenAIはこの分野で画期的な進歩を遂げたようです。AIモデルがこれまで見たことのない数学の問題を真に解くことを可能にしたのです。この開発はQ*と呼ばれているようです。残念ながら、チームは脚注へのポインターのように見えるものを避けるのに十分なほど賢い命名モデルを使用していなかったため、ここではQ-Star版を使用します。

Q-Starの現在の数学的能力は小学生レベルと言われていますが、今後この能力は急速に向上することが期待されています。

Q-Star モデルは人類を脅かすのでしょうか?

一見すると、方程式を解けるAIシステムは、ディストピアの悪夢のような話には思えない。人間が塩鉱山で働くか、Q-Starが4本の直線のうちどれが2 y = x +7に平行かを計算するかのどちらかだろう。

しかしロイターの報道によれば、Q-Starの研究はAIの聖杯である汎用人工知能（AGI）への道を示す可能性があるという。

OpenAIの一部関係者は、Q*（Qスターと発音）が、いわゆる汎用人工知能（AGI）の探求における画期的な進歩となる可能性があると考えていると、関係者の1人がロイター通信に語った。OpenAIはAGIを、経済的に最も価値のあるタスクにおいて人間を上回る自律システムと定義している。

膨大な計算リソースを与えられたこの新モデルは、特定の数学問題を解くことができたと、匿名を条件に関係者は語った。この人物は会社を代表して発言する権限がないことから、このモデルは小学生レベルの数学しか解けなかったものの、こうしたテストで優秀な成績を収めたことで、研究者たちはQ*の将来の成功に非常に楽観的になっていると、関係者は語った。

AGIとは、人間が実行できるあらゆるタスクを実行できるほど賢いAIシステムのことです。この目標が達成されれば、事実上、ほぼすべての人間の仕事がAIに置き換えられることになります。

アルトマンの解雇は今や意味を成すかもしれない

もしQ-Starの躍進が実際にAGIの開発の可能性をほんの少しでも高め、アルトマン氏がこの事実を取締役会に伝えていなかったとしたら、取締役会が彼の率直さを欠いたとコメントしたこと、そして解雇の緊急性が認識されたことに説明がつくだろう。

しかし、これは（私たちの知る限り）比較的少数の研究者が抱く懸念であることは指摘しておく価値がある。AIスタッフの大多数が理事会に反対し、アルトマン氏を支持していることからもそれがわかる。賢明な投資家（あるいは賢明な人々）は、この懸念は誇張されていると考えているようだ。

それでも、AIの商業部門に金銭的な投資をしていない独立した取締役会が監督を行い、営利企業がどこまで、どれだけの速さで推進すべきかを決定するという既存の企業構造を維持することは理にかなっている。

か否か …

しかし、The Vergeはロイターの記事を否定する情報源を1つ引用している。

事情に詳しい人物は ザ・ヴァージ に対し、取締役会はそのような画期的な成果に関する手紙を受け取ったことはなく、同社の研究の進捗はアルトマン氏の突然の解雇には関係していなかったと語った。

これはたった 1 人の人物に過ぎず、ロイターの記事は非常に説得力のある説明を提供しているが、謎とドラマはまだしばらく続くかもしれない。

havebin.com を Google ニュース フィードに追加します。