作者: むむ

「出て、転職して、仕事に戻る。」 5日後、サム・アルトマンはついにCEOの地位を取り戻し、彼をサポートしていた元取締役会会長のグレッグ・ブロックマンとともにOpenAIに戻った。

AI の巨人が演出した宮殿のドラマが終わったと人々が思っていたとき、ロイター通信は大きな収穫を明らかにしました。アルトマン氏が解任される前に、OpenAI の研究者数名が強力な人工知能プロジェクトについて取締役会に警告書を発行していました。この発見は人類を脅かす可能性があり、この手紙がアルトマン失脚の鍵となる可能性がある。

この件に詳しい関係者らはまた、OpenAI 内に Q* (Q スターと発音) と呼ばれるプロジェクトがあり、同社の汎用人工知能 (AGI) の探求におけるブレークスルーとなる可能性があるとロイターに語った。

この時点で、外の世界の注目はOpenAIの人事闘争から謎のQ*へと移っている。

Q* は AI の数学的能力に関連している可能性があります

ロイターによって開示された内部警告書と Q* に関する情報は、匿名の情報源から得られたものです。この権威あるメディアは、内部書簡の原文を見ていないため、Q* の機能を確認できなかったと述べましたが、この増分情報は依然として外部の世界の好奇心を呼び起こしました。

OpenAIは11月22日、サム・アルトマン氏がCEOに復帰し、ブレット・テイラー氏（会長）、ラリー・サマーズ氏、アダム・ディアンジェロ氏で構成される新たな取締役会を構成することで基本合意したと発表した。このニュースを受けて、アルトマン解任の主要な推進者とみられていた同社の首席科学者リヤ・サツケヴァー氏が取締役から解任された。

Xでは、アルトマンとOpenAIはお互いに好意を持ち、ブロックマンはメンバーとの「幸せな再会」の写真を投稿し、上司と従業員は再び家族になったことを祝いました。

「起業家と科学者の戦い」として知られるこのドラマは起業家の勝利で終わったが、アルトマン氏がOpenAIの当初の取締役会に不信感を抱いた原因は依然として不明だ。

11月23日、ロイター通信は、アルトマン氏が辞任する4日前に、複数の研究者が人類を脅かす可能性がある強力な人工知能の発見について警告する書簡を取締役会に送ったと情報筋の話として伝えた。

関係筋２人は、取締役会がアルトマン氏を解任する前に、これまで報道されていなかった書簡と人工知能アルゴリズムが鍵となると述べた。関係者の1人によると、OpenAIは従業員に宛てた社内書簡の中で、Q*と呼ばれるプロジェクトについて認めており、これは同社の汎用人工知能（AGI）の探求における画期的な進歩となる可能性があると一部の人が信じているという。

OpenAI は、AGI が最も経済的に価値のあるタスクにおいて人間の自律システムを超えることができると長年信じてきました。

この関係者は匿名を条件に、膨大なコンピューティングリソースを考慮すると、新しいモデルは特定の数学的問題を解決できると述べ、数学的性能は小学生のレベルにしか達していないものの、こうしたテストで得られた良好な結果は、研究者らは Q* の将来に期待しており、成功については非常に楽観的です。

ロイター通信のニュースにより、外部の注目は人事紛争からOpenAIの本業へと移っており、OpenAI開発者コミュニティですら「Q*とは何なのか」と疑問を呈しているが、正式な返答は得られていない。

ロイター通信のニュースにより、外部の注目は人事紛争からOpenAIの本業へと移っており、OpenAI開発者コミュニティですら「Q*とは何なのか」と疑問を呈しているが、正式な返答は得られていない。

OpenAI 開発者コミュニティのディスカッション Q*

Q* は数学に関連していると思われるため、OpenAI の研究開発には Q-Learning アルゴリズムが使用されているのではないかと推測する開発者もおり、それがこの謎のプロジェクトが Q にちなんで名付けられた理由かもしれません。

Q-Learning アルゴリズムは数学的概念であり、「小学校」レベルの数学的計算を実行できる機械学習アルゴリズムの一種であり、この分野では OpenAI の GPT-4 モデルを超えることが期待されています。

Q-Learning は、「強化学習」と呼ばれる機械学習テクノロジーを使用して数学的問題を解決し、正しいまたは最適な行動を賞賛し、間違ったまたは最適ではない行動を罰します。マシンは、考えられるすべての経路を探索することで期待される報酬を得る最短経路を学習し、試行錯誤を通じてより最適なルートを見つけ、時間をかけて最適化された状態に到達し、毎回より良い決定を下すことができます。

AGIは人類からそれほど遠くないのでしょうか？

この会話型ロボットは、GPT-4を理解するための最も直接的な製品であるChatGPTの性能に応じて、人文科学やプログラミングなどの分野の自然言語を理解し、文脈のロジックに従った回答を返すことができ、自身の修正も行うことができます。人間からの絶え間ないプロンプトの中での答え。

しかし、ChatGPT は数学的な問題を解くのがあまり得意ではありません。たとえば、「同じ檻の中のニワトリとウサギ」の問題を一度に正しく答えることはできません。また、ChatGPT に混合演算の数学問題を与えた人もいます。その人の答えは次のとおりでした。も満足できません。

現在、Q* は GPT の数学的機能を解決するための OpenAI の道とみなされています。

ここで新たな疑問が生じます。OpenAI は数学的能力を獲得した後、なぜ AGI に昇格できるのでしょうか?

研究者らは、数学が生成人工知能の開発の最前線にあると信じています。現在、生成 AI は、文章作成や言語翻訳において次の単語を統計的に予測することに優れていますが、同じ質問に対する答えは大きく異なる可能性があります。しかし、「たった一つの正解」という数学的能力を克服できれば、人工知能も人間の知能と同様により強力な推論能力を持つことになる。

限られた数の演算しか解決できない電卓とは異なり、AGI は一般化、学習、理解することができ、推論機能の強化は間違いなく、AGI の特性における重要な前進です。

このニュースをロイターに伝えた情報筋は、OpenAI内に「人工知能科学者」チームと称する研究が存在し、複数の情報筋がこのチームの存在を認めたと述べた。関係者によると、このグループは以前の「Code Gen」チームと「Math Gen」チームが合併して設立され、既存の人工知能モデルを最適化して推論能力を向上させ、最終的には科学的研究を行う方法を模索しているという。 。

この情報は OpenAI から返答がなく、実証的な証拠もないため、Q* はさらに謎に包まれています。 Altman と OpenAI の過去の発言から判断すると、AGI は常にこの会社が追求する最高レベルでした。

アルトマン氏は、11月に発表された多数の新たなツールに加え、先週サンフランシスコで開催されたAPEC首脳会議で、重要な進展が得られると信じていると語った。 「OpenAI の歴史の中で 4 回、最近では過去数週間で、私たちは無知のベールを押しのけ、発見の最前線を押し広げている現場にいたのですが、それができたのが私の研究のハイライトでした。 「人生。職業上の名誉。」

アルトマン氏が帰ってきました。話題作りや運転資金作りに長けたこの経営者が、Q*のニュースを見逃すことはないと思います。