OpenAIの「AGI Readiness」責任者が辞任 – 「偏見を減らしたい」

by

テクノロジー業界で 20 年以上の経験を持つベテランのアナリストとして、マイルズ ブランデージ氏の OpenAI からの離脱は興味深い展開だと思います。彼の安全性研究における広範な経歴と AGI に対する深い理解により、彼はこの分野で活動するあらゆる組織にとって貴重な人材となっています。

OpenAIで安全性研究を長年務めているマイルズ・ブランデージ氏は、組織内の「AGI Readiness」責任者としての役割を辞任し、10月23日付けで別の人工知能企業を設立するか、その一員となる予定だ。

2018 年、ブランデージは OpenAI の研究者の役割を引き受けました。それ以来、彼は会社の安全部門の責任者に任命されました。

最近の Substack の投稿で、彼は OpenAI の「AGI 安全チーム」が解散される予定であると述べました。これは、同社には汎用人工知能の安全性の確保に重点を置いた特定の部門がもはや存在しないことを意味する可能性があります。

汎用人工知能 (AGI) とは、人間が同じリソースを自由に使用して実行できるあらゆるタスクを人工知能システムが実行できるという概念を指します。

仮想通貨投資家として、ブランデージのチームの主な焦点は、当社が汎用人工知能 (AGI) に向けて前進する中で、政策提言を提供し、安全対策を確保することにあるようだと気づきました。

記事によると、彼は個人の研究と活動により多くの時間を捧げたかったために退職を選択したという。同氏は、自身の企業歴による偏見を軽減したいことや、自営業や他社への転職を通じて新たな可能性を探求したいことなど、辞任に至ったさまざまな要因について言及した。

ブランドごと: 

「私は新しい非営利団体を立ち上げ（および/または既存の非営利団体に参加）、AI 政策の研究と擁護に取り組む予定です。おそらく調査と擁護活動を組み合わせて行うつもりですが、詳細と割合は未定です。」

人間中心の精神でテクノロジーの創造に注力する組織であるコスモス研究所の所長であるブレンダン・マッコード氏と既に職業上の関係を築いている可能性があることを考慮すると、この研究者がこれ以上失業状態にある可能性は低い。

AGI への対応状況

Brundage 氏が OpenAI を去った理由はまだ不明です。 CryptoMoon からの問い合わせに対し、OpenAI は次の声明を提供しました。

「私たちは業界外で政策研究を進めるというマイルズの決断を全面的に支持しており、彼の貢献に深く感謝しています。 AI 政策に関する独立した研究に全力で取り組むという彼の計画により、彼はより広範囲に影響を与える機会が得られ、私たちは彼の研究から学び、その影響を追跡することに興奮しています。私たちは、マイルズ氏が新たな役割において、産業界と政府における政策立案の質の水準を引き上げ続けると確信しています。」

同社は、人工知能（AGI）準備チームの運命に関するCryptoMoonの問い合わせには応じないことを選択した。

OpenAIの従業員流出

AGI Readiness チームが設立される前、社内の汎用人工知能の監督を担当する主要部門は、Ilya Sutskever 氏と Jan Leike 氏が共同リーダーを務める「Superalignment」チームの共同リーダーでした。

5月にライク氏が経営陣との対立により疲弊の境地に達したと述べて退社したことを受け、チームは解散された。

先月、スツケヴァー氏は勤めていた会社を辞めた。それ以来、彼は競合する独自の AI ビジネスを立ち上げており、現在その価値は約 50 億ドルと評価されています。

この時までに、OpenAI の共同創設者兼主席科学者である Andrej Karpathy 氏は、2 月に自分の会社を設立する準備を進めていました。

8月、共同創設者の1人であるジョン・シュルマン氏が退社し、アンスロピックというライバル会社に入社することを決めた。さらに、前最高技術責任者のミラ・ムラティ氏は現在、既存の人工知能事業と競合する独自の人工知能事業を立ち上げるための資金を確保しようとしていると言われている。

2024-10-24 22:40