分析：大手機械学習ラボの OpenAI は、営利目的のスピンオフである OpenAI LP を立ち上げ、投資家の資金を汎用人工知能の構築という高額な作業に投入できるようにした。
サンフランシスコに本部を置くこの組織は、安全で人類にとって有益な高度なニューラルネットワークシステムの構築と開発の促進を使命とする非営利団体として2015年後半に設立されました。
このプロジェクトは、キラーAIを恐れるイーロン・マスク氏（現在は取締役を退任）や、シリコンバレーのベンチャーキャピタル企業Yコンビネーターの元社長サム・アルトマン氏など、著名人によって支援されてきた。アルトマン氏は先週、OpenAIへの注力を強化するため、Yコンビネーターの社長を辞任した。
アルトマン氏は現在、OpenAI LPのCEOに就任しています。共同創業者兼CTOのグレッグ・ブロックマン氏と、共同創業者兼チーフサイエンティストのイリヤ・スツケヴァー氏も商業部門に移り、新組織でもそれぞれの役職を維持します。OpenAI LPは、「投資資金を調達し、スタートアップのようなエクイティで従業員を惹きつけたい」と明言しています。
OpenAI Nonprofitという想像力豊かな名前の非営利部門はまだ存在するが、100人ほどの従業員のほとんどがストックオプションの恩恵を受けるために商業部門であるOpenAI LPに移ったことを考えると、はるかに小さな組織だ。
「最も劇的なAIシステムは、アルゴリズムの革新に加えて、最も多くの計算能力を必要とすることを私たちは直接経験しました。そのため、OpenAI設立当初の計画よりもはるかに速いペースで規模を拡大することを決定しました」と、同研究所の経営陣は今週の声明で述べています。「今後数年間で、大規模なクラウドコンピューティング、優秀な人材の確保・確保、そしてAIスーパーコンピューターの構築に数十億ドルを投資する必要があります。」
OpenAIは、OpenAI LPとOpenAI Nonprofitのこの奇妙な分割を「キャップド・プロフィット（上限利益）」企業と呼んでいます。LinkedInの共同創業者であるリード・ホフマン氏やKhosla Venturesを含む初期ラウンドの投資家は、すべてが計画通りに進んだ場合、OpenAI LPの利益から投資額の100倍を受け取る予定です。その後の余剰資金は非営利団体側に引き渡されます。したがって、これらの初期投資家への返済、そしてそれ以上の利益を得るために、OpenAI LPは自社の技術から巨額の利益を生み出す方法を見つけなければならないでしょう。
「利益上限」モデルへの反応は、人々の眉をひそめさせるものとなっている。複数の機械学習専門家はThe Registerに対し、OpenAIの決定に多少の失望を表明した。OpenAIはかつて、非営利であること、利益や製品インセンティブとは無関係に機械学習のノウハウ開発に注力していること、そしてオープンソース研究への献身的な姿勢で、他のAI組織の中でも際立っていた。
今では、一部の人々にとって、同社は高給取りのエンジニアや科学者を擁するシリコンバレーの新興企業の一つに過ぎないようだ。
利益相反ですか?
「こうした慣行はオープン性とは正反対です。Googleのような企業が機械学習の手法を特許化し、イノベーションを阻害する可能性があるという懸念が既に存在しています。利益誘導は利益相反にあたります。」
fast.aiの共同創設者であり、サンフランシスコ大学データ研究所の助教授であるレイチェル・トーマス氏も同意見だ。「OpenAIは大手テクノロジー企業の研究室と似ていると私は既に考えています。同じようなバックグラウンドを持つ人材を採用し、同じ学会での論文発表に注力し、リソースを大量に消費する学術研究に主に関心を持っています。」
こうしたこと自体に何の問題もありませんが、AIが人類にとって有益であることを保証するものでも、かつての彼らのミッションステートメントであったAIの民主化でもないと私は考えています。私にとって、OpenAI LPの設立は、多くのリソースを投入する学術研究を行っている他の大手テクノロジー企業と区別がつかない存在になるための、新たな一歩に過ぎません。
OpenAIのオープン性へのコミットメントは、その名が示す通り、既に疑問視されている。先月、OpenAIはGPT-2と呼ばれる学習済み言語モデルを公開するのは危険すぎるとして差し控えた。このソフトウェアは、テキスト翻訳、質問への回答、そして文章からの散文生成といった機能を備えている。
一見すると、その出力は優秀に見えるものの、事実やバランスをほとんど考慮せずに言葉を構成し、ナンセンス、矛盾、繰り返しに陥っています。このアルゴリズムが悪意のある者の手に渡れば、偽のニュース記事や商品レビュー、スパムメールやフィッシングメール、インスタントメッセージなど、人間を騙すようなテキストを大量に生成するために使用されることが懸念されました。そのため、OpenAIはこれを抑制しました。
システムの詳細の一部とモデルの縮小版が論文で公開されましたが、完全なペイロードは非公開となりました。この決定について、AIコミュニティは二分されました。半分は、OpenAIが技術の普及を通じて社会に害を及ぼさないように努める努力を支持しましたが、もう半分は、OpenAIの取り組みは偽善的で研究に有害であると考えました。
OpenAIは投資家に確実に利益を還元したいと考えているが、この強力なGPT-2ソフトウェアや類似の成果を販売し、収益化するのだろうか？その計画はないようだ。
コントロール
OpenAIは、人類に利益をもたらす壮大な憲章の達成という、その主要な使命から逸脱するのではないかという懸念を払拭しようと、営利企業であるOpenAIは最終的には非営利団体の理事会によって統制されると主張してきた。つまり、営利企業が何をしようとも、非営利団体の理事会はあらゆる重要な決定について最終決定権を持ち、OpenAIが「安全で有益な汎用人工知能を構築する」という憲章を遵守することを保証することになる。
「OpenAI LPの構造においても、ミッションが最優先です」と声明は述べている。「世界の変化に応じて、実装を更新する可能性があります。世界がどのように進化しようとも、私たちは法的にも個人的にも、ミッションにコミットします。」
聖杯を探して
その使命は、人類を助け、かつ安全な、いわゆる汎用人工知能（AGI）を開発することです。これまでSFの世界だけでしか見られなかったこのシステムは、人間ができることのほぼ全て、あるいはそれ以上のことをこなせるようになるでしょう。まさにコンピューター知能の聖杯と言えるでしょう。
「OpenAIは傑出した研究機関です。ですから、今後彼らがこれほどオープンでなくなるとしたら残念です」と、故マイクロソフト共同創業者のポール・アレン氏が設立したAI研究機関、アレン人工知能研究所のCEO、オーレン・エツィオーニ氏はThe Register紙に語った。「AGIはまだSFや哲学的思索の域を出ません。OpenAIを含め、誰もAGIに向けて具体的な進歩を遂げているという証拠は見当たりません。」
危険すぎて公開できなかったOpenAIのテキスト吐き出しツールを覚えていますか？ 心配しないでください。科学者たちがそれを検出するBS検出器を開発しました。
続きを読む
非営利の理事会には、営利部門の活動を監督し、営利部門の成功に直接的な経済的利益を持つ人々（OpenAI LPのスタッフなど）がいるだろう、あるいはいるかもしれないことに注意したい。OpenAIは「理事会のメンバーのうち、一度にパートナーシップにおいて金銭的な利害関係を保有できるのは少数のメンバーだけ」だと述べた。
それでも、利益よりも安全と人道性を優先し、営利企業側を憲章の正しい側に維持するという理事会の能力が妨げられるだろうと感じる人もいるかもしれない。
しかし、OpenAIは、利益相反のある役員は投票できないと述べている。「そのような（金銭的な）利害関係のない役員のみが、有限責任組合員の利益とOpenAI Nonprofitの使命が相反する可能性のある決定、特に投資家や従業員への配当に関する決定について投票できる」。The Registerが役員のうち何人が営利部門と非営利部門で働いているかを尋ねたところ、明確な回答は得られなかった。
前述の通り、OpenAI Nonprofitは、初期投資家が投資額の100倍のリターンを得た後にのみ、残余利益を受け取ります。OpenAI LPがこの目標を達成する可能性を判断するのは困難です。OpenAIは初期投資額を明らかにしていませんが、当面は利益を上げる予定はないと述べています。
「GPT-2やOpenAIにおけるこれまでの研究プロジェクトを収益化する予定はありません。私たちはミッションに集中しています」と広報担当者は述べた。「しかしながら、この体制のおかげで、必要に応じて他の研究を行う柔軟性があります。ただし、その場合は常に理事会の承認が必要です。」®
