Nature に掲載された研究論文によると、「オープン」 AI をめぐるレトリックは、競争や監視に対して AI 分野をよりオープンにするのではなく、むしろ AI 分野の権力を集中させるだけだという。
この研究は、頻繁に推進されている「オープン」AIの概念が、いかにして一般大衆や政策立案者を誤解させ、誤った安心感をもたらす可能性があるかを明らかにしている。
「オープン性に関する主張は、しばしば正確さを欠き、AIシステムの開発から展開までのライフサイクルの1つの段階のみに焦点を当てていることが多く、大規模なAIの開発と展開における業界の大きな集中を無視し、オープン性に関する常識的な理解を歪めている」とコーネル大学の博士研究員デビッド・ウィダー氏の論文には記されている。
この調査では、IBM の Linux、Google の Android、Amazon の MongoDB、Meta の PyTorch の歴史を取り上げ、フリーおよびオープンソース ソフトウェアの概念とオープン AI の概念を比較しています。
「オープンソースはソフトウェア開発を民主化し、オープンコードに多くの人が注目することでその完全性と安全性を確保し、あるいは、オープンソースは競争の場を平等にし、革新的なものを勝利に導くという約束から、オープンソースソフトウェアは、程度の差はあれ、これらの多くを実現した」と論文は述べている。
Reg の読者には、これらの結果がどの程度異なっていたかを正確に議論してもらうとして、重要なのは、オープン AI はオープンソース ソフトウェアと同じようには機能しないということです。
「現在、有力な主体は、『オープン』なAIはイノベーションと民主主義に有益である一方、安全性に有害であると主張し、政策形成を目指している。政策形成においては、定義が重要となる」と報告書は付け加えている。
この研究では、AIとは何か、そしてAIの世界における「オープン性」とは一体何を意味するのかを分析します。モデル、データ、労働力、フレームワーク、そして計算能力に焦点を当てます。
「従来のオープンソースソフトウェアプロジェクトの多くが大手テクノロジー企業にさまざまな形で取り込まれたのと同様に、『オープン』AIをめぐるレトリックは、AI分野における権力の集中を減らすどころか、むしろ悪化させる形で頻繁に利用されていることを示している」と論文は述べている。
研究によると、オープン AI システムは「透明性、再利用性、拡張性を提供できる。つまり、さまざまな程度まで精査、再利用し、『その上に』構築できる」という。
この論文では、Meta の LLaMA-3 は「明らかに非オープンな使用制限の対象となるモデルをダウンロードする機能や API 以上のものをほとんど提供していないため、言葉の一般的な意味でのオープン性に欠けている」と指摘しています。このような場合、これは「クローズド」として理解した方がよいシステムの「オープンウォッシング」です。
- 私たちはあなたを丸ごとクローンできます：科学者たちは特定の人のように反応する機械学習エージェントを構築します
- AIが現時点で生み出せないものの一つは、AIを仕事に使う説得力のある理由だ。
- AIイエスは、スイスの歴史的な教会のブースからアドバイスを提供する準備ができています
- アマゾンはアントロピックにさらに40億ドルを投資
The RegisterはMetaにコメントの機会を与えた。
一方、EleutherAI の Pythia は最もオープンであり、「ソース コード、基礎となるトレーニング データ、完全なドキュメントへのアクセスを提供するほか、Open Source Initiative の長年にわたるオープン ソースの定義に沿った条件で AI モデルの幅広い再利用をライセンス供与します。」
オープンウォッシングの公然の秘密 – 企業がオープンソースを装う理由
続きを読む
しかし、AI における最もオープンな解釈であっても、実質的なモデルを構築するために必要なデータ、開発時間、計算能力が市場参入の障壁となるため、AI 分野におけるテクノロジー大手の既得権益に対抗できる可能性は低いでしょう。
たとえばデータの場合、現代の AI システムの構築に必要な労力は、「大規模な AI モデルの作成と展開に必要なリソースへの民主的でオープンなアクセスに対する新たな障壁となっている」。
調査では、「オープン AI」だけでは、より「多様で、説明責任があり、民主化された」業界を実現するには不十分であると主張している。
「また、これまでと同様に、AIの優位性を競う大手テクノロジー企業は、オープンAIを活用して市場優位性を強化しつつ、オープン性という修辞的な魔法を使ってAIの独占とそれに伴う規制への非難をかわしているのがわかる」と論文は述べている。
結果として、より公平な競争環境を作り出すためには、独占禁止法の執行やデータプライバシーの保護を含む他の措置が必要になります。
「『オープン』なAIだけに期待を寄せるだけでは、そうした世界に到達することはできません。政策立案者や国民が、企業の権力が集中している状況では提供できない利益をもたらすと期待し、オープンAIに勢いを注いでいるため、多くの点で事態を悪化させる可能性があります」と研究者は結論付けています。®
