OpenAI CEO サム・アルトマン氏、チップ不足と ChatGPT の将来について語る

人工知能ソフトウェアを実行するために必要な特殊なコンピューターチップの不足がOpenAIのビジネスを妨げており、同社にはChatGPT以外の消費者向け製品をリリースするつもりはない。 これらは開示内容のほんの 2 つです参加者の一人が書いたブログ投稿によると、OpenAIの共同創設者兼最高経営責任者（CEO）のサム・アルトマン氏は、2週間前にロンドンで開かれた非公開会議でソフトウェア開発者や新興企業のCEOらのグループに発言したと伝えられている。 最初に掲載されたページに添付されたメモによると、約20人が参加したとされる非公開会議のアカウントは、後にOpenAIの要請により削除されたという。しかし、それでも AI コミュニティは影響力のある CEO (とされる) のコメントに注目することを止められませんでした。

インターネット アーカイブ サイトには、元のブログ投稿のコピーがすでに保存されており、それ以来、ソーシャル メディアやいくつかのプログラマー向けディスカッション掲示板で拡散しました。 ラザ・ハビブ氏が執筆したブログ投稿によると、アルトマン氏は、OpenAIがAIアプリケーションの実行に使用される特殊なコンピューターチップであるグラフィックスプロセッシングユニット（GPU）に十分なアクセスができないため、OpenAIの短期計画が遅れ、OpenAIのサービスを利用する開発者に問題を引き起こしていると述べた。 AI の専門家であり、Humanloop の共同創設者兼 CEO でもあります。 Habib 氏のロンドン拠点のスタートアップ企業は、OpenAI の ChatGPT を支えるものなど、大規模な言語モデルのトレーニングをより効率的にする方法を開拓しました。GPU の不足により、OpenAI がユーザーに大規模な言語モデルを通じてより多くのデータをプッシュさせることが困難になっています。 ChatGPT などのソフトウェアを支えており、同社が計画していた追加機能やサービスの展開が遅れました。 ブログ投稿によれば、これにより OpenAI の既存サービスの速度も低下し、信頼性も低下しており、この事実が顧客の不満を引き起こし、OpenAI のテクノロジー上にエンタープライズ アプリケーションを構築することに消極的になっているという。 チップの供給不足は、Google（およびあまり知られていないライバル）が競合サービスを展開することができ、オープンソースの競合他社がより大きな足場を築いてきたため、生成AIブームにおけるOpenAIの先行者利益を危険にさらしている。

Altman 氏は、OpenAI にはハードウェア (つまりチップ) が不足しているため、まだ実行できないことをいくつか説明しました。。これらには、GPT の大規模言語モデルのほとんどの顧客に、より長い「コンテキスト ウィンドウ」を提供することが含まれていると Habib 氏はブログ投稿で述べています。 コンテキスト ウィンドウは、モデルに入力される 1 つのプロンプトで使用できるデータの量と、モデルの応答の長さを決定します。 GPT-4 のほとんどのユーザーは、8,000 トークンの長さのコンテキスト ウィンドウを持っています (トークンとは、基盤となる AI モデルが予測を行うデータのセグメントであり、英語の約 1.5 単語に相当します)。 OpenAIは3月にこのモデルの一部のユーザー向けに3万2000トークンの枠を設けたと発表したが、その機能へのアクセスを許可されたユーザーはほとんどおらず、アルトマン氏はこの事実をGPU不足のせいだとハビブ氏は書いている。

世界の AI アプリケーションの大部分は、高速で並列処理を使用してデータを処理するように設計されたコンピューター チップの一種である GPU 上でトレーニングおよび実行されます。 これらのチップのほとんどは Nvidia という 1 社によって製造されており、価格は数千ドルから数十万ドルになる場合があります。 市場ウォッチャーはすでに、生成AIブームとの関連でエヌビディアの株価が急騰し、その市場評価額が最近1兆ドルの基準を超えたことを知っている。

ハビブ氏の投稿によると、OpenAIの共同創設者兼CEOは、OpenAIがChatGPT以外の消費者向け製品を発売する計画はないと開発者らに保証したと伝えられている。 ハビブ氏は、会合に参加した多くの開発者が、OpenAI自体が後に競合製品を展開する可能性がある場合に、その構築にOpenAIのAIモデルを使用することを懸念しているとアルトマン氏に語った、と述べた。 伝えられるところによると、アルトマン氏は、ChatGPTが同社の唯一の消費者向け製品であり、その将来像は「仕事用のスーパースマートアシスタント」であるが、基盤となるGPTの大規模言語モデルOpenAIが関与する業界特有のケースの多くは「触れられないだろう」と語った。 」

アルトマン氏はまた、「巨大模型の時代」は終わったという1か月前の発言は誤って解釈されたとも述べたと伝えられている。 OpenAIの責任者は開発者に対し、OpenAIの最も強力な大規模言語モデルであるGPT-4がすでにどれほど大きいかを考えると、AIシステムを指数関数的にスケールアップし続けることは不可能だ、と言いたかっただけだと語った。 同氏はロンドンの会議で、OpenAIは今後もより大きなモデルを作成し続けるが、その規模はGPT-4の2～3倍にすぎず、数百万倍ではないと語った。

開発者との会話の中で、アルトマン氏はOpenAIの短期的なロードマップも示したと伝えられている。 アルトマン氏は、2023年以内にOpenAIの目標は、GPT-4をより高速かつ安価にし、ユーザーがOpenAIのGPTモデルにより多くのデータを供給してより長い出力を受信できるようにするためのより長い「コンテキストウィンドウ」を提供し、GPTを微調整する簡単な方法を展開することであると述べた。 4 は特定の顧客のユースケース向けであり、ChatGPT とその基礎となる大規模言語モデルが過去の対話の記憶を保持できるようにするため、人が会話を始めたいと思うたびに、同じ一連のプロンプトを繰り返す必要がなくなります。ハビブ氏のブログ投稿によると、モデルとの特定の対話を中断したり、繰り返したりしたという。

伝えられるところによると、来年、アルトマン氏は、画像を入力および出力として受信する GPT-4 の機能を展開することが優先事項であると述べた。この機能は、同社が 3 月にモデルを発表したときに実証したが、まだほとんどの顧客には提供されていない。

規制に関しては、アルトマン氏は開発者に対し、既存のモデルが大きなリスクをもたらすとは思わないと述べ、「それらを規制したり禁止したりするのは大きな間違いだ」とハビブ氏は書いている。 アルトマン氏は、OpenAIはオープンソースAIソフトウェアの重要性を信じているという自身の公的立場を繰り返し、OpenAIがモデルの1つをオープンソース化することを検討しているという技術出版物The Informationの報道を認めた。 ブログによると、アルトマン氏は、同社がGPT-3モデルをオープンソース化する可能性があるが、まだオープンしていないのは、大規模な言語モデルを「どれだけの個人や企業がホストして提供できるかについて懐疑的だった」ためだと述べた。

伝えられるところによると、アルトマン氏は非公開会議で、ChatGPT Plusの顧客が大規模言語モデルで他のソフトウェアを使用できるようにするプラグインをどのように使用したいのかを同社がまだ模索中であると語った。 Habib氏はブログの中で、これはおそらくプラグインがまだ製品市場に適合しておらず、OpenAIのAPIを通じて企業顧客にすぐには展開されないことを意味していると述べた。

HabibもOpenAIもフォーチュンからのコメント要請にすぐには応じなかった。

Habib のブログ投稿は、ソーシャル メディアや開発者フォーラムで白熱した議論を引き起こしました。 Altman 氏のコメントは、大規模な言語モデルのビジネスの可能性を実現する上で、GPU の不足がどれほどの問題であるかを示していると多くの人が述べています。 また、オープンソース AI コミュニティから発せられるイノベーションの多くが、はるかに少ないコンピューティング能力とはるかに少ないデータで、最大規模の独自 AI モデルと同等のパフォーマンスを実現する革新的な方法を開発していることを示していると述べた人もいます。テクノロジーの未来。

シグナル財団の会長でビッグテックの著名な批評家であるメレディス・ウィテカー氏は、ベルリンでの会議の傍らでインタビューに応じ、このブログ投稿は、世界最大のテクノロジー企業が今日の AI ソフトウェアの基盤を支配していることを示していると述べた。これらの企業は、最大規模の AI モデルをトレーニングするために必要なコンピューティング リソースとデータを余裕があります。 同氏は、これまでサンフランシスコのAIスタートアップに130億ドルを投資してきたOpenAIとMicrosoftとの緊密なパートナーシップについて言及し、「Microsoftのインフラストラクチャにアクセスできたとしても、主な制約はGPUだということだ」と述べた。 「これを実現するには、非常に高価なインフラストラクチャが必要です。」 同氏は、オープンソースのAIコミュニティが「実際に民主的で競争力のある環境」として存在しているという事実を混同すべきではないと述べた。

ベルリン在住のフォーチュン記者デイビッド・マイヤー氏がこの記事に寄稿した。