Qiming Venture Partners: GPT4 は遅くとも 2024 年までに中国で誕生し、長文が大規模言語モデルの鍵となる

著者: 趙英

画像の出典: Unbounded AI ツールによって生成

世界人工知能会議の2日目である7月7日金曜日、Qiming Venture PartnersのパートナーであるZhou Zhifeng氏がAIモデルと業界全体の開発動向について共有しました。

Qiming Venture Capital は、中国で AI 分野に最も注目し、最も積極的に取り組んでいるベンチャー キャピタル機関の 1 つです。その投資会社は、AI エコロジカル チェーン全体に位置しています。上流、中流、下流は実際に設計されており、チップ、基本ソフトウェア、大規模モデルや下流の垂直アプリケーションなど。

大規模モデルの第一原則は、デジタル知識、情報、データを圧縮することです

Zhou Zhifeng氏は、AIの将来の発展には大規模なコンピューティング能力と大規模なデータが非常に重要であると強調した。 **

**大規模トレーニングの第一原則は、人間世界のすべてのデジタル化された知識情報とデータを大規模に圧縮することです。 ** この第一原理からわかるように、大規模な計算能力と大規模なデータは将来の AI の発展にとって非常に重要であり、実際、大規模な計算能力と大規模なデータは過去の人類のチップです40年 これらの技術はインターネットビッグデータの様々な分野で蓄積され続け、AIの爆発的な発展を促進します。 大規模な事前トレーニング学習世代、全体の傾向の根底にあるロジックは実際には非常に明確であり、今後も高速で発展し続けるでしょう ディープラーニングは、主にベンチャーキャピタル業界によって AI1.0 と呼ばれています特定の小さなタスクを目的としているためです。特定の小さなデータセットからトレーニングされた小さなモデルであり、主に顔認識や音声認識などのパターン認識です。今日の大規模音声フィールド学習は、AI2 として一般的に知られています。 0 (主に一般的なため) データによってトレーニングされた大規模なモデルには、意思決定を生成する機能があります。

AI2.0の波は産業構造全体を再構築する

周志峰氏はさらに、AI2.0の新たな波が産業構造全体を再構築すると指摘した。全体の生態学的構造は 3 つの層に分割され、最下層はインフラストラクチャ層、右側は aws 火山エンジン、Alibaba Cloud などのコンピューティング パワーを提供し、そのようなコンピューティング センター プラットフォームを提供し、右側はツールですチェーン、主に大規模モデル向け トレーニング、推論、展開を最適化します。

中間層が最も重要です。最初の層はモデル層です。モデル層にもいくつかのモードがあります。最初の層は、基本的なモデルのベースモデルを提供し、次にモデルを外部にエクスポートし、 API を介してモデルを作成します。

次に、別のタイプの自己構築大規模モデルがあり、彼は独自の大規模モデルを作成した後、特定の業界固有のシナリオに合わせてそれを最適化し、モデルからアプリケーションまでのエンドツーエンドのソリューションを提供します。

アプリケーション層の 3 番目の層では、自社構築モデルを通じて垂直アプリケーションを直接実装するというものですが、おそらく左側の企業の 80 ～ 90% は、サードパーティ モデルの機能を使用して使い慣れたシナリオやシナリオを構築している企業です。産業 アプリケーション ** これは、私たちが理解している 3 層アーキテクチャです。実際、この新しいアーキテクチャは、全世界の製品の構築方法にも大きな変化をもたらしました。 ** 左側は実はここ数十年で、車にしろインターネットのソーシャルソフトにしろ、実はプロダクトマネージャーがユーザーからニーズを汲み取り、開発者がユーザーからデザインを得るという構造になっています。プロダクトマネージャーが開発し、ユーザーがそれを使用する。

過去には、テンセントも良い仕事をした、アリババも良い仕事をした、どの企業も良い仕事をした、ある意味、最も効果的にフライホイールを回し、フライホイールを継続的に繰り返すことができたと言われています。

未来の企業には+AI、AI+の2種類がある

産業発展に関して周志峰氏は、将来の企業は+AIとAI+の2種類に分かれると指摘した。

将来的には、新世代の AI の機能をワークフローに組み込むことになります。**これは実際には古いシーンの強化です。 ** 彼がこの能力を使用して新しい製品を構築する別のカテゴリがあります。これは実際には、いわゆる AI ネイティブの応用であり、私は古いシーンの再形成、または新しいシーンの作成と呼んでいます。 **

現時点では、AI がすべての産業に力を与えるという現実の状況を実現しておらず、その産業化が満足に進んでいないことが主な理由で、非常に有力な AI 企業はまだ少数です。周志鋒氏はこう語った。

ChatGTPによりAI2.0の波が再燃 世界全体の資金調達額が大きく発展しているのがわかりますが、今度は2年続いて下がるバブルなのか、それとも本当に前進して発展していくのか? 一般的な人工知能にとって、これは非常に価値のある質問だと思います。

大型モデルは間違いなくますます強力になります。OpenAI の CEO も、Microsoft のような製品に介入して、オフィス生産性向上製品を作る可能性があると述べました。また、より広い領域を切望しています。ゴールデン チャネルは見つかりますか?自分のビジネスを始めて、最終的には広大な世界へ行きますか？

もしかしたら現実はこんな感じかもしれない、私たちが行かなければならない道は死の峡谷かもしれない、双方とも絶えず圧迫されるだろう、彼らのテクノロジーはダイナミックに変化している、どうすればこの死の峡谷を通り抜けることができるのか、これが起業家精神だと私は思う合理的思考を駆使し、一生懸命に考えなければなりません。

テクノロジーのあらゆる波は必ず新しい王と新しい偉大な企業を生み出します。

AI 開発の 10 のトレンドの見通し

将来に期待して、Qiming Venture Partners は Unfinished Research と提携して大ヒットレポート「Generative AI」 | State of Generative AI 2023 を共同リリースし、10 の開発トレンドを要約しました。

まず、Qiming が投資した企業について私たちが見た情報に基づいて、2024 年かそれより早くに、中国は GTP4 に匹敵する多言語モデルを確実に導入するだろうということがわかっています。私たちは、この方向に向けたいくつかの企業の進歩を明らかに見てきました。

第二に、長いコンテキストは間違いなく次世代の大規模言語モデルの開発における重要なポイントになります。今日は 3 ラウンドと 5 ラウンドだけ会話するのではなく、実際に大規模なモデルと数日間、数か月にわたって状況に応じたコミュニケーションを行うことができることがわかります。

第三に、垂直方向の大きなモデルを作成するにはいくつかの方法があると思いますが、実際には 5 つの方法をまとめました。

第四に、現在の安定拡散は非常に優れた拡散モデル アーキテクチャであると考えていますが、安定であろうと他社であろうと、今後 2 年以内に新しいモデルが登場すると考えています。

第 5 に、テキストから画像へのモデルは将来的にはより制御しやすくなり、業界のトップ チームの多くがこの分野で科学的な進歩を遂げていることがわかりました。

**第 6 に、今年の第 3 四半期と第 4 四半期は、音楽生成のブレークスルー ポイントになるでしょう。**私たちは、来年 v6 と 3D の生成において大きなブレークスルーが起こると信じています。

第 7 に、大規模な言語モデルを実際の物理空間制御ロボットやヒューマノイド ロボットと組み合わせる方法に関するインテリジェンスが大幅に進歩します。

第 8 に、現在はトランスフォームが主流ですが、前述したように、AI の最終目標は、人類すべてのデジタル情報を最適な方法で圧縮することです。**トランスフォームが終わりではなく、より高度なアーキテクチャが登場するでしょう。 。 ** 9番目に、ビジネスの観点から、今後 3 年間でモデル機能とアプリケーションを切り離すことはできず、真に破壊的なアプリケーションは、純粋なアプリケーション企業ではなく、中核となるモデルの研究開発機能を習得した企業から生まれなければならないと考えています。 , 破壊的なアプリケーションのことを指します。3 年以内にこの切り離しの可能性が見当たらないからです。

第十に、今はまだプラットフォーム企業を生み出す黄金期であり、今後 3 年以内に設立されたスタートアップ企業の中には時価総額 1,000 億企業になる可能性もあると考えています。