インテリジェントな顧客サービスは、LLM (大規模言語モデル) に最も適した業界として認識されています。このカンファレンスで、テンセントはオンライン旅行 OTA 企業向けの大規模な業界モデルを作成し、きめ細かく調整された顧客固有のモデルは、対話プロセスを構成することなくビジネス上の問題をエンドツーエンドで解決できます。タスクの完了率を向上させ、対話構築のコストを削減します。しかし実際には、大きなモデルが顧客の問題を真に理解することは想像されているほど簡単ではありません。
2021 年から、テンセント、国立天文台、復旦大学コンピューター科学技術学部は共同で「星探査プロジェクト」を立ち上げ、クラウド + AI を活用して中国天岩が毎日受信する膨大なデータを高速に処理できるようにしました。視覚的な AI 分析を通じて高速電波バーストとパルスを発見し、星の手がかりによると、これまでに 30 個のパルサーが発見されています。
パルサー探査と比較して、大量のデータの中から低周波数で発生する高速電波バーストを発見するためには、AIモデルの精度と計算速度の高速化が求められます。計算速度を向上させるために、テンセントは高速無線バーストを探索するための一連の真新しいエンドツーエンド AI アルゴリズムを特別に設計しました。同じ計算能力の下で、このまったく新しい天文データ処理パラダイムは、信号処理効率を従来の処理プロセスよりも 1800 倍高速化します。
以前は、AI 画像認識の前に、フーリエ変換、色分散など、信号画像の複雑な天体物理学的な前処理を完了する必要がありました。これらのタスクは専門的で複雑です。今回、Tencent Youtu は、前処理ステップをスキップして AI 認識に直接入力できる、天文データ処理用の「エンドツーエンド AI アルゴリズム」を作成し、効率を大幅に向上させました。
FAST は毎日数百テラバイトのデータを生成し、毎週数千万の信号マップを生成します。大量のデータに直面しても、Tencent Cloud は「マルチインスタンス学習方法 + アテンション メカニズム」を通じてデータ内の有用な情報を迅速に見つけて特定し、強力な基礎的なコンピューティング能力サポートを提供します。
テンセントの大型モデルの現実性：現場の企業の「AI不安」を解決する
出典: IT Times
著者：ハオ・ジュンフイ
これは、話速を上げ、デシベルを大きくすることによってのみ質問を「つかむ」ことができるインタビューです。
7月7日午後、2023年世界人工知能会議テンセントフォーラムの開催を前に、小さく騒がしい会議室で、テンセントクラウド副社長、テンセントクラウドインテリジェンス責任者、Youtu Lab責任者のウー・ユンシェン氏がグループインタビューに応じた。メディアから。ほぼ 20 日前、テンセントは MaaS パノラマを正式に発表し、大規模な業界モデルを備えた注目の「大規模モデル トラック」に切り込みました。
「企業が必要としているのは、100 のシナリオで問題の 70% ～ 80% を解決することではなく、実際のシナリオで特定の問題を真に解決することです。」 ウー・ユンシェン氏は、同社の戦略の観点から、テンセントは問題解決により重点を置いていると述べました。実際の問題は着陸の問題であり、一般的な大型モデルではユーザーのすべての問題を完全に解決することはできません。
Tencent Cloud MaaS アップグレード
Tencent Cloudは6月19日、Tencent Cloudの大規模産業モデルの研究開発進捗状況を初めて発表し、メディア、文化観光、政府事務、メディアなど10以上の業界に50以上の大規模産業ソリューションを提供した。ファイナンス。
世界人工知能会議で、Tencent Cloud は再び多くのアップグレードを発表しました。
その中で、新しくアップグレードされた Tencent Cloud の自社開発 Xingmai 高性能コンピューティング ネットワークは、GPU 使用率を 40% 増加させ、モデルのトレーニング コストを 30% ～ 60% 節約し、大規模な AI モデルの通信パフォーマンスを 10 倍向上させることができます。 。 Tencent Cloud の新世代コンピューティング パワー クラスター HCC に基づいており、100,000 枚のカードという超大規模なコンピューティング規模をサポートできます。 Tencent Cloud の AI ネイティブ ベクトル データベースは、最大 10 億レベルのベクトル検索スケールをサポートしており、遅延はミリ秒レベルで制御されており、従来のスタンドアロン プラグイン データベースと比較して、検索スケールは 10 倍高く、また、 1 秒あたり数百万件のクエリ (QPS) のピーク能力を備えています。
アプリケーションの革新という点では、Tencent Cloud の大規模なインダストリ モデル機能が財務リスク管理、インタラクティブ翻訳、デジタル スマート カスタマー サービスなどのシナリオに適用され、インテリジェント アプリケーションの効率が大幅に向上しました。
業界の大型モデルに支えられた財務リスク管理ソリューションは、効率性が従来より10倍高く、テンセントの20年以上の白黒生産対決経験と数千件の実際のビジネスシナリオの蓄積により、全体的な不正防止効果は20倍となっている。従来モデルと比較して約％向上。デジタルヒューマンの分野では、テンセントクラウドは今年、少量のデータで24時間以内に2Dデジタルクローンを再現できる小規模サンプルのデジタルヒューマンファクトリーを立ち上げ、エンタープライズアプリケーションのデジタルヒューマンサービスのコストを大幅に削減した。
「実は、私たちは半年以上にわたって、大型モデルとさまざまな業界の組み合わせの背後にある最も本質的なロジックは何なのかを考え、模索してきました。実際にはポイントは 2 つだけです。1 つは、テクノロジーの根本的な出発点は、 「現実的な問題を解決すること。もう 1 つは、業界に深く入り込むことができなければ、業界が直面している問題を実際に解決することはできない。」実際の現場が大きなモデルにもたらした「テスト」は、呉雲生氏にそう感じさせました。多くの。
インテリジェントな顧客サービスは、LLM (大規模言語モデル) に最も適した業界として認識されています。このカンファレンスで、テンセントはオンライン旅行 OTA 企業向けの大規模な業界モデルを作成し、きめ細かく調整された顧客固有のモデルは、対話プロセスを構成することなくビジネス上の問題をエンドツーエンドで解決できます。タスクの完了率を向上させ、対話構築のコストを削減します。しかし実際には、大きなモデルが顧客の問題を真に理解することは想像されているほど簡単ではありません。
「コミュニケーションの過程で、顧客の考えはめまぐるしく変わります。たとえば、顧客は 10 日にホテルを予約しようと提案したばかりですが、機械が応答する前に、突然、11 日のホテルとフライトを確認させてくださいと言ったとき、 「AI はまだ 2 番目の要件についてフィードバックを提供しています。ツインルームを見せてくださいと言うかもしれません。」呉雲生氏は、大型モデルがマルチインテント認識を実現するのは依然として非常に困難であり、一般的な大型モデルは困難であると指摘しました。これは単純なソリューションですが、シーン、特に顧客のシステムとの対話と組み合わせて、非常に複雑なモデルを再構築する必要があります。
「グループモデルが一緒に踊る」時代が到来
当初の喧騒を経て、今回の世界人工知能会議では、AI の大型モデルをどのように商用化するか、企業顧客がこのラウンドの AI の恩恵をどのように享受できるか、そして「AI の不安」を解決するかが大きな話題となっています。
Sequoia Capital China のパートナーである鄭慶生氏は、PC インターネットの中期から投資分野に参入しており、各時代の勝者はその時代の独自のテクノロジーに由来すると考えています。 「この時代、人々は電子商取引とソーシャル ネットワーキングを重視し、ソフトウェアが最大の勝者となった。モバイル インターネットの時代以来、人々はソーシャル ソフトウェアと長いビデオに注目してきましたが、短いビデオが最も多くの時間を占めています。」 AI自らが生み出すオリジナルシーンが私たちの生活を変える 基本行動」
AIネイティブの「キラー」がいつ登場するかはまだ不明だが、「ゲームに参入する」ことが第一歩となるはずだ。今回WAICで発表された30以上の大型モデルのうち、百度文新宜燕、阿里通宜、荀飛星火、シャンタン莉莉新などの汎用大型モデルの第1弾を除けば、基本的に後発勢が中心となっている。業界大型モデル。
「顧客にとっては、パラメータが少なく、投資が少なく、結果が早い企業固有の大規模モデルが受け入れられる可能性が高く、支払い意欲も比較的明確です」と新興企業の出展者は「IT Times」に語った。顧客サービス システムを変革する銀行の顧客は通常、ソフトウェアとハードウェアを統合するプライベート ドメイン展開方法を選択し、既存のナレッジ グラフとデータを使用して推論をトレーニングおよび実装します。これにより、データ セキュリティが確保されるだけでなく、だけでなく、計算能力のコストも削減されます。「1 つのシーンだけを推論して出力する必要がある場合、計算能力ボードは 1 桁で実行することもできます。」
「産業シナリオは最高の訓練場になった」とテンセントグループ上級副社長兼クラウド・スマート産業ビジネスグループCEOの唐道生氏はWAIC総会・産業発展フォーラムでワンストップ産業モデルの選択について述べた。大規模なインダストリ モデルに基づいて独自の独自モデルを構築するためのサービス機能を持つクラウド ベンダーが協力することは、企業が大規模モデルのアプリケーション プラクティスを模索するための実現可能な道となる可能性があります。
Tencent Cloudが先月発表したMaaSサービスのパノラマでは、Tencent Cloud TIプラットフォームに基づいて大規模な業界モデルの選択された店舗を構築できると指摘され、Tencent Cloudは金融、文化観光など10の主要産業を提供できると指摘した。 、行政、医療、メディア、教育のソリューション。同時に、Tencent Cloud は、モデル開発者とアルゴリズム エンジニアがモデルの呼び出し、データとラベルの管理、モデルの微調整、評価テストと展開などのタスクをワンストップで解決できるようにする、業界大規模なモデル微調整ソリューションを開始しました。大規模なモデルを作成するプレッシャー。
これらのモデルとツール プラットフォームに基づいて、企業は独自のシーン データを追加するだけで、独自の「独自のモデル」を迅速に生成できます。
「大規模モデルの開発はまだ初期段階にあります。個人的には百の花が咲き、誰もがさまざまな分野でさまざまな可能性を試してほしいと願っています。」 ウー・ユンシェン氏は、人工知能の開発には膨大なデータが必要だと考えています。このプロジェクトには共通の知識が必要であり、また、専門的で深く権威のある知識組織も必要であり、テクノロジを真に業界に提供できるようにするには、すべての当事者の共同の努力が必要です。
科学用 AI が宇宙の「フリッカー」を捕捉
もちろん、Tencent Cloudの大規模インダストリーモデルは、産業のデジタルトランスフォーメーションに効果を発揮するだけでなく、科学技術コンピューティング分野での大規模モデルなどのAIテクノロジーの応用も加速します。
2021 年から、テンセント、国立天文台、復旦大学コンピューター科学技術学部は共同で「星探査プロジェクト」を立ち上げ、クラウド + AI を活用して中国天岩が毎日受信する膨大なデータを高速に処理できるようにしました。視覚的な AI 分析を通じて高速電波バーストとパルスを発見し、星の手がかりによると、これまでに 30 個のパルサーが発見されています。
今年のWAICでテンセントは、星探査プログラムがさらに進歩し、AI技術を通じて初めて2つの高速電波バーストを発見したと発表した。
高速電波バーストは神秘的な天文現象で、太陽が一年を通じて放出するエネルギーが1ミリ秒ごとに放出され、宇宙を「明滅」させます。しかし、その「点滅」の頻度は非常に低く、時間は非常に短いため、膨大なデータの中で無視されやすく、捕捉するのは非常に困難です。人類が最初のパルサーを発見したのは、発見から40年後の2007年でした。パルサーの。
パルサー探査と比較して、大量のデータの中から低周波数で発生する高速電波バーストを発見するためには、AIモデルの精度と計算速度の高速化が求められます。計算速度を向上させるために、テンセントは高速無線バーストを探索するための一連の真新しいエンドツーエンド AI アルゴリズムを特別に設計しました。同じ計算能力の下で、このまったく新しい天文データ処理パラダイムは、信号処理効率を従来の処理プロセスよりも 1800 倍高速化します。
以前は、AI 画像認識の前に、フーリエ変換、色分散など、信号画像の複雑な天体物理学的な前処理を完了する必要がありました。これらのタスクは専門的で複雑です。今回、Tencent Youtu は、前処理ステップをスキップして AI 認識に直接入力できる、天文データ処理用の「エンドツーエンド AI アルゴリズム」を作成し、効率を大幅に向上させました。
FAST は毎日数百テラバイトのデータを生成し、毎週数千万の信号マップを生成します。大量のデータに直面しても、Tencent Cloud は「マルチインスタンス学習方法 + アテンション メカニズム」を通じてデータ内の有用な情報を迅速に見つけて特定し、強力な基礎的なコンピューティング能力サポートを提供します。
現在、テンセントクラウドとFASTは250万光年離れたM31アンドロメダの電波信号の検出を続けており、近い将来さらに多くの「宇宙の閃光」が捕捉されると予想されている。