Huawei telah memamerkan "ototnya" di bidang model besar.
Pada 7 Juli, 2023 Huawei Developer Conference (HDC 2023) dibuka. Dalam pidato utama lebih dari dua jam di sore hari, HUAWEI CLOUD mengungkapkan kemajuan model besar Pangu secara detail untuk pertama kalinya. Tidak hanya merilis model besar Pangu 3.0 yang berorientasi industri, tetapi juga memperkenalkan secara detail dasar-dasarnya. kemampuan teknis Huawei untuk mengembangkan model besar.
Pangu Large Model 3.0 menyertakan struktur tiga tingkat "5+N+X". Tiga lapisan tersebut mengacu pada lima model besar dasar dari lapisan L0, model besar N industri dari lapisan L1, dan lapisan L2 yang memungkinkan pengguna untuk melatih lebih mandiri Perbaiki model adegan. Ini mengadopsi desain decoupling berlapis lengkap, dan pengguna perusahaan dapat memilih pengembangan model skala besar yang sesuai, peningkatan atau penyempurnaan berdasarkan kebutuhan bisnis mereka sendiri, sehingga dapat beradaptasi dengan perubahan kebutuhan ribuan industri.
Hu Houkun, Rotating Chairman Huawei, mengatakan pada konferensi WAIC baru-baru ini bahwa inti dari model pengembangan Huawei adalah fokus pada daya komputasi dan aplikasi**. Di satu sisi, untuk memperdalam daya komputasi dan membangun basis daya komputasi yang kuat untuk mendukung pengembangan industri kecerdasan buatan China. Di sisi lain, itu untuk menggabungkan model skala besar, dari model skala besar tujuan umum hingga penelitian dan inovasi skala besar di seluruh industri, untuk benar-benar membuat kecerdasan buatan melayani ribuan industri dan penelitian ilmiah dengan baik.
Huawei adalah salah satu penyedia layanan cloud paling awal di China yang menerapkan model skala besar, dan telah merilis model skala besar Pangu pada awal tahun 2021. Di jalan untuk mengembangkan model skala besar, Huawei telah membangun platform cloud daya komputasi AI berdasarkan Kunpeng dan Ascend dari lapisan bawah, serta kemampuan teknis seperti arsitektur komputasi heterogen CANN, kerangka kerja AI skenario penuh MindSpore, dan lini produksi pengembangan AI ModelArts. .
Selain model besar dan basis daya komputasi, pada pertemuan tersebut, HUAWEI CLOUD juga menyoroti kasus-kasus umum dari kombinasi model besar Pangu dan industri tertentu.Industri yang terlibat meliputi urusan pemerintah, meteorologi, perkeretaapian, manufaktur, dan keuangan, serta serta beberapa pemutakhiran dan pembentukan kembali Huawei Kasus aplikasi produk dan layanan perangkat lunak cloud.
Baik itu kemampuan teknis dasar, sistem layanan produk cloud AI**+, atau kasus aplikasi di industri tertentu, HUAWEI CLOUD telah menunjukkan kemampuan bisnis yang sangat matang dan sistematis, yang benar-benar memukau industri. **Sementara semua orang masih memperdebatkan siapa OpenAI China, HUAWEI CLOUD telah membuka jalur pengembangan yang cukup matang untuk model berskala besar.
Huawei menggunakan praktiknya sendiri untuk membuktikan bahwa model skala besar itu penting, tetapi yang lebih penting, menggunakan model skala besar untuk menyelesaikan masalah industri dan produk, untuk menghasilkan produk dan layanan yang dapat membuat perusahaan dan pengguna membayar. , dan untuk benar-benar menciptakan nilai bagi ribuan industri.
01 Pangu Large Model 3.0: Arsitektur Decoupling Berlapis
Decoupling adalah kata kunci dari Pangu Model 3.0 yang dirilis hari ini. Ini juga merupakan daya tarik umum dari pelanggan industri yang sebenarnya menggunakan model besar dalam beberapa bulan terakhir.
Vendor SaaS terkemuka mengatakan ketika merilis aplikasi pemutakhiran model skala besar sendiri, "Kami tidak mengembangkan model skala besar sendiri, tetapi dalam skenario bisnis yang berbeda, model skala besar mana yang bagus dalam hal apa, kami mengambil model itu." Agar dapat Beralih di antara model besar yang berbeda, "Arsitektur produk kami sendiri harus independen dari model besar yang mendasarinya, atau digabungkan secara longgar."
"Desain decoupling model besar Pangu adalah untuk kepentingan industri." Pada Konferensi Pengembang Huawei, Zhang Pingan, direktur eksekutif Huawei dan CEO Huawei Cloud, memberikan rute yang berbeda dari model besar Pangu. Intinya adalah memisahkan berbagai lapisan dan kemampuan model Pangu, memungkinkan pengguna industri untuk berkembang sesuai dengan kebutuhan mereka sendiri.
Secara khusus, Pangu Large-scale Model 3.0 adalah seri model berskala besar berorientasi industri, termasuk struktur tiga tingkat "5+N+X":
“5” mewakili lima model besar dasar lapisan L0: termasuk bahasa alami, visi, multimodal, peramalan, dan model besar komputasi ilmiah, yang menyediakan dan memenuhi kebutuhan berbagai keterampilan dalam skenario industri.
Pangu 3.0 memberi pelanggan model besar dasar berseri dengan 10 miliar parameter, 38 miliar parameter, 71 miliar parameter, dan 100 miliar parameter, sesuai dengan kebutuhan pelanggan yang beragam dalam skenario yang berbeda, penundaan yang berbeda, dan kecepatan respons yang berbeda. Pada saat yang sama, ini memberikan serangkaian kemampuan baru, termasuk menjawab pertanyaan pengetahuan, pembuatan salinan, dan pembuatan kode untuk model besar NLP, serta pembuatan gambar dan pemahaman gambar untuk model besar multi-modal.Keterampilan ini dapat langsung digunakan oleh pelanggan dan perusahaan mitra. Terlepas dari ukuran modelnya yang besar, Pangu menyediakan serangkaian kemampuan yang konsisten.
"N" dalam struktur tiga tingkat "5+N+X" mewakili N model industri besar di tingkat L1. Ada dua cara untuk menyediakan model besar industri: di satu sisi, HUAWEI CLOUD dapat menyediakan model besar industri umum yang dilatih menggunakan data publik industri, termasuk urusan pemerintahan, keuangan, manufaktur, pertambangan, cuaca, dan model besar lainnya; di sisi lain, itu dapat didasarkan pada pelanggan industri Dengan datanya sendiri, pada lapisan L0 dan L1 model besar Pangea, ia melatih model besar miliknya sendiri untuk pelanggan.
Zhang Pingan berkata: "Pangu lahir untuk melayani industri, menyediakan berbagai penyebaran model skala besar, pengembangan, dan bentuk penalaran. Pangu dapat menghasilkan model industri skala besar sendiri seperti model Pangu skala besar Huawei, dan hanya perlu memasukkan data pribadinya sendiri. . ”Selain itu, data pelatihan juga dipisahkan dari model besar.
X dalam "5+N+X" berarti lapisan L2 memberi pelanggan model pemandangan yang lebih mendetail, lebih berfokus pada hotline urusan pemerintah, asisten jaringan, pemeriksaan obat-obatan terkemuka, deteksi benda asing di sabuk konveyor, dan angin topan paths Menyediakan pelanggan dengan layanan model "out-of-the-box" untuk aplikasi industri tertentu atau skenario bisnis tertentu seperti peramalan.
Melalui model besar tiga lapis "**5+N+X", HUAWEI CLOUD membangun basis model besarnya sendiri.
Pada Konferensi Kecerdasan Buatan Dunia kemarin, Hu Houkun, ketua bergilir Huawei, menjelaskan dengan jelas: "Tingkat pembandingan yang paling dasar adalah model skala besar umum, yang kami sebut model skala besar dasar. Citra kami pada tingkat ini disebut membaca ribuan buku, yang berarti melakukannya dengan baik. Sejumlah besar pengetahuan dasar dipelajari. Pada lapisan ini, model industri dan model pemandangan juga dibuat, disebut perjalanan ribuan mil. Masih banyak tantangan yang harus diatasi dari membaca ribuan buku untuk melakukan perjalanan ribuan mil. Poin kuncinya adalah Huawei bekerja dengan mitra dari berbagai industri untuk sepenuhnya mencocokkan dan mengintegrasikan pengetahuan dari berbagai industri dengan model besar.”
**Selain itu, inovasi model besar tidak hanya inovasi model itu sendiri, tetapi juga bergantung pada inovasi berbagai teknologi dasar AI. Pada pertemuan tersebut, Yao Jun, direktur Laboratorium Bahtera Nuh Huawei, memperkenalkan basis teknis model Pangu.
Huawei telah membangun platform cloud daya komputasi AI berdasarkan Kunpeng dan Ascend di lapisan bawah, serta arsitektur komputasi heterogen CANN, kerangka kerja AI skenario penuh MindSpore, dan lini produksi pengembangan AI ModelArts, dll., untuk memberikan solusi terdistribusi untuk pengembangan dan pengoperasian model besar Kemampuan utama seperti akselerasi paralel, optimalisasi operator dan kompilasi, dan optimalisasi komunikasi tingkat klaster. Berdasarkan teknologi root AI Huawei, kinerja pelatihan model besar dapat disesuaikan hingga 1,1 kali lipat dari GPU mainstream di industri.
Kekuatan komputasi adalah dasar untuk melatih model besar. Pada konferensi ini, Zhang Ping'an mengumumkan bahwa layanan cloud Ascend AI dengan daya komputasi 2000P Flops cluster tunggal akan diluncurkan secara bersamaan di pusat daya komputasi Ulanqab dan Gui'an AI milik Huawei Cloud. Selain mendukung kerangka kerja AI semua skenario Huawei, Shengsi MindSpore, Layanan Cloud AI Shengteng juga mendukung kerangka kerja AI arus utama seperti Pytorch dan Tensorflow.
Pada saat yang sama, 90% operator dalam kerangka kerja ini dapat dengan lancar bermigrasi ke platform Ascend melalui alat migrasi end-to-end Huawei. Misalnya, Meitu memigrasikan 70 model ke Ascend hanya dalam 30 hari. Pada saat yang sama, HUAWEI CLOUD dan tim Meitu bersama-sama mengoptimalkan lebih dari 30 operator dan mempercepat proses secara paralel. Dibandingkan dengan solusi awal, kinerja AI lebih baik membaik sebesar 30%.
Selain itu, kegagalan GPU sering ditemui selama pelatihan model besar, dan pengembang harus sering memulai kembali pelatihan, yang memakan waktu lama dan biaya besar. Layanan cloud Ascend AI dapat memberikan layanan komputasi AI yang lebih stabil.Tingkat stabilitas jangka panjang pelatihan kilokalori 30 hari mencapai 90%, dan waktu pemulihan breakpoint tidak melebihi 10 menit.
02 Memberdayakan ribuan industri
Ren Zhengfei sebelumnya berkata, "Kontribusi langsung dari perusahaan platform perangkat lunak kecerdasan buatan kepada masyarakat manusia mungkin kurang dari 2%, dan 98% adalah promosi masyarakat industri dan masyarakat pertanian. Tetapi platform aplikasi bukanlah pilihan kami, kami akan melakukannya lapisan bawah platform kekuatan AI Computing."
Membiarkan model besar masuk ke ribuan industri telah menjadi fokus pengembangan model besar Huawei. Pada pertemuan tersebut, HUAWEI CLOUD memperkenalkan kasus penerapan model besar Pangu di tujuh bidang termasuk urusan pemerintahan, perkeretaapian, meteorologi, dan keuangan.
Urusan Pemerintah
Di bidang urusan pemerintahan, HUAWEI CLOUD dan Biro Manajemen Data Layanan Pemerintah Distrik Futian Shenzhen telah meluncurkan Xiaofu, asisten cerdas urusan pemerintahan Futian berdasarkan model urusan pemerintahan Pangu, yang dapat secara akurat memahami niat konsultasi masyarakat dan mengubah layanan satu atap tradisional model. Dengan menyempurnakan lebih dari 200.000 lembar data urusan pemerintahan, termasuk 12345 hotline, dokumen kebijakan, ensiklopedia urusan pemerintahan, dll., asisten urusan pemerintahan telah menguasai banyak pengetahuan industri seperti undang-undang dan peraturan dan prosedur penanganan.
Menurut Huawei Cloud, inti dari model besar urusan pemerintahan Pangu adalah kemampuan kognitif. Biarkan sistem publik perkotaan dilihat dan dipahami, dan selesaikan lingkaran tertutup dari persepsi ke kognisi dan pembuangan. Dan menurut skenario yang berbeda, ini memberikan kemampuan yang berbeda seperti menjawab pertanyaan, pembuatan salinan, persepsi video, dan pemahaman multimodal.
HUAWEI CLOUD memperkenalkan dua skenario umum: yang pertama adalah skenario konsultasi, di mana pengguna perusahaan berkonsultasi dengan asisten pemerintah tentang kebijakan dukungan investasi yang relevan, dan asisten pemerintah dapat memperkenalkan peraturan dan kebijakan yang relevan serta memberikan saran yang sesuai kepada konsultan; skenario kedua, Seperti yang ditunjukkan pada gambar di atas merupakan adegan pemrosesan urusan pemerintahan berdasarkan dialog dan kemampuan multimoda, petugas dapat dengan cerdas menganalisis pelanggaran dalam gambar berdasarkan gambar yang diambil oleh kamera.
kereta api
Di bidang perkeretaapian, Huawei mendemonstrasikan kasus penerapan asisten inspeksi truk.
Inspektur kereta tradisional harus memeriksa jutaan gambar kereta setiap hari untuk mendeteksi apakah ada kesalahan pada gerbong barang yang berjalan di jaringan kereta api. Setelah pengenalan model besar Pangu, secara akurat dapat mengidentifikasi 67 jenis truk yang berjalan di jaringan langsung dan lebih dari 430 jenis kesalahan, dan tingkat penyaringan gambar yang tidak rusak setinggi 95%. Dengan kata lain, inspektur kereta api hanya perlu mendeteksi 1/20 gambar kereta api di masa lalu, yang setara dengan peningkatan efisiensi kerja 20 kali lipat.
tambang batu bara
Di bidang tambang batubara, model skala besar Tambang Pangu telah digunakan di 8 tambang di seluruh negeri. Model besar dapat mencakup lebih dari 1.000 skenario yang terbagi dalam proses bisnis seperti penambangan, penggalian, permesinan, transportasi, transportasi, dan pencucian tambang batu bara, memungkinkan lebih banyak Lebih banyak penambang batu bara dapat bekerja di lapangan, yang tidak hanya membuat lingkungan kerja penambang batu bara lebih nyaman, tetapi juga sangat mengurangi kecelakaan keselamatan.
meteorologi
Bidang meteorologi menjadi fokus konferensi pers Huawei Cloud.Hanya beberapa hari yang lalu, hasil penelitian model besar meteorologi Pangu diterbitkan di jurnal asing teratas "Alam", dan para pengulas berkomentar: Mari kita periksa kembali masa depan prakiraan cuaca.
Awalnya, untuk memprediksi jalur topan dalam 10 hari ke depan, dibutuhkan waktu 5 jam untuk mensimulasikan pada kluster komputer berperforma tinggi dengan 3.000 server. Sekarang berdasarkan model besar meteorologi Pangea yang telah dilatih sebelumnya, melalui penalaran AI, peneliti hanya perlu mengonfigurasi satu kartu di satu server, dan dapat memperoleh hasil prediksi yang lebih akurat dalam waktu 10 detik.
Saat ini, model besar meteorologi Pangaea dapat digunakan untuk memprediksi cuaca seperti gelombang, suhu tinggi, topan, dan gelombang dingin, dibandingkan dengan peramalan cuaca tradisional, lebih cepat dan lebih akurat. Sebelumnya, Pangu bekerja sama dengan Badan Meteorologi untuk memprediksi jalur "Mawa" 10 hari sebelumnya. Selain itu, Pangu juga memprediksi datangnya gelombang dingin di Finlandia dua hari sebelumnya, dibandingkan dengan ramalan Badan Meteorologi Eropa. Ramalan Pangu juga lebih dekat dengan suhu sebenarnya,
keuangan
Di bidang keuangan, Pangu Large Model bekerja sama dengan ICBC untuk membuat rangkaian aplikasi eksplorasi.
Salah satu skenario tipikal adalah meningkatkan efisiensi kerja teller bank. ICBC memiliki puluhan ribu outlet di seluruh negeri dan 200.000 outlet teller. Mereka perlu beralih di antara berbagai layanan, yang akan membuang banyak waktu.
Pangu Financial Large Model melatih berbagai operasi bank, kebijakan, dan dokumen kasus, dan secara otomatis dapat menghasilkan prosedur dan panduan operasional untuk staf loket sesuai dengan masalah pelanggan, mengurangi rata-rata operasi yang awalnya membutuhkan 5 operasi menjadi 1. Waktu simpul dipersingkat lebih dari 5 menit.
Dan ini hanya aplikasi yang paling dasar, Huawei sedang menjajaki industri keuangan untuk menerapkan model besar ke lebih banyak skenario keuangan seperti analisis kredit di masa mendatang.
manufaktur
Huawei sendiri juga merupakan perusahaan manufaktur, produk perangkat keras yang diproduksinya meliputi BTS komunikasi, ponsel, mobil, chip, dan bidang lainnya. Berdasarkan pengalaman yang terakumulasi di masa lalu, Huawei memperkenalkan model besar Pangu ke dalam bidang produksi dan manufaktur.
Di masa lalu, seringkali diperlukan waktu lebih dari 3 jam untuk membuat rencana produksi satu hari untuk satu lini produksi untuk membuat rencana alokasi perangkat. Setelah mempelajari berbagai data perangkat, proses bisnis, dan aturan lini produksi Huawei, model besar manufaktur Pangu dapat secara akurat memahami kebutuhan bisnis, dan memanggil plug-in pemecah AI Tianchou untuk membuat 3 hari ke depan dalam satu menit.Rencana Produksi.
Penemuan obat
Di bidang penelitian dan pengembangan obat, penelitian dan pengembangan asli obat baru membutuhkan waktu rata-rata 10 tahun dan biaya 1 miliar dolar AS. Model molekul besar obat Pangu membantu tim Profesor Liu Bing dari Rumah Sakit Afiliasi Pertama Universitas Xi'an Jiaotong menemukan target baru pertama di dunia dan kelas antibiotik baru dalam 40 tahun, dan mempersingkat siklus pengembangan obat utama menjadi satu bulan. dan mengurangi biaya pengembangan hingga 70%.
03 Model besar terintegrasi ke dalam sistem produk Huawei Cloud
Selain praktik di ribuan industri, model HUAWEI CLOUD Pangu juga telah diintegrasikan secara mendalam ke dalam layanan produk HUAWEI CLOUD untuk merestrukturisasi inovasi produk.
Model Besar Pangu + Layanan Cloud Huawei
Dengan restu model Pangu, serangkaian produk dan layanan B-end Huawei Cloud telah ditingkatkan dan direkonstruksi. Pada pertemuan tersebut, HUAWEI CLOUD memperkenalkan rincian empat peningkatan layanan: layanan data, layanan pelanggan cloud, BI, dan pencarian cloud.
* Dalam layanan data, melalui teknologi copywriting dan pembuatan kode model besar Pangu, efisiensi penulisan data dan penulisan kode front-end dapat ditingkatkan, dan siklus peluncuran produk baru dapat dipersingkat.
Dalam layanan pelanggan cloud, melalui dialog T&J yang disematkan dalam basis pengetahuan industri dan kemampuan penambangan niat, seluruh proses penjawab prioritas AI direalisasikan, dan efisiensi layanan pelanggan ditingkatkan sebesar 30%.
Di BI, melalui perutean cerdas NL2SQL dan AutoGraph, rekomendasi otomatis dari SQL ke bagan visual direalisasikan, dan melalui beberapa putaran interaksi bahasa alami, setiap orang dapat dengan mudah mendapatkan wawasan tentang detail bisnis dari data.
Dalam pencarian cloud, melalui penyematan multi-modal dan teknologi NL2API, ini mewujudkan pencarian video, teks, peta, dan berbagai adegan lainnya. Dengan bantuan pemahaman semantik yang kuat dan kemampuan generalisasi, tingkat akurasi pencarian meningkat sebesar 15%.
Model besar Pangu + alat kode CodeArts
HUAWEI CLOUD menggabungkan alat R&D CodeArts dengan model besar Pangu, dan secara resmi merilis CodeArts Snap, asisten pemrograman cerdas untuk pengembang.
Alat ini telah melatih 76 miliar baris kode terpilih dan 13 juta dokumen teknis. Alat ini memiliki tiga fungsi inti generasi cerdas, pertanyaan dan jawaban cerdas, dan kolaborasi cerdas. Alat ini dapat mewujudkan pembuatan kode dalam satu kalimat dialog, anotasi otomatis, dan pembuatan kalimat uji kasus dalam satu klik Satu perintah dapat digunakan dengan cerdas, sehingga setiap pengembang perangkat lunak memiliki asisten pemrogramannya sendiri.
Model Besar Pangu + Pria Digital
HUAWEI CLOUD memberdayakan lini produksi konten digital MetaStudio melalui model besar dasar Pangu, menciptakan model Pangu Digital Human Congress, menyediakan dua layanan utama pembuatan model dan penggerak model, serta telah menggunakan 200.000 jam data audio dan video untuk pra-pelatihan.
Berdasarkan dua layanan utama ini, pengembang dapat dengan cepat menghasilkan dan mendorong model manusia digital, memberdayakan pendidikan online, siaran langsung hiburan, konferensi perusahaan, dan aplikasi industri lainnya, sehingga setiap karyawan perusahaan dapat mewujudkan "kebebasan manusia digital". Misalnya, pengguna hanya perlu mengunggah video pribadi berdurasi 20 detik di halaman layanan HUAWEI CLOUD MetaStudio untuk membuat video penjelasan manusia digital yang dipersonalisasi dengan cepat. hanya tiga menit.
Model Besar Pangu + Kecerdasan Terwujud
Dalam pertemuan tersebut, Huawei Cloud juga menyinggung penerapan model Pangu di bidang robotika dan mendemonstrasikan video.
Di masa lalu, memberikan perintah kepada robot membutuhkan pengembang untuk memprogram, tetapi berdasarkan kemampuan pemahaman bahasa alami dari model Pangu, robot dapat mengenali bahasa alami, menjalankan perintah, dan memiliki kecerdasan otonom yang dipandu oleh persepsi global. Pada pertemuan tersebut, Huawei mendemonstrasikan video di mana pengguna tidak perlu memasukkan perintah program, tetapi hanya perlu memberi perintah kepada robot dalam bahasa alami, dan robot dapat menyelesaikan perintah seperti mengambil barang, dan akan membuat penilaian otonom berdasarkan pada lingkungan dalam proses (seperti bergerak Buka serba-serbi yang menghalangi objek target) untuk menyelesaikan tugas.
Menurut Huawei, demonstrasi di atas bukanlah video konsep, melainkan produk nyata, yang dipamerkan di venue selama konferensi HDC.
**04 Ringkasan dan pemikiran: Bisakah Huawei menjadi tiang AI lainnya? **
Zhang Pingan berkata, “Untuk membantu pelanggan global, mitra, dan pengembang melatih dan menggunakan model besar, kami berkomitmen untuk menciptakan dunia bagi pelanggan globalAI **Tiang lain, menyediakan pengembang AI baru Pilihan". **
Bahkan sebelumnya, pada awal Maret tahun ini, Ren Zhengfei telah mengungkapkan arti yang sama di dalam perusahaan. Dia mengatakan akan ada lonjakan model AI, bukan hanya Microsoft. Alasan Ren Zhengfei sebenarnya adalah arah upaya Huawei Cloud saat ini, yaitu kontribusi langsung perusahaan platform perangkat lunak kecerdasan buatan kepada masyarakat manusia mungkin kurang dari 2%, dan 98% adalah promosi masyarakat industri dan masyarakat pertanian.
Misalnya, pabrik-pabrik di China dan Jerman mempromosikan promosi kecerdasan buatan ke industri, untuk mewujudkan produksi tanpa awak; misalnya, dermaga di Pelabuhan Tianjin juga telah mencoba bongkar muat kargo tanpa awak. Setelah kode dimasukkan, kontainer akan secara otomatis dikeluarkan dari kapal. Bawa dan kemudian angkut dengan mobil; misalnya, di tambang batu bara di Shanxi, setelah mengadopsi 5G + kecerdasan buatan di bawah tanah, jumlah personel telah berkurang 60-70%, dan kebanyakan orang bekerja dengan setelan jas di ruang kontrol di lapangan.
Ini adalah contoh di mana AI telah diterapkan ke sisi industri dalam skala besar dalam beberapa tahun terakhir.Kesamaan yang dimiliki industri ini adalah bahwa mereka memiliki skala dan nilai keluaran yang besar, dan sedikit peningkatan efisiensi dapat membawa manfaat besar.
**Munculnya model besar pada dasarnya memberikan alat produktivitas yang lebih efisien. **Di satu sisi, untuk industri-industri yang sudah menganut AI, ini berarti efisiensi yang lebih tinggi dan proses transformasi yang lebih cepat; dan efisiensi yang lebih tinggi juga berarti lebih mudah bagi lebih banyak industri untuk menghitung "ekonomi akun", AI memiliki potensi untuk mengubah dari beberapa yang disebut industri besar menjadi mengubah ribuan industri.
Inilah alasan mengapa Huawei dengan tegas memasuki industri ini, bahkan perusahaan besar layanan cloud domestik seperti Alibaba Cloud, Tencent Cloud, Volcano Cloud, dan Baidu Cloud memiliki ide serupa. Dalam hal arah yang sama dan titik awal yang dekat, yang dapat berlari paling cepat dalam kompetisi ini adalah kemampuan seluruh rantai mulai dari daya komputasi, basis model besar, platform, produk hingga solusi spesifik.
Karena alasan yang terkenal, Huawei tidak dapat memperoleh chip komputasi tercanggih di dunia, yang saat ini diakui, dan tampaknya tidak cukup dalam kompetisi ini. Namun menilai dari konferensi pers hari ini, Huawei tidak dapat melihat bahwa ia tertinggal karena kendala jangkauan atas. Di gantungan kunci model besar, ia telah menghadirkan produk dan kasing yang matang, dan Pangu besar yang dipisahkan arsitektur model bahkan lebih menarik. **Faktanya, mengingat kebutuhan lokalisasi saat ini, Huawei yang tidak ketinggalan dalam hal daya komputasi kemungkinan besar akan menjadi keunggulan yang mandiri dan terkendali. **
Model besar telah menjadi peluang baru bagi Huawei, dan sepertinya hal itu menjadi kenyataan.
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Penjelasan terperinci 6000 kata tentang model Pangu: Bisakah itu mendukung kutub lain dari AI dunia?
Huawei telah memamerkan "ototnya" di bidang model besar.
Pada 7 Juli, 2023 Huawei Developer Conference (HDC 2023) dibuka. Dalam pidato utama lebih dari dua jam di sore hari, HUAWEI CLOUD mengungkapkan kemajuan model besar Pangu secara detail untuk pertama kalinya. Tidak hanya merilis model besar Pangu 3.0 yang berorientasi industri, tetapi juga memperkenalkan secara detail dasar-dasarnya. kemampuan teknis Huawei untuk mengembangkan model besar.
Pangu Large Model 3.0 menyertakan struktur tiga tingkat "5+N+X". Tiga lapisan tersebut mengacu pada lima model besar dasar dari lapisan L0, model besar N industri dari lapisan L1, dan lapisan L2 yang memungkinkan pengguna untuk melatih lebih mandiri Perbaiki model adegan. Ini mengadopsi desain decoupling berlapis lengkap, dan pengguna perusahaan dapat memilih pengembangan model skala besar yang sesuai, peningkatan atau penyempurnaan berdasarkan kebutuhan bisnis mereka sendiri, sehingga dapat beradaptasi dengan perubahan kebutuhan ribuan industri.
Huawei adalah salah satu penyedia layanan cloud paling awal di China yang menerapkan model skala besar, dan telah merilis model skala besar Pangu pada awal tahun 2021. Di jalan untuk mengembangkan model skala besar, Huawei telah membangun platform cloud daya komputasi AI berdasarkan Kunpeng dan Ascend dari lapisan bawah, serta kemampuan teknis seperti arsitektur komputasi heterogen CANN, kerangka kerja AI skenario penuh MindSpore, dan lini produksi pengembangan AI ModelArts. .
Selain model besar dan basis daya komputasi, pada pertemuan tersebut, HUAWEI CLOUD juga menyoroti kasus-kasus umum dari kombinasi model besar Pangu dan industri tertentu.Industri yang terlibat meliputi urusan pemerintah, meteorologi, perkeretaapian, manufaktur, dan keuangan, serta serta beberapa pemutakhiran dan pembentukan kembali Huawei Kasus aplikasi produk dan layanan perangkat lunak cloud.
Baik itu kemampuan teknis dasar, sistem layanan produk cloud AI**+, atau kasus aplikasi di industri tertentu, HUAWEI CLOUD telah menunjukkan kemampuan bisnis yang sangat matang dan sistematis, yang benar-benar memukau industri. **Sementara semua orang masih memperdebatkan siapa OpenAI China, HUAWEI CLOUD telah membuka jalur pengembangan yang cukup matang untuk model berskala besar.
Huawei menggunakan praktiknya sendiri untuk membuktikan bahwa model skala besar itu penting, tetapi yang lebih penting, menggunakan model skala besar untuk menyelesaikan masalah industri dan produk, untuk menghasilkan produk dan layanan yang dapat membuat perusahaan dan pengguna membayar. , dan untuk benar-benar menciptakan nilai bagi ribuan industri.
01 Pangu Large Model 3.0: Arsitektur Decoupling Berlapis
Decoupling adalah kata kunci dari Pangu Model 3.0 yang dirilis hari ini. Ini juga merupakan daya tarik umum dari pelanggan industri yang sebenarnya menggunakan model besar dalam beberapa bulan terakhir.
Vendor SaaS terkemuka mengatakan ketika merilis aplikasi pemutakhiran model skala besar sendiri, "Kami tidak mengembangkan model skala besar sendiri, tetapi dalam skenario bisnis yang berbeda, model skala besar mana yang bagus dalam hal apa, kami mengambil model itu." Agar dapat Beralih di antara model besar yang berbeda, "Arsitektur produk kami sendiri harus independen dari model besar yang mendasarinya, atau digabungkan secara longgar."
"Desain decoupling model besar Pangu adalah untuk kepentingan industri." Pada Konferensi Pengembang Huawei, Zhang Pingan, direktur eksekutif Huawei dan CEO Huawei Cloud, memberikan rute yang berbeda dari model besar Pangu. Intinya adalah memisahkan berbagai lapisan dan kemampuan model Pangu, memungkinkan pengguna industri untuk berkembang sesuai dengan kebutuhan mereka sendiri.
“5” mewakili lima model besar dasar lapisan L0: termasuk bahasa alami, visi, multimodal, peramalan, dan model besar komputasi ilmiah, yang menyediakan dan memenuhi kebutuhan berbagai keterampilan dalam skenario industri.
Pangu 3.0 memberi pelanggan model besar dasar berseri dengan 10 miliar parameter, 38 miliar parameter, 71 miliar parameter, dan 100 miliar parameter, sesuai dengan kebutuhan pelanggan yang beragam dalam skenario yang berbeda, penundaan yang berbeda, dan kecepatan respons yang berbeda. Pada saat yang sama, ini memberikan serangkaian kemampuan baru, termasuk menjawab pertanyaan pengetahuan, pembuatan salinan, dan pembuatan kode untuk model besar NLP, serta pembuatan gambar dan pemahaman gambar untuk model besar multi-modal.Keterampilan ini dapat langsung digunakan oleh pelanggan dan perusahaan mitra. Terlepas dari ukuran modelnya yang besar, Pangu menyediakan serangkaian kemampuan yang konsisten.
"N" dalam struktur tiga tingkat "5+N+X" mewakili N model industri besar di tingkat L1. Ada dua cara untuk menyediakan model besar industri: di satu sisi, HUAWEI CLOUD dapat menyediakan model besar industri umum yang dilatih menggunakan data publik industri, termasuk urusan pemerintahan, keuangan, manufaktur, pertambangan, cuaca, dan model besar lainnya; di sisi lain, itu dapat didasarkan pada pelanggan industri Dengan datanya sendiri, pada lapisan L0 dan L1 model besar Pangea, ia melatih model besar miliknya sendiri untuk pelanggan.
Zhang Pingan berkata: "Pangu lahir untuk melayani industri, menyediakan berbagai penyebaran model skala besar, pengembangan, dan bentuk penalaran. Pangu dapat menghasilkan model industri skala besar sendiri seperti model Pangu skala besar Huawei, dan hanya perlu memasukkan data pribadinya sendiri. . ”Selain itu, data pelatihan juga dipisahkan dari model besar.
X dalam "5+N+X" berarti lapisan L2 memberi pelanggan model pemandangan yang lebih mendetail, lebih berfokus pada hotline urusan pemerintah, asisten jaringan, pemeriksaan obat-obatan terkemuka, deteksi benda asing di sabuk konveyor, dan angin topan paths Menyediakan pelanggan dengan layanan model "out-of-the-box" untuk aplikasi industri tertentu atau skenario bisnis tertentu seperti peramalan.
Melalui model besar tiga lapis "**5+N+X", HUAWEI CLOUD membangun basis model besarnya sendiri.
Pada Konferensi Kecerdasan Buatan Dunia kemarin, Hu Houkun, ketua bergilir Huawei, menjelaskan dengan jelas: "Tingkat pembandingan yang paling dasar adalah model skala besar umum, yang kami sebut model skala besar dasar. Citra kami pada tingkat ini disebut membaca ribuan buku, yang berarti melakukannya dengan baik. Sejumlah besar pengetahuan dasar dipelajari. Pada lapisan ini, model industri dan model pemandangan juga dibuat, disebut perjalanan ribuan mil. Masih banyak tantangan yang harus diatasi dari membaca ribuan buku untuk melakukan perjalanan ribuan mil. Poin kuncinya adalah Huawei bekerja dengan mitra dari berbagai industri untuk sepenuhnya mencocokkan dan mengintegrasikan pengetahuan dari berbagai industri dengan model besar.”
**Selain itu, inovasi model besar tidak hanya inovasi model itu sendiri, tetapi juga bergantung pada inovasi berbagai teknologi dasar AI. Pada pertemuan tersebut, Yao Jun, direktur Laboratorium Bahtera Nuh Huawei, memperkenalkan basis teknis model Pangu.
Huawei telah membangun platform cloud daya komputasi AI berdasarkan Kunpeng dan Ascend di lapisan bawah, serta arsitektur komputasi heterogen CANN, kerangka kerja AI skenario penuh MindSpore, dan lini produksi pengembangan AI ModelArts, dll., untuk memberikan solusi terdistribusi untuk pengembangan dan pengoperasian model besar Kemampuan utama seperti akselerasi paralel, optimalisasi operator dan kompilasi, dan optimalisasi komunikasi tingkat klaster. Berdasarkan teknologi root AI Huawei, kinerja pelatihan model besar dapat disesuaikan hingga 1,1 kali lipat dari GPU mainstream di industri.
Pada saat yang sama, 90% operator dalam kerangka kerja ini dapat dengan lancar bermigrasi ke platform Ascend melalui alat migrasi end-to-end Huawei. Misalnya, Meitu memigrasikan 70 model ke Ascend hanya dalam 30 hari. Pada saat yang sama, HUAWEI CLOUD dan tim Meitu bersama-sama mengoptimalkan lebih dari 30 operator dan mempercepat proses secara paralel. Dibandingkan dengan solusi awal, kinerja AI lebih baik membaik sebesar 30%.
Selain itu, kegagalan GPU sering ditemui selama pelatihan model besar, dan pengembang harus sering memulai kembali pelatihan, yang memakan waktu lama dan biaya besar. Layanan cloud Ascend AI dapat memberikan layanan komputasi AI yang lebih stabil.Tingkat stabilitas jangka panjang pelatihan kilokalori 30 hari mencapai 90%, dan waktu pemulihan breakpoint tidak melebihi 10 menit.
02 Memberdayakan ribuan industri
Ren Zhengfei sebelumnya berkata, "Kontribusi langsung dari perusahaan platform perangkat lunak kecerdasan buatan kepada masyarakat manusia mungkin kurang dari 2%, dan 98% adalah promosi masyarakat industri dan masyarakat pertanian. Tetapi platform aplikasi bukanlah pilihan kami, kami akan melakukannya lapisan bawah platform kekuatan AI Computing."
Membiarkan model besar masuk ke ribuan industri telah menjadi fokus pengembangan model besar Huawei. Pada pertemuan tersebut, HUAWEI CLOUD memperkenalkan kasus penerapan model besar Pangu di tujuh bidang termasuk urusan pemerintahan, perkeretaapian, meteorologi, dan keuangan.
Urusan Pemerintah
Menurut Huawei Cloud, inti dari model besar urusan pemerintahan Pangu adalah kemampuan kognitif. Biarkan sistem publik perkotaan dilihat dan dipahami, dan selesaikan lingkaran tertutup dari persepsi ke kognisi dan pembuangan. Dan menurut skenario yang berbeda, ini memberikan kemampuan yang berbeda seperti menjawab pertanyaan, pembuatan salinan, persepsi video, dan pemahaman multimodal.
kereta api
Inspektur kereta tradisional harus memeriksa jutaan gambar kereta setiap hari untuk mendeteksi apakah ada kesalahan pada gerbong barang yang berjalan di jaringan kereta api. Setelah pengenalan model besar Pangu, secara akurat dapat mengidentifikasi 67 jenis truk yang berjalan di jaringan langsung dan lebih dari 430 jenis kesalahan, dan tingkat penyaringan gambar yang tidak rusak setinggi 95%. Dengan kata lain, inspektur kereta api hanya perlu mendeteksi 1/20 gambar kereta api di masa lalu, yang setara dengan peningkatan efisiensi kerja 20 kali lipat.
tambang batu bara
Di bidang tambang batubara, model skala besar Tambang Pangu telah digunakan di 8 tambang di seluruh negeri. Model besar dapat mencakup lebih dari 1.000 skenario yang terbagi dalam proses bisnis seperti penambangan, penggalian, permesinan, transportasi, transportasi, dan pencucian tambang batu bara, memungkinkan lebih banyak Lebih banyak penambang batu bara dapat bekerja di lapangan, yang tidak hanya membuat lingkungan kerja penambang batu bara lebih nyaman, tetapi juga sangat mengurangi kecelakaan keselamatan.
meteorologi
keuangan
Di bidang keuangan, Pangu Large Model bekerja sama dengan ICBC untuk membuat rangkaian aplikasi eksplorasi.
Salah satu skenario tipikal adalah meningkatkan efisiensi kerja teller bank. ICBC memiliki puluhan ribu outlet di seluruh negeri dan 200.000 outlet teller. Mereka perlu beralih di antara berbagai layanan, yang akan membuang banyak waktu.
Dan ini hanya aplikasi yang paling dasar, Huawei sedang menjajaki industri keuangan untuk menerapkan model besar ke lebih banyak skenario keuangan seperti analisis kredit di masa mendatang.
manufaktur
Huawei sendiri juga merupakan perusahaan manufaktur, produk perangkat keras yang diproduksinya meliputi BTS komunikasi, ponsel, mobil, chip, dan bidang lainnya. Berdasarkan pengalaman yang terakumulasi di masa lalu, Huawei memperkenalkan model besar Pangu ke dalam bidang produksi dan manufaktur.
Penemuan obat
Di bidang penelitian dan pengembangan obat, penelitian dan pengembangan asli obat baru membutuhkan waktu rata-rata 10 tahun dan biaya 1 miliar dolar AS. Model molekul besar obat Pangu membantu tim Profesor Liu Bing dari Rumah Sakit Afiliasi Pertama Universitas Xi'an Jiaotong menemukan target baru pertama di dunia dan kelas antibiotik baru dalam 40 tahun, dan mempersingkat siklus pengembangan obat utama menjadi satu bulan. dan mengurangi biaya pengembangan hingga 70%.
03 Model besar terintegrasi ke dalam sistem produk Huawei Cloud
Selain praktik di ribuan industri, model HUAWEI CLOUD Pangu juga telah diintegrasikan secara mendalam ke dalam layanan produk HUAWEI CLOUD untuk merestrukturisasi inovasi produk.
Model Besar Pangu + Layanan Cloud Huawei
Dengan restu model Pangu, serangkaian produk dan layanan B-end Huawei Cloud telah ditingkatkan dan direkonstruksi. Pada pertemuan tersebut, HUAWEI CLOUD memperkenalkan rincian empat peningkatan layanan: layanan data, layanan pelanggan cloud, BI, dan pencarian cloud.
Model besar Pangu + alat kode CodeArts
Alat ini telah melatih 76 miliar baris kode terpilih dan 13 juta dokumen teknis. Alat ini memiliki tiga fungsi inti generasi cerdas, pertanyaan dan jawaban cerdas, dan kolaborasi cerdas. Alat ini dapat mewujudkan pembuatan kode dalam satu kalimat dialog, anotasi otomatis, dan pembuatan kalimat uji kasus dalam satu klik Satu perintah dapat digunakan dengan cerdas, sehingga setiap pengembang perangkat lunak memiliki asisten pemrogramannya sendiri.
Model Besar Pangu + Pria Digital
Berdasarkan dua layanan utama ini, pengembang dapat dengan cepat menghasilkan dan mendorong model manusia digital, memberdayakan pendidikan online, siaran langsung hiburan, konferensi perusahaan, dan aplikasi industri lainnya, sehingga setiap karyawan perusahaan dapat mewujudkan "kebebasan manusia digital". Misalnya, pengguna hanya perlu mengunggah video pribadi berdurasi 20 detik di halaman layanan HUAWEI CLOUD MetaStudio untuk membuat video penjelasan manusia digital yang dipersonalisasi dengan cepat. hanya tiga menit.
Model Besar Pangu + Kecerdasan Terwujud
Dalam pertemuan tersebut, Huawei Cloud juga menyinggung penerapan model Pangu di bidang robotika dan mendemonstrasikan video.
Menurut Huawei, demonstrasi di atas bukanlah video konsep, melainkan produk nyata, yang dipamerkan di venue selama konferensi HDC.
**04 Ringkasan dan pemikiran: Bisakah Huawei menjadi tiang AI lainnya? **
Zhang Pingan berkata, “Untuk membantu pelanggan global, mitra, dan pengembang melatih dan menggunakan model besar, kami berkomitmen untuk menciptakan dunia bagi pelanggan global AI **Tiang lain, menyediakan pengembang AI baru Pilihan". **
Bahkan sebelumnya, pada awal Maret tahun ini, Ren Zhengfei telah mengungkapkan arti yang sama di dalam perusahaan. Dia mengatakan akan ada lonjakan model AI, bukan hanya Microsoft. Alasan Ren Zhengfei sebenarnya adalah arah upaya Huawei Cloud saat ini, yaitu kontribusi langsung perusahaan platform perangkat lunak kecerdasan buatan kepada masyarakat manusia mungkin kurang dari 2%, dan 98% adalah promosi masyarakat industri dan masyarakat pertanian.
Misalnya, pabrik-pabrik di China dan Jerman mempromosikan promosi kecerdasan buatan ke industri, untuk mewujudkan produksi tanpa awak; misalnya, dermaga di Pelabuhan Tianjin juga telah mencoba bongkar muat kargo tanpa awak. Setelah kode dimasukkan, kontainer akan secara otomatis dikeluarkan dari kapal. Bawa dan kemudian angkut dengan mobil; misalnya, di tambang batu bara di Shanxi, setelah mengadopsi 5G + kecerdasan buatan di bawah tanah, jumlah personel telah berkurang 60-70%, dan kebanyakan orang bekerja dengan setelan jas di ruang kontrol di lapangan.
Ini adalah contoh di mana AI telah diterapkan ke sisi industri dalam skala besar dalam beberapa tahun terakhir.Kesamaan yang dimiliki industri ini adalah bahwa mereka memiliki skala dan nilai keluaran yang besar, dan sedikit peningkatan efisiensi dapat membawa manfaat besar.
**Munculnya model besar pada dasarnya memberikan alat produktivitas yang lebih efisien. **Di satu sisi, untuk industri-industri yang sudah menganut AI, ini berarti efisiensi yang lebih tinggi dan proses transformasi yang lebih cepat; dan efisiensi yang lebih tinggi juga berarti lebih mudah bagi lebih banyak industri untuk menghitung "ekonomi akun", AI memiliki potensi untuk mengubah dari beberapa yang disebut industri besar menjadi mengubah ribuan industri.
Inilah alasan mengapa Huawei dengan tegas memasuki industri ini, bahkan perusahaan besar layanan cloud domestik seperti Alibaba Cloud, Tencent Cloud, Volcano Cloud, dan Baidu Cloud memiliki ide serupa. Dalam hal arah yang sama dan titik awal yang dekat, yang dapat berlari paling cepat dalam kompetisi ini adalah kemampuan seluruh rantai mulai dari daya komputasi, basis model besar, platform, produk hingga solusi spesifik.
Karena alasan yang terkenal, Huawei tidak dapat memperoleh chip komputasi tercanggih di dunia, yang saat ini diakui, dan tampaknya tidak cukup dalam kompetisi ini. Namun menilai dari konferensi pers hari ini, Huawei tidak dapat melihat bahwa ia tertinggal karena kendala jangkauan atas. Di gantungan kunci model besar, ia telah menghadirkan produk dan kasing yang matang, dan Pangu besar yang dipisahkan arsitektur model bahkan lebih menarik. **Faktanya, mengingat kebutuhan lokalisasi saat ini, Huawei yang tidak ketinggalan dalam hal daya komputasi kemungkinan besar akan menjadi keunggulan yang mandiri dan terkendali. **
Model besar telah menjadi peluang baru bagi Huawei, dan sepertinya hal itu menjadi kenyataan.