Huawei ha hecho gala de sus "músculos" en el terreno de los modelos de gran tamaño.
El 7 de julio se inauguró la Conferencia de Desarrolladores de Huawei 2023 (HDC 2023). En el discurso de apertura de más de dos horas por la tarde, HUAWEI CLOUD reveló el progreso del modelo grande Pangu en detalle por primera vez. No solo lanzó el modelo grande Pangu 3.0 orientado a la industria, sino que también presentó en detalle el modelo básico capacidades técnicas de Huawei para desarrollar modelos grandes.
El Pangu Large Model 3.0 incluye una estructura de tres niveles "5+N+X". Las tres capas se refieren a los cinco modelos grandes básicos de la capa L0, los N modelos grandes de toda la industria de la capa L1 y la capa L2. que permite a los usuarios entrenar de forma independiente más Refinar el modelo de escena. Adopta un diseño de desacoplamiento en capas completo, y los usuarios empresariales pueden elegir un modelo adecuado de desarrollo, actualización o ajuste a gran escala en función de sus propias necesidades comerciales, para adaptarse a las necesidades cambiantes de miles de industrias.
Hu Houkun, presidente rotativo de Huawei, dijo en la reciente conferencia WAIC que el núcleo del modelo de desarrollo de Huawei es centrarse en la potencia informática y las aplicaciones**. Por un lado, es profundizar el poder de cómputo y construir una sólida base de poder de cómputo para apoyar el desarrollo de la industria de inteligencia artificial de China. Por otro lado, es combinar modelos a gran escala, desde modelos a gran escala de propósito general hasta investigación e innovación a gran escala en toda la industria, para hacer que la inteligencia artificial realmente sirva bien a miles de industrias e investigaciones científicas.
Huawei es uno de los primeros proveedores de servicios en la nube en China en implementar modelos a gran escala y lanzó el modelo a gran escala Pangu ya en 2021. En el camino hacia el desarrollo de modelos a gran escala, Huawei ha construido una plataforma en la nube de potencia informática de IA basada en Kunpeng y Ascend desde la capa inferior, así como capacidades técnicas como la arquitectura informática heterogénea CANN, el marco de trabajo de IA de escenario completo MindSpore, y la línea de producción de desarrollo de IA ModelArts.
Además del modelo grande y la base de potencia de cómputo, en la reunión, HUAWEI CLOUD también destacó casos típicos de la combinación del modelo grande Pangu e industrias específicas.Las industrias involucradas incluyen asuntos gubernamentales, meteorología, ferrocarriles, manufactura y finanzas, así como así como múltiples actualizaciones y remodelaciones de Huawei Casos de aplicación de productos y servicios de software en la nube.
Ya sea que se trate de capacidades técnicas básicas, sistema de servicios de productos en la nube con IA**+ o casos de aplicación en industrias específicas, HUAWEI CLOUD ha demostrado capacidades comerciales altamente maduras y sistemáticas, lo que realmente impresiona a la industria. Trae sorpresas. **Mientras todos todavía discuten sobre quién es OpenAI de China, HUAWEI CLOUD ha abierto un camino de desarrollo bastante maduro para modelos a gran escala.
Huawei está utilizando su propia práctica para demostrar que los modelos a gran escala son importantes, pero lo que es más importante, es usar modelos a gran escala para resolver los puntos débiles de las industrias y los productos, para producir productos y servicios que puedan hacer que las empresas y los usuarios paguen. y crear verdaderamente valor para miles de industrias.
01 Pangu Large Model 3.0: arquitectura de desacoplamiento en capas
El desacoplamiento es la palabra clave del Pangu Model 3.0 lanzado hoy. Este es también un atractivo común de los clientes de la industria que realmente han invocado modelos grandes en los últimos meses.
Un proveedor líder de SaaS dijo al lanzar su propia aplicación de actualización de modelos a gran escala: "No desarrollamos modelos a gran escala por nosotros mismos, pero en diferentes escenarios comerciales, qué modelo a gran escala es bueno en qué, tomamos ese modelo". Para poder cambiar entre diferentes modelos grandes, "nuestra propia arquitectura de producto debe ser independiente del modelo grande subyacente, o acoplarse libremente".
“El diseño de desacoplamiento del modelo grande de Pangu es por el bien de la industria.” En la Conferencia de Desarrolladores de Huawei, Zhang Pingan, director ejecutivo de Huawei y CEO de Huawei Cloud, dio la ruta diferenciada del modelo grande de Pangu. Su núcleo es desacoplar las diversas capas y capacidades del modelo Pangu, lo que permite a los usuarios de la industria desarrollarse de acuerdo con sus propias necesidades.
Específicamente, Pangu Large-scale Model 3.0 es una serie de modelos a gran escala orientada a la industria, que incluye una estructura de tres niveles "5+N+X":
“5” representa los cinco modelos grandes básicos de la capa L0: incluidos modelos grandes de lenguaje natural, visión, multimodal, pronóstico y computación científica, que proporcionan y satisfacen las necesidades de diversas habilidades en escenarios industriales.
Pangu 3.0 proporciona a los clientes modelos grandes básicos serializados con 10 000 millones de parámetros, 38 000 millones de parámetros, 71 000 millones de parámetros y 100 000 millones de parámetros, lo que satisface las diversas necesidades de los clientes en diferentes escenarios, diferentes retrasos y diferentes velocidades de respuesta. Al mismo tiempo, proporciona un nuevo conjunto de capacidades, que incluyen la respuesta a preguntas de conocimiento, la generación de copias y la generación de código para modelos grandes de NLP, así como la generación de imágenes y la comprensión de imágenes para modelos grandes multimodales. Estas habilidades se pueden usar directamente. por clientes y empresas colaboradoras. Independientemente del tamaño del modelo grande, Pangu proporciona un conjunto consistente de capacidades.
La "N" en la estructura de tres niveles "5+N+X" representa N grandes modelos industriales en el nivel L1. Hay dos formas de proporcionar modelos grandes de la industria: por un lado, HUAWEI CLOUD puede proporcionar modelos grandes de la industria general capacitados con datos públicos de la industria, incluidos asuntos gubernamentales, finanzas, manufactura, minería, clima y otros modelos grandes; por otro lado, puede basarse en clientes de la industria Con sus propios datos, en las capas L0 y L1 del modelo grande de Pangea, entrena su propio modelo grande patentado para los clientes.
Zhang Pingan dijo: "Pangu nació para servir a la industria y proporciona una variedad de formas de implementación, desarrollo y razonamiento de modelos a gran escala. Puede generar su propio modelo de industria a gran escala al igual que el modelo a gran escala de Pangu de Huawei". , y solo necesita ingresar sus propios datos privados.” Además, los datos de entrenamiento también están desacoplados del modelo grande.
La X en "5+N+X" significa que la capa L2 brinda a los clientes modelos de escena más detallados, centrándose más en las líneas directas de asuntos gubernamentales, asistentes de red, detección de drogas líder, detección de objetos extraños en cintas transportadoras y tifones. rutas Proporcione a los clientes servicios modelo "listos para usar" para aplicaciones industriales específicas o escenarios comerciales específicos, como la previsión.
A través del modelo grande de tres capas de "**5+N+X", HUAWEI CLOUD construyó su propia base de modelo grande.
En la Conferencia Mundial de Inteligencia Artificial de ayer, Hu Houkun, presidente rotativo de Huawei, explicó vívidamente: "El nivel más básico de evaluación comparativa es el modelo general a gran escala, al que llamamos modelo básico a gran escala. Nuestra imagen en este nivel se llama lectura miles de libros, que es hacerlo bien. Se aprende una gran cantidad de conocimientos básicos. En esta capa, también se crean modelos de la industria y modelos de escena, llamados viajar miles de millas. Todavía hay muchos desafíos que superar al leer miles de libros. a viajar miles de millas. El punto clave es que Huawei está trabajando con socios de varias industrias para combinar e integrar completamente el conocimiento de varias industrias con modelos grandes ".
**Además, la innovación del modelo grande no es solo la innovación del modelo en sí, sino que también depende de la innovación de varias tecnologías raíz de IA. En la reunión, Yao Jun, director del Laboratorio del Arca de Noé de Huawei, presentó la base técnica del modelo Pangu.
Para proporcionar soluciones distribuidas para el desarrollo y operación de modelos grandes Capacidades clave como aceleración paralela, optimización de compilación y operador, y optimización de comunicación a nivel de clúster. Basado en la tecnología raíz de IA de Huawei, el rendimiento del entrenamiento de modelos grandes se puede ajustar a 1,1 veces el de las GPU principales de la industria.
El poder de cómputo es la base para entrenar modelos grandes. En esta conferencia, Zhang Ping'an anunció que el servicio en la nube Ascend AI con un solo clúster 2000P Flops de potencia informática se lanzará simultáneamente en los centros de potencia informática Ulanqab y Gui'an AI de Huawei Cloud. Además de admitir el marco de trabajo de IA para todos los escenarios de Huawei, Shengsi MindSpore, Shengteng AI Cloud Service también es compatible con los marcos de trabajo de IA convencionales, como Pytorch y Tensorflow.
Al mismo tiempo, el 90 % de los operadores en estos marcos se pueden migrar sin problemas a la plataforma Ascend a través de la herramienta de migración de extremo a extremo de Huawei. Por ejemplo, Meitu migró 70 modelos a Ascend en solo 30 días. Al mismo tiempo, HUAWEI CLOUD y el equipo de Meitu optimizaron conjuntamente más de 30 operadores y aceleraron el proceso en paralelo. En comparación con la solución original, el rendimiento de la IA fue mejorado en un 30%.
Además, a menudo se encuentran fallas en la GPU durante el entrenamiento de modelos grandes, y los desarrolladores tienen que reiniciar el entrenamiento con frecuencia, lo que lleva mucho tiempo y cuesta mucho. El servicio en la nube Ascend AI puede proporcionar un servicio informático de IA más estable.La tasa de estabilidad a largo plazo del entrenamiento de kilocalorías de 30 días alcanza el 90% y el tiempo de recuperación del punto de interrupción no supera los 10 minutos.
02 Empoderar a miles de industrias
Ren Zhengfei dijo anteriormente: "La contribución directa de las empresas de plataformas de software de inteligencia artificial a la sociedad humana puede ser inferior al 2%, y el 98% es la promoción de la sociedad industrial y la sociedad agrícola. Pero la plataforma de aplicaciones no es nuestra opción, seremos la capa inferior de la plataforma de poder de AI Computing".
Permitir modelos grandes en miles de industrias se ha convertido en el foco del desarrollo de modelos grandes de Huawei. En la reunión, HUAWEI CLOUD presentó los casos de aplicación del modelo grande Pangu en siete campos, incluidos asuntos gubernamentales, ferrocarriles, meteorología y finanzas.
Asuntos Gubernamentales
En el campo de los asuntos gubernamentales, HUAWEI CLOUD y la Oficina de Gestión de Datos del Servicio Gubernamental del Distrito de Shenzhen Futian lanzaron Xiaofu, el asistente inteligente de asuntos gubernamentales de Futian basado en el modelo de asuntos gubernamentales Pangu, que puede comprender con precisión las intenciones de consulta de las personas y cambiar el servicio tradicional de ventanilla única. modelo. Al ajustar más de 200 000 datos de asuntos gubernamentales, incluidas las líneas directas 12345, documentos de políticas, enciclopedia de asuntos gubernamentales, etc., los asistentes de asuntos gubernamentales han dominado una gran cantidad de conocimientos de la industria, como leyes y reglamentos y procedimientos de manejo.
Según Huawei Cloud, el núcleo del gran modelo de asuntos gubernamentales de Pangu es la capacidad cognitiva. Deje que el sistema público urbano sea visto y entendido, y complete el circuito cerrado desde la percepción hasta la cognición y la eliminación. Y de acuerdo con diferentes escenarios, proporciona diferentes capacidades, como respuesta a preguntas, generación de copias, percepción de video y comprensión multimodal.
HUAWEI CLOUD presentó dos escenarios típicos: el primero es un escenario de consultoría, en el que los usuarios empresariales consultan a los asistentes gubernamentales sobre las políticas de apoyo a la inversión relevantes, y los asistentes gubernamentales pueden introducir regulaciones y políticas relevantes y brindar sugerencias adecuadas a los consultores; el segundo escenario, como se muestra en la figura anterior, es una escena de procesamiento de asuntos gubernamentales basada en el diálogo y las capacidades multimodales.El personal puede analizar inteligentemente las violaciones en las imágenes en función de las imágenes tomadas por la cámara.
ferrocarril
En el campo ferroviario, Huawei demostró el caso de aplicación del asistente de detección de camiones.
Los inspectores de trenes tradicionales tienen que inspeccionar millones de imágenes de trenes todos los días para detectar si hay fallas en los vagones de carga que circulan por la red ferroviaria. Después de la introducción del modelo grande Pangu, puede identificar con precisión 67 tipos de camiones que funcionan en la red en vivo y más de 430 tipos de fallas, y la tasa de detección de imágenes sin fallas llega al 95%. En otras palabras, los inspectores de trenes solo necesitan detectar 1/20 de las imágenes de trenes en el pasado, lo que equivale a un aumento de 20 veces en la eficiencia del trabajo.
mina de carbón
En el campo de las minas de carbón, el modelo a gran escala de Pangu Mine se ha utilizado en las minas 8 en todo el país. Un modelo grande puede cubrir más de 1,000 escenarios subdivididos en procesos comerciales como minería, excavación, maquinaria, transporte, transporte, y lavado de minas de carbón, lo que permite que más mineros del carbón puedan trabajar en el suelo, lo que no solo hace que el entorno de trabajo de los mineros del carbón sea más cómodo, sino que también reduce en gran medida los accidentes de seguridad.
meteorológico
El campo meteorológico fue el tema central de la conferencia de prensa de Huawei Cloud. Hace apenas unos días, los resultados de la investigación del gran modelo meteorológico Pangu se publicaron en la principal revista extranjera "Nature", y los revisores comentaron: Reexaminemos el futuro de la previsión meteorológica.
Originalmente, para predecir la ruta de un tifón en los próximos 10 días, tomó 5 horas simular en un clúster de computadoras de alto rendimiento con 3000 servidores. Ahora, basado en el gran modelo meteorológico Pangea preentrenado, a través del razonamiento de IA, los investigadores solo necesitan configurar una sola tarjeta en un solo servidor y pueden obtener resultados de predicción más precisos en 10 segundos.
En la actualidad, el gran modelo meteorológico de Pangea se puede utilizar para predecir el clima, como olas, altas temperaturas, tifones y olas de frío. En comparación con el pronóstico del tiempo tradicional, es más rápido y más preciso. Previamente, Pangu cooperó con la Oficina Meteorológica para predecir el camino de "Mawa" con 10 días de anticipación. Además, Pangu también predijo la llegada de la ola de frío a Finlandia con dos días de antelación, frente a la previsión de la Agencia Meteorológica Europea. El pronóstico de Pangu también está más cerca de la temperatura real,
finanzas
En el campo de las finanzas, Pangu Large Model cooperó con ICBC para crear una serie de aplicaciones exploratorias.
Uno de los escenarios típicos es mejorar la eficiencia del trabajo de los cajeros bancarios. ICBC tiene decenas de miles de puntos de venta en todo el país y 200.000 cajeros de puntos de venta. Necesitan cambiar entre varios servicios, lo que les hará perder mucho tiempo.
Pangu Financial Large Model entrena previamente varias operaciones bancarias, políticas y documentos de casos, y puede generar automáticamente procedimientos y orientación operativa para el personal de mostrador de acuerdo con los problemas del cliente, reduciendo la operación promedio que originalmente requería 5 operaciones a 1. Tiempo de nudo acortado por más de 5 minutos.
Y esta es solo la aplicación más básica. Huawei está explorando con la industria financiera para aplicar el modelo grande a más escenarios financieros, como el análisis de crédito en el futuro.
fabricación
La propia Huawei también es una empresa de fabricación. Los productos de hardware que fabrica incluyen estaciones base de comunicación, teléfonos móviles, automóviles, chips y otros campos. Con base en la experiencia acumulada en el pasado, Huawei introdujo el modelo grande Pangu en el campo de la producción y la fabricación.
En el pasado, a menudo tomaba más de 3 horas hacer un plan de producción de un día para que una sola línea de producción hiciera un plan de asignación de dispositivos. Después de conocer los diversos datos del dispositivo, los procesos comerciales y las reglas de la línea de producción de Huawei, el modelo grande de fabricación de Pangu puede comprender con precisión las necesidades comerciales y llamar al complemento del solucionador Tianchou AI para hacer los próximos 3 días en un minuto Plan de producción.
Descubrimiento de medicamento
En el campo de la investigación y el desarrollo de fármacos, la investigación y el desarrollo original de un nuevo fármaco lleva una media de 10 años y cuesta 1.000 millones de dólares estadounidenses. El gran modelo molecular de los medicamentos Pangu ayudó al equipo del profesor Liu Bing del Primer Hospital Afiliado de la Universidad Xi'an Jiaotong a descubrir el primer nuevo objetivo y la nueva clase de antibióticos del mundo en 40 años, y acortar el ciclo de desarrollo del fármaco principal a un mes. y reducir el costo de desarrollo en un 70%.
03 Modelo grande integrado en el sistema de productos Huawei Cloud
Además de la práctica en miles de industrias, el modelo HUAWEI CLOUD Pangu también se ha integrado profundamente en los servicios de productos de HUAWEI CLOUD para reestructurar la innovación de productos.
Modelo Pangu grande + servicio en la nube de Huawei
Con la bendición del modelo Pangu, se han actualizado y reconstruido una serie de productos y servicios B-end de Huawei Cloud. En la reunión, HUAWEI CLOUD presentó los detalles de cuatro actualizaciones de servicio: servicio de datos, servicio al cliente en la nube, BI y búsqueda en la nube.
* En el servicio de datos, a través de la tecnología de redacción y generación de código del modelo grande Pangu, se puede mejorar la eficiencia de la escritura de datos y la escritura de código front-end, y se puede acortar considerablemente el ciclo de lanzamiento de nuevos productos.
En el servicio de atención al cliente en la nube, a través del diálogo de preguntas y respuestas integrado en la base de conocimiento de la industria y la capacidad de extracción de intenciones, se realiza todo el proceso de respuesta prioritaria de IA y la eficiencia del servicio de atención al cliente se mejora en un 30 %.
En BI, a través del enrutamiento inteligente de NL2SQL y AutoGraph, se realizan recomendaciones automáticas de SQL a gráficos visuales y, a través de múltiples rondas de interacción de lenguaje natural, todos pueden obtener fácilmente información sobre los detalles comerciales de los datos.
En la búsqueda en la nube, a través de la incrustación multimodal y la tecnología NL2API, realiza búsquedas de video, texto, mapas y otras escenas de gran alcance. Con la ayuda de poderosas capacidades de generalización y comprensión semántica, la tasa de precisión de la búsqueda aumenta en un 15%.
Modelo Pangu grande + herramienta de código CodeArts
HUAWEI CLOUD combina las herramientas de investigación y desarrollo de CodeArts con el modelo grande de Pangu y lanzó oficialmente CodeArts Snap, un asistente de programación inteligente para desarrolladores.
La herramienta ha entrenado 76 mil millones de líneas de códigos seleccionados y 13 millones de documentos técnicos. Tiene tres funciones principales de generación inteligente, preguntas y respuestas inteligentes y colaboración inteligente. Puede realizar la generación de código en una oración de diálogo y la anotación y generación automáticas. de casos de prueba en un clic. Un comando se puede implementar de manera inteligente, de modo que cada desarrollador de software tenga su propio asistente de programación.
Modelo Pangu Grande + Hombre Digital
HUAWEI CLOUD fortalece la línea de producción de contenido digital de MetaStudio a través del modelo grande básico Pangu, crea el modelo Pangu Digital Human Congress, proporciona dos servicios principales de generación de modelos y conducción de modelos, y ha utilizado 200 000 horas de datos de audio y video para la capacitación previa.
Con base en estos dos servicios principales, los desarrolladores pueden generar e impulsar rápidamente modelos humanos digitales, potenciando la educación en línea, la transmisión en vivo de entretenimiento, las conferencias corporativas y otras aplicaciones de la industria, para que todos los empleados de la empresa puedan lograr la "libertad humana digital". Por ejemplo, los usuarios solo necesitan cargar un video personal de 20 segundos en la página de servicio de HUAWEI CLOUD MetaStudio para generar rápidamente un video de explicación humana digital personalizado. El trabajo realizado por tres miembros del personal de I + D en tres días en el pasado ahora se puede completar en sólo tres minutos.
Modelo Pangu Grande + Inteligencia Incorporada
En la reunión, Huawei Cloud también mencionó la aplicación del modelo Pangu en el campo de la robótica y mostró un video.
En el pasado, dar comandos a los robots requería que los desarrolladores programaran, pero según la capacidad de comprensión del lenguaje natural del modelo Pangu, los robots pueden reconocer el lenguaje natural, ejecutar comandos y tener una inteligencia autónoma guiada por la percepción global. En la reunión, Huawei mostró un video en el que los usuarios no necesitan ingresar comandos de programa, solo necesitan dar órdenes al robot en lenguaje natural, y el robot puede completar comandos como recoger elementos y emitirá juicios autónomos basados en en el medio ambiente en el proceso (como mover Abra los artículos diversos que bloquean el objeto de destino) para completar la tarea.
Según Huawei, la demostración anterior no es un video conceptual, sino un producto real, que se exhibió en el lugar durante la conferencia HDC.
**04 Resumen y reflexión: ¿Puede Huawei convertirse en el otro polo de la IA? **
Zhang Pingan dijo: “Para ayudar a los clientes, socios y desarrolladores globales a entrenar y usar modelos grandes, estamos comprometidos a crear un mundo para clientes globalesIA **Otro polo, proporcionando nuevos desarrolladores de IA s Elección". **
Incluso antes, en marzo de este año, Ren Zhengfei había expresado un significado similar dentro de la empresa. Dijo que habrá un aumento en los modelos de IA, no solo de Microsoft. La razón de Ren Zhengfei es en realidad la dirección de los esfuerzos de Huawei Cloud en la actualidad, es decir, la contribución directa de las empresas de plataformas de software de inteligencia artificial a la sociedad humana puede ser inferior al 2 %, y el 98 % es la promoción de la sociedad industrial y la sociedad agrícola.
Por ejemplo, las fábricas en China y Alemania están promoviendo la promoción de la inteligencia artificial en la industria, a fin de realizar la producción no tripulada, por ejemplo, el muelle en el puerto de Tianjin también ha probado la carga y descarga de carga no tripulada. Una vez que se ingresa el código, el El contenedor se retirará automáticamente del barco. Llévelo y luego transpórtelo en automóvil; por ejemplo, en la mina de carbón en Shanxi, después de adoptar 5G + inteligencia artificial subterránea, la cantidad de personal se ha reducido en un 60-70%, y la mayoría de la gente trabaja en traje en la sala de control en tierra.
Estos son ejemplos en los que la IA se ha aplicado al lado industrial a gran escala en los últimos años. Lo que estas industrias tienen en común es que tienen una gran escala y valor de producción, y una pequeña mejora en la eficiencia puede traer grandes beneficios.
**La aparición de modelos grandes proporciona esencialmente herramientas de productividad más eficientes. **Por un lado, para estas industrias que ya están adoptando la IA, significa una mayor eficiencia y un proceso de transformación más rápido; y una mayor eficiencia también significa que es más fácil para más industrias calcular la "cuenta económica", la IA tiene el potencial transformar de unas pocas industrias llamadas importantes a transformar miles de industrias.
Esta es la razón por la cual Huawei ingresa decididamente en la industria.De hecho, las principales empresas nacionales de servicios en la nube como Alibaba Cloud, Tencent Cloud, Volcano Cloud y Baidu Cloud tienen ideas similares. En el caso de la misma dirección y el punto de partida cercano, quién puede correr más rápido en esta competencia es la capacidad de toda la cadena, desde el poder de cómputo, la gran base de modelos, la plataforma, los productos hasta las soluciones específicas.
Por razones bien conocidas, Huawei no puede obtener el chip informático más avanzado del mundo, que actualmente es reconocido, y parece que es inherentemente insuficiente en esta competencia. Pero a juzgar por la conferencia de prensa de hoy, Huawei no puede ver que se está quedando atrás debido a las limitaciones de los tramos superiores. En el llavero del modelo grande, ha presentado productos y estuches maduros, y el Pangu grande desacoplado. La arquitectura del modelo es aún más llamativa. **De hecho, teniendo en cuenta las necesidades de localización actuales, es probable que Huawei, que no se queda atrás en términos de potencia informática, se convierta en una ventaja independiente y controlable. **
Los modelos grandes se han convertido en una nueva oportunidad para Huawei, y parece que se está convirtiendo en una realidad.
Ver originales
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
Explicación detallada de 6000 palabras del modelo Pangu: ¿Puede soportar el otro polo de la IA del mundo?
Huawei ha hecho gala de sus "músculos" en el terreno de los modelos de gran tamaño.
El 7 de julio se inauguró la Conferencia de Desarrolladores de Huawei 2023 (HDC 2023). En el discurso de apertura de más de dos horas por la tarde, HUAWEI CLOUD reveló el progreso del modelo grande Pangu en detalle por primera vez. No solo lanzó el modelo grande Pangu 3.0 orientado a la industria, sino que también presentó en detalle el modelo básico capacidades técnicas de Huawei para desarrollar modelos grandes.
El Pangu Large Model 3.0 incluye una estructura de tres niveles "5+N+X". Las tres capas se refieren a los cinco modelos grandes básicos de la capa L0, los N modelos grandes de toda la industria de la capa L1 y la capa L2. que permite a los usuarios entrenar de forma independiente más Refinar el modelo de escena. Adopta un diseño de desacoplamiento en capas completo, y los usuarios empresariales pueden elegir un modelo adecuado de desarrollo, actualización o ajuste a gran escala en función de sus propias necesidades comerciales, para adaptarse a las necesidades cambiantes de miles de industrias.
Huawei es uno de los primeros proveedores de servicios en la nube en China en implementar modelos a gran escala y lanzó el modelo a gran escala Pangu ya en 2021. En el camino hacia el desarrollo de modelos a gran escala, Huawei ha construido una plataforma en la nube de potencia informática de IA basada en Kunpeng y Ascend desde la capa inferior, así como capacidades técnicas como la arquitectura informática heterogénea CANN, el marco de trabajo de IA de escenario completo MindSpore, y la línea de producción de desarrollo de IA ModelArts.
Además del modelo grande y la base de potencia de cómputo, en la reunión, HUAWEI CLOUD también destacó casos típicos de la combinación del modelo grande Pangu e industrias específicas.Las industrias involucradas incluyen asuntos gubernamentales, meteorología, ferrocarriles, manufactura y finanzas, así como así como múltiples actualizaciones y remodelaciones de Huawei Casos de aplicación de productos y servicios de software en la nube.
Ya sea que se trate de capacidades técnicas básicas, sistema de servicios de productos en la nube con IA**+ o casos de aplicación en industrias específicas, HUAWEI CLOUD ha demostrado capacidades comerciales altamente maduras y sistemáticas, lo que realmente impresiona a la industria. Trae sorpresas. **Mientras todos todavía discuten sobre quién es OpenAI de China, HUAWEI CLOUD ha abierto un camino de desarrollo bastante maduro para modelos a gran escala.
Huawei está utilizando su propia práctica para demostrar que los modelos a gran escala son importantes, pero lo que es más importante, es usar modelos a gran escala para resolver los puntos débiles de las industrias y los productos, para producir productos y servicios que puedan hacer que las empresas y los usuarios paguen. y crear verdaderamente valor para miles de industrias.
01 Pangu Large Model 3.0: arquitectura de desacoplamiento en capas
El desacoplamiento es la palabra clave del Pangu Model 3.0 lanzado hoy. Este es también un atractivo común de los clientes de la industria que realmente han invocado modelos grandes en los últimos meses.
Un proveedor líder de SaaS dijo al lanzar su propia aplicación de actualización de modelos a gran escala: "No desarrollamos modelos a gran escala por nosotros mismos, pero en diferentes escenarios comerciales, qué modelo a gran escala es bueno en qué, tomamos ese modelo". Para poder cambiar entre diferentes modelos grandes, "nuestra propia arquitectura de producto debe ser independiente del modelo grande subyacente, o acoplarse libremente".
“El diseño de desacoplamiento del modelo grande de Pangu es por el bien de la industria.” En la Conferencia de Desarrolladores de Huawei, Zhang Pingan, director ejecutivo de Huawei y CEO de Huawei Cloud, dio la ruta diferenciada del modelo grande de Pangu. Su núcleo es desacoplar las diversas capas y capacidades del modelo Pangu, lo que permite a los usuarios de la industria desarrollarse de acuerdo con sus propias necesidades.
“5” representa los cinco modelos grandes básicos de la capa L0: incluidos modelos grandes de lenguaje natural, visión, multimodal, pronóstico y computación científica, que proporcionan y satisfacen las necesidades de diversas habilidades en escenarios industriales.
Pangu 3.0 proporciona a los clientes modelos grandes básicos serializados con 10 000 millones de parámetros, 38 000 millones de parámetros, 71 000 millones de parámetros y 100 000 millones de parámetros, lo que satisface las diversas necesidades de los clientes en diferentes escenarios, diferentes retrasos y diferentes velocidades de respuesta. Al mismo tiempo, proporciona un nuevo conjunto de capacidades, que incluyen la respuesta a preguntas de conocimiento, la generación de copias y la generación de código para modelos grandes de NLP, así como la generación de imágenes y la comprensión de imágenes para modelos grandes multimodales. Estas habilidades se pueden usar directamente. por clientes y empresas colaboradoras. Independientemente del tamaño del modelo grande, Pangu proporciona un conjunto consistente de capacidades.
La "N" en la estructura de tres niveles "5+N+X" representa N grandes modelos industriales en el nivel L1. Hay dos formas de proporcionar modelos grandes de la industria: por un lado, HUAWEI CLOUD puede proporcionar modelos grandes de la industria general capacitados con datos públicos de la industria, incluidos asuntos gubernamentales, finanzas, manufactura, minería, clima y otros modelos grandes; por otro lado, puede basarse en clientes de la industria Con sus propios datos, en las capas L0 y L1 del modelo grande de Pangea, entrena su propio modelo grande patentado para los clientes.
Zhang Pingan dijo: "Pangu nació para servir a la industria y proporciona una variedad de formas de implementación, desarrollo y razonamiento de modelos a gran escala. Puede generar su propio modelo de industria a gran escala al igual que el modelo a gran escala de Pangu de Huawei". , y solo necesita ingresar sus propios datos privados.” Además, los datos de entrenamiento también están desacoplados del modelo grande.
La X en "5+N+X" significa que la capa L2 brinda a los clientes modelos de escena más detallados, centrándose más en las líneas directas de asuntos gubernamentales, asistentes de red, detección de drogas líder, detección de objetos extraños en cintas transportadoras y tifones. rutas Proporcione a los clientes servicios modelo "listos para usar" para aplicaciones industriales específicas o escenarios comerciales específicos, como la previsión.
A través del modelo grande de tres capas de "**5+N+X", HUAWEI CLOUD construyó su propia base de modelo grande.
En la Conferencia Mundial de Inteligencia Artificial de ayer, Hu Houkun, presidente rotativo de Huawei, explicó vívidamente: "El nivel más básico de evaluación comparativa es el modelo general a gran escala, al que llamamos modelo básico a gran escala. Nuestra imagen en este nivel se llama lectura miles de libros, que es hacerlo bien. Se aprende una gran cantidad de conocimientos básicos. En esta capa, también se crean modelos de la industria y modelos de escena, llamados viajar miles de millas. Todavía hay muchos desafíos que superar al leer miles de libros. a viajar miles de millas. El punto clave es que Huawei está trabajando con socios de varias industrias para combinar e integrar completamente el conocimiento de varias industrias con modelos grandes ".
**Además, la innovación del modelo grande no es solo la innovación del modelo en sí, sino que también depende de la innovación de varias tecnologías raíz de IA. En la reunión, Yao Jun, director del Laboratorio del Arca de Noé de Huawei, presentó la base técnica del modelo Pangu.
Para proporcionar soluciones distribuidas para el desarrollo y operación de modelos grandes Capacidades clave como aceleración paralela, optimización de compilación y operador, y optimización de comunicación a nivel de clúster. Basado en la tecnología raíz de IA de Huawei, el rendimiento del entrenamiento de modelos grandes se puede ajustar a 1,1 veces el de las GPU principales de la industria.
Al mismo tiempo, el 90 % de los operadores en estos marcos se pueden migrar sin problemas a la plataforma Ascend a través de la herramienta de migración de extremo a extremo de Huawei. Por ejemplo, Meitu migró 70 modelos a Ascend en solo 30 días. Al mismo tiempo, HUAWEI CLOUD y el equipo de Meitu optimizaron conjuntamente más de 30 operadores y aceleraron el proceso en paralelo. En comparación con la solución original, el rendimiento de la IA fue mejorado en un 30%.
Además, a menudo se encuentran fallas en la GPU durante el entrenamiento de modelos grandes, y los desarrolladores tienen que reiniciar el entrenamiento con frecuencia, lo que lleva mucho tiempo y cuesta mucho. El servicio en la nube Ascend AI puede proporcionar un servicio informático de IA más estable.La tasa de estabilidad a largo plazo del entrenamiento de kilocalorías de 30 días alcanza el 90% y el tiempo de recuperación del punto de interrupción no supera los 10 minutos.
02 Empoderar a miles de industrias
Ren Zhengfei dijo anteriormente: "La contribución directa de las empresas de plataformas de software de inteligencia artificial a la sociedad humana puede ser inferior al 2%, y el 98% es la promoción de la sociedad industrial y la sociedad agrícola. Pero la plataforma de aplicaciones no es nuestra opción, seremos la capa inferior de la plataforma de poder de AI Computing".
Permitir modelos grandes en miles de industrias se ha convertido en el foco del desarrollo de modelos grandes de Huawei. En la reunión, HUAWEI CLOUD presentó los casos de aplicación del modelo grande Pangu en siete campos, incluidos asuntos gubernamentales, ferrocarriles, meteorología y finanzas.
Asuntos Gubernamentales
Según Huawei Cloud, el núcleo del gran modelo de asuntos gubernamentales de Pangu es la capacidad cognitiva. Deje que el sistema público urbano sea visto y entendido, y complete el circuito cerrado desde la percepción hasta la cognición y la eliminación. Y de acuerdo con diferentes escenarios, proporciona diferentes capacidades, como respuesta a preguntas, generación de copias, percepción de video y comprensión multimodal.
ferrocarril
Los inspectores de trenes tradicionales tienen que inspeccionar millones de imágenes de trenes todos los días para detectar si hay fallas en los vagones de carga que circulan por la red ferroviaria. Después de la introducción del modelo grande Pangu, puede identificar con precisión 67 tipos de camiones que funcionan en la red en vivo y más de 430 tipos de fallas, y la tasa de detección de imágenes sin fallas llega al 95%. En otras palabras, los inspectores de trenes solo necesitan detectar 1/20 de las imágenes de trenes en el pasado, lo que equivale a un aumento de 20 veces en la eficiencia del trabajo.
mina de carbón
En el campo de las minas de carbón, el modelo a gran escala de Pangu Mine se ha utilizado en las minas 8 en todo el país. Un modelo grande puede cubrir más de 1,000 escenarios subdivididos en procesos comerciales como minería, excavación, maquinaria, transporte, transporte, y lavado de minas de carbón, lo que permite que más mineros del carbón puedan trabajar en el suelo, lo que no solo hace que el entorno de trabajo de los mineros del carbón sea más cómodo, sino que también reduce en gran medida los accidentes de seguridad.
meteorológico
finanzas
En el campo de las finanzas, Pangu Large Model cooperó con ICBC para crear una serie de aplicaciones exploratorias.
Uno de los escenarios típicos es mejorar la eficiencia del trabajo de los cajeros bancarios. ICBC tiene decenas de miles de puntos de venta en todo el país y 200.000 cajeros de puntos de venta. Necesitan cambiar entre varios servicios, lo que les hará perder mucho tiempo.
Y esta es solo la aplicación más básica. Huawei está explorando con la industria financiera para aplicar el modelo grande a más escenarios financieros, como el análisis de crédito en el futuro.
fabricación
La propia Huawei también es una empresa de fabricación. Los productos de hardware que fabrica incluyen estaciones base de comunicación, teléfonos móviles, automóviles, chips y otros campos. Con base en la experiencia acumulada en el pasado, Huawei introdujo el modelo grande Pangu en el campo de la producción y la fabricación.
Descubrimiento de medicamento
En el campo de la investigación y el desarrollo de fármacos, la investigación y el desarrollo original de un nuevo fármaco lleva una media de 10 años y cuesta 1.000 millones de dólares estadounidenses. El gran modelo molecular de los medicamentos Pangu ayudó al equipo del profesor Liu Bing del Primer Hospital Afiliado de la Universidad Xi'an Jiaotong a descubrir el primer nuevo objetivo y la nueva clase de antibióticos del mundo en 40 años, y acortar el ciclo de desarrollo del fármaco principal a un mes. y reducir el costo de desarrollo en un 70%.
03 Modelo grande integrado en el sistema de productos Huawei Cloud
Además de la práctica en miles de industrias, el modelo HUAWEI CLOUD Pangu también se ha integrado profundamente en los servicios de productos de HUAWEI CLOUD para reestructurar la innovación de productos.
Modelo Pangu grande + servicio en la nube de Huawei
Con la bendición del modelo Pangu, se han actualizado y reconstruido una serie de productos y servicios B-end de Huawei Cloud. En la reunión, HUAWEI CLOUD presentó los detalles de cuatro actualizaciones de servicio: servicio de datos, servicio al cliente en la nube, BI y búsqueda en la nube.
Modelo Pangu grande + herramienta de código CodeArts
La herramienta ha entrenado 76 mil millones de líneas de códigos seleccionados y 13 millones de documentos técnicos. Tiene tres funciones principales de generación inteligente, preguntas y respuestas inteligentes y colaboración inteligente. Puede realizar la generación de código en una oración de diálogo y la anotación y generación automáticas. de casos de prueba en un clic. Un comando se puede implementar de manera inteligente, de modo que cada desarrollador de software tenga su propio asistente de programación.
Modelo Pangu Grande + Hombre Digital
Con base en estos dos servicios principales, los desarrolladores pueden generar e impulsar rápidamente modelos humanos digitales, potenciando la educación en línea, la transmisión en vivo de entretenimiento, las conferencias corporativas y otras aplicaciones de la industria, para que todos los empleados de la empresa puedan lograr la "libertad humana digital". Por ejemplo, los usuarios solo necesitan cargar un video personal de 20 segundos en la página de servicio de HUAWEI CLOUD MetaStudio para generar rápidamente un video de explicación humana digital personalizado. El trabajo realizado por tres miembros del personal de I + D en tres días en el pasado ahora se puede completar en sólo tres minutos.
Modelo Pangu Grande + Inteligencia Incorporada
En la reunión, Huawei Cloud también mencionó la aplicación del modelo Pangu en el campo de la robótica y mostró un video.
Según Huawei, la demostración anterior no es un video conceptual, sino un producto real, que se exhibió en el lugar durante la conferencia HDC.
**04 Resumen y reflexión: ¿Puede Huawei convertirse en el otro polo de la IA? **
Zhang Pingan dijo: “Para ayudar a los clientes, socios y desarrolladores globales a entrenar y usar modelos grandes, estamos comprometidos a crear un mundo para clientes globales IA **Otro polo, proporcionando nuevos desarrolladores de IA s Elección". **
Incluso antes, en marzo de este año, Ren Zhengfei había expresado un significado similar dentro de la empresa. Dijo que habrá un aumento en los modelos de IA, no solo de Microsoft. La razón de Ren Zhengfei es en realidad la dirección de los esfuerzos de Huawei Cloud en la actualidad, es decir, la contribución directa de las empresas de plataformas de software de inteligencia artificial a la sociedad humana puede ser inferior al 2 %, y el 98 % es la promoción de la sociedad industrial y la sociedad agrícola.
Por ejemplo, las fábricas en China y Alemania están promoviendo la promoción de la inteligencia artificial en la industria, a fin de realizar la producción no tripulada, por ejemplo, el muelle en el puerto de Tianjin también ha probado la carga y descarga de carga no tripulada. Una vez que se ingresa el código, el El contenedor se retirará automáticamente del barco. Llévelo y luego transpórtelo en automóvil; por ejemplo, en la mina de carbón en Shanxi, después de adoptar 5G + inteligencia artificial subterránea, la cantidad de personal se ha reducido en un 60-70%, y la mayoría de la gente trabaja en traje en la sala de control en tierra.
Estos son ejemplos en los que la IA se ha aplicado al lado industrial a gran escala en los últimos años. Lo que estas industrias tienen en común es que tienen una gran escala y valor de producción, y una pequeña mejora en la eficiencia puede traer grandes beneficios.
**La aparición de modelos grandes proporciona esencialmente herramientas de productividad más eficientes. **Por un lado, para estas industrias que ya están adoptando la IA, significa una mayor eficiencia y un proceso de transformación más rápido; y una mayor eficiencia también significa que es más fácil para más industrias calcular la "cuenta económica", la IA tiene el potencial transformar de unas pocas industrias llamadas importantes a transformar miles de industrias.
Esta es la razón por la cual Huawei ingresa decididamente en la industria.De hecho, las principales empresas nacionales de servicios en la nube como Alibaba Cloud, Tencent Cloud, Volcano Cloud y Baidu Cloud tienen ideas similares. En el caso de la misma dirección y el punto de partida cercano, quién puede correr más rápido en esta competencia es la capacidad de toda la cadena, desde el poder de cómputo, la gran base de modelos, la plataforma, los productos hasta las soluciones específicas.
Por razones bien conocidas, Huawei no puede obtener el chip informático más avanzado del mundo, que actualmente es reconocido, y parece que es inherentemente insuficiente en esta competencia. Pero a juzgar por la conferencia de prensa de hoy, Huawei no puede ver que se está quedando atrás debido a las limitaciones de los tramos superiores. En el llavero del modelo grande, ha presentado productos y estuches maduros, y el Pangu grande desacoplado. La arquitectura del modelo es aún más llamativa. **De hecho, teniendo en cuenta las necesidades de localización actuales, es probable que Huawei, que no se queda atrás en términos de potencia informática, se convierta en una ventaja independiente y controlable. **
Los modelos grandes se han convertido en una nueva oportunidad para Huawei, y parece que se está convirtiendo en una realidad.