Qiming Venture Partners: GPT4 nascerá na China até 2024, o mais tardar, e texto longo é a chave para grandes modelos de linguagem

Autor: Zhao Ying

Fonte da imagem: Gerada pela ferramenta Unbounded AI

Na sexta-feira, 7 de julho, segundo dia da Conferência Mundial de Inteligência Artificial, Zhou Zhifeng, sócio da Qiming Venture Partners, compartilhou sobre o modelo de IA e a tendência de desenvolvimento de toda a indústria.

A Qiming Venture Capital é uma das primeiras instituições de capital de risco na China que presta atenção e é mais ativa no campo da IA. Suas empresas de investimento estão localizadas em toda a cadeia ecológica da IA. O upstream, o midstream e o downstream realmente têm projetos, como chips, software básico e modelos grandes semelhantes e aplicações verticais a jusante, etc.

O primeiro princípio dos modelos grandes é comprimir conhecimento digital, informações e dados

Zhou Zhifeng enfatizou que o poder de computação em grande escala e os dados em grande escala são muito importantes para o desenvolvimento futuro da IA. **

**O primeiro princípio do treinamento em larga escala é comprimir todas as informações e dados de conhecimento digitalizados no mundo humano em grande escala. ** Você pode ver a partir deste primeiro princípio que o poder de computação em grande escala e os dados em grande escala são muito importantes para o desenvolvimento futuro da IA e, de fato, o poder de computação em grande escala e os dados em grande escala são os chips dos seres humanos no passado 40 anos Essas tecnologias são acumuladas continuamente em vários campos de big data da Internet e, em seguida, promovem a explosão da IA. Geração de aprendizado pré-treinamento em grande escala, a lógica subjacente de toda a tendência é realmente muito clara e continuará a se desenvolver em alta velocidade no futuro. O aprendizado profundo é chamado de AI1.0 pela indústria de capital de risco, principalmente porque é destinado a uma pequena tarefa específica. Um pequeno modelo treinado a partir de um pequeno conjunto de dados específico, e é principalmente reconhecimento de padrões, como reconhecimento facial e reconhecimento de fala. O aprendizado de campo de fala em grande escala de hoje é mais comumente conhecido como AI2. 0, principalmente porque é geral O grande modelo treinado pelos dados tem a capacidade de gerar tomadas de decisão.

A onda de AI2.0 reconstruirá toda a estrutura industrial

Zhou Zhifeng destacou ainda que a nova onda de AI2.0 reconstruirá toda a estrutura industrial. Toda a estrutura ecológica será dividida em três camadas, a camada inferior é a camada de infraestrutura, o lado direito fornece poder de computação, como motor aws vulcão, Alibaba Cloud, etc. estão fornecendo plataformas de centro de computação, o lado direito é a ferramenta cadeia e, principalmente, para grandes modelos Otimize o treinamento, o raciocínio e a implantação.

A camada do meio é a mais importante. A primeira camada é a camada do modelo. A camada do modelo também possui vários modos. O primeiro é fornecer o modelo básico do modelo básico e, em seguida, exportar o modelo para o mundo externo e personalizar o modelo por meio da API.

Depois, há outro tipo de modelo grande construído pelo próprio. Depois de criar seu próprio modelo grande, ele o otimizará para um cenário específico da indústria e fornecerá uma solução de ponta a ponta, do modelo à aplicação.

Na terceira camada da camada de aplicativo, a primeira é implementar diretamente o aplicativo vertical por meio de modelos autoconstruídos. Talvez 80-90% das empresas à esquerda sejam aquelas que usam os recursos de modelos de terceiros para criar cenários familiares ou indústrias Uma aplicação, **Esta é a arquitetura de três camadas que entendemos.De fato, esta nova arquitetura também trouxe grandes mudanças na forma como o mundo inteiro constrói produtos. ** O lado esquerdo é, na verdade, as últimas décadas. Seja um carro ou um software social da Internet, na verdade é essa estrutura, ou seja, o gerente de produto obtém as necessidades do usuário e o desenvolvedor obtém o design do gerente de produto e, em seguida, o usuário usa.Produtos desenvolvidos para usar.

No passado, a Tencent fazia um bom trabalho, o Alibaba fazia um bom trabalho e qualquer empresa fazia um bom trabalho. De certa forma, dizia-se que ele girava o volante com mais eficiência e era capaz de iterar continuamente o volante.

Existem dois tipos de empresas futuras: +AI, AI+

Quando se trata de desenvolvimento industrial, Zhou Zhifeng apontou que os futuros empreendimentos serão divididos em dois tipos: +AI e AI+.

No futuro, será mais sobre colocar os recursos da nova geração de IA no fluxo de trabalho, **na verdade, é um aprimoramento da cena antiga. ** Existe uma outra categoria onde ele vai usar essa habilidade para construir um novo produto, que na verdade é uma aplicação da chamada IA nativa, que eu chamo de reformulação de cenas antigas, ou criação de novas cenas. **

Atualmente, ainda existem algumas empresas de IA muito líderes, principalmente porque a IA não percebeu uma situação tão real de capacitar todas as indústrias e sua industrialização não é satisfatória. Zhou Zhifeng disse:

O ChatGTP reacendeu a onda do AI2.0. Você pode ver que todo o valor do financiamento global passou por um tremendo desenvolvimento. Desta vez, será uma bolha que dura dois anos e depois diminui, ou realmente avança e se desenvolve • Para uma inteligência artificial em geral, acho que essa é uma pergunta que vale muito a pena.

O modelo grande certamente se tornará cada vez mais poderoso. O CEO da OpenAI também disse que eles podem se envolver em produtos como a Microsoft e fazer um produto de produtividade de escritório. Eles também anseiam por um espaço mais amplo. canal para iniciar seu próprio negócio e, finalmente, ir para um vasto mundo?

Talvez a realidade seja assim, a estrada que temos que seguir pode ser um desfiladeiro da morte, ambos os lados serão constantemente espremidos, sua tecnologia está mudando dinamicamente, como podemos passar por esse desfiladeiro da morte, acho que isso é empreendedorismo Às vezes, nós temos que usar nosso pensamento racional e trabalhar duro para pensar.

Cada onda de tecnologia certamente dará origem a novos reis e novas grandes empresas.

Perspectivas para dez tendências de desenvolvimento de IA

Olhando para o futuro, a Qiming Venture Partners se uniu à Unfinished Research para lançar em conjunto um relatório de grande sucesso "Generative AI" | State of Generative AI 2023 e resumiu dez tendências de desenvolvimento:

Em primeiro lugar, com base nas informações que temos visto sobre as empresas investidas pela Qiming, sabemos que em 2024 ou até antes, a China terá definitivamente um modelo multilíngue comparável ao GTP4. Vimos claramente o progresso de várias empresas nessa direção.

Em segundo lugar, o contexto longo será definitivamente um ponto-chave no desenvolvimento da próxima geração de modelos de linguagem de grande escala. Veremos que você pode realmente ter uma comunicação contextual com um grande modelo por vários dias e meses, em vez de apenas conversar por 3 e 5 rodadas hoje.

Em terceiro lugar, pensamos que existem várias maneiras de fazer um grande modelo vertical. Na verdade, resumimos 5 métodos.

Em quarto lugar, acreditamos que, embora a difusão estável de hoje seja uma arquitetura de modelo de difusão muito boa, acreditamos que, seja estabilidade ou outras empresas, um novo modelo surgirá nos próximos dois anos.

Quinto, o modelo de texto para imagem será mais controlável no futuro, e vimos que muitas das principais equipes do setor fizeram algumas descobertas científicas nessa área.

**Sexto, o terceiro e quarto trimestres deste ano serão um ponto de avanço para a geração de música **Acreditamos que haverá um grande avanço na geração de v6 e 3D no próximo ano.

Sétimo, haverá um grande desenvolvimento na inteligência de como combinar grandes modelos de linguagem com robôs reais de controle de espaço físico e robôs humanóides.

Oitavo, embora transform seja agora o mainstream, como eu disse, o objetivo final da IA é usar o melhor método para comprimir a informação digital de todos os seres humanos. **transform definitivamente não é o fim, e arquiteturas mais avançadas aparecerão . ** Nono, de uma perspectiva de negócios, acreditamos que nos próximos três anos, os recursos e aplicativos do modelo não podem ser dissociados, e os aplicativos verdadeiramente disruptivos devem vir das empresas que dominaram os principais recursos subjacentes do modelo de P&D, em vez de empresas de aplicativos puros , quero dizer aplicativos disruptivos, porque não vemos essa possibilidade de dissociação em três anos.

Décimo, ainda é um período de ouro que pode produzir empresas de plataforma.Acreditamos que algumas empresas iniciantes estabelecidas nos próximos três anos podem se tornar uma empresa com um valor de mercado de 100 bilhões de trilhões.