O drama anual do Vale do Silício "A Lenda da Verdade" acabou, mas as notícias relacionadas ainda estão atraindo a atenção. No dia 17, a cúpula da APEC de 2023 terminou em São Francisco, na qual Altman insinuou que a OpenAI estava trabalhando em um produto que era mais poderoso do que a versão mais recente do GPT-4 e excedeu em muito as expectativas das pessoas, e ele foi demitido no dia seguinte. Outra carta de advertência supostamente enviada ao conselho de administração também mostra que um grande salto foi dado dentro de um dos grandes modelos da OpenAI. De acordo com a Reuters, citando pessoas familiarizadas com o assunto, esta carta é a primeira vez que é divulgada, e é também uma das razões importantes que levaram à decisão final do conselho de administração da OpenAI de remover Altman.
A CTO da OpenAI, Mira Murati, a primeira CEO interina, mencionou o projeto, chamado Q* (pronuncia-se Q-Star), na quarta-feira e escreveu uma carta ao conselho de administração antes do "golpe" acontecer. Como resultado, o conselho de administração tornou-se suspeito e acreditou que Altman estava avançando com um projeto potencialmente ameaçador sem o conselho. Ao mesmo tempo, alguns pesquisadores internos acreditam que o progresso da OpenaAI no Q* se tornará um avanço importante para o AGI, que está mais próximo do objetivo do que a versão mais recente do GPT-4. No entanto, em breve, TradingStrategy.ai cofundador Mick Otama disse que o "grande avanço" foi falsificado por insiders da OpenAI.
Além da carta de Mira, outro evento que corrobora o projeto Q* foi o discurso de Altman em uma reunião da APEC. Ele deu a entender que a OpenAI desenvolveu algo mais poderoso e inimaginável do que o GPT-4, superando em muito as expectativas. "Haverá um salto nas capacidades do modelo grande que ninguém esperava e, ao contrário do que as pessoas esperavam, o salto é incrível. A mudança tecnológica em curso irá revolucionar o nosso modo de vida, a estrutura da nossa economia e sociedade, e todos os outros constrangimentos possíveis... Isso foi feito quatro vezes na história da OpenAI, sendo a mais recente nas últimas semanas. Foi um privilégio na minha carreira estar lá enquanto descolo o véu da ignorância e exploro as fronteiras do desconhecido. Ele foi chutado pelo conselho de diretores da OpenAI no dia seguinte à sua fala, e é difícil dizer que não há conexão entre os dois eventos. Algumas pessoas podem dizer que Altman vazou seus próprios segredos, mas a declaração de que o conselho de administração da OpenAI "não é honesto o suficiente" está obviamente dizendo que Altman está agindo contra o yin e promovendo o projeto por trás do conselho de administração. Embora agora pareça que "não é honesto o suficiente" é mais como um pecado de querer adicionar a ele.
Um porta-voz da OpenAI disse que a mensagem, enviada pelo CTO Mira, lembrou aos funcionários para estarem atentos à sua redação quando confrontados com a cobertura da mídia, mas não se comprometeu com sua precisão. Outra fonte apontou que, na visão interna da OpenAI, a AGI pode ser definida como "um sistema autônomo que supera os humanos nas tarefas economicamente mais valiosas".
Devido ao enorme poder de computação, o novo modelo grande pode resolver certos problemas matemáticos. Embora seja apenas um problema de matemática no nível do ensino fundamental, os pesquisadores estão muito otimistas sobre o futuro do Q* através de tal teste. Na carta ao conselho de administração, os pesquisadores também sinalizaram a força e os perigos potenciais da IA, mas não especificaram os problemas exatos de segurança mencionados na carta, de acordo com fontes internas. Os pesquisadores também sinalizaram o trabalho de uma equipe chamada "AI Scientists", que foi confirmado por várias fontes.
Alguns funcionários da OpenAI acreditam que as observações de Altman devem ser uma referência a algumas das pesquisas inovadoras anteriores da empresa que lhes permitiram desenvolver modelos GPT cada vez mais poderosos. **O trabalho, liderado pela equipe da cientista-chefe Ireya, nunca foi relatado antes e causa preocupação entre alguns funcionários. Eles estão preocupados com o fato de a empresa atualmente não ter as salvaguardas corretas em vigor para garantir que essa tecnologia avançada possa ser comercializada. Nos meses que se seguiram, os pesquisadores seniores da OpenAI usaram a inovação para construir sistemas que resolvem problemas básicos de matemática.
De acordo com o The Information, Q* é na verdade um marco tecnológico importante para dois pesquisadores da OpenAI, Jager e Simon, que usaram o trabalho de Ilya para construir um grande modelo que nunca tinha visto antes. Qualquer pessoa que use regularmente modelos grandes sabe que, embora os modelos grandes sejam geralmente eloquentes, os problemas matemáticos sempre foram uma tarefa difícil. Em junho, o GPT-4 conseguiu fazer cinco questões de matemática do vestibular com modelos convencionais no país e no exterior, especialmente ao comparar o "muito à frente" na coletiva de imprensa, mas no final foi o resultado de todas as dez perguntas erradas.
Demonstrações de Q's* têm circulado dentro da OpenAI nas últimas semanas, e o rápido ritmo de desenvolvimento da própria IA muitas vezes deixou os pesquisadores de segurança de queixo caído. Não só isso, mas esses avanços no Q também permitem que a OpenAI não seja mais limitada por dados insuficientes com qualidade e quantidade ao treinar novos modelos grandes, que é o principal obstáculo que atormenta desenvolvedores em todo o mundo para superar a próxima geração de modelos grandes**.
Como cientista-chefe da OpenAI, Ilya trabalha há anos em como fazer com que o GPT-4 resolva tarefas que envolvem raciocínio, como problemas de matemática ou ciências. Antes de ingressar na OpenAI, Ilya, que ainda estava no Google DeepMind, trabalhou nessa direção por muitos anos. Em 2021, ele lançou um projeto chamado GPT-0, que é uma homenagem ao seu antigo clube AlphaGo Zero, que é a última versão do Alpha Dog. Não só Go, ele também pode jogar xadrez e shogi. Naquela época, a equipe da DeepMind assumiu que, desde que grandes modelos recebessem tempo e poder de computação suficientes, eles um dia seriam capazes de alcançar novos avanços acadêmicos. Especialmente para as capacidades matemáticas e de raciocínio dos grandes modelos atuais que precisam ser melhorados urgentemente, pode haver uma grande melhoria no futuro**. Pouco tempo depois, Ilya juntou-se à OpenAI por instigação de Musk.
Embora "The True Biography" também tenha chegado ao fim depois que Altman retornou ao cargo de CEO ontem, as contradições entre os executivos da OpenAI ainda parecem não ter sido eliminadas, e podem continuar por muito tempo. A principal razão para isso é que a tensão dentro da OpenAI sobre o progresso do trabalho não diminuiu. A própria Ilya é conhecida por sua inteligência e integridade, que até Musk elogia, e presumivelmente ainda tem reservas sobre a tecnologia. Neste verão, ele reuniu uma equipe de alinhamento para limitar a ameaça que os sistemas de IA podem representar para a humanidade.
Na visão da equipe de alinhamento liderada por Ierya, embora a super IA ainda esteja longe, isso pode ser possível na próxima década. Além disso, depois que Altman foi demitido na semana passada, várias pessoas também se demitiram rapidamente. E após o retorno de Altman ontem, essas pessoas também voltaram à OpenAI. O presidente e cofundador da OpenAI, Brockman, também apoia a tecnologia e está comprometido em integrá-la em novos produtos. Ele e Altman também são muito férreos, e "escrever código esta noite" é exatamente o que foi dito ontem.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
O novo grande modelo da OpenAI: novas capacidades, mesmo colocando-se em perigo
O drama anual do Vale do Silício "A Lenda da Verdade" acabou, mas as notícias relacionadas ainda estão atraindo a atenção. No dia 17, a cúpula da APEC de 2023 terminou em São Francisco, na qual Altman insinuou que a OpenAI estava trabalhando em um produto que era mais poderoso do que a versão mais recente do GPT-4 e excedeu em muito as expectativas das pessoas, e ele foi demitido no dia seguinte. Outra carta de advertência supostamente enviada ao conselho de administração também mostra que um grande salto foi dado dentro de um dos grandes modelos da OpenAI. De acordo com a Reuters, citando pessoas familiarizadas com o assunto, esta carta é a primeira vez que é divulgada, e é também uma das razões importantes que levaram à decisão final do conselho de administração da OpenAI de remover Altman.
A CTO da OpenAI, Mira Murati, a primeira CEO interina, mencionou o projeto, chamado Q* (pronuncia-se Q-Star), na quarta-feira e escreveu uma carta ao conselho de administração antes do "golpe" acontecer. Como resultado, o conselho de administração tornou-se suspeito e acreditou que Altman estava avançando com um projeto potencialmente ameaçador sem o conselho. Ao mesmo tempo, alguns pesquisadores internos acreditam que o progresso da OpenaAI no Q* se tornará um avanço importante para o AGI, que está mais próximo do objetivo do que a versão mais recente do GPT-4. No entanto, em breve, TradingStrategy.ai cofundador Mick Otama disse que o "grande avanço" foi falsificado por insiders da OpenAI.
Um porta-voz da OpenAI disse que a mensagem, enviada pelo CTO Mira, lembrou aos funcionários para estarem atentos à sua redação quando confrontados com a cobertura da mídia, mas não se comprometeu com sua precisão. Outra fonte apontou que, na visão interna da OpenAI, a AGI pode ser definida como "um sistema autônomo que supera os humanos nas tarefas economicamente mais valiosas".
Alguns funcionários da OpenAI acreditam que as observações de Altman devem ser uma referência a algumas das pesquisas inovadoras anteriores da empresa que lhes permitiram desenvolver modelos GPT cada vez mais poderosos. **O trabalho, liderado pela equipe da cientista-chefe Ireya, nunca foi relatado antes e causa preocupação entre alguns funcionários. Eles estão preocupados com o fato de a empresa atualmente não ter as salvaguardas corretas em vigor para garantir que essa tecnologia avançada possa ser comercializada. Nos meses que se seguiram, os pesquisadores seniores da OpenAI usaram a inovação para construir sistemas que resolvem problemas básicos de matemática.
De acordo com o The Information, Q* é na verdade um marco tecnológico importante para dois pesquisadores da OpenAI, Jager e Simon, que usaram o trabalho de Ilya para construir um grande modelo que nunca tinha visto antes. Qualquer pessoa que use regularmente modelos grandes sabe que, embora os modelos grandes sejam geralmente eloquentes, os problemas matemáticos sempre foram uma tarefa difícil. Em junho, o GPT-4 conseguiu fazer cinco questões de matemática do vestibular com modelos convencionais no país e no exterior, especialmente ao comparar o "muito à frente" na coletiva de imprensa, mas no final foi o resultado de todas as dez perguntas erradas.
Como cientista-chefe da OpenAI, Ilya trabalha há anos em como fazer com que o GPT-4 resolva tarefas que envolvem raciocínio, como problemas de matemática ou ciências. Antes de ingressar na OpenAI, Ilya, que ainda estava no Google DeepMind, trabalhou nessa direção por muitos anos. Em 2021, ele lançou um projeto chamado GPT-0, que é uma homenagem ao seu antigo clube AlphaGo Zero, que é a última versão do Alpha Dog. Não só Go, ele também pode jogar xadrez e shogi. Naquela época, a equipe da DeepMind assumiu que, desde que grandes modelos recebessem tempo e poder de computação suficientes, eles um dia seriam capazes de alcançar novos avanços acadêmicos. Especialmente para as capacidades matemáticas e de raciocínio dos grandes modelos atuais que precisam ser melhorados urgentemente, pode haver uma grande melhoria no futuro**. Pouco tempo depois, Ilya juntou-se à OpenAI por instigação de Musk.
Na visão da equipe de alinhamento liderada por Ierya, embora a super IA ainda esteja longe, isso pode ser possível na próxima década. Além disso, depois que Altman foi demitido na semana passada, várias pessoas também se demitiram rapidamente. E após o retorno de Altman ontem, essas pessoas também voltaram à OpenAI. O presidente e cofundador da OpenAI, Brockman, também apoia a tecnologia e está comprometido em integrá-la em novos produtos. Ele e Altman também são muito férreos, e "escrever código esta noite" é exatamente o que foi dito ontem.