De acordo com um relatório do Science and Technology Innovation Board Daily de 7 de setembro, He Jifeng, um acadêmico da Academia Chinesa de Ciências, disse na Conferência do Bund de Inclusão de 2023 que os principais problemas de segurança de grandes modelos são, em primeiro lugar, em termos de privacidade. Uma grande quantidade de informações e dados pessoais do usuário está envolvida no processo de treinamento de grandes modelos. , o processo de uso envolve muitas informações privadas do usuário, que não recebem a devida proteção de privacidade. A capacidade de geração torna diversificadas as formas de vazamento de privacidade, tornando a proteção da privacidade mais difícil. Em segundo lugar, em termos de alinhamento, os valores do sistema precisam ser consistentes com os valores humanos para que estejam alinhados com os interesses e princípios do projetista e não produzam resultados prejudiciais involuntários. Mas os valores humanos são diversos e dinâmicos, e a “utilidade” e a “inocuidade” dos grandes modelos entram em conflito, tornando o alinhamento um problema complexo de investigação interdisciplinar. Atualmente, o aprendizado por reforço de feedback é uma forma técnica de alcançar o alinhamento. Ele orienta o modelo para produzir resultados de alta qualidade, realimentando diferentes sinais de recompensa ao modelo. Com base no fornecimento de princípios claros para modelos grandes, o sistema treina automaticamente o modelo e fornece entrada inicial para todos os resultados de saída gerados.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
De acordo com um relatório do Science and Technology Innovation Board Daily de 7 de setembro, He Jifeng, um acadêmico da Academia Chinesa de Ciências, disse na Conferência do Bund de Inclusão de 2023 que os principais problemas de segurança de grandes modelos são, em primeiro lugar, em termos de privacidade. Uma grande quantidade de informações e dados pessoais do usuário está envolvida no processo de treinamento de grandes modelos. , o processo de uso envolve muitas informações privadas do usuário, que não recebem a devida proteção de privacidade. A capacidade de geração torna diversificadas as formas de vazamento de privacidade, tornando a proteção da privacidade mais difícil. Em segundo lugar, em termos de alinhamento, os valores do sistema precisam ser consistentes com os valores humanos para que estejam alinhados com os interesses e princípios do projetista e não produzam resultados prejudiciais involuntários. Mas os valores humanos são diversos e dinâmicos, e a “utilidade” e a “inocuidade” dos grandes modelos entram em conflito, tornando o alinhamento um problema complexo de investigação interdisciplinar. Atualmente, o aprendizado por reforço de feedback é uma forma técnica de alcançar o alinhamento. Ele orienta o modelo para produzir resultados de alta qualidade, realimentando diferentes sinais de recompensa ao modelo. Com base no fornecimento de princípios claros para modelos grandes, o sistema treina automaticamente o modelo e fornece entrada inicial para todos os resultados de saída gerados.