De acordo com um relatório da Nanfang+ de 15 de setembro, Zi Ran, vice-presidente da Sangfor Security Business, disse que a segurança de grandes modelos está dividida em dois aspectos. Por um lado, o próprio modelo grande apresenta riscos de segurança devido a problemas de alucinação, problemas de segurança de dados de treinamento, vazamento de dados de inferência e outros problemas. Outro aspecto é a utilização de grandes modelos em ataques ou defesas de segurança de rede. Como o modelo grande tem capacidades mais fortes de detecção de ameaças desconhecidas, e o modelo maior tem raciocínio lógico e capacidades de aprendizagem contextual mais fortes, o modelo grande pode atuar como um especialista em segurança virtual, conduzir pesquisas e julgamento sobre atrasos complexos e ajudar o pessoal de segurança a lidar com situações mais complexas, desafios. Zi Ran disse que o "mau aprendizado" de grandes modelos se deve em grande parte à existência de dados irracionais e anormais nos dados de treinamento de grandes modelos, o que leva à visão dos grandes modelos sobre alguns problemas e coisas que são inconsistentes com o humano comum sentido e conceitos morais. Atualmente, apenas modelos grandes podem ser combatidos por modelos grandes, o que significa aplicar modelos grandes à defesa da segurança da rede para detectar vírus, e-mails de phishing e comportamentos de ataque gerados pelo ataque a modelos grandes.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
De acordo com um relatório da Nanfang+ de 15 de setembro, Zi Ran, vice-presidente da Sangfor Security Business, disse que a segurança de grandes modelos está dividida em dois aspectos. Por um lado, o próprio modelo grande apresenta riscos de segurança devido a problemas de alucinação, problemas de segurança de dados de treinamento, vazamento de dados de inferência e outros problemas. Outro aspecto é a utilização de grandes modelos em ataques ou defesas de segurança de rede. Como o modelo grande tem capacidades mais fortes de detecção de ameaças desconhecidas, e o modelo maior tem raciocínio lógico e capacidades de aprendizagem contextual mais fortes, o modelo grande pode atuar como um especialista em segurança virtual, conduzir pesquisas e julgamento sobre atrasos complexos e ajudar o pessoal de segurança a lidar com situações mais complexas, desafios. Zi Ran disse que o "mau aprendizado" de grandes modelos se deve em grande parte à existência de dados irracionais e anormais nos dados de treinamento de grandes modelos, o que leva à visão dos grandes modelos sobre alguns problemas e coisas que são inconsistentes com o humano comum sentido e conceitos morais. Atualmente, apenas modelos grandes podem ser combatidos por modelos grandes, o que significa aplicar modelos grandes à defesa da segurança da rede para detectar vírus, e-mails de phishing e comportamentos de ataque gerados pelo ataque a modelos grandes.