Selon un rapport de Nanfang+ du 15 septembre, Zi Ran, vice-président de Sangfor Security Business, a déclaré que la sécurité des grands modèles est divisée en deux aspects. D'une part, le grand modèle lui-même présente des risques de sécurité en raison de problèmes d'hallucinations, de problèmes de sécurité des données de formation, de fuites de données d'inférence et d'autres problèmes. Un autre aspect est l’utilisation de grands modèles dans les attaques ou les défenses de sécurité des réseaux. Étant donné que le grand modèle a des capacités de détection des menaces inconnues plus fortes et que le modèle plus grand a des capacités de raisonnement logique et d'apprentissage contextuel plus fortes, le grand modèle peut agir comme un expert virtuel en sécurité, mener des recherches et des jugements sur les retards complexes et aider le personnel de sécurité à gérer les retards complexes. des situations plus complexes. Zi Ran a déclaré que le « mauvais apprentissage » des grands modèles est en grande partie dû à l'existence de données déraisonnables et anormales dans les données d'entraînement des grands modèles, ce qui conduit aux opinions des grands modèles sur certaines questions et choses qui sont incompatibles avec le commun humain. sens et concepts moraux. . À l'heure actuelle, seuls les grands modèles peuvent être contrés par de grands modèles, ce qui signifie appliquer de grands modèles à la défense de la sécurité du réseau pour détecter les virus, les e-mails de phishing et les comportements d'attaque générés par l'attaque de grands modèles.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Selon un rapport de Nanfang+ du 15 septembre, Zi Ran, vice-président de Sangfor Security Business, a déclaré que la sécurité des grands modèles est divisée en deux aspects. D'une part, le grand modèle lui-même présente des risques de sécurité en raison de problèmes d'hallucinations, de problèmes de sécurité des données de formation, de fuites de données d'inférence et d'autres problèmes. Un autre aspect est l’utilisation de grands modèles dans les attaques ou les défenses de sécurité des réseaux. Étant donné que le grand modèle a des capacités de détection des menaces inconnues plus fortes et que le modèle plus grand a des capacités de raisonnement logique et d'apprentissage contextuel plus fortes, le grand modèle peut agir comme un expert virtuel en sécurité, mener des recherches et des jugements sur les retards complexes et aider le personnel de sécurité à gérer les retards complexes. des situations plus complexes. Zi Ran a déclaré que le « mauvais apprentissage » des grands modèles est en grande partie dû à l'existence de données déraisonnables et anormales dans les données d'entraînement des grands modèles, ce qui conduit aux opinions des grands modèles sur certaines questions et choses qui sont incompatibles avec le commun humain. sens et concepts moraux. . À l'heure actuelle, seuls les grands modèles peuvent être contrés par de grands modèles, ce qui signifie appliquer de grands modèles à la défense de la sécurité du réseau pour détecter les virus, les e-mails de phishing et les comportements d'attaque générés par l'attaque de grands modèles.