Selon un rapport du Science and Technology Innovation Board Daily du 7 septembre, He Jifeng, académicien de l'Académie chinoise des sciences, a déclaré lors de la conférence Inclusion Bund 2023 que les principaux problèmes de sécurité des grands modèles concernaient d'abord la confidentialité. Une grande quantité d'informations et de données personnelles des utilisateurs sont impliquées dans le processus de formation des grands modèles. , le processus d'utilisation implique de nombreuses informations privées des utilisateurs, qui ne bénéficient pas d'une protection appropriée de la vie privée. La capacité de génération diversifie les moyens de fuite de la vie privée, ce qui rend la protection de la vie privée plus difficile. Deuxièmement, en termes d'alignement, les valeurs du système doivent être cohérentes avec les valeurs humaines afin qu'elles soient conformes aux intérêts et aux principes du concepteur et ne produisent pas de résultats néfastes involontaires. Mais les valeurs humaines sont diverses et dynamiques, et « l’utilité » et « l’innocuité » des grands modèles entrent en conflit, faisant de l’alignement un problème de recherche interdisciplinaire complexe. Actuellement, l'apprentissage par renforcement par rétroaction est un moyen technique de parvenir à l'alignement. Il guide le modèle pour qu'il produise un résultat de haute qualité en renvoyant différents signaux de récompense au modèle. Basé sur des principes clairs pour les grands modèles, le système entraîne automatiquement le modèle et fournit entrée initiale pour tous les résultats de sortie générés.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Selon un rapport du Science and Technology Innovation Board Daily du 7 septembre, He Jifeng, académicien de l'Académie chinoise des sciences, a déclaré lors de la conférence Inclusion Bund 2023 que les principaux problèmes de sécurité des grands modèles concernaient d'abord la confidentialité. Une grande quantité d'informations et de données personnelles des utilisateurs sont impliquées dans le processus de formation des grands modèles. , le processus d'utilisation implique de nombreuses informations privées des utilisateurs, qui ne bénéficient pas d'une protection appropriée de la vie privée. La capacité de génération diversifie les moyens de fuite de la vie privée, ce qui rend la protection de la vie privée plus difficile. Deuxièmement, en termes d'alignement, les valeurs du système doivent être cohérentes avec les valeurs humaines afin qu'elles soient conformes aux intérêts et aux principes du concepteur et ne produisent pas de résultats néfastes involontaires. Mais les valeurs humaines sont diverses et dynamiques, et « l’utilité » et « l’innocuité » des grands modèles entrent en conflit, faisant de l’alignement un problème de recherche interdisciplinaire complexe. Actuellement, l'apprentissage par renforcement par rétroaction est un moyen technique de parvenir à l'alignement. Il guide le modèle pour qu'il produise un résultat de haute qualité en renvoyant différents signaux de récompense au modèle. Basé sur des principes clairs pour les grands modèles, le système entraîne automatiquement le modèle et fournit entrée initiale pour tous les résultats de sortie générés.