7 Eylül tarihli "Kechuangban Daily" raporuna göre Çin Bilimler Akademisi akademisyeni He Jifeng, 2023 Inclusion Bund Konferansında büyük modellerin temel güvenlik sorunlarının gizlilik olduğunu söyledi. ve veriler büyük modellerin eğitim sürecine dahil edilir, kullanım süreci, gerekli gizlilik korumasına sahip olmayan birçok kullanıcı özel bilgisini içerir ve oluşturma yeteneği, gizliliğin açıklanması yollarını çeşitlendirerek gizliliğin korunmasını daha da zorlaştırır. İkincisi, uyum açısından sistemin değerlerinin insani değerlerle tutarlı hale getirilmesi, böylece tasarımcının çıkarları ve ilkeleri doğrultusunda olması ve beklenmedik zararlı sonuçlar doğurmaması gerekir. Bununla birlikte, insani değerler çeşitlidir ve dinamik olarak değişmektedir ve büyük modellerin "yararlılığı" ile "zararsızlığı" arasında çatışmalar vardır, bu da hizalamayı karmaşık bir disiplinler arası araştırma sorunu haline getirmektedir. Şu anda geri bildirim takviyeli öğrenme, hizalamayı sağlamanın teknik bir yoludur. Modele farklı ödül sinyallerini geri besleyerek modelin yüksek kaliteli çıktısına rehberlik eder; büyük model için net ilkeler sağlamaya dayalı olarak sistem, modeli otomatik olarak eğitir. modeli ve ilk Sıralamayı sağlar.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
7 Eylül tarihli "Kechuangban Daily" raporuna göre Çin Bilimler Akademisi akademisyeni He Jifeng, 2023 Inclusion Bund Konferansında büyük modellerin temel güvenlik sorunlarının gizlilik olduğunu söyledi. ve veriler büyük modellerin eğitim sürecine dahil edilir, kullanım süreci, gerekli gizlilik korumasına sahip olmayan birçok kullanıcı özel bilgisini içerir ve oluşturma yeteneği, gizliliğin açıklanması yollarını çeşitlendirerek gizliliğin korunmasını daha da zorlaştırır. İkincisi, uyum açısından sistemin değerlerinin insani değerlerle tutarlı hale getirilmesi, böylece tasarımcının çıkarları ve ilkeleri doğrultusunda olması ve beklenmedik zararlı sonuçlar doğurmaması gerekir. Bununla birlikte, insani değerler çeşitlidir ve dinamik olarak değişmektedir ve büyük modellerin "yararlılığı" ile "zararsızlığı" arasında çatışmalar vardır, bu da hizalamayı karmaşık bir disiplinler arası araştırma sorunu haline getirmektedir. Şu anda geri bildirim takviyeli öğrenme, hizalamayı sağlamanın teknik bir yoludur. Modele farklı ödül sinyallerini geri besleyerek modelin yüksek kaliteli çıktısına rehberlik eder; büyük model için net ilkeler sağlamaya dayalı olarak sistem, modeli otomatik olarak eğitir. modeli ve ilk Sıralamayı sağlar.