Zürih Üniversitesi'nin gizli yapay zeka (AI) deneyi Reddit kullanıcılarının görüşlerini kontrol etti.

Kaynak: Cointelegraph Orijinal: "Zürih Üniversitesi'nin (Zurich Uni) gizli yapay zeka (AI) deneyi Reddit kullanıcılarının görüşlerini kontrol etti"

Zürih Üniversitesi'nden araştırmacılar, Reddit'teki bir tartışma forumunda dört ay süren bir deney yaptıkları iddiasıyla, izinsiz bir şekilde AI tarafından üretilen yorumlar kullanarak insanların görüşlerini değiştirip değiştiremeyeceklerini test ettiler.

r/changemyview alt bölümünün moderatörü tarafından 26 Nisan'da yayınlanan bir gönderiye göre, deneyde, AI destekli hesaplar çeşitli kimliklere bürünüyor; bunlar arasında tecavüz mağdurları, belirli sosyal hareketlere karşı çıkan kişiler ve özel olarak istismar vakalarıyla ilgilenen travma danışmanları yer alıyor.

Moderatör şöyle belirtti: "Alt forumumuz, insan odaklı bir alan olarak net bir şekilde tanımlanmıştır ve AI kullanımını gizlemeyi kesinlikle reddediyoruz, bu bizim temel değerimizdir. İnsanlar buraya, AI ile fikir tartışmak veya deney nesnesi olmak için gelmiyor."

Araştırma makalesi taslağına göre, araştırmacılar AI tarafından üretilen yanıtlar kullanmış ve bu yanıtları orijinal gönderi sahibinin önceki Reddit geçmişine (örneğin, siyasi eğilim, cinsiyet, yaş ve ırk) göre kişiselleştirmeye çalışmışlardır.

Dört aylık deney sırasında, Zürih Üniversitesi'nin sahte yapay zeka hesabı toplam 1.783 yorum yayınladı ve 137 "delta" token aldı – Reddit kullanıcılarının bir konu hakkındaki görüşlerinin değişmeye ikna edildiğini belirtmek için kullandıkları bir işaret.

Araştırmacılar, bu alt alan için yapılan bir gönderide, tüm yorumların yayınlanmadan önce manuel olarak incelendiğini, topluluk kurallarına uygunluğunu sağlamak ve "potansiyel zararı en aza indirmek" amacıyla yapıldığını belirttiler.

Zürih Üniversitesi araştırma ekibi, bu çalışmanın "potansiyel faydalarının risklerinden çok daha büyük" olduğunu savunuyor, çünkü deneyde kullanılan büyük dil modellerinin (LLM'ler) "bilinen insan ikna yeteneği standartlarını" aştığını keşfettiler.

Araştırmacılar, "Gerçekleştirdiğimiz kontrollü ve düşük riskli araştırma, LLM'lerin gerçek dünyadaki ikna yeteneklerini anlamak için değerli bilgiler sağlıyor - bu yetenek artık herkesin kolayca erişebileceği bir durumdayken, kötü niyetli kişiler bunun büyük ölçekte daha tehlikeli amaçlar için kullanılabileceğini düşünmektedir."

Aynı zamanda, araştırmacılar bu deneyin "insan ile yapay zeka arasında ayrım yapmanın hala önemli zorluklar barındırdığını" gösterdiğini belirttiler, çünkü deney boyunca r/changemyview alt bölümündeki kullanıcılar yapay zeka robotunu tanıyamadı.

Bu alt bölüm 3.8 milyon üyesiyle Reddit'teki tüm alt bölümler arasında ilk %1'de yer alıyor.

Reddit yasal işlem yapmayı düşünüyor

Reddit moderatörleri, bu deneyden önceden haberdar olmadıklarını belirtti ve Zürih Üniversitesi'ne özür talebinde bulundu, ilgili araştırma sonuçlarının yayımlanmasını durdurmalarını istedi.

Reddit tarafında da hukuki adımlar atmayı düşünebilir. Platformun baş hukuk sorumlusu Ben Lee, 28 Nisan'daki bir takip gönderisinde, bu deneyin Reddit'in kullanıcı sözleşmesini ve platform kurallarını ihlal ettiğini belirtti ve Zürih Üniversitesi araştırmasıyla bağlantılı olduğu bilinen tüm hesapların yasaklandığını açıkladı.

Lee şunları belirtti: "Zürih Üniversitesi ve bu araştırma ekibiyle resmi bir hukuki mektup gönderiyoruz."

O, "Topluluğu desteklemek için elimizden gelen her şeyi yapacağız ve ilgili araştırmacıların kötü davranışlarının sonuçlarını üstlenmelerini sağlayacağız" diye ekledi.

Zürih Üniversitesi Beşeri ve Sosyal Bilimler Fakültesi Etik Komitesi, bu alt bölümle ilgili olarak yaptığı açıklamada, olaya ilişkin bir soruşturma başlattıklarını ve gelecekte deney nesneleri ile daha iyi bir koordinasyon sağlamayı taahhüt ettiklerini belirtti. Projenin baş araştırmacısı da resmi bir uyarı aldı.

Etik komite şunları belirtti: "Bu proje önemli içgörüler sağlamakta ve riskler son derece düşüktür. Bu nedenle, elde edilen sonuçların ve araştırmanın değerine oranla bunların yayımlanmasının engellenmesi orantısızdır."

Zürih Üniversitesi buna hemen yanıt vermedi. Cointelegraph, ilgili deneyle ilgili e-posta adresine gönderilen sorulara da henüz yanıt almadı.

İlgili Konular: Rusya'nın "Ruble Stabil Koin"i piyasaya sürüldü: Yönetici, yedi önemli Tether (USDT) fonksiyonu hakkında ayrıntılı bilgi verdi.