蘇黎世大學（Zurich Uni）的祕密人工智能（AI）實驗操控了Reddit用戶的觀點

來源: Cointelegraph 原文: 《 蘇黎世大學（Zurich Uni）的祕密人工智能（AI）實驗操控了Reddit用戶的觀點 》

蘇黎世大學的研究人員被指控在未經授權的情況下，在Reddit的一個討論板塊上進行了爲期四個月的實驗，利用AI生成的評論來測試AI是否能夠改變人們的觀點。

據r/changemyview子板塊的版主於4月26日發布的帖子稱，實驗中，AI驅動的帳戶僞裝成各種身分，包括強奸受害者、反對特定社會運動的人士，以及專門處理虐待案件的創傷諮詢師。

版主表示：“我們的子版塊是一個明確以人爲核心的空間，堅決拒絕隱瞞使用AI的行爲，這是一項核心價值。人們來到這裏，不是爲了與AI討論觀點或成爲實驗對象。”

據該研究論文草稿顯示，研究人員使用AI生成回復，並試圖根據原帖用戶以往的Reddit歷史（例如政治傾向、性別、年齡和種族）來個性化這些回復。

在爲期四個月的實驗中，蘇黎世大學的虛假AI帳戶共發布了1,783條評論，並獲得了137個“delta”標記——這是Reddit用戶用來表示自己在某個問題上的觀點已被說服改變的標志。

研究人員在向該子版塊發布的一則帖子中表示，所有評論在發布前都經過人工審核，以確保符合社區準則，並“最大程度地減少潛在傷害”。

蘇黎世大學的研究團隊辯稱，該項研究的“潛在益處遠大於其風險”，因爲他們發現實驗中使用的大型語言模型（LLMs）具有極強的說服力，超過了“以往已知的人類說服力基準”。

研究人員表示：“我們所進行的受控、低風險研究爲理解LLMs在現實世界中的說服能力提供了寶貴見解——這種能力如今已對任何人輕易可得，而惡意行爲者也可能在大規模上出於更危險的目的加以利用。”

同時，研究人員也指出，這項實驗顯示出“區分人類與AI仍存在重大挑戰”，因爲在整個實驗期間，r/changemyview子版塊的用戶沒有識別出AI機器人。

該子版塊擁有380萬名成員，位列Reddit所有子版塊前1%。

Reddit考慮法律行動

Reddit版主表示，他們事先並不知曉該實驗，已向蘇黎世大學提出道歉請求，並要求阻止相關研究成果的發表。

Reddit方面也可能在考慮採取法律行動。該平台首席法律官Ben Lee在4月28日的後續發帖中表示，該實驗違反了Reddit的用戶協議與平台規則，所有已知與蘇黎世大學研究有關的帳戶均已被封禁。

Lee表示：“我們正在與蘇黎世大學及該研究團隊正式發出法律函件。”

他補充說：“我們將盡一切努力支持社區，並確保相關研究人員爲他們的不當行爲承擔責任。”

蘇黎世大學人文與社會科學學院倫理委員會在回應該子版塊時表示，已對該事件展開調查，並承諾未來將與實驗對象進行更好協調。該項目的首席研究員也收到了正式警告。

倫理委員會指出：“該項目提供了重要的見解，且風險極小。因此，壓制發表其成果與研究所帶來的價值不成比例。”

蘇黎世大學尚未立即對此作出回應。Cointelegraph也尚未收到發往該實驗相關郵箱的問詢回復。

相關推薦：俄羅斯版"盧布穩定幣"面世：高管詳解七大仿泰達幣（USDT）功能特性