據 IT 之家 10 月 12 日消息,布朗大學的計算機科學研究人員發現了 OpenAI 的 GPT-4 安全設置中的新漏洞。 他們利用一些不太常見的語言,如祖魯語和蓋爾語,即可以繞過 GPT-4 的各種限制。 研究人員使用這些語言來寫通常受限的提示詞(_),發現得到回答的成功率為 79%,而僅使用英語的成功率不到 1%。 研究人員承認發佈這項研究可能會造成危害,並給網路犯罪分子提供靈感。 值得一提的是,在向公眾發佈之前,該研究團隊已經與OpenAI分享了他們的發現,以減輕這些風險。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)