Menurut IT House pada 12 Oktober, peneliti ilmu komputer di Brown University menemukan kerentanan baru dalam pengaturan keamanan GPT-4 OpenAI. Mereka menggunakan bahasa yang kurang umum seperti Zulu dan Gaelik, yang dapat melewati berbagai batasan GPT-4. Para peneliti menggunakan bahasa-bahasa ini untuk menulis kata-kata prompt yang umumnya dibatasi (_) dan menemukan bahwa responsnya 79 persen berhasil, dibandingkan dengan kurang dari 1 persen dalam bahasa Inggris saja. Para peneliti mengakui bahwa mempublikasikan penelitian ini bisa berbahaya dan memberikan inspirasi bagi penjahat dunia maya. Perlu disebutkan bahwa sebelum merilisnya ke publik, tim peneliti telah membagikan temuan mereka dengan OpenAI untuk mengurangi risiko ini.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Menurut IT House pada 12 Oktober, peneliti ilmu komputer di Brown University menemukan kerentanan baru dalam pengaturan keamanan GPT-4 OpenAI. Mereka menggunakan bahasa yang kurang umum seperti Zulu dan Gaelik, yang dapat melewati berbagai batasan GPT-4. Para peneliti menggunakan bahasa-bahasa ini untuk menulis kata-kata prompt yang umumnya dibatasi (_) dan menemukan bahwa responsnya 79 persen berhasil, dibandingkan dengan kurang dari 1 persen dalam bahasa Inggris saja. Para peneliti mengakui bahwa mempublikasikan penelitian ini bisa berbahaya dan memberikan inspirasi bagi penjahat dunia maya. Perlu disebutkan bahwa sebelum merilisnya ke publik, tim peneliti telah membagikan temuan mereka dengan OpenAI untuk mengurangi risiko ini.