10月12日のITハウスによると、ブラウン大学のコンピューターサイエンス研究者は、OpenAIのGPT-4セキュリティ設定に新しい脆弱性を発見しました。 彼らはズールー語やゲール語などのあまり一般的ではない言語を利用しており、GPT-4のさまざまな制限を回避できます。 研究者はこれらの言語を使用して、一般的に制限されているプロンプト単語(_)を書き、英語だけで1%未満であるのに対し、応答は79%成功していることを発見しました。 研究者たちは、この研究を公開することが有害であり、サイバー犯罪者にインスピレーションを与える可能性があることを認めています。 それらを一般に公開する前に、研究チームはこれらのリスクを軽減するためにOpenAIと調査結果を共有していることに言及する価値があります。