チューリッヒ大学の秘密の人工知能(AI)実験は、Redditユーザーの意見を操作しました

出典:コインテレグラフ 原文:「チューリッヒ大学の秘密の人工知能(AI)実験がRedditユーザーの視点を操作」

チューリッヒ大学の研究者たちは、Redditのあるディスカッションボードで、AIが生成したコメントを利用してAIが人々の意見を変えることができるかをテストするために、無断で4ヶ月間の実験を行ったと非難されています。

r/changemyviewサブレディットのモデレーターが4月26日に投稿したところによると、実験では、AI駆動のアカウントが強姦被害者、特定の社会運動に反対する人々、そして虐待案件を専門に扱うトラウマカウンセラーなど、さまざまな身分に偽装していた。

管理者は次のように述べています：「私たちのサブフォーラムは、人を中心にした明確な空間であり、AIの使用を隠す行為を断固として拒否します。これは私たちの核心的な価値観です。人々はここに、AIと意見を議論したり、実験対象になったりするために来るのではありません。」

この研究論文の草稿によると、研究者たちはAIを使用して返信を生成し、元の投稿者の過去のReddit履歴（例えば、政治的傾向、性別、年齢、そして人種）に基づいてこれらの返信をパーソナライズしようとしました。

チューリッヒ大学の偽のAIアカウントは、4ヶ月間の実験で1,783件のコメントを投稿し、137件の「デルタ」マークを獲得しました。これは、Redditユーザーが自分の意見がある問題で説得されて変わったことを示す印です。

研究者は、このサブセクションに投稿された投稿の中で、すべてのコメントが公開前に手動で審査されていることを述べ、コミュニティガイドラインに準拠していることを確認し、「潜在的な害を最小限に抑える」ことを目指している。

チューリッヒ大学の研究チームは、この研究の「潜在的な利益はリスクをはるかに上回る」と主張しています。なぜなら、彼らは実験で使用された大型言語モデル（LLMs）が非常に強力な説得力を持っており、「以前に知られている人間の説得力の基準」を超えていることを発見したからです。

研究者は次のように述べています。「私たちの行った制御された低リスクの研究は、現実世界におけるLLMの説得力を理解するための貴重な洞察を提供しました。この能力は今や誰でも容易に入手可能であり、悪意のある行為者が大規模により危険な目的で利用する可能性もあります。」

同時に、研究者たちはこの実験が「人間とAIを区別するには依然として重大な課題が存在する」ことを示していると指摘しました。なぜなら、実験全体を通して、r/changemyviewサブレディットのユーザーはAIロボットを認識できなかったからです。

このサブレディットには380万人のメンバーがいて、Redditのすべてのサブレディットの中で上位1％に位置しています。

Redditは法的措置を検討しています

Redditのモデレーターは、事前にこの実験を知らなかったことを表明し、チューリッヒ大学に謝罪を求め、関連研究成果の発表を阻止するよう要求しました。

Redditは法的措置を講じることを検討している可能性があります。このプラットフォームの最高法務責任者であるBen Leeは、4月28日の追記で、この実験がRedditのユーザー契約とプラットフォームのルールに違反していると述べ、チューリッヒ大学の研究に関連するすべての既知のアカウントが禁止されたとしています。

リーは「私たちはチューリッヒ大学およびその研究チームに正式な法的書簡を送付しています」と述べました。

彼は次のように付け加えました。「私たちはコミュニティを支援するためにあらゆる努力を尽くし、関連する研究者が彼らの不正行為に対して責任を負うようにします。」

チューリッヒ大学人文社会科学部の倫理委員会は、このサブセクションに対して、事件について調査を開始したことを表明し、将来的には実験対象者とのより良い調整を行うことを約束しました。このプロジェクトの主任研究者も公式な警告を受けました。

倫理委員会は指摘しました：「このプロジェクトは重要な洞察を提供し、リスクは非常に少ないです。したがって、その成果と研究がもたらす価値を抑制することは不相応です。」

チューリッヒ大学は、これにまだすぐには対応していません。 コインテレグラフは、この実験に関する電子メールへの問い合わせに対する回答をまだ受け取っていない。

関連記事：ロシア版「ルーブルステーブルコイン」が登場：幹部が7つのTether（USDT）機能の特徴を詳しく説明