Джерело: Cointelegraph
Оригінал: «Секретний експеримент штучного інтелекту (ШІ) Цюріхського університету (Zurich Uni) контролював думки користувачів Reddit»
Дослідники Цюріхського університету були звинувачені в проведенні чотиримісячного експерименту на одному з дискусійних форумів Reddit без дозволу, використовуючи коментарі, згенеровані AI, щоб перевірити, чи може AI змінити думки людей.
Згідно з дописом модератора підрозділу r/changemyview, опублікованим 26 квітня, в експерименті облікові записи, керовані ШІ, маскувалися під різні особи, включаючи жертв зґвалтувань, осіб, які виступають проти певних соціальних рухів, а також травмотерапевтів, які спеціалізуються на обробці випадків жорстокого поводження.
Модератор заявив: "Наш підрозділ є чітким простором, зосередженим на людині, і рішуче відмовляється приховувати використання ШІ; це є нашою основною цінністю. Люди приходять сюди не для того, щоб обговорювати погляди з ШІ або ставати експериментальними об'єктами."
Згідно з проектом цього дослідження, дослідники використовували AI для генерації відповідей і намагалися персоналізувати ці відповіді на основі попередньої історії користувача на Reddit (наприклад, політичні погляди, стать, вік та раса).
Протягом чотиримісячного експерименту фейкові AI-акаунти Цюріхського університету опублікували 1 783 коментарі та отримали 137 позначок «delta» — це знак, який Reddit-користувачі використовують, щоб показати, що їхня думка щодо певного питання змінилася.
Дослідники в повідомленні, опублікованому в цьому підрозділі, зазначили, що всі коментарі перед публікацією проходять ручну перевірку, щоб забезпечити відповідність правилам спільноти та "зменшити потенційні шкоди".
Дослідницька команда Цюріхського університету стверджує, що "потенційні переваги дослідження значно перевищують його ризики", оскільки вони виявили, що великі мовні моделі (LLMs), які використовувалися в експерименті, мають надзвичайну переконливість, яка перевищує "відомі раніше людські стандарти переконливості".
Дослідники стверджують: "Наше контрольоване, низькоризикове дослідження надає цінні уявлення про здатність LLMs переконувати в реальному світі — ця здатність тепер легко доступна для будь-кого, і зловмисники також можуть використовувати її в масштабах для більш небезпечних цілей."
Водночас, дослідники також зазначили, що цей експеримент продемонстрував "відмінність між людиною та ШІ все ще є суттєвим викликом", оскільки під час усього експерименту користувачі підрозділу r/changemyview не змогли виявити AI-робота.
Цей підрозділ має 3,8 мільйона учасників, займаючи 1% усіх підрозділів Reddit.
Reddit розглядає юридичні дії
Модератори Reddit заявили, що вони заздалегідь не знали про цей експеримент, вже подали запит на вибачення до Цюріхського університету та вимагали зупинити публікацію відповідних досліджень.
Reddit, зі свого боку, також може розглядати судовий позов. У наступному повідомленні від 28 квітня головний юридичний директор платформи Бен Лі заявив, що експеримент порушив угоду користувача Reddit і правила платформи, і що всі облікові записи, які, як відомо, пов'язані з дослідженнями в Цюріхському університеті, були заблоковані.
Лі заявив: "Ми офіційно надсилаємо юридичний лист до Цюрихського університету та цієї дослідницької команди."
Він додав: "Ми зробимо все можливе, щоб підтримати спільноту і забезпечити, щоб відповідні дослідники несли відповідальність за свої неправомірні дії."
У відповідь на сабредіт Комітет з етики факультету гуманітарних і соціальних наук Цюріхського університету заявив, що за фактом інциденту розпочато розслідування, і пообіцяв у майбутньому краще координувати свої дії з піддослідними. Провідний дослідник проєкту також отримав офіційне попередження.
Етичний комітет зазначив: "Цей проект надає важливі інсайти, а ризики є надзвичайно низькими. Тому придушення публікації його результатів не відповідає цінності, яку приносить дослідження."
Університет Цюріха ще не дав негайної відповіді на це. Cointelegraph також ще не отримав відповіді на запит, надісланий на електронну адресу, пов’язану з експериментом.
Рекомендовані матеріали: Російська версія "рублевого стейблкоїна" представлена: керівники пояснюють сім основних функціональних характеристик, що імітують Tether (USDT)
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
Секретний експеримент штучного інтелекту (ШІ) Університету Цюриха (Zurich Uni) контролював думки користувачів Reddit
Джерело: Cointelegraph Оригінал: «Секретний експеримент штучного інтелекту (ШІ) Цюріхського університету (Zurich Uni) контролював думки користувачів Reddit»
Дослідники Цюріхського університету були звинувачені в проведенні чотиримісячного експерименту на одному з дискусійних форумів Reddit без дозволу, використовуючи коментарі, згенеровані AI, щоб перевірити, чи може AI змінити думки людей.
Згідно з дописом модератора підрозділу r/changemyview, опублікованим 26 квітня, в експерименті облікові записи, керовані ШІ, маскувалися під різні особи, включаючи жертв зґвалтувань, осіб, які виступають проти певних соціальних рухів, а також травмотерапевтів, які спеціалізуються на обробці випадків жорстокого поводження.
Модератор заявив: "Наш підрозділ є чітким простором, зосередженим на людині, і рішуче відмовляється приховувати використання ШІ; це є нашою основною цінністю. Люди приходять сюди не для того, щоб обговорювати погляди з ШІ або ставати експериментальними об'єктами."
Згідно з проектом цього дослідження, дослідники використовували AI для генерації відповідей і намагалися персоналізувати ці відповіді на основі попередньої історії користувача на Reddit (наприклад, політичні погляди, стать, вік та раса).
Протягом чотиримісячного експерименту фейкові AI-акаунти Цюріхського університету опублікували 1 783 коментарі та отримали 137 позначок «delta» — це знак, який Reddit-користувачі використовують, щоб показати, що їхня думка щодо певного питання змінилася.
Дослідники в повідомленні, опублікованому в цьому підрозділі, зазначили, що всі коментарі перед публікацією проходять ручну перевірку, щоб забезпечити відповідність правилам спільноти та "зменшити потенційні шкоди".
Дослідницька команда Цюріхського університету стверджує, що "потенційні переваги дослідження значно перевищують його ризики", оскільки вони виявили, що великі мовні моделі (LLMs), які використовувалися в експерименті, мають надзвичайну переконливість, яка перевищує "відомі раніше людські стандарти переконливості".
Дослідники стверджують: "Наше контрольоване, низькоризикове дослідження надає цінні уявлення про здатність LLMs переконувати в реальному світі — ця здатність тепер легко доступна для будь-кого, і зловмисники також можуть використовувати її в масштабах для більш небезпечних цілей."
Водночас, дослідники також зазначили, що цей експеримент продемонстрував "відмінність між людиною та ШІ все ще є суттєвим викликом", оскільки під час усього експерименту користувачі підрозділу r/changemyview не змогли виявити AI-робота.
Цей підрозділ має 3,8 мільйона учасників, займаючи 1% усіх підрозділів Reddit.
Reddit розглядає юридичні дії
Модератори Reddit заявили, що вони заздалегідь не знали про цей експеримент, вже подали запит на вибачення до Цюріхського університету та вимагали зупинити публікацію відповідних досліджень.
Reddit, зі свого боку, також може розглядати судовий позов. У наступному повідомленні від 28 квітня головний юридичний директор платформи Бен Лі заявив, що експеримент порушив угоду користувача Reddit і правила платформи, і що всі облікові записи, які, як відомо, пов'язані з дослідженнями в Цюріхському університеті, були заблоковані.
Лі заявив: "Ми офіційно надсилаємо юридичний лист до Цюрихського університету та цієї дослідницької команди."
Він додав: "Ми зробимо все можливе, щоб підтримати спільноту і забезпечити, щоб відповідні дослідники несли відповідальність за свої неправомірні дії."
У відповідь на сабредіт Комітет з етики факультету гуманітарних і соціальних наук Цюріхського університету заявив, що за фактом інциденту розпочато розслідування, і пообіцяв у майбутньому краще координувати свої дії з піддослідними. Провідний дослідник проєкту також отримав офіційне попередження.
Етичний комітет зазначив: "Цей проект надає важливі інсайти, а ризики є надзвичайно низькими. Тому придушення публікації його результатів не відповідає цінності, яку приносить дослідження."
Університет Цюріха ще не дав негайної відповіді на це. Cointelegraph також ще не отримав відповіді на запит, надісланий на електронну адресу, пов’язану з експериментом.
Рекомендовані матеріали: Російська версія "рублевого стейблкоїна" представлена: керівники пояснюють сім основних функціональних характеристик, що імітують Tether (USDT)