Источник: Cointelegraph
Исходный текст: «Секретный эксперимент по искусственному интеллекту (AI) Цюрихского университета (Zurich Uni) управлял мнением пользователей Reddit»
Исследователи Цюрихского университета были обвинены в том, что без разрешения провели четырехмесячный эксперимент на одном из форумов Reddit, используя комментарии, сгенерированные ИИ, чтобы проверить, может ли ИИ изменить мнение людей.
Согласно сообщению модератора подраздела r/changemyview, опубликованному 26 апреля, в эксперименте AI-управляемые аккаунты маскировались под различные личности, включая жертв изнасилования, противников определенных социальных движений, а также травматических консультантов, специализирующихся на делах о злоупотреблениях.
Модератор заявил: "Наши подфорумы — это пространство, явно ориентированное на человека, которое решительно отвергает скрытое использование ИИ, это наша основная ценность. Люди приходят сюда не для обсуждения мнений с ИИ или для того, чтобы стать объектами эксперимента."
Согласно черновику этого исследовательского документа, исследователи использовали AI для генерации ответов и пытались персонализировать эти ответы на основе предыдущей истории пользователя на Reddit (например, политические взгляды, пол, возраст и раса).
В ходе четырехмесячного эксперимента фальшивый AI-аккаунт Цюрихского университета опубликовал 1,783 комментария и получил 137 отметок «delta» — это знак, который пользователи Reddit используют, чтобы обозначить, что их мнение по какому-либо вопросу было изменено.
Исследователи в сообщении, опубликованном в этом подразделе, заявили, что все комментарии проходят ручную проверку перед публикацией, чтобы гарантировать соответствие правилам сообщества и "свести к минимуму потенциальный вред".
Исследовательская группа Цюрихского университета утверждает, что «потенциальные преимущества этого исследования значительно превышают его риски», поскольку они обнаружили, что большие языковые модели (LLMs), использованные в эксперименте, обладают высокой убедительностью, превышающей «ранее известные стандарты человеческой убедительности».
Исследователи заявляют: "Наши контролируемые, низкорисковые исследования предоставляют ценное понимание способности LLMs убеждать в реальном мире — эта способность теперь доступна любому, и злоумышленники также могут использовать ее в больших масштабах для более опасных целей."
В то же время исследователи также отметили, что этот эксперимент показывает, что "различение человека и ИИ по-прежнему представляет собой значительную задачу", поскольку в течение всего эксперимента пользователи подредакции r/changemyview не смогли распознать ИИ-робота.
Этот сабреддит имеет 3,8 миллиона участников, что ставит его в верхние 1% всех сабреддитов на Reddit.
Reddit рассматривает юридические действия
Модераторы Reddit заявили, что они заранее не знали об этом эксперименте, подали запрос на извинение в Цюрихский университет и потребовали остановить публикацию связанных с этим результатов исследования.
Сторона Reddit также может рассмотреть возможность принятия юридических мер. Главный юридический советник платформы Бен Ли в последующем посте 28 апреля заявил, что этот эксперимент нарушает пользовательское соглашение Reddit и правила платформы, и все известные аккаунты, связанные с исследованием Цюрихского университета, были заблокированы.
Ли заявил: "Мы официально направили юридическое письмо Университету Цюриха и этой исследовательской команде."
Он добавил: «Мы сделаем все возможное, чтобы поддержать сообщество и обеспечить, чтобы соответствующие исследователи несли ответственность за свои проступки.»
Этический комитет Факультета гуманитарных и социальных наук Цюрихского университета заявил, что в ответ на этот подраздел они начали расследование и пообещали в будущем лучше координироваться с участниками эксперимента. Главный исследователь проекта также получил официальное предупреждение.
Этический комитет отметил: "Этот проект предоставляет важные сведения, и риск минимален. Поэтому подавление публикации его результатов не соответствует ценности, которую приносит исследование."
Университет Цюриха пока не ответил на это. Cointelegraph также не получил ответ на запрос, отправленный на электронную почту, связанную с этим экспериментом.
Рекомендуемые статьи: В России представлен «рублевый стейблкоин»: руководители подробно объясняют семь основных функций, схожих с Tether (USDT).
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Секретный эксперимент Цюрихского университета с искусственным интеллектом (ИИ) манипулировал мнением пользователей Reddit
Источник: Cointelegraph Исходный текст: «Секретный эксперимент по искусственному интеллекту (AI) Цюрихского университета (Zurich Uni) управлял мнением пользователей Reddit»
Исследователи Цюрихского университета были обвинены в том, что без разрешения провели четырехмесячный эксперимент на одном из форумов Reddit, используя комментарии, сгенерированные ИИ, чтобы проверить, может ли ИИ изменить мнение людей.
Согласно сообщению модератора подраздела r/changemyview, опубликованному 26 апреля, в эксперименте AI-управляемые аккаунты маскировались под различные личности, включая жертв изнасилования, противников определенных социальных движений, а также травматических консультантов, специализирующихся на делах о злоупотреблениях.
Модератор заявил: "Наши подфорумы — это пространство, явно ориентированное на человека, которое решительно отвергает скрытое использование ИИ, это наша основная ценность. Люди приходят сюда не для обсуждения мнений с ИИ или для того, чтобы стать объектами эксперимента."
Согласно черновику этого исследовательского документа, исследователи использовали AI для генерации ответов и пытались персонализировать эти ответы на основе предыдущей истории пользователя на Reddit (например, политические взгляды, пол, возраст и раса).
В ходе четырехмесячного эксперимента фальшивый AI-аккаунт Цюрихского университета опубликовал 1,783 комментария и получил 137 отметок «delta» — это знак, который пользователи Reddit используют, чтобы обозначить, что их мнение по какому-либо вопросу было изменено.
Исследователи в сообщении, опубликованном в этом подразделе, заявили, что все комментарии проходят ручную проверку перед публикацией, чтобы гарантировать соответствие правилам сообщества и "свести к минимуму потенциальный вред".
Исследовательская группа Цюрихского университета утверждает, что «потенциальные преимущества этого исследования значительно превышают его риски», поскольку они обнаружили, что большие языковые модели (LLMs), использованные в эксперименте, обладают высокой убедительностью, превышающей «ранее известные стандарты человеческой убедительности».
Исследователи заявляют: "Наши контролируемые, низкорисковые исследования предоставляют ценное понимание способности LLMs убеждать в реальном мире — эта способность теперь доступна любому, и злоумышленники также могут использовать ее в больших масштабах для более опасных целей."
В то же время исследователи также отметили, что этот эксперимент показывает, что "различение человека и ИИ по-прежнему представляет собой значительную задачу", поскольку в течение всего эксперимента пользователи подредакции r/changemyview не смогли распознать ИИ-робота.
Этот сабреддит имеет 3,8 миллиона участников, что ставит его в верхние 1% всех сабреддитов на Reddit.
Reddit рассматривает юридические действия
Модераторы Reddit заявили, что они заранее не знали об этом эксперименте, подали запрос на извинение в Цюрихский университет и потребовали остановить публикацию связанных с этим результатов исследования.
Сторона Reddit также может рассмотреть возможность принятия юридических мер. Главный юридический советник платформы Бен Ли в последующем посте 28 апреля заявил, что этот эксперимент нарушает пользовательское соглашение Reddit и правила платформы, и все известные аккаунты, связанные с исследованием Цюрихского университета, были заблокированы.
Ли заявил: "Мы официально направили юридическое письмо Университету Цюриха и этой исследовательской команде."
Он добавил: «Мы сделаем все возможное, чтобы поддержать сообщество и обеспечить, чтобы соответствующие исследователи несли ответственность за свои проступки.»
Этический комитет Факультета гуманитарных и социальных наук Цюрихского университета заявил, что в ответ на этот подраздел они начали расследование и пообещали в будущем лучше координироваться с участниками эксперимента. Главный исследователь проекта также получил официальное предупреждение.
Этический комитет отметил: "Этот проект предоставляет важные сведения, и риск минимален. Поэтому подавление публикации его результатов не соответствует ценности, которую приносит исследование."
Университет Цюриха пока не ответил на это. Cointelegraph также не получил ответ на запрос, отправленный на электронную почту, связанную с этим экспериментом.
Рекомендуемые статьи: В России представлен «рублевый стейблкоин»: руководители подробно объясняют семь основных функций, схожих с Tether (USDT).