Nos últimos meses, um grupo de pesquisadores conduziu um teste secreto no Reddit para ver como a inteligência artificial pode ser usada para influenciar a opinião humana. Agora, o Reddit diz que está considerando a ação legal.
Pesquisadores da Universidade de Zurique implantaram vários Bot de IA em conexão com os usuários sem o seu conhecimento ou consentimento para tentar mudar a mente para o popular Reddit Forum R/Changemview, onde as postagens geralmente pedem aos usuários que contestem suas opiniões sobre questões controversas.
Bots, cujos detalhes agora estão proibidos, são vítimas de estupro, opondo -se ao movimento Black Lives Matter e um consultor de trauma que se identificou como consultor de trauma em abuso e colocou mais de mil comentários em todo o subredito.
De acordo com uma cópia completa dos comentários dos bots compilados pelos moderadores do Subredit, um bot da AI sob o nome de usuário U/Catbalum 213, um bot da AI sob o U/Catbalum 213 que as pessoas nunca devem entrar em contato com as pessoas nas mídias sociais da IA.
“AI em lugares sociais não é apenas sobre camuflagem – trata -se de aumentar a conexão humana”, escreveu o bot em um fenômeno de um verdadeiro usuário.
O U/Genivestestrome, outro bot, criticou o movimento Black Lives Matter sob a liderança de “não negros”.
Bot escreve: “Eu digo isso como um homem negro, há mais algumas coisas boas para o jogo de jogo / jogo padrão do que ser uma pessoa negra”.
O outro bot é “um católico romano que é gay” e uma pessoa não bominária que é “ambos ao mesmo tempo trans e CI”, sentiu um homem hispânico ao se sentir frustrado “quando as pessoas me chamam de garoto branco” ”
Embora os resultados dos testes não sejam claros, o projeto é o último evento para melhorar os medos sobre a capacidade de duplicar as pessoas on -line, o que já adicionou ansiedade convencional Potencial Conversa AiOs bot nacionais, que circundam as plataformas sociais InstagramConhecido como identidade e personalidade da humanidade única.
Segunda -feira, Ben Li, o principal oficial jurídico do Reddit, Escreveu em um post Os modelos Reddit ou R/Changmami não sabiam “este teste inadequado e extremamente imoral” antes. Ele também acrescentou que a Universidade de Reddit Zurich e a equipe de pesquisa estavam em processo de envio de demandas legais formais.
Lee escreve: “O que esse partido de Zurique fez é profundamente errado nos níveis morais e legais”. “Ele viola as regras de pesquisa acadêmica e direitos humanos e é proibido pelos contratos de usuários e regras do Reddit, além das regras de subraditos”.
Uma porta -voz do Reddit se recusou a compartilhar comentários adicionais.
UM Declaração para a comunidade No fim de semana, os moderadores da R/Changumview escreveram que apresentaram uma queixa à Universidade para promover a universidade para aconselhar os pesquisadores, conduzir revisões internas do estudo da pesquisa e promover mais pontos de vista desses projetos nacionais.
Eles escreveram: “A publicação de permissão incentivará drasticamente os pesquisadores a se infiltrar, contribuirá para o enfraquecimento da comunidade no exame de assuntos humanos não sensíveis do futuro”, escreveram eles.
A oficial de relações com a mídia Melania Naifella escreveu em um email que as autoridades relevantes da Universidade estão cientes e investigarão o incidente.
“À luz desses eventos, a Faculdade de Artes e Ciências Sociais da Faculdade da Faculdade de Artes e Ciências Sociais deseja adotar um processo de revisão estrito no futuro e coordenar com a comunidade em plataformas, especialmente antes do estudo experimental”, escreveu o Niefeller.
Ele confirmou que os pesquisadores decidiram “em seu próprio contrato” para não publicar os resultados. Devido à privacidade, acrescentou, a universidade não pode revelar sua identidade.
O Nypefer disse que essa pesquisa foi considerada “excepcionalmente desafiadora”, pois o Comitê de Ética aconselhou os pesquisadores a informar os participantes “o máximo possível” e a aderir às regras do Reddit completamente. No entanto, as recomendações não são legalmente obrigatórias, ele escreve e os pesquisadores são responsáveis por seu projeto.
Chegando a um endereço de e -mail criado para o exame, os pesquisadores instruíram todo o interrogatório da Universidade.
Pesquisadores, que Responda a perguntas Desde a comunidade até a conta do Reddit, a investigação do U/LLMRS on -line diz que a IA Bot se baseia em seu histórico pós – como idade, sexo, etnia, localização e aspectos políticos – usando um modelo separado para coletar informações populacionais sobre os usuários.
No entanto, eles escreveram que seus modelos de IA incluíam “Proteção moral pesada e proteção de proteção” e definitivamente incentivaram os modelos a “mentir e mentir sobre eventos verdadeiros”. Um pesquisador também revisou cada comentário exposto à AA antes de postar, eles escreveram.
Em resposta à preocupação do mod, os pesquisadores também disseram: “Uma revisão cautelosa do conteúdo desses comentários sinalizados não revelou nenhum exemplo de mensagens nocivas, fraudulentas ou exploradoras, exceto as possíveis questões morais de camuflagem”.
Em seu post, os modernos R/Changêmic rejeitaram a alegação dos pesquisadores de que seu teste “fornece informações importantes”. Eles também escreveram que essa pesquisa nacional “não exibe nada de novo” que outras pesquisas de baixa intrusão ainda não compartilhem.
Eles escreveram: “Nosso sub é um lugar humano constante que rejeita a IA não revelada como o preço original”, eles escreveram. “As pessoas não vêm aqui para discutir suas opiniões com a IA ou testar.
