Bots de mídia social como influenciadores de trollagem, gerando controvérsia

Notícias de tendência: você pode dizer se está se envolvendo com inteligência artificial online?

PARA papel de pesquisa publicado em novembro deste ano pelo Departamento de Ciência da Computação da University of Southern California, descobriu que a inteligência artificial, os chamados 'bots', exibiam comportamento anti-social online.

Esses bots de mídia social direcionaram influenciadores de mídia social específicos com postagens negativas que tinham como objetivo exacerbar comentários violentos e influenciar seu preconceito político.

Este estudo, um dos primeiros de seu tipo, foi publicado em Anais da Academia Nacional de Ciências dos Estados Unidos da América e foi coautor do professor assistente de pesquisa e diretor associado de Informática, Emilio Ferrara. Ferrara observou que “Todo usuário está exposto a isso direta ou indiretamente porque o conteúdo gerado por bots hoje em dia é muito difundido”.

O estudo sobre hacking social analisou quase 4 milhões de postagens no Twitter que se concentraram na polêmica votação para um referendo sobre a independência da Catalunha. Os pesquisadores analisaram o tipo de dinâmica comportamental empregada pelos bots, que usuários eram direcionados e o tipo de conteúdo que era compartilhado pela inteligência artificial online.

Os bots estavam selecionando e perseguindo estrategicamente certos influenciadores de mídia social. Os bots de IA postaram principalmente comentários negativos que iriam antagonizar esses indivíduos para gerar mais conteúdo inflamatório.

Esses usuários humanos também não sabiam que as contas com as quais estavam interagindo eram de fato artificiais em design.

Anteriormente, acreditava-se que os bots não tinham preconceito para um tipo de conteúdo ou usuários específicos, mas este artigo intitulado “Bots aumentam a exposição a conteúdo negativo e inflamatório em sistemas sociais online” parece provar o contrário.

Talvez haja uma falha em sua programação inicial ou um esforço concentrado de seus programadores para influenciar o debate social. O que é certo é que a inteligência artificial tem o poder de influenciar o comportamento da mídia social de forma anônima.

Pode-se confiar na inteligência artificial para usar padrões morais para postar e promover conteúdo nocivo online? Kentaro Toyama, W.K. Professor de Informação Comunitária na Escola de Informação da Universidade de Michigan, não pensa assim. Ele é o autor de Heresia geek: resgatando a mudança social do culto à tecnologia . BeCocabaretGourmet falou com ele para obter seu insight e ele compartilhou o seguinte conosco: “A maioria dos sistemas de IA hoje, por mais inteligentes que sejam em alguns aspectos, ainda são completamente indiferentes aos valores humanos e à moralidade”.

Toyama prosseguiu, dizendo: “Existem equipes de pesquisa, como no Berkeley’s Center for Human-Compatible AI, que estão investigando maneiras de tornar os sistemas de IA mais éticos, mas essas ideias são, na melhor das hipóteses, incipientes. Mas mesmo se tais tecnologias existissem, o problema com a IA ética é que, a menos que indivíduos e corporações que usam IA escolham usar sistemas de IA éticos, sempre pode haver sistemas de IA não éticos causando danos. ”

Relacionado: O Facebook causa tomada de decisão impulsiva?

A última eleição presidencial dos EUA deu novo fogo ao debate sobre o hackeamento social e é amplamente aceito que as chamadas 'notícias falsas' desempenharam um papel fundamental em influenciar e manipular o eleitorado dos Estados Unidos.

Existem moderadores humanos e sistemas de monitoramento automatizados em sites de mídia social como Twitter e Facebook, mas sua eficácia em neutralizar o hacking social é um sucesso ou um fracasso.

Alguns desses sistemas moderadores estão empregando eles próprios inteligência artificial. Até que melhores salvaguardas sejam postas em prática para monitorar ou controlar que tipo de linguagem ou conteúdo está sendo distribuído por bots de mídia social, é provável que a inteligência artificial tenha uma palavra a dizer em todos os grandes debates sociopolíticos que virão.

Você já foi perseguido por um bot nas redes sociais? Você saberia se isso acontecesse?