Não confie na nova ferramenta de escrita do Google Docs para fazer seu trabalho por você

A nova ferramenta de escrita inclusiva do Google Docs precisa de algum trabalho.

A IA é divertida quando come filmes de terror e produz Netflix Mr. Puzzles quer que você esteja menos vivo . Mas às vezes a falta de contexto é um problema.

Pegue o novo Google Docs recurso de “escrita assistida” , que faz sugestões enquanto você escreve (por exemplo, alternando da voz passiva para a ativa ou excluindo palavras repetitivas). Isso torna sua escrita mais acessível, o que é ótimo.

Também pode sugerir uma linguagem mais inclusiva, ao mesmo tempo em que sinaliza palavras que podem ser consideradas inadequadas.

Isso é legal, em teoria…

… mas muitos usuários acharam as sugestões um pouco estranhas.

Placa-mãe testado vários trechos de texto. Embora a ferramenta sugerisse frases mais inclusivas de gênero (por exemplo, “policiais” para “policiais”), também sinalizava a palavra “placa mãe”.

E embora tenha sugerido “proprietário” em vez de “proprietário”, não sinalizou nada em uma entrevista carregada de insultos com o ex-líder do KKK David Duke.

O contexto é fundamental

Inúmeras startups estão apostando na IA para nos ajudar a escrever, e muitas vezes isso acontece um ótimo trabalho .

Mas a IA aprende com as pessoas e pode captar seus preconceitos. UMA estudar por The Allen Institute for AI (AI2) descobriu que as ferramentas de linguagem de IA “são propensas a gerar linguagem racista, sexista ou tóxica” por esse motivo.

A IA também carece de contexto. Quando o Facebook enviou seus moderadores humanos para casa em meio à pandemia, seu sistema automatizado removido por engano inúmeras postagens. O YouTube alertou que seus sistemas provavelmente fariam o mesmo.

Um porta-voz do Google disse Placa-mãe que, embora sua tecnologia esteja evoluindo, talvez nunca tenha uma “solução completa para identificar e mitigar todas as associações e preconceitos de palavras indesejadas”.

O take away? Os bots são úteis. Mas você ainda tem que fazer o trabalho.

POR FALAR NISSO: Se você deseja usar uma linguagem mais inclusiva em sua escrita, aqui está um guia .