Um dos principais pesquisadores de IA do Google acabou de sair em uma nuvem de controvérsia. O que aconteceu?

O pesquisador de IA da estrela Timnit Gebru tem um novo artigo destacando problemas com os modelos de IA do Google. A empresa a forçou a sair por isso?

SAN FRANCISCO, CA - 07 DE SETEMBRO: Google AI Research Scientist Timnit Gebru fala no palco durante o dia 3 do TechCrunch Disrupt SF 2018 no Moscone Center em 7 de setembro de 2018 em San Francisco, Califórnia. (Foto de Kimberly White/Getty Images para TechCrunch)

Crédito: Kimberly White / Stringer (Getty Images)

O Google não pode sair do seu próprio caminho.



Já enfrentando um antitruste caso (e trabalho disputa ), o gigante das buscas está envolvido em uma controvérsia com Timnit Gebru, um pesquisador de IA estrela que foi forçado a sair da empresa na semana passada.

Um campeão da diversidade em tecnologia, a pesquisa anterior de Gebru notavelmente descoberto viés de gênero e tipo de pele na tecnologia de reconhecimento facial.

Gebru sinalizou problemas com os grandes modelos de linguagem do Google

De acordo com Revisão de Tecnologia do MIT , esses modelos – IAs treinadas em quantidades impressionantes de dados de texto – são “chave para os negócios do Google”.

Aqui estão algumas das últimas descobertas da pesquisa da Gebru:

  • Custos ambientais e financeiros: Grandes produtos de IA usam muita energia. Um dos modelos de linguagem que sustenta a pesquisa cria tanto CO2 quanto um voo de ida e volta entre NY e SF.
  • Viés em grandes conjuntos de dados: Os modelos de linguagem são inclinados para países e idiomas com grande presença na Internet (por exemplo, inglês). Outras normas culturais podem não ser refletidas na tecnologia que usa esses modelos.
  • Difícil de auditar: Os conjuntos de dados são tão grandes que é muito difícil até mesmo ver como eles podem ser tendenciosos (ou como corrigi-los).

O Google queria suprimir essas descobertas?

Potencialmente.

Muitos especialistas em ética da IA ​​acreditam que o Google “a expulsou por causa das verdades inconvenientes que ela estava descobrindo sobre uma linha central de sua pesquisa”, escreve o Revisão de Tecnologia do MIT .

UMA carta em apoio ao Gebru foi assinado por mais de 1,5 mil funcionários do Google e mais de 2,1 mil acadêmicos na área de IA.

( Consulte Mais informação: O escritor de tecnologia Casey Newton compartilhou o troca de e-mail entre Gebru e seu chefe, Jeff Dean, que levou à sua saída.)