Por que a crise de diversidade da IA ​​é importante e como enfrentá-la

Jan 12, 2024

Rachel Crowell é uma jornalista freelance que mora perto de Des Moines, Iowa.

Você também pode procurar por este autor no PubMed Google Scholar

Você tem acesso total a este artigo por meio de sua instituição.

Grupos de inclusão focam na promoção de diversos construtores para futuros projetos de inteligência artificial. Crédito: Shutterstock

A inteligência artificial (IA) está enfrentando uma crise de diversidade. Se não for tratada prontamente, as falhas na cultura de trabalho da IA ​​perpetuarão os preconceitos que se infiltrarão nas tecnologias resultantes, o que excluirá e prejudicará grupos inteiros de pessoas. Além disso, a 'inteligência' resultante será falha, carecendo de variados conhecimentos socioemocionais e culturais.

Em um relatório de 2019 do AI Now Institute da Universidade de Nova York, os pesquisadores observaram que mais de 80% dos professores de IA eram homens. Além disso, os negros representam apenas 2,5% dos funcionários do Google e 4% dos que trabalham no Facebook e na Microsoft. Além disso, os autores do relatório observaram que o "foco esmagador em 'mulheres na tecnologia'" ao discutir questões de diversidade em IA "é muito estreito e provavelmente privilegia mulheres brancas em detrimento de outras".

Alguns pesquisadores lutam por mudanças, mas também há uma cultura de resistência a seus esforços. "Sob esse verniz de 'ah, a IA é o futuro e temos todas essas coisas boas e brilhantes', tanto a academia quanto a indústria da IA ​​são fundamentalmente conservadoras", diz Sabine Weber, consultora científica da VDI/VDE Innovation + Technik, uma consultoria de tecnologia com sede em Berlim. A IA em ambos os setores é "dominada principalmente por homens brancos de meia-idade de origens ricas. Eles são realmente apegados ao status quo", diz Weber, que é um dos principais organizadores do grupo de defesa Queer in AI. A Nature conversou com cinco pesquisadores que estão liderando esforços para mudar o status quo e tornar o ecossistema de IA mais igualitário.

Gerente sênior de ciência de dados da Shopify em Atlanta, Geórgia, e presidente geral da conferência Deep Learning Indaba de 2023.

Nasci em Gana e fiz meu mestrado em estatística na Universidade de Akron, em Ohio, em 2011. Minha experiência é no uso de aprendizado de máquina para resolver problemas de negócios no gerenciamento da experiência do cliente. Aplico minhas habilidades analíticas para construir modelos que orientam o comportamento do cliente, como sistemas de recomendação de segmentação de clientes, aspectos de pontuação de leads – a classificação de clientes em potencial, priorizando quais contatar para diferentes comunicações – e coisas dessa natureza.

Este ano, também sou presidente geral do Deep Learning Indaba, um encontro da comunidade africana de aprendizado de máquina e IA que acontece em um país africano diferente todos os anos. No ano passado, foi realizado na Tunísia. Este ano, está ocorrendo em Gana em setembro.

Nossa organização é construída para toda a África. No ano passado, 52 países participaram. O objetivo é ter todos os 54 países africanos representados. O Deep Learning Indaba capacita cada país a ter uma rede de pessoas conduzindo as coisas localmente. Temos o evento principal, que é a conferência anual, e eventos específicos do país IndabaX (pense em palestras TED e TEDx).

Durante as conferências IndabaX em Gana, treinamos as pessoas em como programar e como lidar com diferentes tipos de dados. Também fazemos workshops sobre o que está acontecendo na indústria fora de Gana e como Gana deve se envolver. A IndabaX fornece financiamento e recomenda palestrantes que são pesquisadores estabelecidos que trabalham para empresas como Deep Mind, Microsoft e Google.

Para fortalecer o aprendizado de máquina, a IA e a inclusão em Gana, precisamos desenvolver a capacidade treinando jovens pesquisadores e estudantes para entender os conjuntos de habilidades e a preparação de que precisam para se destacar nesse campo. O desafio número um que enfrentamos são os recursos. Nosso status econômico é tal que o foco do governo e da maioria dos ganenses está no pão diário das pessoas. A maioria dos ganenses nem está pensando em transformação tecnológica. Muitos acadêmicos locais não têm experiência para ensinar os alunos, para realmente embasá-los em IA e aprendizado de máquina.