19 de Junho de 2023
4 minutos de leitura
Com o rápido aprimoramento da tecnologia, surge um debate polêmico sobre o impacto da inteligência artificial (IA) na diversidade. Por um lado, a IA pode facilitar tarefas operacionais. Por outro, tem a possibilidade de perpetuar preconceitos e acentuar desigualdades por conta dos vieses que ela carrega.
Mas de que forma isso acontece? Entrevistamos alguns especialistas para responder essa questão crucial e expor novos pontos de vista.
Antes de aprofundar a discussão, precisamos abordar o conceito de vieses.
O que são vieses inconscientes?
Vieses inconscientes são padrões de pensamento que reproduzimos de forma automática com base em memórias armazenadas que podem reforçar atitudes discriminatórias sem que possamos perceber.
Em outras palavras, podemos entender os vieses como generalizações sobre classes sociais, faixa etárias, raças, gênero e outros aspectos.
Para melhor compreensão, basta lembrarmos do viés de grupo, caracterizado pela tendência em apoiar comportamentos do próprio círculo social, enquanto os membros de outros grupos são negligenciados.
Preocupações sobre o impacto da inteligência artificial e a influência dos vieses
Considerando que a criação da inteligência artificial depende de seres humanos — que, por sua vez, carregam vieses, é natural supor que essa tecnologia também possa reforçar preconceitos.
Rafael Publio e Aline Morais, consultores da Santa Causa Boas Ideias & Projetos, concordam que, caso não seja criada e usada da maneira correta, a IA pode frear os avanços na construção de uma sociedade mais inclusiva.
Por exemplo, em uma análise de currículos, se o algoritmo de seleção for alimentado com dados que mostram que candidatos do sexo masculino são mais contratados, o algoritmo pode excluir automaticamente profissionais mulheres.
Da mesma forma, a IA pode desfavorecer candidatos sem ensino superior, caso os desenvolvedores ou usuários tenham preconceitos em relação à escolaridade.
O problema também pode ocorrer em aplicativos de reconhecimento facial, que, quando treinados com apenas rostos brancos, podem dificultar a identificação de pessoas negras.
É possível observar o impacto da inteligência artificial na promoção da diversidade até mesmo em simples consultas. César Filho, fundador da WeCancer, conta que um colega solicitou uma lista de cientistas para uma plataforma de IA e ela incluiu apenas homens brancos. Nesse caso, seu amigo precisou ajustar a pergunta para que a tecnologia também apresentasse mulheres.
Crédito: Gerd Altmann por Pixabay
O lado bom do uso da inteligência artificial
O avanço da tecnologia também traz benefícios para a sociedade, como a automação de tarefas, identificação de falhas e realização de ajustes em tempo real. “Quando preciso montar vários modelos de e-mail de prospecção, eu escrevo um prompt lá e faço isso em 15 minutos”, diz César.
Além disso, a inteligência artificial também pode ajudar na promoção da diversidade, desde que seja treinada de maneira inclusiva. Caso contrário, ela pode amplificar os problemas que detalhamos no tópico anterior.
Quando usada da maneira correta, essa tecnologia pode identificar vieses em algoritmos. “Ela já mostra de cara que alguma coisa não está certa, especialmente quando evidencia um padrão que não é compatível com a realidade da sociedade”, comenta Rafael.
Juntamente com um volume de dados, a IA também pode detectar lacunas de diversidade e trazer sugestões de ações para melhorar o cenário.
Outro benefício é a possibilidade de personalizar a experiência de navegação, conforme as necessidades de cada pessoa. Isso sem contar que a inteligência artificial também pode contribuir para a comunicação inclusiva com a sugestão de substituição de termos que reproduzem estereótipos.
Como assegurar que o impacto da inteligência artificial seja positivo para a diversidade?
Aline e Rafael acreditam que é possível que a IA ajude na promoção da diversidade. No entanto, para isso, é importante que os desenvolvedores conheçam perspectivas diferentes, busquem conhecimento, validem hipóteses com indivíduos diversos e executem ajustes sempre que necessário.
O desenvolvedor Lucas Fernandes complementa com uma análise técnica: “Os dados utilizados devem sempre considerar a diversidade e contar com representatividades distintas. Da mesma forma, para evitar a exclusão de certos grupos, é necessário realizar auditorias regulares nos sistemas de IA a fim de identificar e corrigir vieses”, diz.
O especialista também reforça a importância da presença de indivíduos com origens e vivências distintas na concepção de uma inteligência artificial.
Nos próximos anos, César acredita que o mundo vai evoluir muito em termos de tecnologia. “A gente só precisa preparar as pessoas para esses trabalhos no futuro”, afirma.
