O desafio de construir reputação e marcas num mundo algorítmico com vieses, preconceitos e deepfakes

Dra. Joy Buolamwini é autora do best-seller “Unmasking AI: My Mission to Protect What Is Human in a World of Machines”, fundadora da Liga da Justiça Algorítmica e especialista em vieses de inteligência artificial (IA). Ouvi-la de pertinho no SXSW foi um verdadeiro “tapa na cara”. Dona de um carisma ímpar e de uma alegria contagiante, ela impressionou a tratar com muita profundidade os desafios de moldar a sociedade com os vieses e preconceitos postos nos desenhos dos algoritmos.

A medida em que a IA se torna uma força dominante, surgem questões cruciais sobre representatividade e equidade. E como demonstrou  a Dra. Joy Buolamwini, “a construção dos algoritmos não considera gênero, raça e classe. Não reconhece minorias, principalmente mulheres negras”.

Essa omissão resulta em sistemas que perpetuam preconceitos e privilégios. Joy Buolamwini fundou o movimento “Liga da Justiça Algoritma” para construir um mundo com uma IA mais equitativa e responsável. Seus estudos mostrando a diferença de precisão entre reconhecimento de homens brancos e mulheres negras (que chegaram a uma diferença de 34%) foram apresentados à empresas como Microsoft, Face++, IBM e Amazon, num movimento que levou essas empresas a repensarem como prover tecnologia de reconhecimento facial para autoridades.

O conceito de ter a vida afetada negativamente por um erro de algorismo foi chamado de “Excoded” por Buolamwini. Como exemplo, ela citou a história de mulher americana grávida de oito meses que foi presa após um reconhecimento facial incorreto, expondo um algorismo preconceituoso.

“Qualquer pessoa que tenha uma foto postada nas redes sociais provavelmente está em um banco de dados coletado. E agora com sistemas generativos de IA, não é apenas o risco de ser identificado incorretamente ou de ser comparado com outra pessoa. Sua imagem pode ser usada sem que você saiba”, alertou Buolamwini.

Nesse contexto, a confiança na IA é abalada pela proliferação de deepfakes e fraudes digitais. Enquanto a tecnologia evolui, a busca por soluções inclui a detecção de AI por AI, demonstrando a necessidade de colaboração entre governos, reguladores e especialistas em tecnologia.

Ben Colman, CEO da “Reality Defender”, plataforma líder de detecção de deepfake e especialista em ajudar empresas a sinalizar usuários e conteúdos fraudulentos, durante palestra no SXSW 2024, foi categórico em afirmar que “no momento, a única solução para esses perigos da IA é construir IA para detectá-la. E por isso estamos investindo muito do nosso tempo com governos e reguladores, tentando educá-los e orientá-los para que façam alguma coisa, porque num ano em temos eleições e uma geopolítica com múltiplas guerras, eles precisam entender que o mundo está se tornando mais digital”.

Nesse cenário, você já parou para refletir qual é o papel da comunicação e como ela pode contribuir no combate aos vieses preconceituosos e as deepfakes?

A criação de reputação e marca exige, mais do que nunca, uma abordagem ética e inclusiva. A Liga da Justiça Algorítma exemplifica essa missão ao transformar pesquisas em ação, advogando por mudanças e expondo as falhas dos sistemas.

A construção da reputação é moldada por sua resposta à revolução algorítmica. A transparência, a responsabilidade com informações verdadeiras e o compromisso com a equidade serão os pilares sobre os quais as organizações construirão sua credibilidade em um mundo cada vez mais digitalizado e automatizado.

Os artigos aqui apresentados não necessariamente refletem a opinião da Aberje e seu conteúdo é de exclusiva responsabilidade do autor.