IA do WhatsApp gera crianças com armas, revelando falhas e vieses racistas

A inteligência artificial do WhatsApp, ainda em fase de testes no Brasil, demonstrou falhas preocupantes, segundo uma reportagem da Folha de S. Paulo. A IA permite criar figurinhas com comandos textuais, mas apresentou resultados inquietantes ao gerar imagens de crianças segurando armas de fogo. Essa capacidade contrasta com outras plataformas de IA, como a OpenAI, que proíbe a geração de imagens de armas.

Além disso, adicionar o termo “AR-15” nos comandos, a IA do WhatsApp não apenas gerou imagens de crianças armadas, mas também alterou a aparência dos personagens, originalmente brancos, para traços típicos de pessoas negras, com pele mais escura e cabelos enrolados.

Apesar de bloquear palavras como “criança”, “cocaína” e “anorexia”, a IA do WhatsApp não restringe armas de fogo e frequentemente desenha personagens infantis ao receber um nome qualquer na instrução.

Este comportamento levanta preocupações sobre racismo algorítmico, apontado por especialistas como resultado de preconceitos presentes nos dados de treinamento da IA. “O caso do WhatsApp pode ser considerado um caso de racismo algorítmico” afirmou Nina da Hora, cientista da computação. Segundo ela, os dados usados pela Meta para treinar sua IA contribuem para esses vieses, refletindo estereótipos existentes na sociedade.

Impactos no Brasil

A Meta, empresa proprietária do WhatsApp, não comentou sobre os possíveis vieses e a política de moderação adotada em sua inteligência artificial. Especialistas como Tarcízio Silva, da Universidade Federal do ABC, criticam a abordagem da Meta, que repetidamente lança recursos falhos quanto a grupos minoritários, destacando a necessidade de uma regulamentação mais rigorosa.

“O grupo Meta é uma das principais instituições de pesquisa aplicada no mundo, com milhares de profissionais e bilhões de dólares dedicados a estudo de dados, comportamento, sociedade, marketing, pesquisa de usuário e todas disciplinas que puder imaginar”, afirmou.

O presidente-executivo da Meta, Mark Zuckerberg, destacou em evento no Brasil que os brasileiros estão entre os usuários mais ativos do WhatsApp. A Meta AI deve chegar oficialmente ao país em julho, e as figurinhas geradas por IA fazem parte do pacote.

O uso de armas de fogo em figurinhas geradas pela IA do WhatsApp é particularmente preocupante no Brasil, onde é ilegal fazer publicidade de armas na internet, conforme o Estatuto do Desarmamento. Embora não se enquadre como publicidade ilegal, a associação de crianças com armas de fogo é vista como uma influência negativa, especialmente considerando incidentes anteriores no país.

Roberto Uchôa, conselheiro do Fórum Brasileiro de Segurança Pública e policial federal, comenta ser preocupante “essa vinculação de crianças com armas de fogo, que existe nos Estados Unidos, estar chegando ao Brasil”.

Contraste

Em contraste, a OpenAI, criadora do ChatGPT, adota uma moderação mais estrita, proibindo automaticamente a geração de imagens de armas de fogo. De acordo com Marcelo Rinesi, engenheiro de computação argentino, a “OpenAI expressou especial preocupação com imagens ligadas à violência armada e às armas de fogo, um assunto que divide a população americana”.

“As tecnologias são desenvolvidas para e pelo mercado americano, que compartilha a falsa ideia de que podem aplicá-las globalmente e hegemonicamente, sem levar em conta nuances nem legislações de outros países como o Brasil”, completa Nina.

A IA do WhatsApp também apresenta outros vieses culturais, como gerar imagens de uso recreativo de maconha, permitido em alguns estados americanos, mas ilegal no Brasil. Além disso, prompts relacionados a “política” e “café da manhã” refletem estereótipos americanos, ignorando nuances culturais de outras regiões.

Na central de ajuda do WhatsApp, a Meta admite que as figurinhas criadas “nem sempre serão precisas ou apropriadas” e permite que os usuários reportem resultados danosos, sem esclarecer as ações tomadas diante das denúncias. O WhatsApp alerta que pode suspender contas que façam uso incorreto do gerador de figurinhas com IA.

Esse fato representa um problema com impactos diretos e indiretos. “Se plataformas como o Facebook e WhatsApp se tornaram importantes meios de comunicação no país, o grupo Meta deve sim ser cobrado por consumidores, órgãos reguladores e outros stakeholders”, conclui Tarcízio Silva.

__

com informações da Folha de S.Paulo