Relatório da Human Rights Watch aponta uso de fotos de crianças brasileiras em inteligência artificial

Na última segunda-feira (10), a ONG Human Rights Watch divulgou um relatório alarmante que expõe o uso indevido de fotos de crianças e adolescentes brasileiros para alimentar ferramentas de inteligência artificial sem o consentimento ou conhecimento desses jovens.

De acordo com a análise realizada, o LAION-5B, um conjunto de dados utilizado para treinar diversos modelos de IA populares, apresenta links para fotos identificáveis de crianças, além de disponibilizar seus nomes em legendas ou URLs. A investigação revelou que muitas dessas identidades são facilmente rastreáveis, contendo informações detalhadas sobre o local e data das imagens.

O estudo identificou 170 fotos de crianças provenientes de dez estados brasileiros, como Alagoas, Bahia, Ceará, São Paulo, entre outros. No entanto, a Human Rights Watch ressalta que esse número representa apenas uma pequena amostra do problema, já que o LAION-5B contém um total de 5,85 bilhões de imagens e legendas, sendo que apenas 0,0001% desse conteúdo foi analisado pela organização.

As imagens encontradas variam desde bebês recém-nascidos até adolescentes, capturando momentos de celebração, estudo, dança, entre outros, ao longo dos anos. Segundo a pesquisadora de direitos da criança e tecnologia da ONG, Hye Jung Han, a motivação para investigar essa questão veio após relatos de assédio sexual contra jovens vítimas de deepfakes, criados a partir de suas fotos.

Han destaca que as imagens utilizadas pelas ferramentas de IA não são provenientes de bancos de imagens comuns, mas sim de sites escolares, blogs pessoais e canais do YouTube. Apesar de a plataforma ter removido as imagens denunciadas, não foram fornecidas medidas concretas para evitar novos abusos do tipo.

A preocupação da Human Rights Watch reside no potencial risco de criação de clones digitais de crianças com base em imagens existentes, assim como a manipulação de vídeos para gerar conteúdos explícitos. A falta de legislação que proteja a privacidade de dados de crianças no Brasil é um agravante apontado pela organização, que defende a implementação de políticas que garantam a segurança dos menores de idade no ambiente digital.

A ONG ressalta a importância da resolução proposta pelo Conanda em abril deste ano, que estabelece a criação de uma política nacional para proteger os direitos das crianças e adolescentes na internet. A implementação efetiva dessas medidas é urgente para prevenir abusos futuros e garantir a responsabilidade do governo em proteger os vulneráveis no cenário digital.

Em resumo, a pesquisa da Human Rights Watch expõe a necessidade de uma regulamentação mais eficaz para coibir o uso indevido de imagens de crianças em sistemas de IA, bem como a disponibilização de recursos para garantir a justiça e reparação às vítimas dessas violações.