Quais os riscos de subir fotos de crianças no ChatGPT

Utilizar fotos de crianças no ChatGPT é seguro? Neste texto, o Lunetas apresenta os principais riscos e perigos de expor imagens e dados dos seus filhos na internet, especialmente ao utilizar ferramentas de inteligência artificial.

Muitos pais já imaginaram como seria o rosto dos filhos daqui a alguns anos. Ou pensaram sobre os filhos serão quando estiverem na adolescência, na vida adulta e até na velhice. Com a popularização da inteligência artificial (IA) generativa, bastam poucos segundos para que essa curiosidade se transforme em uma ou mais imagens.

Plataformas como o ChatGPT, permitem que o usuário faça o upload de uma foto atual da criança ou adolescente e a partir de um comando (o chamado prompt) receba versões projetadas do futuro. Contudo o fenômeno que vira e mexe viraliza nas redes, traz consigo um debate necessário sobre privacidade infantil e uso responsável da tecnologia. Por causa de interesse do que parece uma brincadeira surgem dúvidas sobre privacidade e exposição. Quais os riscos desta prática?

O engenheiro especialista em IA, John Paul Hempel Lima, diretor acadêmico dos cursos de graduação on-line da FIAP, lembra que uma imagem digital tem uma série de informações. Metadados, padrões faciais, idade estimada, características do ambiente, expressão emocional e contexto podem ser processadas e armazenadas de maneiras que os pais não percebem.

Quais são os riscos?

De acordo com Lima, um dos principais riscos do uso de imagens de crianças no ChatGPT é perder o controle sobre as imagens. O engenheiro lembra que essas plataformas não protegem a infância e nem contam com mecanismos robustos que impedem que interceptem, reaproveitem ou repliquem fotos em outros ambientes digitais com circulação indevida.

“Há casos documentados de imagens de crianças que acabam sendo reutilizadas em esquemas de fraude, criação de identidades sintéticas e até em comunidades mal‑intencionadas que buscam justamente imagens de crianças para manipulação ou exploração”, explica Lima.

Empresas e desenvolvedores também podem utilizar essas imagens para treinar sistemas de reconhecimento facial. Isto significa que as plataformas de IA podem incorporar à base de dados interna, replicar em servidores ou utilizar as fotos disponibilizadas para gerar padrões. Além disso, o especialista explica que esses padrões podem permanecer por muito tempo no sistema.

“O impacto futuro é imprevisível. O risco central não é terrorismo digital, mas sim a perda de controle sobre o ciclo de vida da imagem: onde ela será armazenada, por quanto tempo, com quem circulará e que tipo de interpretação algorítmica poderá ser feita a partir dela”, complementa Lima. Em 2024, um relatório da Human Rights Watch (HRW), organização internacional de defesa e pesquisa em direitos humanos, mostrou que 170 fotos de crianças e adolescentes brasileiros estavam sendo usadas para alimentar plataformas de IA, sem o conhecimento ou a autorização dos pais e responsáveis legais. Pois as imagens vieram da raspagem de dados de sites de escolas, blogs pessoais e canais do YouTube.

O que diz a legislação?

Vale lembrar que fotos são dados pessoais identificáveis. No caso de crianças e adolescentes, há marcos de proteção que reconhecem que há uma vulnerabilidade específica, como o artigo 17 do Estatuto da Criança e do Adolescente (ECA) que garante o “direito ao respeito consiste na inviolabilidade da integridade física, psíquica e moral da criança e do adolescente, abrangendo a preservação da imagem, da identidade, da autonomia, dos valores, ideias e crenças, dos espaços e objetos pessoais.”

Além disso, há a Lei Geral de Proteção de Dados Pessoais (LGPD, Lei nº 13.709/2018) que regula o tratamento de dados pessoais no Brasil, físicos ou digitais, por pessoas físicas ou jurídicas, visando proteger os direitos de liberdade e privacidade.

Bianca Orrico, doutora em Estudos da Criança, psicóloga da SaferNet Brasil, ONG que promove os direitos humanos na internet, lembra que uma fotografia pode conter muitas informações: revelar idade, gênero, características físicas, contexto familiar, localização e crianças e adolescentes precisam ter garantido seu direito ao desenvolvimento pleno e saudável e proteção integral.

“Expor imagens sem um cuidado pode gerar danos identificados somente no futuro que ainda, por vezes, podem ser muito difíceis de serem apagados. Por isso é importante refletir antes de compartilhar uma imagem através de alguma plataforma de IA”, diz Bianca.

Segundo a OpenAI, desenvolvedora do ChatGPT, o Brasil está entre os três países que mais usam a ferramenta, e a população brasileira é responsável por trocar cerca de 140 milhões de mensagens por dia por meio da plataforma.

É diferente de postar nas redes sociais?

Embora postar fotos de crianças nas redes sociais e enviá-las para plataformas de inteligência artificial são ambos cenários que envolvem riscos, há diferenças importantes entre eles. Ao publicar nas redes sociais, há uma exposição pública, com circulação entre pessoas, algoritmos de recomendação e anunciantes. Ou seja, neste ambiente existe algum nível de previsibilidade sobre como o conteúdo pode se espalhar.

Contudo, nas plataformas de IA, como o ChatGPT, o risco é de outra natureza. Nem sempre os termos de uso sobre armazenamento e treinamento estão disponíveis e são claros. “O ponto crítico é que a foto deixa de ser apenas uma postagem e passa a ser um insumo técnico, com potencial de permanecer nos sistemas por muito tempo”, afirma Lima.

A própria lógica de circulação também muda: em vez de se espalhar principalmente entre pessoas, a imagem passa a trafegar por algoritmos, servidores e pipelines de treinamento.

Entretanto, Bianca lembra que as empresas responsáveis pelas redes sociais também têm aproveitado o conteúdo das publicações para o desenvolvimento e treinamento de seus sistemas.

“É importante configurar e verificar dentro de cada serviço, se você autorizou que aquela imagem fosse utilizada para treinamentos de sistemas, como inteligência artificial. Em ambos os casos, é importante entender que o ponto crítico é perder o controle sobre o uso da imagem da criança e do adolescente”, diz a psicóloga.

Menos exposição, mais proteção

Registrar – e compartilhar – a infância faz parte da vida contemporânea. Pois é compreensível que pode ser difícil se conter e manter aquela imagem fofa das crianças apenas no próprio rolo de foto, quando a vontade é querer exibi-la para o mundo todo.

Mas antes de cair na tentação, e colocar fotos do seu filho no ChatGPT, há dicas práticas para ajudar as famílias a construir hábitos que protegem a privacidade das crianças e reduzem riscos futuros. Contudo, Lima sugere priorizar grupos fechados, listas restritas e configurações de privacidade que limitem quem pode visualizar o conteúdo.

Além disso, é importante avaliar o tipo de informação que a imagem revela. “Fotos que mostram uniformes escolares, localização clara, rotina diária ou detalhes da casa aumentam o risco de associação da criança com informações sensíveis. Ambientes neutros, ângulos que não identifiquem lugares específicos e ausência de metadados de localização são decisões simples que reduzem muito a exposição.”

Os riscos do reconhecimento facial

Outro ponto essencial é refletir sobre reconhecimento facial. Lima afirma que quanto mais fotos se tornam públicas, maior a probabilidade de plataformas criarem vínculos e inferências ao longo do crescimento da criança. “Para reduzir essa pegada digital, prefira fotos em que o rosto não esteja totalmente exposto, ou use recursos simples como desfoque de fundo, enquadramento lateral ou recortes que preservem a identidade”, diz Lima.Por fim, vale sempre perguntar se a imagem disponibilizada revela algo íntimo ou sensível e preserva a privacidade e dignidade da criança mesmo daqui a 10 anos. “Esse é o critério mais importante. A infância é uma fase de vulnerabilidade, e a responsabilidade dos adultos é proteger não apenas o presente, mas o futuro digital dessas crianças”, finaliza o especialista.

Antes de subir a foto de uma criança em ferramentas de IA, faça uma pausa e se pergunte:

• Qual é a finalidade desse comando? Há um propósito real ou é apenas uma curiosidade momentânea?
• Estou disposto a perder o controle sobre para onde essa imagem pode ir depois?
• Essa foto respeita a privacidade e a dignidade da criança agora e no futuro? Como ela pode se sentir ao vê-la daqui a dez anos?