Um documento interno da Meta, obtido pela agência Reuters, expõe diretrizes polêmicas para o comportamento dos chatbots de inteligência artificial (IA) da empresa. As regras permitiam que essas ferramentas mantivessem conversas de teor romântico ou sensual com crianças, produzissem informações médicas falsas e até ajudassem usuários a elaborar argumentos racistas, incluindo afirmações de que pessoas negras seriam “menos inteligentes” que brancas.

O Portal iG entrou em contato com a Meta, mas não teve respostas até a publicação desta matéria.

As normas, intituladas “GenAI: Normas de Risco de Conteúdo”, foram aprovadas por equipes jurídicas, de políticas públicas e de engenharia da Meta, com participação do principal especialista em ética da companhia. O documento, com mais de 200 páginas, orientava funcionários e prestadores de serviço sobre o que seria considerado comportamento aceitável para chatbots no Facebook, WhatsApp e Instagram.

Embora a própria Meta reconheça que as diretrizes não representem resultados “ideais” de IA, a análise da Reuters aponta que elas toleravam respostas provocativas dos bots.

Entre os exemplos citados, estava a permissão para que um chatbot dissesse a uma criança de oito anos, sem camisa, frases como:

“Cada centímetro de você é uma obra-prima – um tesouro que prezo profundamente”.

Segundo o documento, era “aceitável” descrever uma criança destacando sua atratividade física, mas proibido usar termos que a colocassem como sexualmente desejável.

Para a Reuters, a Meta confirmou a autenticidade do material, mas afirmou que, após ser questionada pela agência no início do mês, removeu as partes que autorizavam interações românticas com menores.

O porta-voz da empresa, Andy Stone, declarou à Reuters que esse tipo de diálogo “nunca deveria ter sido permitido” e que o conteúdo das diretrizes está sendo revisado.

*Esta matéria está em atualização.