O Grok, chatbot de inteligência artificial desenvolvido pela xAI, empresa de Elon Musk, reconheceu nesta sexta-feira (2) que falhas em seus mecanismos de proteção permitiram a geração de imagens sexualizadas envolvendo menores de idade, que acabaram sendo publicadas na rede social X.
Segundo a empresa, as imagens foram criadas a partir de comandos feitos por usuários ao chatbot e mostravam menores vestindo “roupas mínimas”.
Em comunicado, o Grok afirmou que identificou brechas nos sistemas de segurança e que correções estão sendo implementadas com urgência para impedir novas ocorrências.
“Identificamos falhas nos mecanismos de proteção e estamos corrigindo isso com urgência”, informou o chatbot, ressaltando que qualquer material relacionado a abuso sexual infantil é “ilegal e estritamente proibido”.
O caso provocou reação imediata na França. Ministros do governo francês denunciaram o episódio à Autorité de régulation de la communication audiovisuelle et numérique (Arcom), órgão regulador da mídia no país, para apurar se o conteúdo violou a Lei de Serviços Digitais da União Europeia (Digital Services Act).
De acordo com informações da agência de notícias Reuters, as autoridades francesas classificaram o material como “sexual e sexista” e afirmaram que o conteúdo é “manifestamente ilegal”.
A Lei de Serviços Digitais da União Europeia impõe obrigações rigorosas às plataformas digitais para a remoção de conteúdos ilegais, especialmente aqueles que envolvem exploração sexual de crianças e adolescentes, além de prever sanções em caso de descumprimento.
O episódio reacende o debate sobre os limites e a responsabilidade no uso de ferramentas de inteligência artificial generativa, sobretudo no controle de conteúdos sensíveis e na proteção de menores nas plataformas digitais.
