A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) fizeram uma série de recomendações à empresa controladora da plataforma digital X para que a ferramenta de inteligência artificial da plataforma, o Grok, não seja usada indevidamente para a geração e circulação de conteúdos sexualizados indevidos.
Recomendações para a Plataforma X
Entre as recomendações está a criação, no prazo máximo de 30 dias, de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos sexualizados que estejam disponíveis no X, gerados pelo Grok a partir de comandos de usuários.
Suspensão de Contas
As instituições pedem também a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de adultos, sem sua autorização.
Mecanismos de Denúncia
Foi recomendada a implementação de um mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais.
Respostas a Denúncias
As instituições enfatizam a importância de assegurar uma resposta adequada e em prazo razoável para as denúncias, especialmente em casos de criação de conteúdos sintéticos sexualizados sem consentimento.
Impactos da Geração de Conteúdos Sintéticos
As recomendações foram elaboradas após denúncias de usuários sobre a geração de conteúdos sintéticos sexualizados a partir de imagens de pessoas reais, o que pode impactar a proteção de dados pessoais e a dignidade da pessoa humana.
Prevenção de Deepfakes
As instituições destacam que testes realizados apontam o uso ilegal da ferramenta para a produção de deepfakes, técnica que cria imagens falsas, geralmente com conotação sexual, envolvendo pessoas reais.
Dever de Cuidado dos Provedores
De acordo com o documento, a retirada de conteúdos deve ser executada, mesmo com o artigo 19 do Marco Civil da Internet, que limita a responsabilidade dos provedores, devido à interação entre usuários e a ferramenta de inteligência artificial.
Decisão do STF
Recentemente, o Supremo Tribunal Federal (STF) declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, enfatizando que provedores têm o dever de adotar medidas para evitar a circulação de conteúdos prejudiciais.
Política de Autorregulação do X
A política de autorregulação do X proíbe a publicação de imagens ou vídeos explícitos sem consentimento, tornando insustentável a disponibilização de uma ferramenta de inteligência artificial sem filtros rigorosos.
Consequências do Não Cumprimento
Caso as recomendações não sejam acatadas ou implementadas de forma insuficiente, outras medidas poderão ser tomadas para assegurar a proteção de dados e a dignidade das pessoas envolvidas.
