A Secretaria Nacional de Direitos Digitais (Sedigi), do Ministério da Justiça e Segurança Pública (MJSP), encaminhou pedidos de investigação à Agência Nacional de Proteção de Dados (ANPD) e à Secretaria Nacional do Consumidor (Senacon) contra aplicativos de inteligência artificial que simulam amizades e relacionamentos com os usuários.
Em nota técnica divulgada nesta terça-feira, a Sedigi analisou os riscos da exposição de crianças e adolescentes a esses chatbots. O documento aponta ameaças como o apego intenso, a substituição de vínculos humanos por máquinas e a exposição a conteúdos inadequados. Entre os danos citados estão a privação de sono, a queda no desempenho escolar e o afastamento de relações presenciais.
A análise indica que os sistemas utilizam conversas personalizadas e memória persistente para simular responsividade emocional. Segundo a Sedigi, a tecnologia pode gerar dependência psicológica, confusão entre ficção e realidade e a coleta de informações íntimas. O órgão afirma que os aplicativos são acessíveis no mercado brasileiro e apresentam riscos específicos devido à capacidade de produzir inferências sobre estados emocionais dos usuários.
O secretário nacional de Direitos Digitais do MJSP, Victor Oliveira Fernandes, informou que a ANPD deve avaliar os riscos à luz do Estatuto Digital da Criança e do Adolescente (ECA Digital). Já a Senacon analisará a prestação de serviço e possíveis práticas comerciais enganosas ou exploratórias, especialmente em relação à publicidade, monetização e perfilamento de menores.
A nota técnica aponta que a maioria dos sistemas possui fragilidades na verificação de idade, dependendo apenas da autodeclaração do usuário. Essa prática é proibida pela legislação brasileira quando o serviço oferece conteúdo inadequado para menores de 18 anos.
Estão entre os chatbots analisados as plataformas Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI. Os serviços variam entre a criação de personagens, trocas de mensagens de voz e chamadas de vídeo.
