O fundador da equipe de confiança e segurança do Google pediu nesta semana uma desaceleração no desenvolvimento da IA (inteligência artificial), diante dos riscos que o avanço da tecnologia pode representar para crianças. Ele alertou que o setor está repetindo erros da era das redes sociais, potencialmente causando danos ainda maiores aos jovens.
“Estamos em uma situação realmente terrível em relação ao que a IA está fazendo com as crianças”, disse Tom Siegel, ex-vice-presidente de confiança e segurança do Google. “A ideia de que o setor vai resolver isso sozinho, sem ajuda externa, é irrealista.”
Siegel anunciou que se juntou à Common Sense Media, organização sem fins lucrativos criada em 2003 que atua na defesa de crianças no ambiente digital. Em maio, a entidade lançou o Youth AI Safety Institute (Instituto de Segurança em IA para Jovens), do qual Siegel será o primeiro diretor-executivo. Anthropic e OpenAI Foundation estão entre os financiadores do instituto.
Ele trabalhou no Google entre 2004 e 2019, mas deixou a empresa depois de concluir que o setor de tecnologia estava “estagnado” em sua capacidade de criar ambientes on-line seguros para os consumidores. Em seguida, cofundou a TrustLab, startup que desenvolvia ferramentas para detectar ameaças à segurança, antes de deixar o cargo de CEO no início deste mês.
Segundo Siegel, grandes empresas de IA estão disponibilizando recursos para crianças sem estabelecer proteções suficientes. “Acho que estamos diante de cenários de danos muito, muito graves”, afirmou. Ele citou riscos que vão de suicídio e psicose à chamada “descarga cognitiva”, termo usado para descrever a redução da capacidade de pensamento crítico provocada pela dependência da IA.
Anthropic e OpenAI poderiam adotar mecanismos mais rigorosos de verificação de idade para impedir que crianças abaixo da idade permitida acessem seus chatbots, afirmou. Seu antigo empregador, o Google, também poderia implementar facilmente uma opção para desativar o AI Overviews e o AI Mode em seu mecanismo de busca, acrescentou.
Questionado sobre os comentários, um porta-voz do Google afirmou que os pais têm controles para desativar completamente o acesso de uma criança ao mecanismo de busca. Um porta-voz da OpenAI afirmou que a empresa utiliza “sinais relacionados à conta e ao comportamento”, além da idade declarada pelo próprio usuário, para identificar usuários menores de idade.
Na Common Sense Media, Siegel disse que uma de suas prioridades será ampliar padrões independentes semelhantes aos testes de colisão realizados com automóveis, que mediriam os riscos de ferramentas de IA disponíveis ao público. Ele disse não ter certeza de que as empresas colaborarão, mas afirmou que a possibilidade é suficientemente alta para que tenha aceitado o cargo.
