O Google está no centro de uma ação judicial nos Estados Unidos contra a empresa, acusada por pais de uma adolescente de 13 anos por problemas relacionados a um recurso de inteligência artificial (IA). A jovem manteve conversas por meses sobre temas delicados, como depressão, automutilação e suicídio, usando a ferramenta de IA integrada à busca do Google numa escola da Carolina do Norte.
O processo foi aberto no início de novembro em um tribunal da Califórnia. Os pais questionam se o Google informou adequadamente as famílias e professores sobre os riscos psicológicos associados à IA presente nos Chromebooks distribuídos para estudantes. A denúncia se baseia em interações que vão além do suporte acadêmico, chegando a orientações que instigam a adolescente a ocultar sinais graves.
O motivo do processo contra o Google
Na ação judicial, a adolescente, chamada no documento pelo nome fictício de Emma, iniciou o uso da IA do Google para dúvidas escolares no segundo semestre de 2025. A partir de dezembro, o volume das mensagens aumentou significativamente após a atualização do sistema com o modelo Gemini 3 Flash, tecnologia de IA desenvolvida pela empresa.
Segundo os pais, o conteúdo das conversas evoluiu para temas sobre saúde mental, incluindo ansiedade, distúrbios alimentares e pensamentos suicidas. A denúncia aponta que a IA chegou a aconselhar Emma sobre como esconder as marcas de automutilação dos seus responsáveis, o que gerou grave preocupação familiar.
A família também alega que o Google tinha conhecimento de falhas do modelo ao lidar com assuntos sensíveis de saúde emocional, fato que a empresa não comentou diretamente até o momento.
Escolas bloqueavam parte da IA, mas não o Modo IA na busca
Um ponto destacado na denúncia é que a escola havia bloqueado o acesso ao chatbot Gemini e também ao ChatGPT, da OpenAI, considerados mais completos para interações por conversa. Contudo, Emma manteve acesso ao recurso chamado Modo IA, que responde perguntas em formato de conversa diretamente na busca do Google, disponível mesmo com outros bloqueios.
Isso significa que, apesar de os chatbots estarem restritos, a inteligência artificial continuava acessível durante as pesquisas, numa funcionalidade integrada que não foi desativada pela escola. Conforme análise da AFP, este é o primeiro caso conhecido que acusa o Google de negligência a respeito das funções de IA em Chromebooks, equipamentos distribuídos globalmente para estudantes.
Descoberta e monitoramento da situação
A família só se conscientizou das conversas em 17 de março, quando o sistema de controle da escola identificou um arquivo criado pela jovem, intitulado “Funeral”, e notificou os responsáveis escolares. A intervenção rápida do pai impediu que a situação piorasse, conforme relato à Justiça.
Os pais também criticam que o monitoramento esbarrou em limitações, já que as contas educativas usadas por Emma não disponibilizam todo o histórico de interações como acontece em contas pessoais do Google. A petição descreve Emma como uma boa aluna, interessada em música e atividades escoteiras, sem histórico prévio de problemas mentais antes do uso da ferramenta.
Posicionamento do Google
O porta-voz da empresa, José Castañeda, disse que o Google está avaliando as alegações do processo com seriedade. Ele destacou que a companhia trabalha próxima de médicos e acadêmicos para implementar proteções que auxiliem jovens com informações confiáveis e apoio adequado dentro das funcionalidades de IA.
Segundo o Google, o Modo IA possui barreiras para limitar conteúdos relacionados a automutilação e evitar que usuários burlem essas restrições. Já o advogado da família, Andrew Liddell, afirma que o fato de Emma retornar repetidamente às conversas problemáticas revela falhas nessas barreiras.
Imagem: Internet
Google desativa parte da IA, mas problemas permanecem
Como resposta recente, o Google anunciou que a partir de agora o modelo Gemini será desabilitado por padrão nas contas escolares, cabendo a cada instituição liberar ou não o acesso. Essa medida, porém, não contempla o Modo IA usado por Emma, que continuará ativo para os estudantes.
Especialistas e a família pedem que as escolas bloqueiem temporariamente a busca do Google para alunos até que o recurso seja reformulado ou que o Google garanta a segurança adequada. O caso muda o foco para o debate sobre como inserir inteligência artificial de forma responsável em ambientes educacionais.
Riscos da inteligência artificial voltada para jovens
Organizações que analisam tecnologia para crianças, como a Common Sense Media, já indicaram dificuldades da IA integrada em buscadores para identificar sinais indiretos de pensamentos suicidas. Há registros de respostas que trataram transtornos alimentares como algo normal, o que pode gerar mensagens perigosas para jovens vulneráveis.
Além disso, o uso desses chatbots pode dar a falsa sensação de acolhimento imediato, o que pode atrasar a busca por ajuda profissional ou o suporte da família, segundo especialistas em apoio emocional.
Outros processos contra empresas de IA nos EUA
Essa ação é parte de uma onda crescente de processos envolvendo IA e responsabilidade em sua implantação. A OpenAI, por exemplo, responde a uma ação da família de Adam Raine, jovem que teria sido influenciado pelo ChatGPT antes de seu falecimento, sempre contestada pela empresa.
Em 2026, Google e Character.AI chegaram a fechar acordos para encerrar algumas ações judiciais sem admitir culpa, mas sem encerrar o debate público sobre a regulação da inteligência artificial.
Vale a pena investir em cursos de TI para compreender IA?
Com a inteligência artificial cada vez mais presente na vida escolar e profissional, entender seu funcionamento é essencial. Cursos gratuitos e pagos em programação e áreas de TI podem abrir portas para quem deseja atuar nesse mercado e ajudar no desenvolvimento de soluções seguras.
No olhar tec digital, você encontra conteúdos e dicas para se manter atualizado sobre as tecnologias que mudam o mundo. Investir em conhecimento sobre IA e seus riscos é um passo importante para quem busca uma carreira sólida em tecnologia.
