Recentemente, a governadora de Nova York, Kathy Hochul, sancionou uma lei que restringe funcionalidades específicas de chatbots baseados em inteligência artificial para usuários com menos de 18 anos. A normativa proíbe que esses sistemas simulem relações humanas, promovam dependência emocional, incentivem comportamentos de risco ou gerem conteúdo sexualmente explícito para esse público.
Essa medida reforça uma tendência internacional de regulamentação do uso de IA, especialmente focada na proteção de crianças e adolescentes. Enquanto Nova York avança nessa linha, estados americanos como Califórnia e países como a China já aplicam regras parecidas para limitar o impacto dessas tecnologias na saúde mental e segurança dos jovens.
Os três estágios da regulamentação da inteligência artificial
Nos últimos anos, as legislações sobre inteligência artificial evoluíram em três etapas distintas. A primeira fase exigia transparência, obrigando que o sistema deixasse claro para o usuário que estava interagindo com uma máquina e não um humano.
Na segunda fase, surgiu a preocupação com a proteção emocional e física dos usuários, em especial menores de idade. Aqui, os sistemas precisam identificar situações de risco e impedir interações que prejudiquem a saúde mental ou o bem-estar, criando barreiras contra conteúdos nocivos.
Agora, estamos na terceira etapa, focada nos limites afetivos. As discussões giram em torno dos vínculos emocionais que um chatbot pode desenvolver com seus usuários e os perigos que isso pode representar para jovens vulneráveis.
Desafios na verificação de idade e acesso irrestrito
Um dos principais obstáculos para a aplicação dessa legislação está na verificação da idade dos usuários. Métodos tradicionais, como o simples clique em um botão afirmando ter mais de 18 anos, são facilmente burlados. Algumas plataformas testam a idade por meio das respostas dos usuários, mas isso pode falhar justamente na tentativa de controle do uso.
Outras empresas recorrem a tecnologias mais avançadas, como reconhecimento facial via selfie ou exigência do envio de documentos oficiais, como RG, CPF ou passaporte. Mesmo assim, o acesso imediato e sem cadastro a sistemas de IA, como o ChatGPT ou o Modo IA do Google, dificulta qualquer controle efetivo.
O uso da inteligência artificial por crianças e adolescentes
O acesso livre a inteligência artificial levanta questões sobre o impacto dessas ferramentas no desenvolvimento de jovens. Apesar de não haver consenso sobre os efeitos, há preocupação sobre a dependência que pode ser criada ao substituir interações humanas ou processos tradicionais de aprendizado.
Imagem: Internet
Um ponto importante é que as gerações atuais aprenderam a pesquisar, raciocinar e resolver problemas antes da popularização da IA, o que garante um desenvolvimento cognitivo saudável. A dúvida é se adolescentes que crescem tendo uma IA sempre disponível para conselhos e respostas imediatas conseguirão desenvolver autonomia e paciência para resolver suas próprias dificuldades.
Entender esse equilíbrio será fundamental para adaptar futuros cursos de TI e programação, que talvez precisem levar em conta as novas formas de aprendizado mediadas por inteligência artificial.
Legislação global e tendências em tecnologia e regulação
Além dos Estados Unidos e da China, vários países começam a debater e implementar restrições para sistemas de inteligência artificial. Esses movimentos buscam garantir que a evolução tecnológica seja acompanhada por mecanismos capazes de mitigar riscos, especialmente quando envolve público jovem.
Essa preocupação se alinha a lançamentos tecnológicos recentes, que incluem avanços em IA para diferentes setores. Por exemplo, a Meta lançou um app que usa inteligência artificial para montar looks personalizados, enquanto a Google integra IA gratuita ao Chrome, com a inovação funcionando até em modo offline. Essas tecnologias reforçam a importância de regulação responsável.
Vale a pena limitar funcionalidades de IA para menores?
A limitação de funcionalidades de inteligência artificial para menores é um passo importante para equilibrar inovação e segurança digital. Embora o controle sobre o acesso ainda enfrente desafios técnicos consideráveis, as legislações recentes sinalizam um avanço necessário para proteger os jovens.
É fundamental acompanhar como essa regulação impactará o desenvolvimento dos futuros profissionais de tecnologia e a criação de ferramentas que respeitem o público infantil sem restringir o aprendizado digital. O olhar do Olhar Tec Digital destaca a importância de um ambiente de tecnologia cuidadoso e consciente.
