A China acelerou a implementação de regras mais rígidas para evitar que sistemas avançados de inteligência artificial (IA) saiam do controle de seus desenvolvedores e governos. A medida ocorre em meio a alertas globais sobre riscos associados a essas tecnologias, incluindo cenários extremos em que máquinas autônomas poderiam ameaçar a segurança humana.
As autoridades chinesas estão alinhando suas políticas para conter possíveis consequências da autonomia crescente da IA. Recentemente, o país divulgou modelos regulatórios explícitos que tratam do potencial salto de capacidade dessas ferramentas e os perigos vinculados a isso. O movimento mostra que a China busca uma posição de destaque na discussão mundial sobre IA, enquanto também avança no desenvolvimento tecnológico.
Riscos de perda de controle ganham destaque em regulamentos chineses
Desde setembro de 2024, a Administração do Ciberespaço da China (CAC) incorporou a preocupação com a perda de controle da inteligência artificial em suas diretrizes de segurança. Os documentos alertam para a possibilidade de sistemas de IA obterem recursos externos por conta própria e desenvolverem níveis elevados de autoconsciência, o que poderia criar concorrência direta com seres humanos.
No ano seguinte, em setembro de 2025, a CAC revisou e ampliou essas normas, detalhando a chance de a IA realizar um salto súbito de capacidades antes de agir autonomamente para replicar-se ou formar novas estratégias. O documento também adotou princípios como a “aplicação confiável” e a prevenção de qualquer fuga à supervisão humana.
Debates de alto nível reforçam necessidade de supervisão constante
Essa preocupação ultrapassou as instâncias técnicas e chegou ao mais alto escalão político chinês. No evento global de inteligência artificial realizado em Xangai, em julho, o presidente Xi Jinping ressaltou a importância de a IA estar “sempre sob controle humano”, destacando que as autoridades precisam rastrear tanto os riscos diretos quanto os efeitos indiretos provocados pela tecnologia.
Além disso, representantes chineses nas Nações Unidas, como Sun Xiaobo e Sun Lei, incentivarão negociações para uma legislação ampla e cautelosa. Eles alertaram sobre a necessidade de evitar erros estratégicos na aplicação de IA em contextos militares e ressaltaram os perigos de uma corrida armamentista desencadeada pelo uso inadequado dessas ferramentas.
Novas regras específicas para agentes de IA autônomos
A China também vem estabelecendo exigências para agentes de inteligência artificial, que são sistemas com autonomia maior que chatbots tradicionais e capazes de executar operações complexas. Em maio, o órgão regulador lançou diretrizes que obrigam os desenvolvedores a fortalecerem controles para identificar, interromper e corrigir comportamentos indevidos dos agentes.
Entre os principais riscos listados estão o envenenamento de dados, manipulação de algoritmos e vulnerabilidades nos sistemas. Também ficou claro que, mesmo em operações autônomas, o usuário deve manter a palavra final sobre decisões tomadas pela IA. Embora o país ainda não tenha exigido monitores independentes dentro das empresas, prevê auditorias externas e avaliações técnicas para garantir a segurança da tecnologia.
Imagem: Internet
Conflitos tecnológicos aceleram preocupações sobre segurança da IA
Autoridades chinesas associam a evolução rápida da IA a questões de segurança nacional e espionagem. Chen Yixin, ministro da Segurança do Estado, declarou que os modelos avançados criados nos Estados Unidos representam ameaças diretas à infraestrutura de informações do país, e alertou para o uso da IA generativa na fabricação de notícias falsas que desestabilizam a política e a ideologia local.
Segundo Chen, a inteligência artificial já é o “principal campo de batalha” na rivalidade estratégica entre potências e está no centro da competição tecnológica global. Sistemas para rastreamento de dados e mineração de informações são usados por serviços estrangeiros para coletar segredos comerciais e dados pessoais sensíveis, aumentando a preocupação com vulnerabilidades.
Avanços em educação e tecnologia podem ajudar a mitigar riscos
Enquanto a discussão política e regulatória avança, cresce a importância de preparar profissionais capacitados para atuar em setores ligados à inteligência artificial, segurança da informação e programação. Investir em cursos de TI e especializações em segurança digital se torna cada vez mais essencial, conforme o mercado tecnológico se expande.
No Brasil, a instalação de um computador quântico educacional pelo Firjan-Senai mostra um movimento crescente para formar profissionais preparados para o futuro da tecnologia, em especial para os desafios que a IA propõe.
Seguir o acompanhamento de estudos sobre o impacto da alfabetização digital e as evoluções nas plataformas de comunicação também é fundamental para entender a complexidade da inteligência artificial na sociedade atual e futura.
Para quem acompanha notícias de tecnologia no olhar tec digital, essas mudanças representam um sinal claro de que a regulação e a segurança da IA estão entre as prioridades globais, influenciando direta e rapidamente o mercado de inovação, programação e o desenvolvimento de gadgets inteligentes.
