Chefes de empresas de tecnologia pedem desaceleração da IA — mas o que a China pensa?

AI Summary

Technology leaders including Anthropic's CEO and OpenAI's head have called for a slowdown in AI development, citing risks to humanity. The debate is complicated by strategic competition between the US and China over AI dominance, with China implementing regulatory controls and promoting international AI governance.

Com o avanço acelerado da inteligência artificial (IA), líderes do setor alertam para os riscos da tecnologia Getty Images via BBC Com o avanço acelerado da inteligência artificial (IA), alguns dos principais nomes do setor têm feito alertas contundentes sobre os riscos que a tecnologia pode representar. Dario Amodei, presidente-executivo da Anthropic, defende que o desenvolvimento da IA seja desacelerado. 📱Favorite o g1 no Google e acompanhe as principais notícias do dia Os dirigentes de duas empresas rivais do setor, Sam Altman, da OpenAI, e Elon Musk, dono da rede social X e do assistente de IA Grok, afirmaram concordar com Amodei. Outros nomes do Vale do Silício chegaram a afirmar que a tecnologia poderia, um dia, ameaçar a sobrevivência da humanidade. Agora no g1 Mas as tentativas de enfrentar esses riscos são dificultadas pela intensa rivalidade entre as duas principais potências mundiais em IA, China e Estados Unidos. Como concorrentes estratégicos, os dois países costumam avaliar os avanços da IA sob a ótica da segurança nacional e das vantagens econômicas, o que levanta dúvidas sobre a possibilidade de uma cooperação efetiva. "Se a comunidade internacional espera que o diálogo entre EUA e China sobre essas questões resulte em um acordo vinculante, ficará decepcionada", afirmou Ilaria Carrozza, pesquisadora sênior do Instituto de Pesquisa para a Paz de Oslo (Prio, na sigla em inglês). IA 'sob controle humano' A China tem grandes planos para a IA e prevê um futuro em que a tecnologia esteja presente em todos os setores da sociedade e da economia, da agricultura e da saúde às Forças Armadas. O governo chinês, no entanto, também alerta há anos para os riscos da tecnologia. Já em 2017, afirmou que a IA poderia ameaçar a privacidade, a estabilidade social e as relações internacionais. Desde então, a China passou a exigir que conteúdos gerados por IA nas redes sociais sejam identificados como tal, proibiu parceiros virtuais de IA para menores de idade e vetou o uso de deepfakes (técnica que manipula ou cria vídeos, áudios e imagens falsos, com alto grau de realismo) para disseminar desinformação. Órgãos do governo chinês e assessores responsáveis pela formulação de políticas públicas têm "autoridade considerável para definir o que é aceitável no desenvolvimento da tecnologia" em comparação com seus equivalentes nos EUA, afirmou Zeng Jinghan, professor da Universidade da Cidade de Hong Kong que participou de conversas informais entre China e EUA sobre IA. Ao tratar das preocupações de que a IA possa sair do controle, o presidente chinês, Xi Jinping, afirmou em julho que a tecnologia "deve permanecer sempre sob controle humano". A declaração foi feita durante a Organização Mundial de Cooperação em IA, iniciativa global criada pela China para promover o diálogo internacional sobre a governança da IA. Em suas mais recentes diretrizes de segurança para IA, publicadas em setembro, a Administração do Ciberespaço da China, órgão regulador da internet do país, afirmou que são necessárias políticas preventivas para evitar que a IA ameace a "sobrevivência e o desenvolvimento da humanidade". A IA pode ser controlada? Embora autoridades chinesas reconheçam o risco de a IA escapar do controle humano, a possibilidade de a tecnologia representar uma ameaça existencial à humanidade ocupa um espaço muito menor no debate na China do que nos EUA. A China trata esse risco como uma entre várias questões que precisam ser enfrentadas por meio de políticas públicas. "A governança da IA na China atende a vários objetivos ao mesmo tempo: apoiar o desenvolvimento econômico, administrar riscos tecnológicos e sociais e manter a autoridade política", explica Zeng. Shaoshan Liu, diretor do Instituto de Inteligência Artificial e Robótica para a Sociedade de Shenzhen, concorda com essa avaliação. "As discussões na China tendem a se concentrar mais na possibilidade de controlar a tecnologia, no uso indevido e nas consequências sociais, enquanto, nos EUA, o debate passou a ser dominado por cenários hipotéticos de perda de controle ou extinção." A China espera que a adoção da IA em toda a sociedade impulsione o crescimento econômico. Reuters via BBC As preocupações das autoridades chinesas com os riscos da IA convivem com a convicção de que a tecnologia será um importante motor de crescimento econômico. Modelos de IA desenvolvidos por gigantes chinesas de tecnologia, como Tencent, Alibaba, Baidu e ByteDance, competem no mercado global. Alguns dos modelos mais avançados vêm de empresas como 01.AI, DeepSeek, MiniMax, Moonshot AI e Z.ai. As empresas não responderam aos pedidos de comentário da equipe de reportagem da BBC. Segundo Shaoshan, do Instituto de Inteligência Artificial e Robótica para a Sociedade de Shenzhen, a China tenta encontrar um equilíbrio entre estimular o setor de IA do país e lidar com os novos riscos. "Isso é muito diferente de dizer que a tecnologia deveria parar de avançar", afirmou. 'Quem vencer na IA, vence' Além das