Por que a China considera uma ameaça a IA que imita as relações humanas

AI Summary

China has introduced extensive regulations restricting AI companions that engage in prolonged emotional interactions with people, citing concerns about manipulation and substitution for human relationships. The report also describes cooperation between Douyin and authorities to identify and intervene in suicide-risk cases, raising questions about public safety, surveillance, and state control.

'Terceirizar' a vida para a IA pode ser um problema? Importante: esta reportagem contém descrições de tentativas de suicídio. No início de 2024, um jovem da cidade de Huangshi, no sudeste da China, publicou uma mensagem no aplicativo Douyin, a versão chinesa do TikTok. A legenda dizia: "Adeus a este mundo." Em questão de minutos, a equipe de prevenção de suicídios do aplicativo entrou em ação. Ativa 24 horas por dia, ela compartilhou as postagens do jovem com cinco delegacias da cidade. 🗒️ Tem alguma sugestão de reportagem? Envie para o g1 Depois de geolocalizar um dos seus vídeos em um parque local, a polícia o encontrou em estresse emocional e interveio antes que ele conseguisse tirar a própria vida. Esta história faz parte de um documentário produzido pelo Douyin e publicado na imprensa estatal chinesa no ano passado. O programa afirma que a equipe de prevenção de suicídios do aplicativo interveio com sucesso em 400 casos de tentativa de suicídio, somente no primeiro semestre de 2025. Por que a China considera uma ameaça a IA que imita as relações humanas LightRocket via Getty Images (BBC) O episódio oferece uma ideia do nível de cooperação entre as empresas chinesas de tecnologia e o governo do país. E também serve para mostrar a arquitetura de vigilância construída pela China para monitorar e controlar como as pessoas usam a tecnologia. No dia 15 de julho deste ano, este controle foi estendido para o campo dos relacionamentos de inteligência artificial (IA). Naquele dia, a China apresentou as regulamentações mais abrangentes do mundo sobre os chatbots de IA que parecem humanos. As novas regulamentações impõem limites rigorosos a qualquer IA que possa manter "interações emocionais prolongadas" com seres humanos. Xi Jinping e Donald Trump se reuniram nos Estados Unidos no final de setembro Bloomberg via Getty Images (BBC) O presidente dos Estados Unidos, Donald Trump, e seu homólogo chinês, Xi Jinping, se reuniram no final de setembro, em meio a graves alertas de que a IA poderá levar à extinção da humanidade. Após a reunião, segundo Pequim, os dois presidentes concordaram em lançar um novo diálogo sobre a IA. Novas discussões ficaram marcadas para o fim de novembro. Mas, aparentemente, a China já reconheceu outro risco existencial, que traz preocupações menos imediatas com o fim da humanidade: o poder da IA de substituir os relacionamentos humanos. Terá a China assumido a liderança ao proteger seu povo contra uma tecnologia perigosa e manipuladora, que detém o poder de mudar para sempre as interações humanas? Ou o Partido Comunista Chinês está se intrometendo na vida particular das pessoas, como tentativa de exercer maior controle sobre a população do país? 'Serviços emocionais' Até a entrada da regulamentação em vigor, o alcance dos chamados "companheiros de IA" era imenso. Existem cerca de 128 milhões de usuários mensais ativos de aplicativos de companhia por IA fora da China, segundo a empresa de inteligência de mercado Sensor Tower. E a maior parte das estimativas calcula o número dentro da China entre 29 e 70 milhões de pessoas. Quando o governo chinês publicou o texto da regulamentação, no final do ano passado, "houve uma enorme discussão nas redes sociais", segundo a pesquisadora de IA Zilan Qian, do centro de estudos Laboratório de Política Chinesa de Oxford, no Reino Unido. "Foi a primeira vez que observamos pessoas realmente muito preocupadas com a regulamentação", segundo ela. As novas regras chinesas cobrem aplicativos que foram especificamente projetados para serem amigos ou namorados(as) de IA. Mas elas também se aplicam a qualquer grande modelo de linguagem que imite a forma de interação humana. O texto da regulamentação é vago. Teoricamente, os equivalentes chineses da IA de uso geral, como o Copilot ou ChatGPT, poderão ser enquadrados nestas regras, se a pessoa interagir com eles como amigo ou amante e procurá-los em busca de apoio emocional. E é o que muitas pessoas fazem. Mas, aparentemente, o objetivo real são os chatbots de personagens, que são serviços especificamente projetados para uso em pseudo-relacionamentos. Existem centenas destes aplicativos. Eles permitem que as pessoas criem um namorado, namorada, amigo ou até um familiar de IA. As regras não se aplicam a casos como robôs de atendimento ao consumidor ou IA para educação, desde que não forneçam "cuidado, companhia, apoio e outros serviços emocionais". Já para as crianças, a regulamentação é mais clara. Menores de 14 anos precisam de consentimento dos pais para usar qualquer tipo de IA que fale como um ser humano, o que poderá incluir assistentes de IA como o aplicativo chinês DeepSeek, similar ao ChatGPT. Todos os menores de 18 anos estão impedidos de ter acesso a parceiros, cônjuges e até parentes virtuais, bem como qualquer outro "relacionamento íntimo" virtual. Na China, a polícia mantém trabalho próximo com as empresas responsáveis pelas redes sociais AFP via Getty Images (BBC) Para os adultos, embora parte do texto