O controverso avanço da China em inteligência artificial

Empresas como a iFlyTek funcionam como um exemplo das ambições do país e das possibilidades distópicas mais obscuras da tecnologia

Pequim – Durante a visita do presidente Donald Trump a Pequim, ele apareceu nas telas fazendo um discurso especial em uma conferência de tecnologia. Primeiro, falou em inglês. Depois mudou para o mandarim.

Trump não fala chinês. O vídeo foi um truque publicitário, projetado para mostrar as potencialidades da iFlyTek, uma empresa de inteligência artificial chinesa dona de tecnologias inovadoras e de ligações complicadas com a segurança do estado chinês. A iFlyTek afirmou que sua tecnologia consegue monitorar um carro ou uma sala cheios de gente, identificar a voz de um alvo e gravar tudo o que aquela pessoa diz.

“A iFlyTek é realmente fantástica”, afirmou a imagem de Trump em chinês.

Enquanto a China testa as fronteiras da inteligência artificial, a iFlyTek funciona como um exemplo convincente das ambições de ficção científica do país e das possibilidades distópicas mais obscuras da tecnologia.

A companhia chinesa usa inteligência artificial sofisticada para alimentar sistemas de reconhecimento de imagem e voz que podem ajudar médicos em seus diagnósticos, auxiliar professores na hora de dar notas em testes e fazer com que motoristas controlem seus carros usando apenas palavras. Até mesmo algumas empresas globais estão impressionadas: a Delphi, principal fornecedora de peças para automóveis dos Estados Unidos, oferece tecnologia da iFlyTek para montadoras da China, enquanto a Volkswagen planeja utilizar a tecnologia de reconhecimento de voz da companhia chinesa em vários de carros feitos naquele país no ano que vem.

Enquanto isso, a iFlyTek hospeda um laboratório para desenvolver habilidades de vigilância de voz para as forças de segurança domésticas da China. Em um relatório de outubro, um grupo de direitos humanos disse que a empresa estava ajudando as autoridades a produzir um banco de dados biométrico de vozes de cidadãos chineses que poderia sem usado para rastrear ativistas e outras pessoas.

Esses vínculos próximos com o governo podem dar à iFlyTek e a outras companhias chinesas uma vantagem em um campo emergente. Segundo especialistas, o apoio financeiro da China e as leis de privacidade ignoradas e não testadas emprestam às empresas chinesas recursos consideráveis e acesso a vozes, imagens de faces e outros dados biométricos em vastas quantidades, o que pode ajudá-las no desenvolvimento de suas tecnologias.

“A China não tem as leis de privacidade rígidas que as companhias ocidentais possuem e os cidadãos chineses não são contra ter seus dados coletados, já que (possivelmente) o monitoramento feito pelo governo é um fato no país”, escreveram analistas da firma de pesquisas Sanford C. Bernstein em um relatório divulgado em novembro.

As empresas chinesas algumas vezes ganham dos rivais estrangeiros. A iFlyTek venceu competições importantes de reconhecimento de discurso e tradução. Dois anos antes da Microsoft, o Baidu, a companhia chinesa de buscas pela internet, criou um software capaz de igualar as habilidades humanas de entender a fala. Este ano, a startup Yitu, de Xangai, ficou em primeiro lugar em um concurso importante de reconhecimento facial organizado pelo governo dos Estados Unidos.

A iFlyTek e outras companhias chinesas dizem que seguem as leis do país e protegem os dados dos usuários. Mas elas concordam que o grande número de usuários ali, além do impulso determinado do governo de dominar a nova tecnologia, coloca-as em vantagem.

“A China entrou na era da inteligência artificial ao mesmo tempo que os Estados Unidos. Mas dada a vantagem da quantidade de usuários e do governo social, a IA vai se desenvolver mais rapidamente e se espalhar daqui para o mundo”, disse Liu Qinfeng, presidente da iFlyTek, em uma conferência em Pequim.

Uma assessora da iFlyTek afirmou que a empresa ainda precisa receber a permissão pedida a autoridades de Anhui, a província chinesa onde fica sua sede, para poder falar com a imprensa estrangeira.

A iFlyTek é retratada na imprensa chinesa como uma inovadora na tecnologia e uma aliada do governo. No ano passado, a iFlyTek ajudou a prevenir a perda de cerca de US$75 milhões em fraudes nas telecomunicações ajudando a polícia a encontrar golpistas, segundo o Global Times, tabloide nacionalista controlado pelo Partido Comunista. O artigo cita um oficial de segurança chinês explicando que coletar padrões de voz é como pegar impressões digitais ou gravar pessoas com câmeras de circuito fechado de televisão, ou seja, para ele a prática não viola a privacidade dos cidadãos.

“Trabalhamos com o Ministério de Segurança Pública para identificar criminosos”, afirmou Liu Junfeng, gerente geral dos negócios automotivos da empresa, em uma conferência em setembro.

Não está claro onde a iFlyTek consegue seus dados. Mas um de seus donos é a China Mobile, gigante de redes de celulares controlada pelo estado, que possui mais de 800 milhões de assinantes. A iFlyTek coloca seus produtos em milhões de celulares da empresa e administra o serviço de linha direta da China Mobile, que não respondeu aos pedidos de comentários.

“Dados são ouro. Hoje em dia não é possível projetar um sistema robusto de reconhecimento de nada sem eles”, explica Anil Jain, professor que estuda biometria na Universidade Estadual de Michigan.

Os carros podem ser outro mercado importante, acredita a iFlyTek. A China está sendo pioneira no desenvolvimento de veículos autodirigidos, que vão depender fortemente da tecnologia de voz. Em setembro, a iFlyTek lançou um novo produto, um elipsoide incandescente para ser colocado em um painel que ouve as questões sobre o que deve verificar on-line, como uma Siri funcionando em um carro.

“Temos que entender se o carro é nosso amigo, se há uma conexão emocional”, disse Liu.

Por meio de um fornecedor externo, no ano que vem, algumas centenas de milhares dos quatro milhões de automóveis que o Grupo Volkswagen vende na China anualmente serão equipados com a tecnologia de reconhecimento de voz da iFlyTek, afirma Christoph Ludewig, assessor da montadora alemã. A Volkswagen diz que exige que todos os dados recolhidos de seus motoristas sejam anônimos.

“A Volkswagen vai proteger seus clientes do mau uso de seus dados”, garantiu Ludewig.

A Delphi, gigante de peças automotivas dos Estados Unidos, afirmou que possui um acordo com a iFlyTek para oferecer os serviços da empresa na China, mas não quis revelar mais detalhes.

Liu, o chefe dos negócios automotivos da iFlyTek, afirmou que os sistemas da companhia seriam instalados no ano que vem em alguns Jeeps vendidos na China e que a empresa estava desenvolvendo um sistema de voz com a Daimler, dona da marca Mercedes-Benz. A FiatChrysler, dona da Jeep, disse que não encontrou nenhum de seus fornecedores usando a iFlyTek. Um assessor da Daimler garantiu que a companhia participa de conversas regularmente com fornecedores em potencial, mas não revelou se a iFlyTek era um deles.

Grupos de direitos humanos se preocupam a possibilidade de que essas capacidades que estão sendo desenvolvidas tão rapidamente sejam usadas de modo abusivo pelo governo autocrático da China.

“O governo chinês vem colecionando padrões de voz de dezenas de milhares de pessoas com pouca transparência sobre o programa ou as leis que regulam quem pode se tornar alvo ou como essa informação vai ser usada”, escreveu Sophie Richardson, diretora do Observatório de Direitos Humanos na China, em um relatório divulgado em outubro.

Em sua sede na província de Anhui, a iFlyTek já montou um banco de dados com 70 mil padrões de voz, segundo o relatório, que também diz que a polícia começou coletando gravações de padrões de voz da mesma maneira que coleciona impressões digitais. O relatório cita como exemplo três mulheres suspeitas de serem trabalhadoras sexuais cujas vozes foram registradas no banco de dados, em parte porque elas foram presas em Anhui.

A imprensa de Anhui também relatou um novo plano para escanear automaticamente as chamadas de celulares para obter impressões de voz de criminosos procurados e alertar a polícia se eles forem detectados.

A iFlyTek não respondeu aos pedidos de comentários sobre o relatório do Observatório dos Direitos Humanos, mas afirmou que seus esforços de coleta de dados não vão parar, principalmente enquanto ela participa do esforço da China para desenvolver carros autodirigidos.

“Estamos sempre falando de big data – os veículos produzem várias imagens todos os dias”, disse Liu, o executivo automotivo da iFlyTek.

The New York Times News Service/Syndicate – Todos os direitos reservados. É proibido todo tipo de reprodução sem autorização por escrito do The New York Times.

Paul Mozur e Keith Bradsher © 2017 New York Times News Service