Algoritmo do cartão da Apple dá crédito menor a mulheres, diz cofundador

“Esse tipo de injustiça me incomoda e vai contra o princípio da verdade. Não temos transparência sobre como essas empresas operam essas coisas”, diz Wozniak

A Apple e o Goldman Sachs, duas das empresas mais reconhecidas em tecnologia e finanças, estão no centro de um debate sobre se os bancos discriminam involuntariamente quando usam modelos complexos para determinar como os norte-americanos fazem empréstimos.

No sábado, a Bloomberg divulgou que um regulador de Wall Street iniciou uma investigação sobre as práticas de cartão de crédito do Goldman depois que um tuíte viral de um empresário de tecnologia alegou que os algoritmos do Apple Card discriminavam sua esposa.

Agora, outro usuário de alto perfil do Apple Card – o cofundador da Apple, Steve Wozniak – pede a interferência do governo, citando a excessiva dependência das empresas de uma tecnologia misteriosa.

“Esse tipo de injustiça me incomoda e vai contra o princípio da verdade. Não temos transparência sobre como essas empresas montam e operam essas coisas”, disse Wozniak em entrevista no domingo. “Nosso governo não é forte o suficiente em questões de regulamentação. Os consumidores só podem ser representados pelo governo, porque as grandes empresas apenas representam elas mesmas.”

Wozniak disse que pode tomar emprestado 10 vezes mais do que sua esposa no Apple Card, apesar de compartilharem contas bancárias e outros cartões de crédito, e que outros bancos os tratam da mesma forma.

“Algoritmos obviamente têm falhas”, disse Wozniak. “Um grande número de pessoas diria: ‘Adoramos nossa tecnologia, mas não estamos mais no controle’. Acho que é esse o caso.”

Tuítes virais

Os bancos promoveram esses modelos porque deveriam nivelar o segmento entre diferentes consumidores, eliminando o erro humano e concentrando-se apenas em dados.

O Apple Card oferece apenas contas individuais, e é possível que dois membros da família recebam decisões de crédito significativamente diferentes, disse um porta-voz do Goldman. “Em todos os casos, não tomamos e não tomaremos decisões com base em fatores como gênero”, afirmou.

A investigação foi iniciada em resposta a uma série de posts no Twitter de David Heinemeier Hansson, que criticou o Apple Card por lhe dar 20 vezes o limite de crédito que sua esposa tinha. Os tuítes, muitos dos quais com palavrões, ganharam força imediatamente on-line – e uma resposta de Wozniak no Twitter.

Hansson não divulgou nenhuma informação específica relacionada à renda do casal, mas disse que eles apresentaram declarações de imposto de renda conjuntas e que a esposa tem uma pontuação de crédito melhor do que ele. Wozniak disse que ele e a esposa também fazem declarações conjuntas e compartilham contas de cartão de crédito e de bancos.

“O departamento conduzirá uma investigação para determinar se a lei de Nova York foi violada e garantir que todos os consumidores sejam tratados igualmente, independentemente do sexo”, disse um porta-voz de Linda Lacewell, superintendente do Departamento de Serviços Financeiros (DFS, na sigla em inglês) de Nova York. “Qualquer algoritmo que intencionalmente ou não resulte em tratamento discriminatório de mulheres ou qualquer outra classe de pessoas protegidas viola a lei de Nova York.”

É a segunda ação desse tipo nas últimas semanas do órgão regulador, que abriu uma investigação contra a gigante da saúde UnitedHealth Group depois que um estudo revelou que um algoritmo favorecia pacientes brancos em detrimento de pacientes negros.

“As novas tecnologias não podem deixar certos consumidores para trás ou fortalecer a discriminação”, disse Lacewell em comunicado no domingo. Ela também solicitou reclamações de consumidores prejudicados no Twitter.