O lado complicado da tecnologia

Overcomplicated: Technology at the Limits of Comprehension
Autor: Samuel Arbesman
Editora: Current. Páginas: 240

______

David Cohen

Em 1965, o matemático britânico I.J. Good especulou que em algum momento no futuro uma máquina pudesse ser capaz de construir outra máquina mais inteligente que ela. Isso daria início a um processo de “explosão de inteligência” que deixaria os humanos para trás.

Esse conceito, tão disseminado em filmes de ficção científica, como O Exterminador do Futuro e Matrix, para ficar nos mais apocalípticos, costuma ser resumido pelo termo “singularidade”: um ponto tão peculiar que a partir dele nenhuma previsão é possível. Para o matemático John von Neumann, era o momento a partir do qual “o progresso tecnológico vai se tornar incrompreensivelmente rápido e complicado”.

O argumento central do novo livro do cientista e escritor Samuel Arbesman, Overcomplicated: Technology at the Limits of Comprehension (“Supercomplicado: a Tecnologia no Limite da Compreensão”, numa tradução livre), é que, de uma certa forma, esse tempo já chegou. Não no sentido de que as máquinas estejam prestes a dominar o mundo, mas pelo fato de que a tecnologia que usamos no dia a dia já é, sob vários aspectos, incompreensível.

Em algum nível, isso já é verdade há décadas. Em 1977, o cientista Thomas Homer-Dixon visitou um acelerador de partículas na França e, quando perguntou como aquilo funcionava, foi informado de que “ninguém entende essa máquina completamente”. Mas uma coisa é não entender um acelerador de partículas subatômicas, outra é não saber como funciona o celular que está no seu bolso (ou bolsa), o seu carro ou o software que avisa que a avenida onde você trabalha está congestionada (como se você precisasse de um software para dizer isso).

As consequências são dramáticas. Quando alguns modelos da montadora Toyota começaram a apresentar um defeito no acelerador que presumivelmente causou vários acidentes fatais, especialistas tiveram acesso ao software do carro – e concluíram que o problema não era derivado de alguma peça defeituosa, e sim de uma imprevista interação entre diferentes partes do software.

Isso acontece porque quase nenhum sistema moderno é construído do zero. Chegamos a um ponto de sofisticação em que os mecanismos são feitos a partir de outros mecanismos. Isso leva ao que os cientistas da computação chamam de Kluge: uma solução amalgamada, deselegante, às vezes desnecessariamente complicada para um problema.

Essa bagunça não é uma falha de processo. É apenas um indício de que a tecnologia progride de forma similar à natureza – adaptando características existentes às novas condições ambientais, por tentativa e erro (os bem-sucedidos têm mais herdeiros, os malsucedidos morrem ou deixam menos prole).

A ciência, aliás, sempre funcionou assim – mesmo ambicionando encontrar modelos simples que explicassem fenômenos complicados. Como disse Isaac Newton, “se eu enxerguei mais longe, foi por subir nos ombros de gigantes”.

Tudo é muito complicado

Nesse mundo moderno, a simplicidade é uma quimera. É comum ouvir elogios à concisão da Constituição americana, mas, de acordo com o autor de Overcomplicated, a legislação fiscal dos Estados Unidos tinha, em 2014, 74 000 páginas. Como nos softwares, as entranhas da simplicidade são forradas de complexidade. De onde ela surge? O livro dá algumas pistas. As primeiras são os processos de acréscimo e interação. Acréscimo é o mecanismo de adicionar elementos a um sistema já existente – a origem do Kluge. Interação é o fenômeno pelo qual os acréscimos se conectam e se modificam uns aos outros. Não basta termos um smartphone. Queremos também os apps. Mas cada app interage com outros sistemas: o GPS, nossa agenda etc., tornando o sistema mais complicado. 

Para voltar ao exemplo da Toyota, vários pedaços do sistema eletrônico de um carro estão além da possibilidade de teste, porque eles interagem com outros de tal forma que é impossível verificar seu funcionamento isoladamente.

Muitas vezes, dessa interação surge a emergência – um termo da ciência da complexidade que trata do surgimento de fenômenos inesperados a partir da combinação de elementos do sistema (sua formulação mais famosa é que o bater de asas de uma borboleta no Amazonas pode provocar uma tempestade na Califórnia).

Outra causa da complexidade são as exceções, ou casos limites, que expandem a capacidade de um modelo dar conta da realidade. Como no estudo da linguagem, as exceções às regras gramaticais precisam ser levadas em conta: os modelos baseados em milhões de características específicas funcionam melhor que modelos elaborados que tentam descobrir regras gerais, segundo um time de pesquisadores do Google, que trabalham em sistema de compreensão de textos.

Meu computador, meu orgulho

O estilo de Overcomplicated é o mesmo do primeiro livro de Arbesman, The Half Life of Facts (“A Meia-Vida dos Fatos”, numa tradução livre): construir uma tese e defendê-la através de vários exemplos ligados à ciência. No excelente livro de estreia, a tese é que as verdades têm data de validade, e precisamos estar atentos para rever nossos conceitos de tempos em tempos. Desta vez, suas recomendações são menos convincentes. Elas incluem ter humildade (entender que não vamos entender tudo), exercer a abstração (esquecer certas partes de um sistema para manter a habilidade de interagir com ele de forma produtiva) e, o mais peculiar, aplicar um conceito ídiche, o naches (pronuncia-se nárress), um misto de orgulho e alegria pelas realizações de alguém próximo (em geral um filho).

Arbesman sustenta que, ainda que não consigamos entender o funcionamento de um computador, podemos sentir naches porque, afinal de contas, ele é produto de nosso intelecto: nosso filho intelectual, por assim dizer. É possível que pessoas que percam o emprego para a crescente mecanização – há quem estime que mais da metade das profissões hoje ocupadas por humanos sejam mecanizadas nos próximos anos – não sintam tanto orgulho das máquinas.