Quantos dedos tem uma mão? Cinco. Perguntem a qualquer criança e essa será a resposta. Ainda mais: é a resposta correta. A pergunta “Quantos dedos tem uma mão?” é diferente da pergunta “Todas as pessoas no mundo têm cinco dedos em cada mão?”
Embora para a primeira pergunta possamos obter uma resposta simples e imediata, até de criancinhas, a segunda CINCO DEDOS, UMA INTELIGÊNCIA causa algum incômodo. É menos fácil. Sabemos que há pessoas no mundo que, em pelo menos numa das suas mãos, falta um dedo, ou dois, ou até quatro, aliás. Há ainda quem tenha seis dedos numa mão. A Natureza faz isso também.
É possível que, na nossa vida, quase todos nós nos encontremos com pessoas que apresentam uma mão que não tem cinco dedos. A experiência fica na nossa memória, na consciência, e sabemos que é uma possibilidade, embora raramente realizada. Ao vermos alguém com quatro ou seis dedos numa mão, não fugimos, como se tivéssemos visto um extraterrestre ou um zumbi daqueles que aparecem nos filmes de horror. Incomoda-nos? Talvez. Causa-nos algum arrepio, com a contribuição já conhecida agora dos neurônios-espelho? Provavelmente, mas a vida é assim, e a gente apreende, aguenta, aceita.
Trata-se de um pedaço de informação, um pedaço pequeno, nem tão útil nem complicado. Um dado que também não requer que nos aprofundemos na matéria. Um pouco de imaginação criativa pode nos levar a diversas meditações funcionais: Como é que uma pessoa carente de um dedo consegue fazer as coisas da vida cotidiana? Qual a importância relativa de cada um dos cinco dedos? O que é mais complicado: perdermos um polegar ou um mindinho? O que fazer quando uma luva fica com um dedo vazio? Como é dar a mão a alguém de cuja mão direita falta um dedo? Talvez, filosoficamente, poderíamos meditar se uma mão sem um (ou dois, ou três...) dedos ainda merece ser definida como mão. Até surge a pergunta linguística: existem idiomas com uma palavra específica para uma mão sem um dos cinco dedos? Seria interessante... Já basta. A mente sabe divagar muito além da realidade.
Temos de admitir: não é um assunto muito importante. Nem temos mencionado situações tão raras. O tema, na sua totalidade, não contém muita informação nem conhecimento. Então, qual a razão de termos postado tanta atenção à questão dos cinco dedos da mão? A razão é simples. Há outra pergunta que podemos fazer, e nos conduz ao assunto principal: “Qual a média do número de dedos na mão de um ser humano?” Atenção: estamos falando dos dedos de todas as mãos de todos os humanos vivos no mundo.
O que podemos dizer, sem dúvida, é que a resposta não é exatamente cinco. Talvez 4.99987, ou 4.99993. Provavelmente não mais de 5; portanto, não algo do tipo 5.0001, porque é lógico supormos que o número de pessoas que têm perdido um dedo e até uma mão é maior do número de pessoas que nasceu com seis dedos numa mão. Até um resultado exato que tivesse sido calculado e verificado não mudaria a nossa resposta à pergunta “Quantos dedos tem a mão de uma pessoa?”, a que responderíamos sem hesitar “Cinco”, e não mudaria caso acrescentássemos “...mas se tem perdido...”, fruto da tentação de querermos sempre parecer ainda mais sabichões.
Apesar disso tudo, os sistemas de Inteligência Artificial Generativa que produzem imagens têm uma tendência recorrente de apresentar, numa percentagem significativa dos casos, figuras humanas com três, quatro ou seis dedos. Às vezes, com um índice onde deveria aparecer um polegar, dois dedos soldados num grosso dedo torto e mais aberrações.
Esses sistemas não têm senso de humor, nem estão brincando com a gente. Não têm intenções, simplesmente porque carecem de consciência, inteligência, raciocínio ou sabedoria. Os resultados que emitem não são fruto de um processo lógico. Não são conclusões de um intelecto. Os sistemas como ChatGPT que usam textos (seria mais exato falarmos em caracteres), e Dall-e para imagens ou desenhos, não “apreendem” nem chegam a conclusões lógicas. São sistemas estatísticos, que analisam uma grande quantidade de conteúdos que recebem como input e jorram o output que é considerado “o mais adequado”.
Mas... o que é “o mais adequado”? Quando se trata de um texto, o sistema decide qual o item (a “palavra”) que tem a maior probabilidade de aparecer no lugar seguinte na sequência do texto que está sendo produzido, uma determinação numérica baseada numa quantidade imensa de exemplos que foram introduzidos no sistema. O sistema faz isso repetidamente, e produz uma sequência de palavras (ou de itens compostos de letras).
O input é uma quantidade fabulosa de palavras, além do que podemos imaginar, e é assim que o sistema vai se aproximando a um output considerado razoável, ou seja, um resultado que, num grande número de casos, um grande número de usuários venha a considerar que é bom, útil, aceitável. Conexão à verdade não há. Conexão à informação verdadeira, também não.
Quando se trata da criação de uma imagem, a situação é similar, mas o cálculo não é linear, mas em duas ou três dimensões. Numa imagem, o sistema produz uma série de rascunhos, e, para cada rascunho, avalia o “ruído”, ou seja, os desvios da imensa quantidade de imagens que alimentaram o sistema, o seu input. O processo continua até que o barulho for determinado como menor do limite predeterminado, o que causa que o processo para. Os sistemas que produzem imagens visuais não sabem nada, nem têm capacidade nenhuma de tirar conclusões para determinar detalhes num complexo, nem para decidirem os atributos do complexo, a partir dos detalhes. Nem têm informação sobre as conexões entre as partes. Ou seja, não se conectam entre cabeça e corpo humano, entre carro e quatro pneus, nem entre uma mão e cinco dedos.
Cada ponto na superfície ou no espaço que o sistema trabalha para rechear é gerida da mesma maneira do que um sistema de Inteligência Artificial Generativa que cria textos gere uma unidade textual (as famosas “palavras”, de fato, cadeias de símbolos): tudo depende da probabilidade que um ponto X deve, de fato, conter tal ou qual conteúdo, no contexto do seu entorno bi ou tridimensional, de acordo com a comparação constante com os exemplos que alimentaram o sistema. O cálculo complexo, para cada imagem, é comparado com um limite, uma soleira de tolerância, que é definido como “razoável”, até que o resultado o ultrapassa, o que determina que o sistema para e o usuário recebe a resposta, o produto.
Visto assim, é possível que a diferença entre quatro e cinco dedos seja considerada negligível. Além disso, nunca se trata de dedos, mas de uma configuração de pontos, porque nada no sistema contém a informação de que estamos esperando um dedo (ou um tubo cheio de carne, ou talvez um charuto cubano, ou um míssil com uma unha metálica). Nós, humanos, temos imensa dificuldade em digerirmos o fato de que esses sistemas, com o seu pretensioso nome carregado de promessas e esperanças, “Inteligência Artificial”, não sabem de nada.
O funcionamento dos sistemas fica sempre oculto para nós. São caixas pretas. Os engenheiros que as criaram tocam nelas só de fora, avaliando a qualidade do sistema de acordo com os resultados, sem um processo sério de controle de qualidade. Nós, os usuários, os clientes, ficamos com a confusão, com as coisas que sabemos já na infância que não são verdadeiras nem razoáveis. Ficamos com a incógnita: como é que aconteceram essas estranhas coisas? Entre nós e os sistemas não há interface, ponte, nem conversa de tipo nenhum que nos ajudassem a podermos dizer aos sistemas, como fazemos com as crianças: “Uma mão tem cinco dedos”, e logo, quando for preciso, explicarmos “Sim, esse senhor tem quatro dedos. Perdeu um, provavelmente num acidente com uma serra elétrica.”
Estas anomalias – que me recuso a chamar de “erros”, porque um erro acontece quando há uma intenção de fazer algo, e tal intenção não existe em sistemas de Inteligência Artificial Generativa – merecem ser observadas de mais um ponto de vista. Os responsáveis pelos sistemas de software supersofisticados não estão preocupados com aquilo que podemos chamar genericamente “O Problema dos Dedos”. Estamos diante de um problema ético. É mais um exemplo da cultura da disruption, da permissão coletiva de não respeitar nada que não seja os resultados (nomeadamente, os resultados no balanço empresarial), uma cultura que está tentando impor o que é, de fato, uma qualidade baixa, apresentando os sistemas como “os melhores que há”. Faz isso sem se importar do que nos perturba, do que sabemos já na nossa infância, e que não aparece nas imagens desses sistemas geniais: o número correto de dedos numa mão. Não há inteligência, nem artificial nem natural, que mude isso. A “Inteligência Artificial” é uma máquina. Só isso. Artificial até a medula. Sem inteligência.
