Alguns Problemas de Filosofia da IA
Sofia Miguens

O objecto de investigação da IA é a natureza da cognição, e ter uma teoria da cognição – nomeadamente de fenómenos como a categorização e identificação de objectos, a resolução de problemas, a decisão, a consciência — sempre foi a ambição dos filósofos. Por isso, desde os inícios da disciplina, os filósofos interessam-se pelas investigações em IA e pelo que elas podem mostrar quanto à inteligência humana e quanto à inteligência em geral.

Curiosamente, os filósofos têm adoptado posições extremas quanto à IA, desde a defesa de uma impossibilidade por princípio da criação de inteligência e consciência não naturais, por razões várias, até á convicção de que através da IA poderá surgir uma concepção mais geral e mais abstracta sobre a natureza da inteligência, que coloque os humanos e todos os seres biológicos inteligentes como apenas casos particulares de um fenómeno geral. Basicamente, a ideia é que se qualquer sistema com o tipo correcto de organização funcional pode ser inteligente e até mesmo consciente, e se essa condição pode ser formulada independentemente da matéria de que fôr constituído o sistema e independentemente das suas origens, outros sistemas que não os humanos e outros seres biológicos poderão, pelas mesmas razões que estes, ser inteligentes e conscientes.

A crítica filosófica à IA: H. Dreyfus e J. Searle Hubert Dreyfus (http://socrates.berkeley.edu/~hdreyfus) e John Searle (http://socrates.berkeley.edu/~jsearle) são dois filósofos com posições críticas face à IA.

Hubert Dreyfus

Hubert Dreyfus foi talvez o primeiro filósofo a notar a sobreposição de interesses da IA e da filosofia. Escreveu como resultado desse encontro textos polémicos nomeadamente um relatório intitulado Alchemy and Artifical Inteligence (Rand Corporation, Santa Monica, California, 1965) e depois o livro What Computers Can't Do (1972), criticando as pretensões da IA.. Dreyfus parte do princípio de que a IA trabalha os mesmos problemas que a filosofia, problemas como a natureza do entendimento e do conhecimento. A sua crítica insiste sobretudo na relação entre os modelos então desenvolvidos na IA, baseados na ideia de mente como sistema simbólico e na ideia de inteligência como resolução de problemas e a tradição racionalista e intelectualista em filosofia, tradição essa que Dreyfus critica. Para Dreyfus, a IA repetia portanto os erros 'intelectualistas' da filosofia, erros já apontados por filósofos como Heidegger, Wittgenstein e Merleau-Ponty.

A crítica de Dreyfus tinha como centro a ideia de que o pensamento não pode ser considerado como consistindo em representações simbólicas do mundo, nem a mente como um sistema governado por regras ocupado com a resolução de problemas, pois essas definições excluem partes importantes e básicas do mental. As 'partes excluídas' do mental eram para Dreyfus por exemplo os movimentos corporais e o reconhecimento de padrões e estas estariam subjacentes á própria possibilidade das habilidades (skills) explícitas envolvidas nas representações e na resolução de problemas.

Os escritos de Dreyfus foram muito mal recebidos, mas apresentavam uma perspectiva sóbria sobre alguns exageros de previsão que acompanharam os primórdios da IA. Apesar de algumas das previsões do próprio Dreyfus terem sido simplesmente desmentidas (por exemplo a ideia de que um computador não poderia vencer um humano num jogo de xadrez), o que Dreyfus queria criticar era a suposição apriorista não argumentada – defendida, na sua opinião, por exemplo por A. Newell. H. Simon e M. Minsky – segundo a qual regras e representações seriam a natureza da mente. De acordo com o intelectualismo dessa visão até a percepção seria pensamento e resolução de problemas através da manipulação de regras. Esta concepção ocultava o conhecimento do fundo (background knowledge) ou de senso comum, que na perspectiva de Dreyfus era fundamental para a própria cognição. O conhecimento do fundo não é conhecimento de factos mas sim, no caso das pessoas, aquilo que elas sabem sem saberem que sabem e que nunca foi aprendido (como por exemplo que as pessoas se movem mais facilmente para a frente do que para trás, num exemplo de Dreyfus, ou que se se entornar água em cima da toalha ela passará para as pernas de quem está por baixo).

Dreyfus insistiu ainda noutras características do pensamento humano, ausentes nas simulações computacionais que então considerava como exemplos: as margens da consciência (fringe consciousness), a tolerância da ambiguidade, a ligação a um corpo no mundo que organiza e unifica a experiência de objectos e as impressões subjectivas, a capacidade de aborrecimento, cansaço e perda de motivação e os propósito e interesses que gerem o confronto do sujeito com a situação no mundo, fazendo com que nem todos os factos no mundo sejam igualmente relevantes num dado instante, com que o mundo não seja 'liso'.

O teor das críticas de Dreyfus foi então para cá incorporado no natural desenvolvimento da IA e actualmente Dreyfus admite a proximidade entre os princípios do conexionismo e a tradição anti-racionalista em filosofia.

John Searle John Searle foi conduzido às Ciência Cognitivas a partir do seu trabalho em filosofia da linguagem. É um crítico famoso dos limites do modelo computacional da mente. Searle pensa que as ciências cognitivas são um campo de investigação excitante mas fundado num erro conceptual acerca da natureza da mente, e que a 'hipótese da IA forte' (a ideia segundo a qual qualquer sistema que implemente o programa correcto poderá ter realmente uma mente e consciência, logo não será apenas uma simulação), é refutável via o Argumento do Quarto Chinês. O Argumento do Quarto Chinês pretende ainda 'refutar' o Teste de Turing (Turing 1950).

O artigo Minds, Brains and Programs, onde o argumento é defendido, apareceu na revista Behavioral and Brain Sciences em 1980, juntamente com 28 respostas de críticos. Desde então a experiência mental do Quarto Chinês é incontornável na filosofia da mente, associada à ideia de que não se pode falar de processos mentais sintácticos sem falar de semântica (e, de facto, Searle liga a semânica à consciência).

A experiência mental do Quarto Chinês (QC) consiste no seguinte: alguém, que não fala chinês, está fechado dentro de um quarto onde há símbolos chineses em caixas. Tem um livro de instruções em inglês, que explica como combinar os símbolos chineses e como enviar sequências de símbolos chineses para fora do quarto, quando são introduzidos no quarto outros símbolos chineses, através de uma pequena janela. A pessoa que está dentro do quarto não sabe nada acerca disso, mas as pessoas que estão fora do quarto chamam aos símbolos que introduzem 'perguntas' e aos símbolos que saem 'respostas'. O sistema fala portanto chinês, na perspectiva das pessoas que estão fora. Então, o sistema passa o Teste de Turing, embora a pessoa lá dentro saiba que não percebe uma palavra de chinês. Searle afirma que a experiência mental do QC torna clara a possibilidade de um sistema que tem 'intencionalidade atribuída' mas não 'intencionalidade intrínseca' ou 'semântica genuína'.

O problema é saber exctamente que é que o argumento de Searle mostra. Antes de mais, note-se que o QC é mais propriamente uma parábola, e que posto em forma de argumento daria o seguinte:

Os programas são sintácticos
A sintaxe não é suficiente para a semântica
As mentes têm semântica
Implementar um programa é insuficiente para haver mente

O QC mostraria então que a mente não é um programa e que por isso programar apropriadamente alguma coisa nunca poderia dar-lhe uma mente, já que as propriedades formais não constituem a 'intencionalidade genuína'.

O filósofo David Chalmers parodia este argumento do seguinte modo (Chalmers 1996: 327):

As receitas são sintácticas
A sintaxe não é suficiente para ser-saboroso
Os bolos são saborosos
As receitas não são suficientes para fazer bolos

Chalmers pretende mostrar que o argumento de Searle não distingue entre sintaxe e implementação de sintaxe, entre um programa 'na prateleira' e um programa correndo numa máquina física.

O próprio Searle sublinha sempre que o seu argumento não tem nada a ver com um estádio evolutivo particular da tecnologia, mas antes diz respeito a princípios conceptuais. O que o QC pretenderia fazer ver seria que o cognitivismo – no qual é central a ideia de que 'a mente está para o cérebro como o software para o hardware' – está errado ao considerar que não existe nada de essencialmente biológico acerca da mente humana (é esta posição que tem como corolário a defesa da IA forte, a ideia, recorde-se, de que qualquer coisa que implementasse o programa correcto poderia ter realmente uma mente. Para Searle, pelo contrário, a mente é essencialmente consciência, e a existência de consciência é um facto biológico.

De facto, na formulação inicial do Quarto Chinês, Searle fala mais propriamente de semântica, e afirma que 'a sintaxe não é suficiente para a semântica'. Mas o que Searle pensa é que não há possibilidade de considerar qualquer coisa como mental a não por relação com a consciência.

A fraqueza da posição de Searle é não dar um critério claro do que se entende por intencionalidade originária ou intrínseca por oposição a intencionalidade atribuída, as noções de que se serve para analisar o QC. O único critério que Searle dá são os poderes causais que alguns sistemas físicos (nomeadamente os cérebros humanos) teriam e outros não.

Variadíssimas objecções foram levantadas ao Quarto Chinês, algumas das quais as a seguir listadas:

a. Com o QC Searle pretende provocar a nossa identificação com o ser humano que simula 'à mão' um programa de IA. Ora, isso não faz sentido pois Searle oculta a questão da escala: um ser humano não poderia simular à mão um programa de IA suficientemente complexo para a tarefa em causa. Isso envolveria meses ou anos, para não falar de horrivel aborrecimento. Searle passa 'por baixo do pano', com o apelo à identificação, uma concepção irrealista da relação entre inteligência e manipulação simbólica, ao impedir que se considere a enorme diferença de complexidade entre o nível do programa e o nível da pessoa e ao sugerir que 'sintamos' a falta de entendimento da pessoa ao levar a cabo um programa.

b. A resposta básica à situação ao QC é a resposta dos sistemas: é um erro imputar o entendimento ao executor do programa (incidentalmente animado). O entendimento pertence ao sistema como um todo, que inclui os "pedaços de papel" com as regras/símbolos (aliás, nos nossos neurónios também não há entendimento do português que falamos, e no entanto, nós, o sistema global, falamos português, e a falta de intencionalidade genuína dos nossos neurónios não constitui prova da falta de entendimento genuíno em nós)

Vários autores (cf. Hofstadter & Dennett 1981) contrapuseram a Searle, situações semelhantes à do QC, mas em que a nossa intuição vai em sentido contrário ao que se passa no QC:
O psicólogo canadiano Zenon Pylyshyn propôs o seguinte: e se se fosse substituindo célula a célula as células do nosso cérebro por chips programados para manterem exactamente as mesmas funções? Neste caso continuariamos a falar e agir do mesmo modo, mas Searle teria que dizer que deixariamos de significar (mean) progressivamente (a nossa interioridade desapareceria de nós, sem ninguém notar, nem nós próprios). O problema é que neste caso não 'tendemos' a ter essa intuição – o que mostra, de novo, Searle não dá critérios para dizer quando é que a intencionalidade genuína está presente ou ausente do sistema.

O filósofos americano John Haugeland propõe a seguinte caso: o cérebro de uma mulher real tem uma lesão, e há um 'agente artificial' que intervem para "conduzir" os neurotransmissores de forma idêntica ao que antes da lesão acontecia naturalmente. O cérebro funciona então exactamente como se a mulher estivesse saudável. Haugeland pergunta a Searle se esta mulher pensaria ou não teria entendimento nenhum do seu próprio pensamento. O próprio Searle concorda que nesse caso devemos olhar para o ponto de vista da mulher e não para o do agente (embora este pudesse, por hipótese ter o seguinte ponto de vista: 'Loucos! Não lhe dêem atenção! Ela é um fantoche cujas acções são causadas por mim!')

O ponto destes contra-exemplos imaginários é mostrar que o QC depende exclusivamente da nossa intuição, e as nossas intuições podem ser feitas variar (é o caso das intuições do próprio Searle). Por isso nenhum bom argumento acerca daquilo a que Searle chama intencionalidade intrínseca deverá depender exclusivamente de intuições.

Ninguém nega que a experiência de Searle é provocadora, sobretudo porque ela diz respeito ao facto de no estudo da cognição estarem sempre em causa vários níveis. Aliás, Hofstadter sugere que o que precisamos para pensar no QC é precisamente do conceito de níveis de implementação, da ideia de que um sistema pode emular outra sistema e, assim sendo, :o 'encaixe' de uma 'máquina' noutra dá origem a 'maquinas virtuais'. Debaixo de cada máquina virtual há sempre outra máquina, sendo apenas num certo sentido a máquina de baixo a 'máquina real'. Em princípio os níveis estão selados uns aos outros (como a pessoa que não fala o chinês que o sistema fala, como os neurónios que não falam o português que nós falamos). Mas os níveis poderiam 'comunicar' e Hofstadter sugere que talvez isto seja o que se passa por exemplo quando um sistema humano aprende uma nova língua, que quando é bem aprendida não corre simplesmente sobre a primeira, como uma espécie de parasita de software, antes deixa de precisar de ser traduzida e torna-se mais fundamental. Hofstadter associa, aliás, esta 'comunicação' entre níveis de um sistema à consciência (que, note, é o verdadeiro problema de Searle no QC).

Em suma, saber o que quer dizer 'nível' parece essencial para conceber a natureza do pensamento e da consciência. Enquanto os níveis estão isolados uns dos outro, como no Quarto Chinês, tudo é claro, mas se eles interferem e se confundem deixa de o ser. Note-se que o próprio Searle admite que há dois níveis no QC, mas não admite que poderia haver dois pontos de vista (ou abrir-se-ia uma caixa de Pandora e a experiência e a mente começariam a espalhar-se por toda a parte - de facto Searle pensa que o panpsiquismo é o risco do cognitivismo).

Aqueles que como Dennett e Hofstadter se recusam a admitir que o QC mostre qualquer coisa de importante (i.e., que evidencie a ausência do que quer que seja) defendem que mentes existem em cérebros e podem vir a existir em máquinas programadas. Se e quando essas máquinas vierem a existir os seus poderes causais não derivarão das substâncias de que elas são feitas mas dos programas que instanciam. E poder-se-á saber que elas têm mentes falando com elas e ouvindo com atenção o que têm para dizer...

Em A Redescoberta da Mente Searle apresenta um segundo argumento anti-cognitivista: Esse argumento é, grosseiramente, o seguinte:

A sintaxe não é uma propriedade física
O cognitivismo supõe o tratamento de fenómenos físicos como sintáticos
O cognitivismo incorre na falácia do homúnculo
(i.e., o cognitivismo descreve como se fossem propriedades naturais propriedades que só existem 'para um observador' – no caso, a sintaxe, que não é para Searle uma característica do mundo natural mas uma interpretação por um observador)

As críticas de Searle ao cognitivismo podem ser unificadas notando que para Searle, o princípio da conexão é fundamental para pensarmos na mente. O principio da conexão é o princípio segundo o qual só entendemos como mental o que é actualmente inconsciente porque o entendemos como conteúdo possível da consciência. A consciência é a essência da mente, i.e., só entendemos alguma coisa como mental e não física porque a reportamos à consciência (senão como distinguiriamos um neurónio de uma memória?).

Searle chama à sua posição em teoria da mente um materialismo não reducionista, embora os seus críticos afirmem que não é possivel distinguir esta solução anti-reducionista, segundo a qual os Estados Mentais são causados por e são caracteristicas de, mas não são idênticos a, Estados Cerebrais de um dualismo de propriedades (segundo o qual os fenómenos mentais envolvem propriedades que não são fisicas). No entanto, Searle de modo algum admite ser um dualista.

Searle é anti-reducionista porque defende que a consciência, por ser ontologicamente subjectiva, torna a redução impossivel. Assim, todas as teorias reducionistas do mental falhariam na distinção entre um zombie e um ser consciente. A posição de Searle depende portanto da noção de 'redução'.

A redução é um termo e um problema da filosofia da ciência, um termo para a análise de alguma coisa identificada num nivel de descrição em termos de outro nivel, mais fundamental, permitindo-nos dizer que a 1ª coisa não é mais nada além da 2ª. O problema da redução aplicado ao mental consiste em saber se o mental poderia ser descrito em termos totalmente não mentais. Searle pensa que não, devido à subjectividade ontológica da consciência.

Alguma coisa é 'ontologicamente subjectiva' para Searle se não conseguimos descrever as suas caracteristicas em 3ª pessoa, que é o que estamos a fazer mesmo quando fazemos por exemplo neurofisiologia da consciência. Para Searle, a consciência é uma propriedade física do cerebro apesar da sua subjectividade ontológica e ela é irredutivel a qualquer outra caracteristica fisica. A subjectividade ontológica não deve ser confundida com a subjectividade epistemológica. Uma coisa é a objectividade como a boa tentativa de eliminação das pre-concepções subjectivas, eliminação essa que faz parte do espírito da ciência, outra é a afirmação de que o mundo não contem elementos irredutívelmente subjectivos. Não há razão para a segunda afirmação. A 1ª noção de objectividade é epistemológica, a 2ª é ontológica.

Ora, se se aceita esta distinção, a verdadeira questão é a seguinte: Como é que podemos ter uma concepção objectiva dos factos ontologicamente subjectivos da consciência? A isto Searle responde com o naturalismo biologico: a ideia de que a consciência é uma caracteristica biológica do cérebro humano e de outros animais e uma propriedade emergente (como a liquidez, a partir da energia cinética molecular).

Searle põe a questão nestes termos porque pensa que muitos materialistas estão errados quando pensam que sem admitir a redução se aceita necessariamente o dualismo.

Os computadores, a filosofia e o funcionalismo

Se através de Dreyfus e Searle se apontou algumas críticas aos fundamentos filosóficos da IA, é preciso por outro lado sublinhar que, não especificamente a IA mas a própria existência de computadores, foi extremamete importante para toda a filosofia da mente dos últimos 40 anos, e central na ideia de funcionalismo.

O funcionalismo é um posição filosófica hoje muito espalhada quanto à natureza da cognição (teorizada por exemplo por H.Putnam). De acordo com o funcionalismo, é essencial para conceber a natureza da cognição a distinção entre hardware e software. I.e., o funcionalismo acentua aquilo a que L. Moniz Pereira (Moniz Pereira 1990) chama a «não obrigatoriedade de correspondência entre o processamento de uma certa função cogntiva e o suporte material que executa esse processamento». Para além de possibiitarem exemplos reais de intencionalidade e racionalidade em sistemas físicos sem necessidade de 'homúnculos' ou observadores cartesianos, os computadores desligaram conceptualmente a ideia de inteligência da particular realização biológica das inteligência nos humanos, e na medida em que a inteligência foi ao longo do tempo considerada definidora daquilo que é ser humano, mudaram a concepção do humano.

Limites?

Actualmente, o debate filosófico em torno da naturalização da cognição, centra-se em dois aparentes limites a uma teoria integralmente científica, feita exclusivamente em 3ª pessoa: os estados qualitativos, i.e., o experienciar, o what-it's-like-to-be-x nageliano e a racionalidade, com os seus aspectos normativos.

Sofia Miguens

Bibliografia

BODEN, Margaret (ed), 1990, Philosphy of AI, Oxford, Oxford University Press
CHALMERS, David, 1996, The Conscious Mind, Oxford, Oxford University Press
DENNETT, Daniel e HOFSTADTER, Douglas (eds.), 1981,The Mind's I, New York, Bantam Books
DREYFUS, Hubert, 1972, What Computers Can't Do, New York, Harper & Row
MINSKY, Marvin, 1985, The Society of Mind, New York, Simon &Schuster
MONIZ PEREIRA, Luís, 2000, Inteligência Artificial, Intelecto, 3 NEWELL, Allen, 1990, Unified Theories of Cognition, Cambridge MA, Harvard University Press
PINTO, Joâo Alberto, 1999, Materialismo, Superveniência e Experiência, Dissertação de Mestrado, Faculdade de Letras da Universidade do Porto
PUTNAM, Hilary, Minds and Machines, 1960, in Philosophical Papers, vol. 2, Cambridge, Cambridge University Press, 1975
SEARLE, John, 1989, Minds, Brains and Programs, Behavioral and Brain Sciences, 3
SEARLE, John, 1998, A Redescoberta da Mente, Lisboa, Instituto Piaget
SIMON, Herbert, 1969, The Sciences of the Artificial, Cambridge Mass., MIT Press
TURING, Alan, Computing Machinery and Intelligence (1950), in DENNETT e HOFSTADTER 1981

Para uma bibliografia relativa às questões filosóficas da IA: 4ª parte da Bibliografia da Filosofia da Mente organizada por David Chalmers, em http://www.u.arizona.edu/~chalmers/biblio.html.