“Mas eles nunca se puseram a questão principal: aquela da capacidade de definir os problemas para resolver; de distinguir o que é importante e o que não o é, o que tem um sentido e o que não tem; de escolher, de definir e de perseguir um objetivo, de modificá-lo à luz de acontecimentos imprevistos; e, ainda mais fundamentalmente, a questão das razões e dos critérios em virtude dos quais os objetivos, os problemas e as soluções são escolhidos. De que, pois, dependem essas escolhas, esses critérios? Se a inteligência funciona como uma máquina programável, quem definiu o programa? Os pioneiros da inteligência artificial simplesmente ignoraram essas questões que remetiam à existência de um sujeito consciente, vivo, que pensa, calcula, escolhe, age, persegue objetivos porque experimenta necessidades, desejos, temores, esperanças, prazeres – em suma, porque ele é um ser de necessidade e de desejos a quem sempre falta alguma coisa, o que ele não é ou o que ainda não tem, e que, em razão de seu sentimento de falta, de seu sentimento de incompletude, está sempre a vir para ele, incapaz de coincidir com o si na plenitude imóvel do ser que é o que é [L’Être-Pour-Soi, Sartre, 1943].
Esse sentimento de incompletude evidentemente habita os pioneiros da inteligência artificial. Ele é uma estrutura ontológica da consciência. Mas é preciso adicionar: da consciência conquanto ela seja indissociável da factualidade do seu corpo; dessa consciência que desde o nascimento experimentou a fome, o frio, a sede, a necessidade de afeto, de proteção. O sentimento de faltar, a necessidade de se superar em direção à satisfação dessa falta, são constitutivos da consciência viva. A inteligência se desenvolve sobre essa base, e tira dela a impulsão primeira da vida. A concepção maquinal da inteligência a pressupôs como já estando sempre lá, programada no cérebro, prestes a ser mobilizada. Mas a inteligência não é exatamente um programa já escrito: ela só existe viva como capacidade de se produzir segundo suas próprias intenções; e essa capacidade de faltar, que está no fundamento da capacidade de criar, de imaginar, de duvidar, de mudar; em suma, de se autodeterminar; não é programável num programa de computador. Ela não é programável porque o cérebro não é um conjunto de programas escritos e transcritíveis: ele é órgão vivo, um órgão que não cessa de se programar e de se reprogramar a si mesmo.”
André Gorz, em “O Imaterial.”